本發(fā)明公開一種圖像編解碼神經(jīng)網(wǎng)絡(luò)分層定點化方法。該方法的步驟如下:(1)選取合適的靜態(tài)圖像訓(xùn)練集及測試集建立并訓(xùn)練端到端的圖像編解碼網(wǎng)絡(luò);(2)對所述圖像編解碼網(wǎng)絡(luò)的參數(shù)和激活值進行定點化,其中,對于網(wǎng)絡(luò)不同層的參數(shù)和激活值采用不同的定點化比特數(shù),并對需要進行浮點運算的激活函數(shù)進行簡化;(3)重新訓(xùn)練經(jīng)步驟(2)定點化后的圖像編解碼網(wǎng)絡(luò);(4)將訓(xùn)練后的圖像編解碼網(wǎng)絡(luò)的輸出數(shù)據(jù),經(jīng)過量化和無損熵編碼輸出作為壓縮數(shù)據(jù)。本發(fā)明的方法通過對不同的網(wǎng)絡(luò)層采用不同的量化系數(shù),優(yōu)化了定點化效果。
聲明:
“圖像編解碼神經(jīng)網(wǎng)絡(luò)分層定點化方法” 該技術(shù)專利(論文)所有權(quán)利歸屬于技術(shù)(論文)所有人。僅供學(xué)習(xí)研究,如用于商業(yè)用途,請聯(lián)系該技術(shù)所有人。
我是此專利(論文)的發(fā)明人(作者)