本发明公开了一种应用于卷积神经网络的非还原稀疏数据的编译码电路及其编译码方法，其中，编码电路包括：k个压缩单元、多路选择器、选择控制器、尾地址缓存队列ain和动态随机存取存储器；译码电路包括：数据读取单元和数据计算单元；数据读取单元包括：两组数据传输模块、读写控制器和地址缓存队列afifo；数据计算单元包括：0/1编码缓存队列br_fifo、有效值存储器iram、权重存储器wram、移位寄存器、窗口寄存器、有效值累加器、位置判断器、权重地址生成器、首位比较器、数据暂存块、乘法器和加法器。本发明能降低数据的存取功耗、读取功耗和时间及传输功耗和时间，缩减计算量和计算功耗，同时提高PE的利用率。