本发明的各方面涉及用于执行数据压缩以及在不同程度精度的数据格式之间执行数据转换的计算机实现的技术，并且更具体地，用于使用降低精度的(例如，INT8)数据格式来改进人工神经网络的推理(应用)的计算机实现的技术。本发明的实施方案生成数据输出的候选转换，然后采用相对的质量量度来识别具有最大准确度(例如，与原始较高精度的值具有最小散度)的候选转换。然后，可以在推理过程中使用所述表示法来对所得的输出数据执行计算。