本发明提供了一种基于编码树单元率失真优化的视频编码码率控制方法。首先，使用归一化框架建立感知码率失真模型，该框架很好的表征了感知视觉质量和编码码率之间的关系。随后，将建立的感知失真模型应用于优化框架中，将编码树单元码率控制问题转化为全局最优问题，并利用凸优化算法进行求解，以获得最优编码树单元的编码最佳码率分配。实验结果表明，所提出的算法其能够有效提高编码性能和编码效率。