本发明提出了一种高清视频编码中快速帧内预测模式选择方法。首先利用绝对误差和SAD对残差进行处理，选出误差小的几种候选预测模式。然后采用简化的率失真代价函数，即哈达码变换绝对值和SATD(Sum of Absolute Hadamard Transformed Difference)的代价函数进一步减少候选预测模式数，并且采用阈值的方式得到候选预测模式，相同大小的预测单元的候选预测模式个数也可能不相同。接着利用最优模式的概率统计以及相邻预测单元之间预测信息的相关性，检测最可能预测模式MPM(Most Probable Mode)是否包含在候选预测模式中，MPM指当前预测单元周围已编码的左边预测单元和上边预测单元的最佳预测模式。如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则直接将进一步筛选的候选预测模式作为最终的RDO候选预测模式。最后根据拉格朗日率失真优化准则获得当前编码块的最佳帧内预测模式。