本发明公开非正则LDPC码字的优化设计方法及系统，其中，方法包括系统模型LDPC编码后的序列与连续相位调制器之间采用全局交织器进行建模，以得到非正则LDPC‑CPM级联系统模型，并将校验节点的度分布扩展为在所有的度的取值点均可取值；应用鸡群优化算法对非正则LDPC‑CPM级联系统模型进行度分布优化求解，以得到最优的度分布；依次考虑每个变量节点VNj的第q条边，并以该变量节点为顶点，通过子图展开得到使当前子图的环长最长的校验节点集合Pt，以及从Pt中选择出当前度最小的节点构成集合Pm，并从Pm中选择使当前校验节点的度分布最接近最优度分布的校验节点并连入VNj，从而得到符合最优度分布的校验矩阵。本发明的方法具有误码率低，系统稳定性高的优点。