本发明公开一种应用于毫米波大规模MIMO系统的波束选择方法及其装置，该波束选择方法包括：步骤S1，先定义鸟巢数、鸟巢发现概率、二进制编码控制参数、最大迭代次数，再初始化多个鸟巢，最后计算多个鸟巢的适应度；步骤S2，进行二进制编码混合更新，并修复非正常编码，计算新产生的多个鸟巢的适应度，通过保留适应度较大的鸟巢以筛选鸟巢；步骤S3，将鸟巢发现概率与随机数进行比较，复制全局最优解的鸟巢以替换其中一个被发现的鸟巢，并随机改变其余被发现的鸟巢的位置；步骤S4，判断迭代次数是否达到最大迭代次数，是则输出全局最优解，否则执行步骤S2。本发明相对全数字预编码算法不会造成明显性能损失，减小算法的复杂度，获得近优的系统性能。