本发明涉及移动通信技术领域，特别涉及一种认知MIMO网络中次用户系统容量的优化方法，包括：计算次用户信道矩阵的迹，根据信道矩阵迹的大小对信道进行排序并在发送端采用最小均方误差方法进行预编码设计；根据信道矩阵迹的排序，使用头尾分簇法对次用户进行分簇并对此用户进行功率分配；以分簇之后认知用户的系统容量为优化目标列出满足优化要求的优化方程；获得优化方程的Lagrange函数，根据KKT条件进行最优功率分配系数的求解，最后根据数学归纳法得出使得目标函数最优的功率分配系数；本发明基于信道状态进行分簇的情况下，对次用户进行动态功率分配，采用数学归纳法求得次用户的最优功率分配系数，使求得的系统容量达到最优。