本发明涉及一种基于MAAM和CliqueNet的恶意软件检测和家族分类方法，恶意软件检测方法包括：将PE软件转换成灰度图像的步骤、搭建基于MAAM和CliqueNet的检测模型的步骤、训练恶意软件检测网络的步骤和预测PE软件是否为恶意软件的步骤，家族分类方法包括构建训练数据集的步骤、家族分类网络训练的步骤以及家族分类预测的步骤；本发明可在空间域上结合局部和全局的多尺度关键信息，并能自适应地选择通道和空间注意力模块的排列方式，以强化对恶意软件特征的关注，在减少特征工程的同时改善了恶意软件家族分类样本不平衡的问题，对于混淆攻击可靠有效。