为提高大型复杂结构体系的计算效率，在深入分析约束模态综合法原理的基础上，定义了由不同主模态截断阶数产生的位移向量组成的线性空间，建立该空间上的一个函数，通过数学定理详细证明了该函数是线性空间上的范数，并以该范数的最大值定义势能判据，推导出势能判据与子结构主模态截断数量之间的关系，据此提出了一种基于势能判据的子结构主模态截断准则。此外对于约束模态综合法，还推导了以机械能为判据的情况，证明了约束模态法中子结构的机械能随截断主模态数量的变化曲线并不是单调的，故不适用于约束模态法。最后将势能判据截断准则应用到地基土—高层建筑相互作用体系的地震响应分析问题中，进一步对所提出的模态截断准则的计算精度进行对比研究。研究结果表明，所提出的势能判据截断准则是十分有效的，而应用于振型叠加法的机械能判据不宜应用于约束模态综合法中。