“前沿”超级计算机，目前计算能力的霸主，在人工智能领域取得了显著成就。这个庞然大物位于田纳西州橡树岭国家实验室内，由能源部监管，它成功运行了一个1万亿参数的大型语言模型（LLM），与先进的AI模型如ChatGPT-4不相上下。
AMD技术助力”前沿”超级计算机
“前沿”的非凡成就证明了其强大的尖端技术。这台超级计算机是一台Exascale（百亿亿次）机器，由AMD技术驱动，包括第三代EPYC “Trento” CPU和Instinct MI250X AI GPU加速器。它拥有惊人的8,699,904核心，性能达到1.194 Exaflop/s。
“前沿”超级计算机的架构优势
这台超级计算机在Top500.org榜单上的杰出地位得益于其先进的HPE Cray EX架构和Slingshot-11互联。”前沿”不仅在原始计算能力上出类拔萃，也是效率和技术创新的典范。
1万亿参数LLM运行成功的背后
近期在训练LLM方面的突破归功于对超参数调整和训练过程的优化。”前沿”团队测试了多种模型，参数规模分别为220亿、1750亿和现在的1万亿，显示了他们努力的深度。这个记录是使用3000个较老型号的Instinct MI250X AI GPU加速器设定的。然而，”前沿”总共包含了37000个这样的加速器，预示着未来更多开创性成就的可能。