AI大考：如何在智慧计算赛道上“飙”到最快

lixiang007700

人工智能（AI）正无所不至地渗入人类生活。我们日渐习惯于通过智能语音助手了解天气、控制家电；普遍接受了通过在线语音识别和翻译，与来自世界各地的同事或合作伙伴交流；在工业应用和科研领域，AI更是帮助人类将视野拓展到星辰大海或粒子世界。

这些日趋成熟的AI技术背后，是无处不在的AI计算。智慧时代已经到来，“计算力就是生产力”已成共识。那么，如何准确直观地衡量与评估AI计算发展水平？

近日，国际AI性能基准评测MLPerf™的最新AI推理V2.0榜单，为我们带来了解AI计算水平的“风向标”

AI大考

MLPerf™由图灵奖得主大卫•帕特森联合顶尖学术机构发起成立，旨在打造一套测量和提高机器学习软硬件性能的通用基准，为评估各类AI系统在实际应用中的性能提供权威有效的数据指导。

“说白了就是一场‘大考’。”一位参加此次大赛的工程师说，“厂家都说自己的机器好,那就来PK一下，看谁在实际应用中更强。”

2020年，非营利性机器学习开放组织MLCommons（成员包括50余家全球AI领军企业及顶尖学术机构）基于MLPerf™成立，每年组织AI训练和推理性能测试各两次，以便跟进迅速变化的计算需求和计算性能提升。每一次测试往往都汇聚英特尔、英伟达、谷歌、微软云、浪潮信息、戴尔等数十家头部芯片、云服务和IT基础设施厂商同台竞技。

如果把AI训练看作AI的“学习过程”，那么推理就相当于AI能“学以致用”。

MLPerf™的AI训练性能测试主要考查完成各主流AI模型的训练时间，完成的速度越快则意味着性能更强；而AI推理主要考查AI系统（使用主流AI模型）完成各类任务的速度与效率。

相较于代表技术发展水平的AI训练，低延迟、高效的AI推理和AI的落地应用关系更加密切——推理需要保留模型在训练中学到的能力，还能应用到前所未见的数据上，并根据真实世界中的数据，迅速提供正确答案。

作为当下最权威的AI性能基准测试，MLPerf™全面、公平地考查了各类AI场景下参测厂商系统和软件优化的整体能力。同时，因为全球顶级厂商的积极参与和重视，MLPerf™的每一次测试结果，都代表着当前最先进的AI计算水平。

“飙”到最快

今年4月结束的MLPerf™ AI推理性能测试竞争“惨烈”。据MLPerf™官方统计，本轮测试19家参赛者共提交超3900项性能成绩和2200项功耗成绩，分别是上一轮的2倍和6倍。

此次AI推理性能评测包含了六大AI任务，分别是图像分类、医学影像分割、目标物体检测、语音识别、自然语言理解以及智能推荐，它们也是当下最主流和通用的AI应用场景。针对这六大任务，MLPerf™设置了非常细致的考查维度（共33项赛道），从而全方位地检验AI系统在各种应用情况下的表现。

比如，其中的图像分类任务，即根据图像的语义信息，将不同类别的图像区分开。这是计算机视觉中重要的基本问题，也是更高级的视觉任务的基础。相关工程师表示，“通俗说，它有个数百万张图片的数据集，比赛时看谁能在最短的时间内，把这个数据集里的图片全部识别出来，并正确分类。”

AI图像分类在日常生活中有着广泛应用，如智能视频分析、交通场景识别、互联网领域基于图像内容的检索以及相册自动分类等。此次性能评测中，浪潮AI服务器创造了每秒对44.99万张图片进行分类的崭新世界纪录。

性能纪录不止于此。在此次MLPerf™测试的33项赛道中，浪潮AI服务器以27项冠军位列榜首：揽获数据中心内的全部16项冠军，并在边缘端17个单项中取得了11个冠军。

相比2021年的MLPerf™推理测试，浪潮AI服务器在半年时间内将图像分类、语音识别和自然语言理解任务的推理性能分别提升31.5%、28.5%及21.3%。这意味着，AI系统在自动驾驶、智能问答和智慧医疗等场景中，能更高效地完成各类任务。

“MLPerf™就像提供给大家一个飙车的赛场，用各种办法，把性能飙到最高、飙到最快。”浪潮信息副总裁、AI&HPC产品线总经理刘军说，“浪潮AI服务器正是赛道中最快的赛车。”

驱动应用发展

中国工程院院士王恩东认为，随着AI的规模化发展，算力已经成为决定性力量，智慧计算已成为智慧时代的核心生产力。AI从五六年前的“黑科技”，变成今天的“热科技”，离不开算力支撑能力的巨大飞跃。

秉持“促进机器学习创新，以此惠及普罗大众”的理念，MLPerf™大赛不仅是顶尖厂商、学术机构和创新企业比拼AI算力的专业“考场”，更是协同推进智算力创新和突破的阵地。

“参加MLPerf™让我们获得了丰富的实践经验。”浪潮信息AI&HPC应用软件部总经理吴韶华说，“随后，我们把这种经验应用到AI服务器设计上打磨产品，让AI算力越来越强。”

数字新基建、东数西算正推动智算融入千行百业，诸多应用场景迫切期待AI算力提升。

作为新一轮科技革命和产业变革的重要方法和工具，智慧计算将在推动数实相融、催生新产业新业态方面发挥越来越大的作用。智慧计算不仅助力我们“飙车”国际顶尖赛道，也成为驱动未来发展的重要力量。