人工智能（AI）正無所不至地滲入人類生活。我們日漸習慣于通過智能語音助手了解天氣、控制家電；普遍接受了通過在線語音識別和翻譯，與來自世界各地的同事或合作伙伴交流；在工業應用和科研領域，AI更是幫助人類將視野拓展到星辰大�；蛄Ｗ邮澜�。

   這些日趨成熟的AI技術背后，是無處不在的AI計算。智慧時代已經到來，“計算力就是生產力”已成共識。那么，如何準確直觀地衡量與評估AI計算發展水平？

   近日，國際AI性能基準評測MLPerf™的最新AI推理V2.0榜單，為我們帶來了解AI計算水平的“風向標”。

AI大考

   MLPerf™由圖靈獎得主大衛•帕特森聯合頂尖學術機構發起成立，旨在打造一套測量和提高機器學習軟硬件性能的通用基準，為評估各類AI系統在實際應用中的性能提供權威有效的數據指導。

   “說白了就是一場‘大考’。”一位參加此次大賽的工程師說，“廠家都說自己的機器好,那就來PK一下，看誰在實際應用中更強。”

   2020年，非營利性機器學習開放組織MLCommons（成員包括50余家全球AI領軍企業及頂尖學術機構）基于MLPerf™成立，每年組織AI訓練和推理性能測試各兩次，以便跟進迅速變化的計算需求和計算性能提升。每一次測試往往都匯聚英特爾、英偉達、谷歌、微軟云、浪潮信息、戴爾等數十家頭部芯片、云服務和IT基礎設施廠商同臺競技。

   如果把AI訓練看作AI的“學習過程”，那么推理就相當于AI能“學以致用”。

   MLPerf™的AI訓練性能測試主要考查完成各主流AI模型的訓練時間，完成的速度越快則意味著性能更強；而AI推理主要考查AI系統（使用主流AI模型）完成各類任務的速度與效率。

   相較于代表技術發展水平的AI訓練，低延遲、高效的AI推理和AI的落地應用關系更加密切——推理需要保留模型在訓練中學到的能力，還能應用到前所未見的數據上，并根據真實世界中的數據，迅速提供正確答案。

   作為當下最權威的AI性能基準測試，MLPerf™全面、公平地考查了各類AI場景下參測廠商系統和軟件優化的整體能力。同時，因為全球頂級廠商的積極參與和重視，MLPerf™的每一次測試結果，都代表著當前最先進的AI計算水平。

“飆”到最快

   今年4月結束的MLPerf™ AI推理性能測試競爭“慘烈”。據MLPerf™官方統計，本輪測試19家參賽者共提交超3900項性能成績和2200項功耗成績，分別是上一輪的2倍和6倍。

   此次AI推理性能評測包含了六大AI任務，分別是圖像分類、醫學影像分割、目標物體檢測、語音識別、自然語言理解以及智能推薦，它們也是當下最主流和通用的AI應用場景。針對這六大任務，MLPerf™設置了非常細致的考查維度（共33項賽道），從而全方位地檢驗AI系統在各種應用情況下的表現。

   比如，其中的圖像分類任務，即根據圖像的語義信息，將不同類別的圖像區分開。這是計算機視覺中重要的基本問題，也是更高級的視覺任務的基礎。相關工程師表示，“通俗說，它有個數百萬張圖片的數據集，比賽時看誰能在最短的時間內，把這個數據集里的圖片全部識別出來，并正確分類。”

   AI圖像分類在日常生活中有著廣泛應用，如智能視頻分析、交通場景識別、互聯網領域基于圖像內容的檢索以及相冊自動分類等。此次性能評測中，浪潮AI服務器創造了每秒對44.99萬張圖片進行分類的嶄新世界紀錄。

   性能紀錄不止于此。在此次MLPerf™測試的33項賽道中，浪潮AI服務器以27項冠軍位列榜首：攬獲數據中心內的全部16項冠軍，并在邊緣端17個單項中取得了11個冠軍。

   相比2021年的MLPerf™推理測試，浪潮AI服務器在半年時間內將圖像分類、語音識別和自然語言理解任務的推理性能分別提升31.5%、28.5%及21.3%。這意味著，AI系統在自動駕駛、智能問答和智慧醫療等場景中，能更高效地完成各類任務。

   “MLPerf™就像提供給大家一個飆車的賽場，用各種辦法，把性能飆到最高、飆到最快。”浪潮信息副總裁、AI&HPC產品線總經理劉軍說，“浪潮AI服務器正是賽道中最快的賽車。”

驅動應用發展

   中國工程院院士王恩東認為，隨著AI的規模化發展，算力已經成為決定性力量，智慧計算已成為智慧時代的核心生產力。AI從五六年前的“黑科技”，變成今天的“熱科技”，離不開算力支撐能力的巨大飛躍。

   秉持“促進機器學習創新，以此惠及普羅大眾”的理念，MLPerf™大賽不僅是頂尖廠商、學術機構和創新企業比拼AI算力的專業“考場”，更是協同推進智算力創新和突破的陣地。

   “參加MLPerf™讓我們獲得了豐富的實踐經驗。”浪潮信息AI&HPC應用軟件部總經理吳韶華說，“隨后，我們把這種經驗應用到AI服務器設計上打磨產品，讓AI算力越來越強。”

   數字新基建、東數西算正推動智算融入千行百業，諸多應用場景迫切期待AI算力提升。

   作為新一輪科技革命和產業變革的重要方法和工具，智慧計算將在推動數實相融、催生新產業新業態方面發揮越來越大的作用。智慧計算不僅助力我們“飆車”國際頂尖賽道，也成為驅動未來發展的重要力量�！�