一個AI機器人有多會聊天？ChatGPT實力“聊”出了史上增長最快的消費級應用，上線短短兩個月，月活用戶突破1億，每天用約有1300萬獨立訪客與之對話。敲代碼、寫論文、編劇本……這位多才多藝的“全能網友”，引爆了新一輪的人工智能熱潮。

然而，當紅的ChatGPT也正經歷著“成長的煩惱”。從GPT到GPT-3，優化迭代主要源自模型的增大，訓練參數量從1.17億增加到1750億，模型訓練使用的數據量高達0.4萬億token，如此龐大的數據體量，對于分布式集群的運算效率提出了極高要求。事實上，不只是ChatGPT，整個AI產業的大規模商用都在經歷算力限制的陣痛。如何在整體資源有限的條件下，讓應用獲取更多的計算資源，提升機器學習效率，人工智能和算網融合領域的前沿課題——在網計算（In Network Computing）成為其中一種有效解決方案。

讓網絡設備參與計算

突破集群計算效率瓶頸

數據顯示，過去5年GPU算力增長近90倍，而網絡帶寬僅增長10倍。受網絡通信能力的限制，分布式集群的運算效率無法隨其規模線性增長，網絡通信能力日漸成為人工智能模型訓練成熟發展的瓶頸。傳統的計算集群，計算過程以計算節點為中心，網絡僅用于節點間的互聯。當各計算節點之間進行一對多或多對多的集合通信時，多次通信交互不僅會影響計算效率，也會增加網絡負載，出現通信時延過大、通信效率降低等問題。作為算網融合核心技術之一的“在網計算”技術，是通過在網絡中部署對報文進行解析的算力，將部分計算任務從主機側遷移至網絡側，由交換機、路由器、智能網卡、DPU等設備或部件完成計算加速的技術。通過網絡設備自身算力的共享，在不改變業務原有運行模式的前提下，在網計算將HPC和AI分布式計算的集合通信的操作卸載到網絡設備上，讓網絡設備參與計算，減少計算節點之間的消息交互，降低通信延遲，從而提高網絡帶寬利用效率，加速HPC和AI分布式計算效率。

加速布局在網計算

推動“網絡計算化”演進

作為數字化解決方案領導者，紫光股份旗下新華三集團以科技創新為引領，基于在網絡和計算領域深厚的技術積淀，主動擔起在網計算技術的產業化探索職責，快速在網絡設備端完成研發落地。全面支持在網計算的H3C P4可編程交換機支持Pytorch框架和DPDK UDP、RoCE通信方式，能夠將數據需求聚合統一操作，優化通信網絡擁堵，減少主機的數據處理量。據新華三集團內部實驗室測算，使用H3C P4可編程交換機加速數據并行訓練，模型訓練精度不受影響，計算節點間通信數據量平均減少30%，最多可以減少48%的訓練時間，可大幅提升分布式集群的整體訓練效率，創造更加出色的應用價值。

在網計算作為計算、網絡融合發展的關鍵技術，不僅有效解決了HPC和AI分布式計算的集合通信問題，為提升數據中心的集群規模帶來了新的方案和思路，同時也將進一步加速算網融合“網絡計算化”演進，推動網絡從連接算力到感知、承載、調配算力的角色升級，助力算網融合縱深發展。從AlphaGo擊敗圍棋世界冠軍，到ChatGPT火遍全球，人工智能時代正在加速到來。面向未來，在“云智原生”戰略指引下，新華三集團將以前瞻視野精耕科技，深入數字科技的實際應用場景，為人工智能與經濟社會的融合注入強大的創新動能，深度賦能百行百業的數字化轉型和智能化升級。