智能制造網(wǎng)APP
智能制造網(wǎng)手機站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務號
智能控制
機器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
回放
品牌
巨天 J-SKY
人工智能快速迭代，大模型時期僅依靠算力堆疊已無法實現(xiàn)模型性能的同步線性提升，模型算法與底層硬件、軟件棧、開發(fā)框架間的協(xié)同效果最終影響其訓推效率與性能表現(xiàn)，人工智能軟硬件生態(tài)重要性凸顯。中國信息通信研究院(簡稱“中國信通院”)《專家談》欄目開辟“人工智能”系列專題，將邀請多位業(yè)界資深專家多視角探討我國人工智能的發(fā)展形勢。
本期邀請到中國信通院人工智能研究所軟硬件與創(chuàng)新生態(tài)部主任李論，分享人工智能軟硬件產(chǎn)品創(chuàng)新及生態(tài)構建的幾點思考，助力我國盡快構建起技術領先、良性發(fā)展的軟硬件生態(tài)體系。
一、大模型的創(chuàng)新迭代與軟硬件系統(tǒng)深度耦合
大模型的升級迭代需要在龐大的軟硬件系統(tǒng)上進行實驗。模型的原始創(chuàng)新和應用迭代落地已非常依賴先進的軟硬件協(xié)同技術生態(tài)體系，框架、芯片、集群、網(wǎng)絡等與算法間的協(xié)同愈發(fā)緊密。當前以DeepSeek為代表的模型憑借工程化創(chuàng)新，實現(xiàn)性能的大幅度提升。特別是通過模型架構、硬件算力和互聯(lián)通信等方面的極致優(yōu)化和協(xié)同來提升訓練和推理的效能。從全球范圍看，Meta、字節(jié)等國內(nèi)外頭部企業(yè)也均在加快更大規(guī)模集群的軟硬件協(xié)同優(yōu)化，如創(chuàng)新集群網(wǎng)絡架構、構建先進的運維工具、優(yōu)化分布式并行策略等。我們預計，在下個階段，軟硬件協(xié)同和生態(tài)體系的構建會是全球大模型創(chuàng)新和算力設施建設的競爭焦點。
二、我國在軟硬件協(xié)同和適配方面發(fā)展現(xiàn)狀
模型和底層硬件的適配是硬件能力能否充分釋放的關鍵。以業(yè)界典型的開源大模型DeepSeek為例，目前在國內(nèi)主流廠商的軟硬件產(chǎn)品上運行DeepSeek模型，仍然需要結合實際應用場景進行深度優(yōu)化，從而滿足精度、性能以及產(chǎn)品服務等延伸需求。
我們把軟硬件適配分為三個階段，第一階段是完成軟硬件產(chǎn)品的基礎適配，保障模型在軟硬件系統(tǒng)上運行無報錯，達到“基本可用”狀態(tài)。第二階段是完成系統(tǒng)性能調(diào)優(yōu)，如精度對齊，提升吞吐、延遲等指標表現(xiàn)，初步達到“好用”狀態(tài)。第三階段是和實際的場景結合，通過用戶、業(yè)務提供商、供應商等多方協(xié)作，進一步提升落地應用效果。
在此背景下，中國信通院通過構建人工智能軟硬件基準體系AISHPerf，推動國產(chǎn)化適配測試工作。我們發(fā)現(xiàn)大量國產(chǎn)軟硬件系統(tǒng)已能支持DeepSeek運行，通過一系列的優(yōu)化，能夠在數(shù)天內(nèi)實現(xiàn)“可用”，且部分廠商模型適配效果已與官方技術報告實現(xiàn)精度對齊，同時，短期內(nèi)出現(xiàn)多種工具包及一體機、公有云服務等產(chǎn)品形態(tài)，模型易用性不斷提升。
三、人工智能算力設施及軟硬件產(chǎn)品發(fā)展路徑
從整體發(fā)展來看，我們認為規(guī)模定律在未來幾年仍將延續(xù)。業(yè)界主要有兩種發(fā)展思路：一是擴大訓練算力規(guī)模，增加模型尺寸，提升模型精度。二是聚焦參數(shù)一定范圍內(nèi)的模型改造與高效訓練，特別在計算受限下，通過模型參數(shù)與訓練數(shù)據(jù)有效配比和算法架構改造提升訓練效能，是廠商技術比拼的關鍵。
在這樣的發(fā)展路徑下，有三個創(chuàng)新重點：一是聚焦系統(tǒng)性能、提升算力利用率。算力需求雖仍在大幅度增長，但當前大量集群的算力利用率仍不足50%，需要進行計算、存儲、通信的軟硬件深度協(xié)同，來實現(xiàn)系統(tǒng)性能提升。二是聚焦推理優(yōu)化方面的創(chuàng)新。大模型推理成為落地應用的關鍵環(huán)節(jié)，通過硬件、軟件一體化集成，及分布式并行推理等技術能有效提升推理效率，出現(xiàn)一體機、推理集群等新的產(chǎn)品服務形式。三是面向多樣場景的適配是落地關鍵。DeepSeek等開源模型生態(tài)有望進一步促進行業(yè)應用需求增長，但各個場景性能指標存在差異，存在大量點對點適配問題，需深度適配優(yōu)化。
四、我國需面向應用需求持續(xù)推動軟硬件產(chǎn)品創(chuàng)新和生態(tài)建設
應用模型的高效部署和生態(tài)協(xié)同范式的建立是下階段AI產(chǎn)品的創(chuàng)新關鍵。為了進一步凝聚產(chǎn)業(yè)共識，降低軟硬件選型技術難度和開發(fā)門檻，依托工信部人工智能標準化技術委員會，中國信通院基于人工智能軟硬件基準AISHPerf工作組已推進十余項標準制定工作，覆蓋算子、計算設備、訓推集群、框架工具、邊端系統(tǒng)、智算的互聯(lián)、網(wǎng)絡等領域。此外，我們在北京亦莊建設了首個人工智能軟硬件協(xié)同創(chuàng)新與適配驗證中心，面向包括芯片、服務器、不同類型的計算設備、集群、開發(fā)框架及平臺、一體機等在內(nèi)的人工智能軟硬件產(chǎn)品，去提供相應的實驗驗證、測試和產(chǎn)業(yè)培育等工作。下一步，我們將持續(xù)開展大模型軟硬一體設備、框架軟件與工具、大規(guī)模智算集群等系列測試驗證工作，舉辦“興智杯”全國人工智能創(chuàng)新應用大賽、大模型創(chuàng)新發(fā)展與軟硬件協(xié)同生態(tài)論壇等大型賽會活動，希望能夠有序引導人工智能模型和軟硬件廠商間的協(xié)同創(chuàng)新，集聚各方力量盡快構建起技術領先、良性發(fā)展的產(chǎn)業(yè)生態(tài)體系。
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
