8月24日,百度與江蘇未來(lái)網(wǎng)絡(luò )集團有限公司(簡(jiǎn)稱(chēng)“江蘇未來(lái)網(wǎng)絡(luò )集團”)、網(wǎng)絡(luò )通信與安全紫金山實(shí)驗室(簡(jiǎn)稱(chēng)“紫金山實(shí)驗室”) 、江蘇省未來(lái)網(wǎng)絡(luò )創(chuàng )新研究院(簡(jiǎn)稱(chēng)“未來(lái)網(wǎng)絡(luò )研究院”)簽署戰略合作框架協(xié)議。各方將圍繞大模型核心技術(shù)聯(lián)合攻關(guān),力爭在3-5年內實(shí)現行業(yè)大模型技術(shù)創(chuàng )新能力江蘇領(lǐng)先水平,在全國具有示范意義。同時(shí),多方合作還將共建江蘇省大模型產(chǎn)業(yè)賦能中心,加速大模型賦能江蘇企業(yè)步伐。

在當日舉行的第七屆未來(lái)網(wǎng)絡(luò )發(fā)展大會(huì )上,百度智能云基于未來(lái)網(wǎng)絡(luò )打造的“跨廣域工業(yè)視覺(jué)大模型算網(wǎng)融合技術(shù)”作為重大成果正式對外發(fā)布。它基于百度自研芯片昆侖芯以及百度文心視覺(jué)大模型,將算力、網(wǎng)絡(luò )、大模型和應用場(chǎng)景融合,實(shí)現行業(yè)大模型跨廣域精調、推理服務(wù),改變過(guò)去只能在工廠(chǎng)端就近部署算力和模型的方式,降低企業(yè)使用行業(yè)大模型的門(mén)檻。測試結果顯示,在相距超300公里的兩家鋼鐵工廠(chǎng)之間,該技術(shù)成果使行業(yè)大模型跨廣域推理效率提升42%。
中國工程院院士、紫金山實(shí)驗室主任劉韻潔表示:"大模型時(shí)代,要抓住全球未來(lái)網(wǎng)絡(luò )發(fā)展的重大機遇,突破確定性網(wǎng)絡(luò )核心技術(shù),引領(lǐng)信息產(chǎn)業(yè)技術(shù)發(fā)展。此次與百度的合作將面向大模型、大數據發(fā)展需求,構建覆蓋全國的確定性網(wǎng)絡(luò ),以及面向農業(yè)、工業(yè)、能源、安全等行業(yè)的行業(yè)專(zhuān)網(wǎng),以大模型賦能千行百業(yè),促進(jìn)實(shí)體經(jīng)濟發(fā)展。"
百度集團執行副總裁、百度智能云事業(yè)群總裁沈抖表示:"大模型對算力、網(wǎng)絡(luò )、智算集群等智算基礎設施提出了全新要求。百度擁有芯片、框架、模型、應用等全棧人工智能技術(shù)優(yōu)勢,同時(shí)擁有開(kāi)放的人工智能生態(tài)。百度智能云將攜手江蘇未來(lái)網(wǎng)絡(luò )集團,持續為算網(wǎng)融合相關(guān)戰略工程提供關(guān)鍵性支撐,通過(guò)提供智能計算云底座和大模型生產(chǎn)平臺,讓更多行業(yè)方便快捷、低門(mén)檻的用上大模型。"
大模型跨廣域推理效率提升42%,百度算網(wǎng)融合技術(shù)重大成果發(fā)布
當前,大模型發(fā)展已進(jìn)入產(chǎn)業(yè)化應用階段。但工業(yè)場(chǎng)景復雜,產(chǎn)業(yè)鏈環(huán)節多、鏈條長(cháng),行業(yè)大模型的“精調和推理”需要高實(shí)時(shí)性和高安全性的算力網(wǎng)絡(luò )提供支持。這對網(wǎng)絡(luò )低時(shí)延、無(wú)損傳輸、網(wǎng)絡(luò )安全提出了更高的要求。傳統互聯(lián)網(wǎng),效率低,安全性缺乏。企業(yè)搭建專(zhuān)線(xiàn)方式成本高,企業(yè)難以承受。行業(yè)大模型落地工業(yè)需要一種新的技術(shù)解決方案來(lái)打破發(fā)展瓶頸。
百度智能云基于未來(lái)網(wǎng)絡(luò )打造的“跨廣域工業(yè)視覺(jué)大模型算網(wǎng)融合技術(shù)”作為重大成果,在第七屆未來(lái)網(wǎng)絡(luò )發(fā)展大會(huì )正式發(fā)布。該成果基于百度自研芯片昆侖芯以及百度文心視覺(jué)大模型,將算力、網(wǎng)絡(luò )、大模型和應用場(chǎng)景融合,通過(guò)智能調度網(wǎng)絡(luò )以及大模型的能力結合,實(shí)現行業(yè)大模型跨廣域精調、推理服務(wù),提升模型精度和推理效率,改變過(guò)去只能在工廠(chǎng)端就近部署算力和模型的方式,提升模型泛化能力,降低企業(yè)使用行業(yè)大模型的門(mén)檻,大幅提升社會(huì )算力資源的利用率。
針對鋼鐵行業(yè)工業(yè)質(zhì)檢場(chǎng)景,一家鋼鐵工廠(chǎng)通過(guò)使用百度智能云的“算網(wǎng)融合技術(shù)”,在南京和上海工廠(chǎng)之間,進(jìn)行跨廣域間的“精調和推理”測試。雖然兩家工廠(chǎng)相距超過(guò)300公里,但測試結果顯示,推理、訓練圖片數據丟包率為0,語(yǔ)料獲取效率提升83%,推理效率提升42%,云端算力相比本地化算力部署,模型精調訓練后精度提升10%。
通過(guò)測試論證,百度智能云打造的算網(wǎng)融合技術(shù)能夠同時(shí)滿(mǎn)足企業(yè)對工業(yè)視覺(jué)大模型推理端到端業(yè)務(wù)和精調訓練的性能需求,可以支撐后續視覺(jué)大模型在工業(yè)領(lǐng)域的場(chǎng)景落地和商業(yè)化。同時(shí),基于自研芯片昆侖芯的大算力集群,大模型訓練速度相比本地化算力部署顯著(zhù)提升。
過(guò)去六屆未來(lái)網(wǎng)絡(luò )發(fā)展大會(huì )發(fā)布了十余項全球領(lǐng)先的創(chuàng )新成果發(fā)布,其中相當一部分成果被廣泛應用于產(chǎn)業(yè)實(shí)踐和國家關(guān)鍵領(lǐng)域的建設當中。
3-5年內攻克技術(shù)難關(guān),力爭大模型能力在江蘇排名第一
根據合作協(xié)議顯示,百度與江蘇未來(lái)網(wǎng)絡(luò )集團等三方的合作將主要聚焦大模型核心技術(shù)攻關(guān)和產(chǎn)業(yè)賦能兩個(gè)方面。
一方面,江蘇未來(lái)網(wǎng)絡(luò )集團提供智能算力底座及網(wǎng)絡(luò )資源,百度智能云提供模型及技術(shù)支撐,基于百度智能云千帆大模型平臺,各方攜手進(jìn)行技術(shù)攻關(guān)。目標是建成全國首個(gè)自主可控的行業(yè)大模型平臺,實(shí)現跨廣域算網(wǎng)融合,確保低延遲、確定性通信,加速大模型數據共享、模型共享。同時(shí)保持開(kāi)放生態(tài),未來(lái)可接入女?huà)z大模型等江蘇本地優(yōu)質(zhì)大模型,持續培育本土能力。力爭在3-5年內實(shí)現行業(yè)大模型技術(shù)創(chuàng )新能力江蘇領(lǐng)先水平。
另一方面,江蘇是中國工業(yè)第一大省,正在推動(dòng)制造業(yè)高端化智能化綠色化發(fā)展。百度與江蘇未來(lái)網(wǎng)絡(luò )集團等三方的合作,將共建江蘇省大模型產(chǎn)業(yè)賦能中心,圍繞大模型產(chǎn)業(yè)運營(yíng)、標桿示范場(chǎng)景打造、人工智能技術(shù)生態(tài)及人才培養等方面進(jìn)行探索,降低江蘇企業(yè)使用行業(yè)大模型的門(mén)檻,加速人工智能產(chǎn)品和服務(wù)賦能企業(yè)步伐。
沈抖表示,大模型發(fā)展需要云智一體的智算基礎設施提供支持。百度在萬(wàn)卡GPU集群、卡間通信、服務(wù)器間通信、數據中心通信方面都積累了豐富的經(jīng)驗,形成了較好的技術(shù)優(yōu)勢。百度智能云會(huì )將長(cháng)期以來(lái)形成的大模型工程化能力沉淀下來(lái),通過(guò)千帆大模型平臺開(kāi)放給企業(yè)和機構,幫助大家用好大模型、做好大模型。