百度雲智大會在北京召開，百度智能雲在大會宣布，為協助企業更快速、更優質、更經濟地運用大模型，針對算力、模型、AI應用三大面向，全面升級百舸AI異構計算平台4.0、千帆大模型平台3.0兩大AI基礎設施，並同步升級代碼助手、智能客服、數字人三大AI原生應用產品。
百度集團執行副總裁、百度智能雲事業群總裁沈抖強調，大模型及其配套的算力管理平台、模型和應用開發平台正迅速成為新一代基礎設施。他指出，2024年大模型的產業落地正在加速，目前在千帆大模型平台上，文心大模型日均調用量已突破7億次，累計協助用戶精調了3萬個大模型，開發出超過70萬個企業級應用。過去一年，文心旗艦大模型降價幅度超過90%，主力模型全面免費，最大限度降低了企業創新試錯的成本。
百舸4.0：高效管理十萬卡集群，模型訓練有效時長達99.5%
大算力是大模型落地的基石。為滿足企業從集群創建、開發實驗到模型訓練、推理的全流程算力需求，並應對超大規模GPU集群的高成本與運營難題，百度智能雲升級發布了百舸AI異構計算平台4.0，全面提升萬卡、十萬卡集群的算力管理能力。
在集群創建階段，百舸4.0預置主流大模型訓練工具，實現秒級部署，將萬卡集群運行準備時間從數週縮短至1小時。開發實驗階段，全新升級的可觀測大盤提供多面向監測，協助用戶制定最佳模型訓練策略。模型訓練階段，百舸4.0透過自動篩查、故障預測、秒級感知定位等技術，大幅降低集群故障發生頻次與處置時間，實現接近無損的集群容錯，萬卡集群有效訓練時長占比超過99.5%。此外，百舸4.0透過一系列創新，大幅提升集群模型訓練效率，整體性能較業界平均水準提升高達30%。模型推理環節，百舸透過多種加速方法，實現模型推理的降本提效，尤其在長文本推理方面，推理效率提升超過1倍。
展望未來，沈抖認為大模型的Scaling Law將持續有效，更多十萬卡集群即將出現。為此，百舸4.0已構建十萬卡級別的超大規模無擁塞HPN高性能網路、10ms級別超高精度網路監控，以及面向十萬卡集群的分鐘級故障恢復能力，為整個產業提供持續領先的算力平台。
千帆3.0：三大服務全面升級，一句話即可生成企業級應用
為滿足企業對模型調用、模型開發、應用開發的需求，百度智能雲發布了千帆大模型平台3.0。升級後的千帆平台，不僅可調用包括文心系列在內的近百個國內外大模型，還支援調用語音、視覺等各種傳統小模型。模型開發方面，千帆3.0提供完善的大模型工具鏈，支援傳統模型開發，實現資源統一納管和調度。應用開發方面，千帆3.0全面升級企業級檢索增強生成（RAG），並增加多項官方組件支持。
此外，本次大會還發布了智能化低代碼應用開發平台「AI速搭」，透過自然語言對話即可進行企業級應用開發。沈抖現場演示，只需一句話描述需求，大模型就能生成應用，大幅提升開發效率。
代碼助手、智能客服、數字人全面升級
為滿足企業直接選購成熟AI應用的需求，百度智能雲升級了三大AI原生應用產品。基於文心大模型重構的AI原生智能客服應用「客悅」，大幅提升用戶複雜意圖理解、多模態資訊交流等能力，將「問題自助解決率」提升至92%，實現業界領先。新升級的曦靈數字人4.0支援根據文字快速生成3D數字人形象和視頻，並大幅降價至199元。全新升級的4D自動綁定技術和創新模態遷移技術，解決了傳統2D數字人動作僵硬的問題。
全新升級的全流程AI代碼提效工具「文心快碼」，聚焦研發全生命週期的業務流，實現全流程編碼開發效率與品質的雙重提升。本次大會，文心快碼業界首發「企業級代碼架構解釋」、「企業級代碼審查」兩項全新功能，並全新升級「企業級代碼輔助能力」，深度理解企業代碼庫，讓生成的代碼更貼近企業要求。
Source：百度