一句話生成企業級應用!百度智能雲千帆3.0開啟AI開發新時代

| Simon Chan | 25-09-2024 15:46 |
一句話生成企業級應用!百度智能雲千帆3.0開啟AI開發新時代

百度雲智大會在北京召開,百度智能雲在大會宣布,為協助企業更快速、更優質、更經濟地運用大模型,針對算力、模型、AI應用三大面向,全面升級百舸AI異構計算平台4.0、千帆大模型平台3.0兩大AI基礎設施,並同步升級代碼助手、智能客服、數字人三大AI原生應用產品。

 

百度集團執行副總裁、百度智能雲事業群總裁沈抖強調,大模型及其配套的算力管理平台、模型和應用開發平台正迅速成為新一代基礎設施。他指出,2024年大模型的產業落地正在加速,目前在千帆大模型平台上,文心大模型日均調用量已突破7億次,累計協助用戶精調了3萬個大模型,開發出超過70萬個企業級應用。過去一年,文心旗艦大模型降價幅度超過90%,主力模型全面免費,最大限度降低了企業創新試錯的成本。

百舸4.0:高效管理十萬卡集群,模型訓練有效時長達99.5%

大算力是大模型落地的基石。為滿足企業從集群創建、開發實驗到模型訓練、推理的全流程算力需求,並應對超大規模GPU集群的高成本與運營難題,百度智能雲升級發布了百舸AI異構計算平台4.0,全面提升萬卡、十萬卡集群的算力管理能力。

在集群創建階段,百舸4.0預置主流大模型訓練工具,實現秒級部署,將萬卡集群運行準備時間從數週縮短至1小時。開發實驗階段,全新升級的可觀測大盤提供多面向監測,協助用戶制定最佳模型訓練策略。模型訓練階段,百舸4.0透過自動篩查、故障預測、秒級感知定位等技術,大幅降低集群故障發生頻次與處置時間,實現接近無損的集群容錯,萬卡集群有效訓練時長占比超過99.5%。此外,百舸4.0透過一系列創新,大幅提升集群模型訓練效率,整體性能較業界平均水準提升高達30%。模型推理環節,百舸透過多種加速方法,實現模型推理的降本提效,尤其在長文本推理方面,推理效率提升超過1倍。

展望未來,沈抖認為大模型的Scaling Law將持續有效,更多十萬卡集群即將出現。為此,百舸4.0已構建十萬卡級別的超大規模無擁塞HPN高性能網路、10ms級別超高精度網路監控,以及面向十萬卡集群的分鐘級故障恢復能力,為整個產業提供持續領先的算力平台。

千帆3.0:三大服務全面升級,一句話即可生成企業級應用

為滿足企業對模型調用、模型開發、應用開發的需求,百度智能雲發布了千帆大模型平台3.0。升級後的千帆平台,不僅可調用包括文心系列在內的近百個國內外大模型,還支援調用語音、視覺等各種傳統小模型。模型開發方面,千帆3.0提供完善的大模型工具鏈,支援傳統模型開發,實現資源統一納管和調度。應用開發方面,千帆3.0全面升級企業級檢索增強生成(RAG),並增加多項官方組件支持。

此外,本次大會還發布了智能化低代碼應用開發平台「AI速搭」,透過自然語言對話即可進行企業級應用開發。沈抖現場演示,只需一句話描述需求,大模型就能生成應用,大幅提升開發效率。

代碼助手、智能客服、數字人全面升級

為滿足企業直接選購成熟AI應用的需求,百度智能雲升級了三大AI原生應用產品。基於文心大模型重構的AI原生智能客服應用「客悅」,大幅提升用戶複雜意圖理解、多模態資訊交流等能力,將「問題自助解決率」提升至92%,實現業界領先。新升級的曦靈數字人4.0支援根據文字快速生成3D數字人形象和視頻,並大幅降價至199元。全新升級的4D自動綁定技術和創新模態遷移技術,解決了傳統2D數字人動作僵硬的問題。

全新升級的全流程AI代碼提效工具「文心快碼」,聚焦研發全生命週期的業務流,實現全流程編碼開發效率與品質的雙重提升。本次大會,文心快碼業界首發「企業級代碼架構解釋」、「企業級代碼審查」兩項全新功能,並全新升級「企業級代碼輔助能力」,深度理解企業代碼庫,讓生成的代碼更貼近企業要求。

Source:百度

 

相關文章

Page 1 of 8