今年以來，AI大型模型已成為科技公司競爭的焦點，國內外企業都投入大型模型的訓練。最近，Meta宣布開源了Llama2大語言模型，參數高達700億，還支持免費商業使用，引起了業界的關注。但是，部署如此規模的大型模型對開發者來說並不容易。阿里雲是第一家支持Llama2全系列訓練和部署的公司。
↓↓↓同場加映：【e+同你試】豪華配置 Benz EQS SUV 馬力舒適度同時兼備↓↓↓
即刻【按此】，用 App 睇更多產品開箱影片
快科技報道，阿里雲於 25日宣佈在國內率先推出針對Llama2全系列版本的訓練和部署方案，歡迎所有開發者在阿里雲上構建專屬大型模型。最近，Llama2大型語言模型宣布開源，覆蓋70億、130億和700億參數版本。 Llama2可免費用於研究場景和月活躍用戶不超過7億的商業場景，為企業和開發者提供了新的大型模型研究工具。然而，對於Llama2的再訓練和部署仍具有較高門檻，尤其是針對效果更好的大型版本。為了方便開發者，阿里雲機器學習平台PAI率先在國內對Llama2系列模型進行了深度適配，提供了輕量級微調、全參數微調、推理服務等場景的實踐方案，幫助開發者快速基於Llama2進行再訓練，構建自己的專屬大型模型。
阿里雲主導發起的AI模型社區ModelScope，第一時間上架了Llama2系列模型。開發者可以在社區的Llama2模型頁面上點擊「Notebook快速開發」按鈕，一鍵啟動阿里雲機器學習平台PAI，進行模型的雲上開發和部署。即使在其他平台下載了Llama2模型，也可以在阿里雲PAI上進行開發。對於特殊場景的需求，開發者往往需要使用微調訓練的方法對模型進行調整，以獲得特定領域的專業能力和知識。此時，PAI支持開發者在雲上進行輕量級Lora微調或更深入的全參數微調。完成模型微調後，PAI還支持開發者通過Web UI和API的方式部署Llama2，使模型可以通過網頁或嵌入應用與使用者進行交互。
與本地單機訓練Llama2相比，使用阿里雲可完成對超大型模型的深度開發，同時預置環境免除了運維工作，操作簡單方便，而且開發者可以獲得豐富的AI計算資源和極致的彈性。本地單卡GPU僅能支持Llama2 70億參數版本的輕量級Lora微調和推理，對於更大尺寸版本和更深度的訓練難以支持。在阿里雲上，使用PAI靈駿智算服務提供的分佈式計算能力，可以對Llama2全尺寸版本進行輕量級和全參數微調，並進行高效的部署和推理。
【熱門報道】
【熱門報道】
Source：快科技