IBM攜手OneAsia推GenAI-in-a-Box 助香港企業本地部署GenAI

| 李兆城 | 28-10-2024 23:35 |
IBM攜手OneAsia推GenAI-in-a-Box 助香港企業本地部署GenAI

人工智能(AI)浪潮席捲全球,企業紛紛尋求將 AI 融入業務,以提升效率、創造價值。然而,AI 的實施並非一蹴而就,企業面臨著數據準備、基礎設施建設、安全合規等諸多挑戰。IBM 在金融科技周舉辦「智勝 AI+時代 - IBM 香港傳媒簡介會」,分享其最新 AI 策略及與本地合作夥伴 OneAsia 合作推出GenAI-in-a-Box 一站式本地部署解決方案,為香港企業帶來 AI 落地的全新可能。

IBM watsonx 助企業 AI 轉型

IBM 中國/香港總經理潘鳳瑤表示,觀察到企業對 AI 的應用,正從試驗階段邁向更廣泛的應用,以期實現真正的商業價值。然而,企業在拓展 AI 應用過程中,面臨著建立可靠的 AI 與治理、構建 AI 就緒的數據和基礎設施等挑戰。

為此,IBM 推出 watsonx 新一代企業級 AI 與數據平台,提供一系列工具和服務,協助企業應對 AI 挑戰。watsonx 具備三大優勢:

  • 開放、安全、可擴展的平台: watsonx 基於混合雲架構,可跨不同環境部署,並提供嚴格的數據安全和治理保障。
  • 全面的 AI 功能: watsonx 涵蓋機器學習、深度學習、自然語言處理等多種 AI 技術,並提供預訓練模型和自定義模型開發工具。
  • 豐富的行業經驗: IBM 擁有深厚的行業知識和豐富的 AI 實施經驗,可為企業提供定制化的 AI 解決方案。

攜手 OneAsia 推出 GenAI-in-a-Box 解決方案

為進一步滿足香港企業對 AI 的需求,IBM 與總部位於香港的數據中心運營商 OneAsia 宣布簽署新的合作協議,共同推出 GenAI-in-a-Box 一站式本地部署解決方案。該方案結合了 IBM watsonx 的 AI 能力和 OneAsia 的 GPU 即服務(GPUaaS)能力,為金融服務、政府、航空、醫療等行業提供本地化、安全、完整的 AI 解決方案。

GenAI-in-a-Box 解決方案包括三大核心產品:

  1. 財務智慧顧問: 自動提取財務數據,提供會計處理和行動建議,幫助金融機構提高效率和準確性。
  2. 「決策支援」助理: 互動聊天機器人,幫助政府和航空業員工快速瀏覽程序手冊,提高問題解決效率。
  3. 「GenAI 品質保證」套件: 監控企業 AI 活動,保障 AI 系統穩定運行,滿足金融服務、政府和醫療保健等高度受監管行業的需求。

OneAsia GPUaaS 助 AI 規模化部署

OneAsia 的 GPUaaS 為 GenAI-in-a-Box 解決方案提供了強大的算力支持,讓企業可以按需獲取 NVIDIA H100/A800 等 GPU 資源,靈活擴展 AI 應用規模。OneAsia 首席執行官李松德表示:「 OneAsia 將提供一個全方位的 AI 服務平台,協助客戶開發 AI 應用,降低 AI 實施門檻。」

 

 

IBM 中國/香港總經理潘鳳瑤表示:「此次與 OneAsia 簽署的合作協議具有里程碑意義,滿足了客戶本地部署 watsonx 的需求,尤其對高度受監管的行業而言。」 IBM 將持續加碼企業 AI 投入,推出更多創新產品和服務,協助客戶拓展 AI 應用,實現商業價值。

IBM 推出 Granite 3.0: 平價高效 企業級 AI 模型新時代

IBM 亦宣布推出全新企業級 AI 模型家族 Granite 3.0,主打開放、高性能和可信賴,為企業 AI 應用帶來革命性突破。Granite 3.0 在多項基準測試中表現卓越,甚至超越市面上領先模型供應商的同類型產品。IBM 香港首席科技總監李永輝表示,Granite 3.0 系列模型專為企業用戶設計,與大型模型相比,Granite 3.0 能夠以更低的成本提供相媲美的特定任務性能。其價格比大型前沿模型低 3 至 23 倍,對於注重成本效益的香港企業來說極具吸引力。

 

 

九大優勢 助力企業 AI 發展

Granite 3.0 擁有九大優勢,使其成為企業 AI 應用的理想選擇:

  1. 高度適應性: 可透過 IBM 的 InstructLab 技術,利用企業獨有的數據進行微調,無縫融入各種業務環境和工作流程。
  2. 成本效益: 提供與大型模型相媲美的性能,但成本卻大幅降低。
  3. 數據透明: IBM 公開 Granite 模型的訓練數據集,並詳細說明數據過濾、清理和處理步驟,提高透明度。
  4. 法律保障: IBM 在 watsonx.ai 平台上提供知識產權賠償,保障企業客戶安心使用。
  5. 網絡安全: Granite Guardian 模型提供市場領先的風險和危害檢測能力,保障企業數據安全。
  6. 負責任的 AI: Granite Guardian 模型能檢測社會偏見、仇恨言論、毒性內容等危害,確保 AI 應用符合道德規範。
  7. 卓越性能: Granite 3.0 8B Instruct 模型在多項核心企業任務(如檢索增強生成)和安全基準測試中的表現均優於 Meta 和 Mistral 的同類型模型。
  8. 數據全面: Granite 3.0 模型的訓練數據涵蓋 12 種自然語言和 116 種編程語言,超過 12 萬億個標記。
  9. 開源平台: Granite 3.0 採用 Apache 2.0 許可證發佈,鼓勵開發者在 watsonx 平台上進行商業化應用和創新。

多元化模型選擇 滿足不同需求

Granite 3.0 提供多種尺寸和類型的模型,包括:

  • 通用/語言模型: 8B 和 2B 指令模型與基礎模型,適用於一般用途。
  • 安全可靠模型: Granite Guardian 3.0 模型,確保 AI 應用安全可靠。
  • 高效推理模型: Granite 3.0 專家混合模型,實現高效推理和低延遲。

多平台合作 擴大應用範圍

Granite 3.0 模型可透過多個平台獲取,包括 IBM watsonx 平台、HuggingFace、Nvidia NIM 堆棧、Google Vertex AI 等。IBM 更與 AWS、Docker、Qualcomm、Salesforce、SAP 等生態系統合作夥伴合作,將 Granite 模型整合到他們的產品或平台中,為企業提供更多選擇。

Source:IBM、ezone.hk

相關文章

Page 1 of 9