
生成式人工智能(GenAI)正步入大規模商業應用階段,如何高效、安全地將AI整合至現有業務流程,成為企業面臨的關鍵挑戰。成立僅兩年的開源大語言模型(LLM)應用開發平台Dify,正憑藉其高效的整合能力迅速崛起,據悉可將企業AI應用的系統整合週期由平均12周縮短至3至4周,整合效率提升高達70%。
平台整合AWS技術 簡化多模型部署挑戰
Dify亞太區總監黃煒鏘在接受專訪時,Dify的核心價值在於提供一個涵蓋從Agent構建、AI Workflow編排到RAG檢索及模型管理的核心技術棧,有效解決企業在部署多模型應用時面臨的成本、安全和可觀測性等挑戰。透過與AWS等雲端基建的深度整合,Dify能原生支援在Amazon Bedrock上調用Claude等領先大語言模型,並支援Amazon SageMaker微調客製化模型,讓企業能根據實際場景快速選擇並切換合適的模型,大幅加速應用落地進程。
Dify的指數級增長主要由其活躍的開源社群所驅動,而非依賴傳統市場推廣。黃煒鏘分享,曾有日本開發者在社交平台X上表示,使用Dify僅需不到一小時,便能實現一個耗資上億日元的政府AI項目相近的功能,事件引發廣泛關注,足證其平台的易用性與高效率,並成功吸引眾多大型企業的合作。
洞察香港市場務實需求 聚焦三大應用場景
對於亞太區市場,黃煒鏘觀察到明顯差異。他分析,相比內地及日本企業較強的「親身實踐」文化,香港及新加坡的企業則更為務實,在採納新技術前,會優先評估應用場景的清晰度、投資回報(ROI)以及方案是否符合內部嚴格的合規與安全要求。只有在完成詳盡的評估後,才會進入概念驗證(POC)階段。
在這種務實文化的引導下,黃煒鏘總結出目前生成式AI在香港最常見的三大落地場景。首先是客戶服務(CS)升級,利用生成式AI的低成本優勢提升機械人應對能力;其次是光學字元辨識(OCR)革新,藉助多模態大模型,能準確識別發票、月結單等多種不同格式的文件;第三則是文件比對,在法務、營運和物業管理等領域,快速比對合約之間的微調差異,應用潛力巨大。
技術門檻持續降低 企業級AI應用迎來爆發期
展望未來12至18個月,黃煒鏘預期AI應用的技術門檻將因模型推理能力的增強而大幅降低,讓更多非技術背景的業務人員也能構建強大的AI工作流。他觀察到,市場正從過去打造單一、全公司共用的「GPT平台」,轉向更多能深入部門業務流程、解決具體痛點的實際應用。他相信,隨著AI轉型成為企業的必然選擇,像Dify這樣提供底層技術棧的基礎平台,其需求將會迎來爆發性增長。
Dify目前已是全球認可的開源領導者,GitHub Star數量突破11萬,位列全球開源項目前100名,其服務已覆蓋全球150個國家和地區,為超過一百家企業提供服務。
Source:ezone.hk
【延伸閱讀】
