大模型即服務(MaaS):技術現狀與面臨挑戰

七月 17, 2024 by · Leave a Comment
Filed under: killtest 

架構師技術聯盟
本文來自“模型即服務:MaaS框架與應用研究報告(2024年)”,隨著以大模型為核心的人工智慧技術的深入發展,模型即服務(MaaS,Model as a Service)作為一種新型人工智慧服務模式煥發新生。本章將明確MaaS的概念及主要的服務能力範圍,剖析大模型時代MaaS快速發展的必然性,闡述MaaS在解決大模型規模化落地的重要意義。

1、MaaS起源與概念

MaaS基本形態早已形成。 2012年美國資料科學家DJ·帕蒂爾(DJ Patil)首次提出MaaS概念1,即「將機器學習演算法打包成可重複使用的服務,使企業能夠快速地建構、部署和監控模型,無須開發和維護底層基礎架構”,以此來適應AI模型需求快速成長的情況。

此時MaaS多以AI能力開放平台的形式存在,平台之上承載人臉辨識、光學字元辨識(OCR)等特定場景的AI能力。此類AI能力由若干個模型及規則、資料庫等組合構成,但涵蓋功能及場景有限,應用方式較為單一,主要以工具包(SDK)等方式嵌入至業務系統。傳統AI模型落地成本低且泛化性不足,MaaS所帶來的增益尚不明顯。

大模型背景下MaaS概念是指將AI模型及其相關能力打包成可重複使用的服務,使企業能夠快速且有效率地建置、部署、監控、呼叫模型,無須開發和維護底層基礎能力。與早期MaaS概念相比能力範圍有所拓展,一方面機器學習演算法擴展至包括深度學習、大模型等在內的所有AI模型;另一方面基於模型服務,用戶不僅可直接調用服務進行推理,也可基於服務進行AI應用的構建,擴大模型服務的使用範圍。 MaaS主要提供三個部分:

一是提供包括模型訓練、調優和部署等在內的全端平台型服務,以支援低門檻的模型開發與定制,用戶無需關注AI算力、框架和平台即可生產和部署模型;

二是提供包含大小模型及公私域資料集的豐富資產庫服務,以支援模型和資料集的靈活快速調用,使用者無須生產和部署模型即可調用模型和資料集服務;

第三是提供以AI模型為基礎的應用開發工具服務,以支援快速打造場景化應用,使用者無須建置開發工具即可進行AI應用開發
640
MaaS主要具備三個顯著特性。技術低門檻,有助於將模型普惠更廣泛的用戶群;模型可共享,推動行業資源的有效利用和技術進步;應用易適配,使得模型服務能夠快速融入業務場景。

MaaS圍繞模型生產、模型呼叫、模型應用開發等流程,提供包含平台服務、模型服務、資料集服務、AI應用開發服務在內的全端服務,並對模型等資產進行統一管理,提升規模化生產效率,培育和打造新質生產力,為各產業帶來改變。

MaaS透過提供全流程平台工具降低技術門檻。在模型訓調方面,降低了學習新型訓練或調優演算法的成本;在模型部署及營運管理方面,對於部署上線流程複雜等問題,提供快速部署服務,並匹配全生命週期運作監控工具,降低了模型部署和運維的技術難度。

MaaS透過提供集約化的模型庫和資料集,解決重複造輪子的資源浪費問題。在管理方面,當模型從單點試驗向規模化落地發展時,模型的量變將引起效率的質變,透過模型共享可減少開發資源的浪費,透過模型等數位資產的統一管理有助於提升風險可控性,資源的高效利用和規範管理將成為企業長遠發展的保障;在落地方面,透過直接呼叫模型服務和資料集,減少了資料處理、選擇模型以及模型調優部署的過程,加快了開發進度,快速回應業務需求。

MaaS透過提供模型應用的高效開發能力,適應企業規模化場景需求。在面臨單一模型無法解決複雜業務需求的情況下,提供檢索增強生成(RAG)、大小模型協同、插件編排等多種方式以增強模型能力,並以智能體(AI Agent)等方式向用戶提供更優質的服務。 MaaS讓更多使用者可以生產個人化的模型應用,為AI模型規模化落地提供有效路徑。

二、MaaS發展現狀及挑戰

MaaS作為一種智慧化服務新模式得以快速發展,本章將圍繞產業圖譜及落地方式闡述當前MaaS的產業發展現狀,並分析MaaS落地面臨的挑戰。

(一)MaaS產業發展現狀

MaaS在人工智慧產業鏈中處於中游位置,基於平台服務、模型及資料集服務、應用開發服務的供給能力,形成了初步的產業圖譜,且各類參與者積極發揮自身優勢,形成不同落地模式。

1.MaaS產業圖譜初步形成

MaaS基於算力基礎設施的支持,面向場景提供多種應用,具備從模型生產到模型調取並打造成AI應用的全流程能力。
640 (1)
MaaS產業圖譜中,平台服務構成了MaaS生態系的基座能力。國外如Google的AI Platform、微軟的AzureMachine Learning以及亞馬遜的Amazon SageMaker等平台,提供了從資料處理到模型訓練、驗證、部署及監控的管線服務。… Continue reading