大模型即服務(MaaS):技術現狀與面臨挑戰

七月 17, 2024 by
Filed under: killtest 

架構師技術聯盟
本文來自“模型即服務:MaaS框架與應用研究報告(2024年)”,隨著以大模型為核心的人工智慧技術的深入發展,模型即服務(MaaS,Model as a Service)作為一種新型人工智慧服務模式煥發新生。本章將明確MaaS的概念及主要的服務能力範圍,剖析大模型時代MaaS快速發展的必然性,闡述MaaS在解決大模型規模化落地的重要意義。

1、MaaS起源與概念

MaaS基本形態早已形成。 2012年美國資料科學家DJ·帕蒂爾(DJ Patil)首次提出MaaS概念1,即「將機器學習演算法打包成可重複使用的服務,使企業能夠快速地建構、部署和監控模型,無須開發和維護底層基礎架構”,以此來適應AI模型需求快速成長的情況。

此時MaaS多以AI能力開放平台的形式存在,平台之上承載人臉辨識、光學字元辨識(OCR)等特定場景的AI能力。此類AI能力由若干個模型及規則、資料庫等組合構成,但涵蓋功能及場景有限,應用方式較為單一,主要以工具包(SDK)等方式嵌入至業務系統。傳統AI模型落地成本低且泛化性不足,MaaS所帶來的增益尚不明顯。

大模型背景下MaaS概念是指將AI模型及其相關能力打包成可重複使用的服務,使企業能夠快速且有效率地建置、部署、監控、呼叫模型,無須開發和維護底層基礎能力。與早期MaaS概念相比能力範圍有所拓展,一方面機器學習演算法擴展至包括深度學習、大模型等在內的所有AI模型;另一方面基於模型服務,用戶不僅可直接調用服務進行推理,也可基於服務進行AI應用的構建,擴大模型服務的使用範圍。 MaaS主要提供三個部分:

一是提供包括模型訓練、調優和部署等在內的全端平台型服務,以支援低門檻的模型開發與定制,用戶無需關注AI算力、框架和平台即可生產和部署模型;

二是提供包含大小模型及公私域資料集的豐富資產庫服務,以支援模型和資料集的靈活快速調用,使用者無須生產和部署模型即可調用模型和資料集服務;

第三是提供以AI模型為基礎的應用開發工具服務,以支援快速打造場景化應用,使用者無須建置開發工具即可進行AI應用開發
640
MaaS主要具備三個顯著特性。技術低門檻,有助於將模型普惠更廣泛的用戶群;模型可共享,推動行業資源的有效利用和技術進步;應用易適配,使得模型服務能夠快速融入業務場景。

MaaS圍繞模型生產、模型呼叫、模型應用開發等流程,提供包含平台服務、模型服務、資料集服務、AI應用開發服務在內的全端服務,並對模型等資產進行統一管理,提升規模化生產效率,培育和打造新質生產力,為各產業帶來改變。

MaaS透過提供全流程平台工具降低技術門檻。在模型訓調方面,降低了學習新型訓練或調優演算法的成本;在模型部署及營運管理方面,對於部署上線流程複雜等問題,提供快速部署服務,並匹配全生命週期運作監控工具,降低了模型部署和運維的技術難度。

MaaS透過提供集約化的模型庫和資料集,解決重複造輪子的資源浪費問題。在管理方面,當模型從單點試驗向規模化落地發展時,模型的量變將引起效率的質變,透過模型共享可減少開發資源的浪費,透過模型等數位資產的統一管理有助於提升風險可控性,資源的高效利用和規範管理將成為企業長遠發展的保障;在落地方面,透過直接呼叫模型服務和資料集,減少了資料處理、選擇模型以及模型調優部署的過程,加快了開發進度,快速回應業務需求。

MaaS透過提供模型應用的高效開發能力,適應企業規模化場景需求。在面臨單一模型無法解決複雜業務需求的情況下,提供檢索增強生成(RAG)、大小模型協同、插件編排等多種方式以增強模型能力,並以智能體(AI Agent)等方式向用戶提供更優質的服務。 MaaS讓更多使用者可以生產個人化的模型應用,為AI模型規模化落地提供有效路徑。

二、MaaS發展現狀及挑戰

MaaS作為一種智慧化服務新模式得以快速發展,本章將圍繞產業圖譜及落地方式闡述當前MaaS的產業發展現狀,並分析MaaS落地面臨的挑戰。

(一)MaaS產業發展現狀

MaaS在人工智慧產業鏈中處於中游位置,基於平台服務、模型及資料集服務、應用開發服務的供給能力,形成了初步的產業圖譜,且各類參與者積極發揮自身優勢,形成不同落地模式。

1.MaaS產業圖譜初步形成

MaaS基於算力基礎設施的支持,面向場景提供多種應用,具備從模型生產到模型調取並打造成AI應用的全流程能力。
640 (1)
MaaS產業圖譜中,平台服務構成了MaaS生態系的基座能力。國外如Google的AI Platform、微軟的AzureMachine Learning以及亞馬遜的Amazon SageMaker等平台,提供了從資料處理到模型訓練、驗證、部署及監控的管線服務。
640 (2)
國內如阿里雲PAI平台、騰訊雲太極平台、百度千帆大模型平台和華為的ModelArts平台等,均支援多種機器學習演算法和大模型,並提供低程式碼開發環境與高效的模型訓練及部署能力,能夠適應多樣化的模型客製化需求。

2.MaaS兩種落地方式

MaaS具備公有雲和私有雲兩種落地方式,公有雲模式下模式資源更豐富,但私有雲模式下模式資源的產業領域屬性較專業。

在公有雲方式下,透過豐富的資源吸引更多用戶而提升產品知名度,有助於進一步商業轉換。其模型面向社會大眾提供服務,模型的種類和數量更多,通用性更強,但是對於業務需求較高的特定場景,部分模型難以直接應用。

在私有雲方式下,企業內研發團隊專注於研究符合垂直領域場景需求的模型,旨在透過呼叫模型服務以直接解決業務需求,且模型資產和資料隱私性強,各團隊在模型共享的過程中可降低資產外洩的風險。
640 (3)
(二)MaaS發展面臨的挑戰

隨著MaaS的快速發展,平台、模型等服務能力迅速得以完善,但MaaS在規範性、生態建設等方面仍有不足,模型服務的易用性仍有待提升。

模型服務品質缺乏規範性。目前產業界已發布多個MaaS產品,並彙聚了大量的模型服務,但服務內容和服務品質難以統一和衡量,無法確保用戶獲得滿意的服務。一方面模型服務本身的可用性要求尚未建立統一規範,另一方面服務規模化落地所必須的穩定性、可靠性和安全性等並未形成標準體系。

模型服務易用性不足。由於模型卡的建造尚不完善,導致模型資訊的不透明現象較為普遍。使用者無法獲得清晰、準確的模型訊息,從而難以選擇所需模型。此外,模型的可解釋性也相對較弱,使得使用者難以理解模型的運作機制和輸出結果。因此,加強模型卡片的資訊透明度,增強模型的可解釋性,提升模型服務易用性,是當前面臨的重要挑戰。

MaaS基建成本控制能力需加強。 MaaS的體系建構離不開堅實的基建支撐,涵蓋雲端運算基礎設施如算力資源和資料中心的搭建,以及專業技術人才的培育,這些都需要龐大的資金投入。因此MaaS建設方應考慮有效管理和利用基礎建設資產,降低營運成本提高營運效率,從而降低和控制建造成本。

合規管理體系亟需進一步完善。 MaaS在合規性方面面臨資料規範與權責確認的雙重考驗。就資料合規而言,不僅要關注使用者在使用模型服務時個人資料的隱私安全,也要確保用於模型訓練和最佳化的資料來源合法合規。

Comments


Warning: count(): Parameter must be an array or an object that implements Countable in /var/www/html/wwwroot/itrenzheng.hk/wp-includes/class-wp-comment-query.php on line 399

Tell me what you're thinking...
and oh, if you want a pic to show with your comment, go get a gravatar!





*