大模型即服務（MaaS）：技術現狀與面臨挑戰
架構師技術聯盟
本文來自“模型即服務：MaaS框架與應用研究報告（2024年）”，隨著以大模型為核心的人工智慧技術的深入發展，模型即服務(MaaS，Model as a Service)作為一種新型人工智慧服務模式煥發新生。本章將明確MaaS的概念及主要的服務能力範圍，剖析大模型時代MaaS快速發展的必然性，闡述MaaS在解決大模型規模化落地的重要意義。
1、MaaS起源與概念
MaaS基本形態早已形成。 2012年美國資料科學家DJ·帕蒂爾(DJ Patil)首次提出MaaS概念1,即「將機器學習演算法打包成可重複使用的服務，使企業能夠快速地建構、部署和監控模型，無須開發和維護底層基礎架構”,以此來適應AI模型需求快速成長的情況。
此時MaaS多以AI能力開放平台的形式存在，平台之上承載人臉辨識、光學字元辨識(OCR)等特定場景的AI能力。此類AI能力由若干個模型及規則、資料庫等組合構成，但涵蓋功能及場景有限，應用方式較為單一，主要以工具包(SDK)等方式嵌入至業務系統。傳統AI模型落地成本低且泛化性不足，MaaS所帶來的增益尚不明顯。
大模型背景下MaaS概念是指將AI模型及其相關能力打包成可重複使用的服務，使企業能夠快速且有效率地建置、部署、監控、呼叫模型，無須開發和維護底層基礎能力。與早期MaaS概念相比能力範圍有所拓展，一方面機器學習演算法擴展至包括深度學習、大模型等在內的所有AI模型；另一方面基於模型服務，用戶不僅可直接調用服務進行推理，也可基於服務進行AI應用的構建，擴大模型服務的使用範圍。 MaaS主要提供三個部分：
一是提供包括模型訓練、調優和部署等在內的全端平台型服務，以支援低門檻的模型開發與定制，用戶無需關注AI算力、框架和平台即可生產和部署模型；
二是提供包含大小模型及公私域資料集的豐富資產庫服務，以支援模型和資料集的靈活快速調用，使用者無須生產和部署模型即可調用模型和資料集服務；
第三是提供以AI模型為基礎的應用開發工具服務，以支援快速打造場景化應用，使用者無須建置開發工具即可進行AI應用開發。
MaaS主要具備三個顯著特性。技術低門檻，有助於將模型普惠更廣泛的用戶群；模型可共享，推動行業資源的有效利用和技術進步；應用易適配，使得模型服務能夠快速融入業務場景。
MaaS圍繞模型生產、模型呼叫、模型應用開發等流程，提供包含平台服務、模型服務、資料集服務、AI應用開發服務在內的全端服務，並對模型等資產進行統一管理，提升規模化生產效率，培育和打造新質生產力，為各產業帶來改變。
MaaS透過提供全流程平台工具降低技術門檻。在模型訓調方面，降低了學習新型訓練或調優演算法的成本；在模型部署及營運管理方面，對於部署上線流程複雜等問題，提供快速部署服務，並匹配全生命週期運作監控工具，降低了模型部署和運維的技術難度。
MaaS透過提供集約化的模型庫和資料集，解決重複造輪子的資源浪費問題。在管理方面，當模型從單點試驗向規模化落地發展時，模型的量變將引起效率的質變，透過模型共享可減少開發資源的浪費，透過模型等數位資產的統一管理有助於提升風險可控性，資源的高效利用和規範管理將成為企業長遠發展的保障；在落地方面，透過直接呼叫模型服務和資料集，減少了資料處理、選擇模型以及模型調優部署的過程，加快了開發進度，快速回應業務需求。
MaaS透過提供模型應用的高效開發能力，適應企業規模化場景需求。在面臨單一模型無法解決複雜業務需求的情況下，提供檢索增強生成(RAG)、大小模型協同、插件編排等多種方式以增強模型能力，並以智能體(AI Agent)等方式向用戶提供更優質的服務。 MaaS讓更多使用者可以生產個人化的模型應用，為AI模型規模化落地提供有效路徑。
二、MaaS發展現狀及挑戰
MaaS作為一種智慧化服務新模式得以快速發展，本章將圍繞產業圖譜及落地方式闡述當前MaaS的產業發展現狀，並分析MaaS落地面臨的挑戰。
(一)MaaS產業發展現狀
MaaS在人工智慧產業鏈中處於中游位置，基於平台服務、模型及資料集服務、應用開發服務的供給能力，形成了初步的產業圖譜，且各類參與者積極發揮自身優勢，形成不同落地模式。
1.MaaS產業圖譜初步形成
MaaS基於算力基礎設施的支持，面向場景提供多種應用，具備從模型生產到模型調取並打造成AI應用的全流程能力。
MaaS產業圖譜中，平台服務構成了MaaS生態系的基座能力。國外如Google的AI Platform、微軟的AzureMachine Learning以及亞馬遜的Amazon SageMaker等平台，提供了從資料處理到模型訓練、驗證、部署及監控的管線服務。… Continue reading
思科公司（Cisco Systems, Inc.)
思科公司（Cisco Systems, Inc.）是一家全球領先的網路技術公司，總部位於美國加利福尼亞州聖荷西。以下是思科公司的成長歷史概述：
1. 創立與早期發展 (1984-1990)
初期發展情況 (1984-1990)
創立與背景
1984年：Leonard Bosack和Sandy Lerner在加利福尼亞州創立了思科公司。當時他們在史丹福大學工作，致力於研究如何通過路由技術連接不同的計算機網絡。
1986年：思科推出了首款產品AGS路由器。這款路由器採用了多協議路由技術，可以連接不同類型的網絡（如以太網、令牌環和X.25）。
1988年：思科聘請了John Morgridge擔任CEO，並進行了公司結構重組和市場擴展。
1990年：思科在納斯達克上市，籌集了大量資本，這為其未來的擴展奠定了基礎。
產品與技術創新
AGS路由器：這是思科的第一款路由器，能夠支持多種網絡協議。
EIGRP：思科開發了一種名為增強內部網絡網關路由協議（EIGRP）的專有路由協議，這提高了路由效率和網絡性能。
1984年：由史丹福大學的兩名計算機科學家Leonard Bosack和Sandy Lerner創立。初期目標是開發路由器技術，這種技術能夠讓不同計算機網絡之間實現互聯互通。
1986年：推出首款產品AGS路由器，該產品成為許多大學和研究機構的首選。
1990年：在納斯達克上市，股票代碼CSCO。
2. 快速擴張 (1991-2000)
1993年：收購了Crescendo Communications，進入以太網交換市場。
1994年：推出Catalyst系列交換機，成為市場領導者。
1996年：收購StrataCom，進一步擴展其網絡技術。
1999年：思科市值突破1000億美元，成為全球最有價值的公司之一。
3. 網絡泡沫及重組 (2001-2005)
2001年：在互聯網泡沫破裂中，思科的市值和業績受到了影響，但仍然保持了領先地位。
2003年：推出新的技術如VoIP和網絡安全解決方案。
4. 多元化發展 (2006-2015)
2006年：收購Scientific Atlanta，進軍視頻和家庭網絡市場。
2009年：推出Unified Computing System (UCS)，進入伺服器市場。
2010年：收購Tandberg，進一步擴展視頻會議市場。
2015年：任命Chuck Robbins為CEO，開始新的戰略轉型。
5. 現代化與數位轉型 (2016-至今)
2016年：開始大力投資於軟體和服務，推動軟體定義網絡（SDN）和雲計算。
2017年：推出Cisco DNA，提供全方位的網絡自動化解決方案。
2020年：新冠疫情期間，思科的網絡和安全產品需求激增。
2023年：持續推動網絡安全、5G和物聯網（IoT）技術的創新。
目前市場佔有率
思科公司在全球網絡設備市場中占據重要地位，具體市場佔有率數據如下：
路由器市場
全球市場佔有率：思科在企業和服務提供商路由器市場中占有約50%以上的份額。
主要競爭對手：華為、Juniper Networks、Arista Networks等。
交換機市場
全球市場佔有率：思科在以太網交換機市場中占有約40%的市場份額。
主要競爭對手：華為、HPE（Hewlett… Continue reading
避免網路故障：Cisco ACI 中的 STP 最佳實踐
原创 网工笔记本
思科 ACI 是一個大型路由域，不支援傳統 STP 生成樹協議，但可以識別 STP BPDU 封包並對 STP TCN 拓撲變化做出回應。
處理機制
ACI 從外部交換器接收到 TCN BPDU，將會在對應介面所屬 EPG flood BPDU。 flood 範圍控制在 EPG，或者說，EPG 相關的 FD VLAN，具體是透過 FD VLAN/VXLAN 關聯的 fabric_encap VNI 來實現。
STP 可能造成的問題
upon receiving STP TCN, EPM will flush all EPs behind the VLAN，這個行為會導致接收到 STP TCN 的 EPG，所有 EP 被 flush，重新學習，流量中斷。
如果不同 EPG，使用 overlapping vlan id，且 vlan id 來源是相同 vlan pool，就會計算相同… Continue reading
JNCIS-DC 認證一些题的解析
JNCIS-DC（Juniper Networks 認證網絡專業人員數據中心）是 Juniper Networks 提供的中級水平的數據中心技術認證。這個認證專為那些具有一定經驗的數據中心網絡專業人士設計，他們對 Juniper Networks 的 Apstra 軟件和數據中心設備有中等程度的了解。
You use Juniper Apstra to enable a new VXLAN virtual network.
Which two components would be automatically derived in this situation?(Choose two.)
A.IP subnet
B.VLAN-ID
C.VXLAN VNI
D.Route Zone
在使用 Juniper Apstra 啟用新的 VXLAN 虛擬網路時，自動衍生的兩個元件通常是：
A. IP 子網路（IP subnet）
C. VXLAN VNI（VXLAN 網路識別碼）
因此，正確答案是 A 和 C。這兩個元件是 VXLAN 虛擬網路配置的基本要素，其中 IP 子網路用於定義網路的位址空間，而 VXLAN VNI 用於在 VXLAN 網路中區分不同的租用戶或網路區段。… Continue reading
Fortinet NSE 7 – SD-WAN 7.2考試说明
本次考試是以下認證軌道的一部分：
Fortinet認證解決方案專家 – 網絡安全：該認證驗證您設計、管理、監控和排除Fortinet網絡安全解決方案的故障的能力。
Fortinet認證解決方案專家 – 安全訪問服務邊緣(SASE)：FCSS – SASE認證驗證您設計、管理、監控和排除Fortinet SASE解決方案的故障的能力。 請訪問網絡安全認證頁面，了解有關認證要求的資訊。
考試概述
Fortinet NSE 7 – SD-WAN 7.2考試評估您對Fortinet SD-WAN解決方案的知識和專業能力。
考試測試了集成、管理、故障排除和集中管理由FortiOS 7.2.4、FortiManager 7.2.2和FortiAnalyzer 7.2.2組成的安全SD-WAN解決方案的應用知識。
通過考試後，您將獲得以下考試徽章：
考試對象
Fortinet NSE 7 – SD-WAN 7.2考試旨在為負責設計、管理和支持由多個FortiGate設備組成的安全SD-WAN基礎設施的網絡和安全專業人員。
考試詳細信息
考試名稱：Fortinet NSE 7 – SD-WAN 7.2
考試系列：NSE7_SDW-7.2
允許時間：75分鐘
考試問題：40個多選題
成績：通過或失敗。您可以從Pearson VUE帳戶中獲取成績報告
語言：英語和日本語
產品版本：FortiOS 7.2.4、FortiManager 7.2.2、FortiAnalyzer 7.2.2
考試主題
成功應試者在以下領域和任務中具有應用知識和技能：
SD-WAN配置
配置基本SD-WAN DIA設置
配置SD-WAN成員和區域
配置性能SLA
規則和路由
配置SD-WAN規則
配置SD-WAN路由
集中管理
從FortiManager配置和部署SD-WAN
配置和使用IPsec推薦模板
配置和使用SD-WAN Overlay模板
SD-WAN Overlay設計和最佳實踐… Continue reading
CCNP 安全認證和培訓
取得 CCNP 安全認證證明您具備安全解決方案的技能。要獲得 CCNP 安全認證，您需要通過兩門考試：一門涵蓋核心安全技術，另一門是您選擇的專業考試，因此您可以根據自己關注的技術領域自訂認證。考生必須通過所需的考試才能獲得認證。擁有有效的專家認證並不能滿足專業級和專家級認證的考試要求。
考試
350-701 SCOR：實施與操作思科安全核心技術
實施和操作思科安全核心技術 v1.1 (SCOR 350-701) 是與 CCNP 和 CCIE 安全認證相關的 120 分鐘考試。此考試測試考生實施和操作核心安全技術（包括網路安全、雲端安全、內容安全、端點保護和偵測、安全網路存取、可視性和強制執行）的知識。實施和操作思科安全核心技術課程可幫助考生準備此考試。
350-701 SCOR v1.1 考試主題
考試描述
要獲得 CCNP Security 或 CCIE Security 認證，您必須通過350-701 SCOR考試。這項 120 分鐘的考試測驗您對以下方面的了解：
1.0安全概念
1.1 解釋針對本地、混合和雲端環境的常見威脅
1.1.a 本地：病毒、木馬、DoS/DDoS 攻擊、網路釣魚、rootkit、中間人攻擊、SQL 注入、跨站點腳本、惡意軟體
1.1.b 雲端：資料外洩、不安全的 API、DoS/DDoS、憑證洩露
1.2 比較常見的安全漏洞，如軟體錯誤、弱密碼和/或硬編碼密碼、OWASP 前十名、缺少加密密碼、緩衝區溢位、路徑遍歷、跨站點腳本/偽造
1.3 描述加密元件的功能，例如雜湊、加密、PKI、SSL、IPsec、用於 IPsec 的 NAT-T IPv4、預先共用金鑰和基於憑證的授權
1.4 比較網站對站台和遠端存取 VPN 部署類型和元件，例如虛擬隧道介面、基於標準的 IPsec、DMVPN、FlexVPN 和 Cisco 安全用戶端，包括高可用性考量
1.5 描述安全情報創作、分享與消費
1.6 描述用於防範網路釣魚和社會工程攻擊的控制措施
1.7 解釋SDN架構中的北向和南向API
1.8… Continue reading
未來十年最受歡迎的程式語言
加布 21CTO
學習程式設計最困難的地方是，如果你是軟體開發領域的新手，那麼最難的是弄清楚哪種是最好的程式語言。有許多程式語言，每種都有獨特的特點和複雜性。
好消息是，當您的軟體開發專案啟動時，您將開始了解哪種程式語言最適合您的需求、興趣和職業目標。
未來前 10 種程式語言將涵蓋各種典型用例，如 Web 開發、行動應用開發、遊戲開發等。
學習的最佳程式語言：2025 年及以後
有超過 700 種優秀的程式語言，你可能會想要學習哪一種最好。你的技能水平、職業抱負和雇主使用的語言將決定你的選擇。
2025 年將從這 10 種未來的程式語言開始～
JavaScript
JavaScript 是一種流行的網頁腳本語言，支援物件導向、命令式和宣告式風格。 JavaScript 是 Web 的重要組成部分，與 HTML 和 CSS 無縫配合，創建動態和互動式網站。
大多數知名網站，包括 Facebook、Twitter、Gmail 和 YouTube，都使用 JavaScript 來建立互動式網頁並動態顯示內容。
由於其靈活性，JavaScript 有各種用途。它可以與 Node.js 一起在伺服器端使用，建立可擴展的網頁應用程序，儘管它是一種瀏覽器介面語言。
JavaScript 是未來程式設計中最容易的語言之一，適合初學者，因為它具有靈活的語法並與所有主要瀏覽器相容。
Kotlin… Continue reading
AWS Certified Solutions Architect – Associate (SAA-C03)認證
AWS Certified Solutions Architect – Associate (SAA-C03) 是亞馬遜網路服務（AWS）提供的專業認證，專為希望展示其在AWS雲端平台上設計系統架構能力的專業人士設計。以下是關於SAA-C03認證的詳細資訊：
### 認證目標：
SAA-C03認證的目標對象為架構師、開發人員、開發維運工程師、資料工程師、系統維運工程師、IT專業人員，以及任何希望建立其AWS雲端架構設計能力的人。
### 考試內容：
考試內容涵蓋了多個領域，主要包括：
– **設計彈性架構**：設計可自動擴充和自動復原的系統。
– **設計安全應用程式和架構**：實施安全最佳實踐，包括資料加密、身分和存取管理。
– **設計成本最佳化的解決方案**：選擇正確的服務和架構設計以最小化成本。
– **設計高可用性和容錯架構**：確保系統設計可以應對元件故障。
– **設計災難復原策略**：實施策略以快速復原應用程式和服務。
– **定義效能最佳化解決方案**：選擇正確的服務和配置以最佳化應用程式效能。
考試準備：
官方學習指南：閱讀AWS提供的官方學習指南和考試藍圖。
培訓課程：參加AWS官方培訓或第三方提供的培訓課程。
實務經驗：在AWS環境中實際操作，使用AWS服務建構和設計架構。
模擬考試：參加模擬考試，熟悉考試格式和題型。
AWS白皮書和文件：閱讀AWS提供的白皮書、最佳實務和文件。
考試費用：
考試費用可能會變動，建議在AWS認證官方網站上查詢最新的考試費用。
考試內容：
考試通常包括多項選擇題和情境模擬題，涵蓋設計高可用性、安全性、成本優化和效能優化的解決方案。
通過率：
AWS不公開發布具體的考試通過率。然而，通過率很大程度取決於考生的準備程度。以下是提高通過率的一些建議：
充分準備：確保您對考試內容有深入的理解和實踐。
使用多種學習資源：結合官方指南、線上課程、模擬考試和實際操作。
參與社區：加入AWS相關論壇和社區，與其他考生交流經驗。
複習和練習：定期複習學習內容，做練習題和模擬考。
考試技巧：
時間管理：合理分配考試時間，確保有足夠的時間回答所有問題。
仔細閱讀：仔細閱讀每個問題和選項，確保理解題目要求。
標記與複查：對於不確定的問題，可以先標記，之後再複查。
考試重試：
如果您沒有通過考試，可以考慮重試。 AWS通常會提供重考選項，但可能需要等待一段時間，並支付額外費用。
### 考試要求：
– **經驗**：建議具備至少一年的AWS雲經驗。
– **知識**：需要對AWS的廣泛服務有深入理解，包括運算、儲存、資料庫、網路、開發、管理工具等。
– **考試**：考試通常包括多項選擇題和情境模擬題。
### 考試準備：
– **官方學習指南**：AWS提供了官方的學習指南和考試藍圖。
– **訓練課程**：AWS官方訓練或第三方訓練課程，如A… Continue reading
你必須嘗試的 10 個 GPT-4o 提示
原创 AI解码师 思途文成
1. 提升寫作效果
ChatGPT 最初的用途之一是撰寫文章或腳本，但要發揮其最大作用，僅靠簡單的提示是不夠的。最好能告訴 GPT 文章的主題、受眾和結構更有幫助。
這樣，它就能為特定受眾撰寫全面、豐富的內容。你可以試試下面的提示，你可以根據需要填寫主題、受眾類型和關鍵要點。
提示：
你是內容產生專家 GPT。你的任務是根據給定的主題，為特定受眾撰寫一篇內容全面、資訊豐富的文章。
撰寫一篇[主題]的詳細文章，旨在吸引[受眾]並為他們提供資訊。你的文章應涵蓋[關鍵點]的基本面，提供深度和清晰度，幫助讀者理解和領會該主題。
文章結構應該是這樣的：
1. 開頭：
簡要介紹[主題]。
解釋為什麼這對[受眾]很重要。
2. 正文：
討論每個[重點]，提供詳細見解和實際例子。
包括相關數據、統計資料或案例研究，以證實所提出的觀點。
3. 結論
總結主要觀點。
提供建議，鼓勵[受眾]進一步了解[主題]或採取行動。
以下是你必須牢記的一些寫作指南：
使用正式但平易近人的語氣來引起 [受眾] 產生共鳴。
確保所有資訊都經過事實查核並且可信。
結合與[主題]相關的關鍵字，以提高搜尋引擎優化。
2. 銷售技巧
銷售是最難的工作之一，尤其是在時間有限的情況下，要做出最好的銷售推銷非常困難。那麼，為什麼不藉助人工智慧的幫助呢？
以下提示，可以讓你得到一個基本的銷售推銷模板，然後你可以根據需要進行編輯。這樣你就不必從頭開始了。 GPT-4o在這方面的能力相當驚人。
提示：
依照這個背景：
你是一名有說服力的銷售宣傳 GPT，擅長為產品或服務創造有說服力的銷售內容。
你的目標是：為[產品/服務]撰寫一份有說服力的銷售宣傳，突出其[獨特賣點]，直接吸引[目標受眾]。… Continue reading
IBM 認證管理員 – 安全性 QRadar SIEM V7.5
認證概述
此中級認證適用於希望驗證其對 C1000-156 IBM Security QRadar SIEM V7.5 管理的全面了解的專業人士。
這些管理員將具備 IBM Security QRadar SIEM V7.5 本機部署的配置、效能最佳化、調優、故障排除和系統管理的知識和經驗。這包括與 QRadar 一起安裝的應用程式：使用案例管理器、QRadar Assistant、日誌來源管理器和 Pulse，以及對以下方面的基本了解：使用者行為分析、QRadar 部署智慧、參考資料管理。這不包括 SaaS 產品 QRadar on Cloud (QRoC)。
推薦技能
關鍵能力領域
QRadar 故障排除
搜尋和報告
規則和建構模組
了解參考資料
基本 QRadar 調整與網路層次結構
QRadar 部署和元件架構
了解 QRadar 事件和流管道
QRadar 使用者管理和資料存取控制
多域基本概念
QRadar 實例
預備知識（考試不衡量）
基本安全技術、SIEM 概念、TCP/IP 網路、IT 安全概念和 IT 技能
攻擊和日誌分析
企業日誌記錄
使用流量進行網路監控
QRadar 網路洞察、QRadar 事件取證
要求
此認證需要一門考試。… Continue reading