隨著 AI 技術的快速發展，MLOps 正經歷一場深刻變革。自動化機器學習（AutoML）和 AI 維運（AIOps）的興起，簡化了模型開發流程，縮短了佈署週期。大語言模型（LLM）和特徵工程的應用則進一步提升了模型效能，並促使 MLOps 管道朝向更智慧化、自動化的方向發展。然而，AI 系統的普及也帶來了新的挑戰，特別是在治理、監控和倫理方面。如何在確保效率的同時，兼顧系統的透明度、公平性和安全性，將是 MLOps 未來發展的核心議題。新興的 AI 系統架構，例如檢索增強生成架構和根據代理的架構，也為 MLOps 帶來了新的可能性和挑戰，需要不斷調整和最佳化現有的流程和工具。
MLOps 的未來
MLOps 的未來將會受到玄貓等技術的驅動，從而引發一場重大變革。這個變革將涉及到與標準、法規和法律的對齊，以及 AutoML、AIOps 和 LLM/FM 等 AI 技術的整合，以增強 MLOps 過程。
治理和監管
隨著 AI 系統的普遍應用，治理和監管機制的需求也在增加。這需要開發者建立健全的治理機制，以確保 AI 系統按照道德、透明和公平的原則運作。
持續監控
未來的 MLOps 將需要對 AI 系統進行持續監控，以確保其按照預期的方式運作。這包括將系統效能直接與高層次的關注點（如人權、公平性、偏見、社會影響和合規性）聯絡起來。
AI 在 MLOps 中的作用
雖然本文的主要焦點不是使用 AI 進行 DevOps 和 MLOps，但是 AI 技術（特別是 LLM 和 FM）的影響已經很明顯，並且正在增長。AI 和 ML 正在被用於增強 MLOps 過程，包括自動化、最佳化和監控。
圖表翻譯：
graph LR
A[自主AI系統] -->|安全性與監控|> B[模擬和數字孿生技術]
B -->|獨立監督AI代理|> C[自主實驗和自我調整]
C -->|多層次安全機制|> D[MLOps]
D -->|治理和監管|> E[持續監控]
E -->|AI在MLOps中的作用|> F[自動化、最佳化和監控]
內容解密：
上述圖表展示了自主 AI 系統的安全性與監控、模擬和數字孿生技術、獨立監督 AI 代理、自主實驗和自我調整、多層次安全機制、MLOps、治理和監管、持續監控以及 AI 在 MLOps 中的作用之間的關係。這些元素共同構成了自主 AI 系統的安全性和可靠性的保障體系。
人工智慧在 MLOps 和 DevOps 中的應用
人工智慧（AI）技術的進步正在革新許多 MLOps 和 DevOps 流程。其中，自動化機器學習（AutoML）和人工智慧營運（AIOps）是兩個重要的技術，它們可以自動化和增強模型開發。AutoML 可以簡化超引數選擇、模型型別選擇和組態選擇，以及評估過程。透過這些技術，開發週期可以變得更加高效，減少佈署有效 AI 模型所需的時間和專業知識。
大語言模型和特徵工程在 MLOps 中的應用
大語言模型（LLMs）和特徵工程（FMs）在 MLOps 和 DevOps 管道中的整合標誌著一個重要的進步。FMs 可以幫助探索設計、編碼、日誌/指標分析和總結實驗結果。傳統的透過聊天介面手動指示 FMs 的方法正在演變。透過這種方法，效率可以大幅提高。這種方法可以佈署數百個 AI 代理來最佳化機器學習管道，從而顯著提高生產力和創新速度。
MLOps 的未來
MLOps 的未來特徵是持續監控和先進 AI 技術的整合。隨著該領域的演進，挑戰將是平衡這些需求，確保 AI 系統不僅有效和高效，而且還要負責任和透明。AI 在 MLOps 中的整合承諾著要轉變技術景觀，但也要重新定義 AI 系統開發和佈署的倫理和監管框架。
AI 系統架構的未來
AI 系統的架構景觀正在快速演變，標誌著複雜性和能力的新時代。這種演變反映了不僅 AI 技術的進步，也反映了利用 AI 進行各種任務的系統的變化需求。這部分探討了新興架構、MLOps 管道架構的轉變以及架構和機器學習交叉點的多面挑戰。
新興 AI 系統架構
最近的進展見證了檢索增強生成架構（RAGs）、根據代理的架構和 AI/代理鏈的出現。這些創新使得多個 AI 系統或代理可以協同工作，啟用更複雜和細膩的互動作用。例如，強大的 FMs 和 LLMs 可以在不同背景下被多次啟用，以推導洞察或行動。這種靈活性延伸到 AI 生成程式碼、指令碼和按需 UI 或 UI 動作，在執行時動態互動工具和傳統系統。這些互動作用有時會繞過預先設計的 API 和互動模式，直接與 UI 或使用者互動。這些發展需要新的架構設計和模式，以適應現代 AI 系統的動態和互動性質。
MLOps 正經歷由 AI 技術驅動的快速演進。深入剖析 MLOps 的發展趨勢，可以發現 AI 的整合、治理與監管機制、以及持續監控是其未來發展的三大關鍵要素。AutoML 和 AIOps 等技術的應用，大幅提升了模型開發和佈署的效率，降低了技術門檻。同時，LLM 和 FM 的整合，更進一步最佳化了 MLOps 流程，預示著 AI 驅動的自動化和最佳化將成為主流。然而，技術的快速發展也帶來了新的挑戰。如何平衡 AI 系統的效能與倫理、透明度和公平性，是 MLOps 未來發展必須審慎思考的問題。此外，建立健全的治理和監管機制，以及實施持續監控，對於確保 AI 系統的可靠性和安全性至關重要。對於重視長期發展的企業而言，建議及早佈局 MLOps，並關注 AI 技術的整合與應用，同時積極參與相關治理和監管標準的制定。隨著 AI 技術的持續發展和應用深化，MLOps 將在推動 AI 產業發展和數位轉型方面扮演越來越重要的角色，而建立一個安全、可靠、透明且符合倫理的 AI 生態系統將成為 MLOps 發展的終極目標。
