AI 系統上線後的持續監控和分析至關重要，這涉及基礎設施、系統程式碼和日誌三個層面的資料採集。基礎設施監控關注資源使用率，系統程式碼記錄應用程式特定指標，而日誌則涵蓋模型準確度、資料漂移等模型相關資訊。這些資料匯集到監控系統後，用於生成警示、分析系統瓶頸以及後續的系統最佳化。資料漂移是影響模型準確性的關鍵因素，可透過監控模型效能指標、統計測試、控制圖和專用漂移檢測演算法來識別。維持模型準確性則需考慮動態更新策略，例如線上學習和補丁佈署，並權衡快速更新與完整 QA 流程之間的利弊。此外，混亂工程透過模擬各種故障場景，驗證系統的可靠性和彈性，涵蓋資料、模型和基礎設施層面的測試。最後，資料驅動的分析能有效最佳化系統，但需注意其侷限性，例如難以預測系統的未來狀態。
監控和分析 AI 系統
當一個 AI 系統佈署完成後，它就開始為使用者提供服務。提供服務的過程中，有幾個方面需要關注。其中一個重要方面是監控和分析系統的執行情況。
監控
AI 系統通常由多個服務和連線組成，為了提高效率、排除故障和確保輸入輸出的安全，監控系統的資源使用和活動成為非常重要的任務。這種監控可以透過觀察系統各個部分的執行情況來實作，包括資源使用率、錯誤率等指標。
監控資料來自三個源：基礎設施、系統程式碼和日誌。基礎設施提供虛擬機器和容器的使用率資料，包括 CPU、I/O、網路和記憶體使用情況。系統程式碼應該記錄應用程式特定的指標，例如活躍會話數、建立的新帳戶數等。這些指標可以透過與基礎設施指標相同的工具收集和管理。日誌由 AI 系統生成，然後收集和轉發到日誌資料函式庫/系統進行處理。日誌用於記錄服務特定的資訊，包括模型準確度、資料漂移、倫理問題和更廣泛的社會影響。
日誌和指標的重要性
日誌和指標對於 AI 系統的執行和維護至關重要。如果這些資訊不被記錄，將會丟失寶貴的執行資料和錯誤資訊。將日誌和指標移動到監控系統中的資料函式庫，可以實作三個目的：
- 生成警示：透過設定特定的閾值，可以根據指標生成警示，提醒開發人員注意可能出現的問題。
- 進行分析：收集的資料可以用於分析系統的執行情況，找出瓶頸和最佳化點。
- 最佳化系統：透過分析資料，可以對系統進行最佳化，提高效率和準確度。
系統監控與事件回應
在現代的軟體系統中，監控和事件回應扮演著至關重要的角色。這不僅僅是關於系統的正常運作，也關乎到對於潛在問題的快速回應和解決。讓我們深入探討一下監控、事件回應以及資料漂移（Data Drift）的概念。
監控與警示
監控是指對系統執行狀態的實時觀察和分析。這包括了效能指標、安全性、可用性等多個方面。當系統出現問題時，監控系統會生成警示，以便快速回應和解決問題。這些警示通常是根據預先定義的標準和閾值觸發的，確保系統始終保持在最佳執行狀態。
事件回應
事件回應是指當系統出現問題或異常時，第一時間的回應和處理過程。這通常涉及到快速確定問題的原因、評估影響範圍以及採取適當的措施來解決問題。事件回應的目標是盡快還原系統的正常運作，減少對業務的影響。
資料漂移
資料漂移是指訓練模型所使用的資料與實際環境中資料之間的差異。隨著時間的推移，實際環境中的資料可能會發生變化，而模型如果沒有相應地更新，就可能無法準確地反映真實情況。資料漂移的檢測和處理是非常重要的，因為它直接影響到模型的效能和可靠性。
資料漂移檢測技術
有多種技術可以用來檢測資料漂移，包括：
- 模型效能指標監控：定期追蹤模型的效能指標，如準確率、精確率、召回率等。如果這些指標出現明顯下降，可能表明資料漂移的發生。
- 統計測試：使用統計測試，如 Kolmogorov-Smirnov 測試或 Chi-squared 測試，來比較新資料與訓練資料之間的分佈差異。
- 控制圖：建立控制圖來視覺化模型效能指標隨時間的變化趨勢。當指標超出預設的上下限時，可能指示資料漂移。
- 概念漂移檢測演算法：使用專門設計的演算法，如 Early Drift Detection（EDD）或 Cumulative Sum（CUSUM）技術，來連續監測資料流並在檢測到顯著變化時觸發警示。
監控模型準確性：挑戰與解決方案
在人工智慧模型的開發過程中，監控模型的準確性是一個重要的挑戰。尤其是在預測長期環境影響的模型中，例如預測新建基礎設施專案（如水壩或高速公路）對環境的影響，真實的環境後果可能需要數年甚至數十年才能完全顯現。為瞭解決這個問題，可以使用代理測量指標（proxy measure），即找到一個可以代表真實環境後果的替代指標。
動態模型更新
當模型在生產環境中執行時，會有不同的動態更新方法。其中一種方法是線上學習（online learning），即不斷更新模型的權重以適應新的資料。另一種方法是佈署小規模的更新或補丁到模型中。雖然這些方法可以快速適應新的資料，但也存在著顯著的權衡。
在某些情況下，動態更新可以繞過標準的品質保證（QA）流程，因為模型的引數在不經過完整測試和驗證的情況下被調整。這可能會導致對模型可靠性和穩定性的擔憂，以及在生產環境中出現意外後果的可能性。
相反，一些動態更新方法，例如連續佈署框架，可以確保新的更新在佈署到生產環境之前經過完整的 QA 流程。這樣可以在快速佈署和嚴格的品質控制之間取得平衡。
混亂工程
混亂工程（chaos engineering）是一種實驗方法，旨在透過故意引入故障到分散式系統中，以建立對系統在生產環境中可靠執行的信心。在混亂工程中，實驗（或測試）故意引入一個故障到系統中，並根據系統對故障的反應來判斷測試是否透過。
混亂工程需要對系統有足夠的可觀察性，以便能夠檢測和診斷系統故障。同時，也需要有一個適當的流程來控制測試的影響。
測試可以針對資料、模型或基礎設施。以下列出了幾種類別和例子：
- 資料測試：
- 資料中毒：向模型的訓練或服務管道中注入對抗性或損壞的資料。
- 資料漂移：模擬真實世界資料分佈隨時間的變化，以確保模型保持準確。
- 資料中斷：測試系統如何應對暫時或完全的資料損失。
- 模型測試：
- 模型漂移：監控模型準確性指標隨時間的變化，以檢測逐漸惡化。
- 模型版本不匹配：在生產環境中引入不同版本模型之間的不一致性。
- 特徵消除：從模型輸入中移除關鍵特徵，以評估其強健性和依賴程度。
- 基礎設施測試：
- 資源限制：模擬 CPU、記憶體或網路頻寬有限的情況，以評估系統在資源稀缺下的效率。
- 依賴故障：引入外部服務的受控中斷或錯誤，評估系統在依賴服務故障的情況下的反應。
- 佈署故障：測試回復和還原程式，以確保在佈署問題發生時的正常執行。
分析
在分析 AI 系統生命週期時，目的是了解何時及如何最佳化地修改系統，為下一次的設計與開發活動提供資訊。資料驅動的決策是最佳化系統的優秀工具，但其侷限在於難以預測系統的未來狀態。一般而言，對於了解使用者行為和最佳化現有系統，資料分析非常有用。
AI 系統持續監控與維護循環圖
圖表描述 (Alt Text): 此活動圖展示了AI系統的持續監控與維護循環，從收集日誌與指標開始，到觸發警示、分析資料漂移，再到執行混沌工程與動態模型更新，最終實現系統的持續最佳化。
從技術架構視角來看，監控和分析 AI 系統的執行狀態對於確保系統穩定性、效能表現和商業價值至關重要。深入剖析日誌、指標、警示機制和資料漂移檢測技術，可以發現，構建一個完善的監控體系需要整合多個層面的資料來源，並結合主動的事件回應策略。
多維比較分析顯示，傳統的系統監控方法不足以應對 AI 系統的複雜性。AI 系統的監控不僅需要關注基礎設施層面的資源使用情況，更需要深入到模型層面，監控模型準確性、資料漂移以及潛在的倫理問題。此外，動態模型更新策略的選擇也需要權衡快速適應性與嚴格的品質保證流程之間的平衡。技術限制深析指出，預測長期環境影響的 AI 模型面臨著真實環境後果滯後於模型預測的挑戰。代理測量指標的引入為解決此類別問題提供了可行的思路，但仍需進一步研究和驗證其有效性。
隨著 AI 系統的日益普及和複雜化，混亂工程將扮演越來越重要的角色。透過模擬各種故障場景，可以更有效地識別系統的脆弱點，提升系統的韌性和可靠性。同時，根據資料的分析方法也需要不斷進化，以應對 AI 系統快速迭代和演進的挑戰。
玄貓認為，構建一個全面、多層次且具有前瞻性的監控和分析體系，是確保 AI 系統長期穩定執行並持續創造價值的關鍵。技術團隊應著重於整合不同資料來源、完善警示機制、建立資料漂移檢測和模型更新策略，並積極探索混亂工程等前沿技術，才能充分釋放 AI 系統的潛力。
