隨著機器學習模型日益複雜，MLOps 管道也從單一流程演變為多管道互動系統，涵蓋模型開發、訓練、更新、推理和版本控制等環節。模型登入檔、監控系統和向量資料函式庫的應用，更提升了系統複雜度，也驅使我們重新思考架構設計和模式，以應對 AI 和機器學習工作流程的新挑戰。此外，資料中心架構、系統演化適應性、可觀察性、信任建立以及 AI 驅動的最佳化設計，都是 AI 與架構整合的關鍵挑戰。這些挑戰也促使我們思考如何有效管理資料、維護系統穩定性、提升系統透明度，並利用 AI 提升系統效能和使用者經驗。
MLOps 管道架構的變化
MLOps 管道的架構也正在經歷重大變化。從探索性模型開發和訓練到模型更新、推理和版本控制，多個互動管道的出現標誌著向更複雜系統的轉變。這種複雜性進一步被模型登入檔、模型監控/效能資料儲存等因素放大。此外，實時向量和列資料函式庫對於快速特徵生成和 ML 服務越來越重要。這些變化正在推動對最佳化架構和設計模式的需求，以解決 AI 和機器學習工作流程的挑戰和需求。
人工智慧與架構的交叉點挑戰
近年來，人工智慧（AI）和架構之間的關係引發了廣泛的討論，包括業界實踐者和學者的 Dagstuhl 研討會。這些挑戰包括：
- 資料中心架構：認識到資料在 AI 和非 AI 系統中的重要性，以及在 MLOps 和 DevOps 框架中的作用。這種資料中心方法強調了需要能夠有效管理和利用資料的架構。
- 演化和適應性：AI 系統具有自治和演化的能力。MLOps 管道不僅需要啟用這種適應性，而且需要以維護信任和確保與預期結果一致的方式來利用它。
- 可觀察性和不確定性：AI 系統的複雜和常常難以理解的性質，加上內在的不確定性，提出了一個重大挑戰。架構需要促進可觀察性，並在整個系統和其管道中管理不確定性，以確保可靠和可預測的操作。
- 信任和可信度：建立和維護 AI 系統的信任需要將客觀評估的系統品質與主觀使用者和利益相關者的信任聯絡起來。這涉及開發新的評估技術，以考慮 AI 的機率和非確定性質，為可信度提供基礎。
- AI 驅動的最佳化和設計：AI 正在佈署和執行時最佳化以及設計介面方面發揮著越來越重要的作用。系統執行和使用者互動的一些方面正在被自動最佳化，利用 AI 改善效率、效能和使用者經驗。
AIWare 或 AI 作為軟體
在前一節中，我們討論了 AI 特徵對 AI 工程、MLOps 和架構未來的影響，包括使用 AI 解決這些領域的一些挑戰。AI 確實可以遵循人類指令並幫助生成需求、設計、程式碼、測試套件和基礎設施程式碼。這引發了爭論，即 AI 最終是否可以撰寫所有程式碼，取代人類開發人員和 DevOps/ML 工程師。
一些歷史上的類別比包括高階程式語言的崛起，它們使得組合語言程式設計成為一種小眾專業，以及第四代查詢語言的出現，它們減少了對資料函式庫專家的需求。在這些情況下，軟體開發人員的角色演變了，但對某種形式的程式碼和軟體開發專家的需求仍然存在。事實上，全球開發人員的數量一直穩步增加。隨著 AI 生成軟體的崛起，可能會出現類別似的現象。
然而，如果我們不再需要大量傳統軟體程式碼，即使是由玄貓撰寫的，那麼我們就會面臨 AI 作為軟體（AIWare）的可能未來。在這種情況下，AI 不再只是軟體系統中的一個小部分，而是整個系統的核心。
AI 作為軟體
歷史上，AI 元件被描繪成軟體系統中的一個小部分，旨在根據從資料中學習的模型執行特定任務。早期模型，如決策樹，為某些 AI 元件提供了人類可以理解的邏輯和決策路徑。最近，狹窄的 ML 模型，如那些用於面部識別、欺詐檢測和內容分析，被僱用，儘管它們更難被完全理解。這些模型在一個更大的系統中發揮著部分作用，其中它們透過傳統程式碼與業務邏輯和非 AI 部分整合。
然而，隨著具有數十億引數的更通用模型的出現，業務邏輯不再是模型外部，而是嵌入在其引數和權重中。許多業務功能和邏輯以前由玄貓處理，現在以不可理解的權重形式體現。這種向端對端 AI 的轉變，即所有功能都封裝在一個單一的黑盒子中作為引數/權重，而不是由玄貓明確連結在一起的狹窄 AI 元件，代表了一個新的方向。
一個問題是如何在 AIWare 中持久化資料。這可能是透過長期記憶或結構化資料函式庫來完成的。後者可能是一個中間步驟，從人類資料函式庫工程師設計模式、一致性約束並決定存取許可權開始。如果開發按照這個方向進行，這樣的技術選擇可能對使用者不透明，並最終由玄貓自動化。
當軟體曾經「吞噬」了世界，在這個未來，AI 正在「吞噬」軟體。
案例研究：特斯拉和 Gemini-Reasoning
特斯拉最近釋出的全自主駕駛軟體為我們提供了一個可能的未來景象。自主駕駛軟體傳統上是 AI 和非 AI 元件的混合體，包括小型 AI 模組，用於車道/物體/空間檢測、物體跟蹤和一些 AI 計劃，以及許多非 AI 元件。這些可能包括編碼交通規則和控制及安全元件，都由玄貓精心撰寫和測試，並連線起來。
然而，特斯拉引入了一個單一的大型神經網路模型作為其系統的核心。該模型是在數百萬小時高評級 Uber 司機錄製的影片上訓練的，並將所有邏輯——包括障礙檢測、交通規則、計劃和控制——嵌入其中的數十億引數中。沒有明確程式設計交通規則或單獨子元件；因此，AI 幾乎構成了整個軟體，消除了根據特定要求和指令生成傳統程式碼的需要。
另一方面，與某些軟體方面（如 UI）始終需要由玄貓設計的論點相反，Gemini-Reasoning 等專案展示了 AI 如何推動最佳化和設計，以提高效率、效能和使用者經驗。這種趨勢反映了系統開發、佈署和維護方式的一個更廣泛轉變，AI 在現代系統的架構和營運中發揮著核心作用。
人工智慧工程的未來：從開發到佈署
人工智慧（AI）工程是一個快速發展的領域，正在改變軟體開發和佈署的方式。隨著 AI 技術的進步，開發人員和工程師需要適應新的挑戰和機會。在本文中，我們將探討 AI 工程的未來，包括 AI 生成軟體、AI 作為軟體的角色，以及人類工程師在這個過程中的作用。
AI 生成軟體
AI 生成軟體是使用 AI 演算法和模型來生成軟體程式碼的過程。這種方法可以節省時間和成本，並提高軟體的品質和可靠性。然而，它也引發了關於可信度和安全性的問題。為了確保 AI 生成軟體的可靠性和安全性，需要開發新的測試和驗證方法。
AI 作為軟體
AI 作為軟體是一種新的軟體開發方法，使用 AI 演算法和模型來生成軟體程式碼。這種方法可以使軟體更加智慧和自適應，並提高使用者經驗。然而，它也需要新的架構和設計方法，以確保 AI 系統的可靠性和安全性。
人類工程師的角色
在 AI 工程中，人類工程師仍然扮演著重要的角色。雖然 AI 可以生成軟體程式碼，但人類工程師需要設計和架構 AI 系統，以確保它們的可靠性和安全性。此外，人類工程師需要負責測試和驗證 AI 生成的軟體，以確保它們符合要求和標準。
未來的挑戰和機會
AI 工程的未來充滿挑戰和機會。其中一個主要挑戰是確保 AI 系統的可靠性和安全性。為瞭解決這個問題，需要開發新的測試和驗證方法，並提高 AI 演算法和模型的透明度和可解釋性。
另一個挑戰是確保 AI 系統的倫理性和社會責任。為瞭解決這個問題，需要開發新的倫理標準和，並提高 AI 系統的透明度和可解釋性。
AI 工程流程與未來方向
AI 工程流程活動圖
圖表描述 (Alt Text): 此活動圖展示了AI工程的演進流程，從AI生成軟體，到AI作為軟體本身，再到人類工程師角色的轉變，以及對測試、驗證、倫理標準和可解釋性的日益重視。
AI 正迅速重塑軟體開發的格局，MLOps 管線架構的變革與 AI 工程的興起便是最佳佐證。特斯拉以單一大型神經網路取代傳統模組化設計的案例，以及 Gemini-Reasoning 等專案展現的 AI 驅動最佳化能力，都預示著「AI 作為軟體 (AIWare)」時代的來臨。分析 AIWare 的發展現況，我們發現，資料的持久化方式、業務邏輯的內嵌化、以及人機協作模式的轉變是當前亟需解決的關鍵挑戰。雖然 AI 生成程式碼的效率令人驚豔，但可解釋性、可信度、以及安全性仍是不可忽視的議題。
傳統由玄貓等工程師負責的程式碼撰寫、測試、以及整合工作，正逐步被 AI 取代。然而，這並非意味著人類工程師將被淘汰。相反地，我們需要轉變角色，專注於更高階的系統設計、架構規劃、以及倫理規範的制定。此外，開發更有效的測試與驗證方法，提升 AI 演算法的透明度和可解釋性，也是確保 AI 系統可靠性和安全性的重要方向。
AI 與軟體的界線將日益模糊。隨著 AI 技術的持續發展，預期將出現更多類別似特斯拉的全自主駕駛軟體案例，徹底顛覆傳統軟體開發流程。屆時，AI 不僅是軟體的組成部分，更是軟體本身。玄貓認為，及早佈局 AI 工程，積極探索人機協作的新模式，才是駕馭這波技術浪潮的關鍵。對於臺灣的軟體產業而言，更需緊跟國際趨勢，才能在未來的競爭中保持優勢。
