隨著人工智慧應用日益普及，系統安全也面臨新的挑戰。傳統的資訊安全框架（CIA 三元組：保密性、完整性、可用性）仍然適用，但 AI 系統的特性也衍生出新的攻擊面和攻擊向量。從模型訓練到佈署，每個環節都可能成為攻擊目標。例如，攻擊者可能竄改輸入資料誤導模型判斷，或是在訓練資料中植入惡意樣本，毒化整個模型。此外，AI 模型本身也可能洩漏訓練資料的隱私資訊，或被濫用於生成有害內容。這些新型態的攻擊手法，需要更進階的安全防禦策略。
資訊安全的基本概念
資訊安全是一個多導向的概念，涵蓋了保密性（Confidentiality）、完整性（Integrity）和可用性（Availability），通常被稱為 CIA 三元組。這些屬性根據身份驗證（Authentication）和授權（Authorization），確保只有授權的使用者才能存取資訊或進行操作。
保密性、完整性和可用性
- 保密性：確保只有授權的使用者才能存取資訊。
- 完整性：確保資訊不被未經授權的修改，且系統能夠防止未經授權的使用者進行修改。
- 可用性：確保授權的使用者可以存取系統並進行操作。
DevSecOps 和安全性
DevSecOps 是一種強調安全性的 DevOps 變體，旨在將安全性融入到開發、佈署和營運的每個階段。它引入了新的考量，例如在佈署管道中進行安全測試、監控已知漏洞和設計安全監控和回應機制。
安全性與可靠性、健壯性和韌性
安全性與可靠性、健壯性和韌性密切相關。可靠性是指系統能夠在預期的條件下正常運作，而健壯性是指系統能夠在意外的情況下仍然保持穩定。韌性則是指系統能夠從故障或攻擊中還原的能力。
量子計算和安全性
隨著量子計算的發展，傳統的加密機制可能會被攻破。因此，設計師應該使用量子安全的演算法和協定，以確保高風險應用中的安全性。
攻擊面和攻擊向量
攻擊面是指系統中所有可能的入口點，攻擊者可以利用這些入口點來獲得未經授權的存取、竊取資料或破壞操作。攻擊向量則是指攻擊者用來實施攻擊的具體方法或途徑。
AI 系統中的安全挑戰
AI 系統的攻擊面比傳統系統更廣泛。修改影像以使其被誤分類別是一種新的攻擊方法，攻擊可能源於對模型或訓練資料的非法修改。傳統的安全措施仍然相關，但 AI 系統中也出現了一些新的挑戰和考量。
攻擊型別
根據 NIST 的分類別，AI 系統中的攻擊型別包括：
- 逃避攻擊（Evasion Attacks）：佈署的模型不受影響，但攻擊者可以操縱輸入資料使模型誤分類別。
- 其他型別的攻擊，例如對模型或訓練資料的毒化攻擊（Poisoning Attacks）。
人工智慧安全挑戰與解決方案
人工智慧（AI）在各個領域中都有著廣泛的應用，但也帶來了新的安全挑戰。這些挑戰包括攻擊、隱私洩露、滲透攻擊等。瞭解這些挑戰對於開發安全的 AI 系統至關重要。
###攻擊型別
人工智慧系統面臨的攻擊型別包括：
- 竄改攻擊：攻擊者透過修改輸入資料使模型產生錯誤的輸出。例如，修改影像中的幾個畫素使模型誤判。
- 毒化攻擊：攻擊者在訓練模型的過程中注入惡意資料，使模型學習到錯誤的模式。
- 隱私攻擊：攻擊者試圖從模型中提取敏感資訊，例如判斷某個記錄是否存在於訓練資料中。
- 濫用攻擊：攻擊者利用生成式 AI 系統建立違法或有害內容，例如仇恨言論或武器製造。
###安全解決方案
為了確保 AI 系統的安全，需要採取多層次的防禦措施。這包括：
- 零信任架構：不對任何使用者或裝置授予預設信任，需要嚴格的身份驗證和授權。
- 最小許可權原則：使用者只獲得執行任務所需的最小許可權，減少攻擊面的大小。
- 持續監控：即使用者已經獲得授權，也需要持續監控其行為以檢測可疑活動。
- 加密通訊：使用加密技術保護通訊資料，防止攔截和竊聽。
###過程方法
實施安全的 AI 系統需要一個嚴格的過程方法，包括：
- 威脅建模和風險評估：識別潛在的安全漏洞和風險，評估其可能造成的影響。
- AI 輔助安全分析：利用 AI 技術本身來分析和跟蹤系統的安全性，快速回應新的安全威脅。
- 綜合性系統跟蹤：監控整個系統的執行狀態，實作全方位的安全保障。
###結論
人工智慧安全是當前一個非常重要的課題。瞭解不同的攻擊型別和採取有效的安全措施是開發安全可靠的 AI 系統的基礎。透過實施零信任架構、最小許可權原則、持續監控和加密通訊等措施，可以有效地保護 AI 系統免受各種攻擊。同時，威脅建模、風險評估和 AI 輔助安全分析等過程方法可以幫助組織更好地應對 AI 安全挑戰。
從技術架構視角來看，構建安全的 AI 系統不單是應用個別防禦措施，更需整合多層次的安全策略。本文探討的零信任架構、最小許可權原則及持續監控等，雖能有效降低風險，但 AI 系統複雜的特性使其難以完全避免新型態的攻擊，例如對抗性攻擊與模型竊取。目前，針對模型可解釋性與魯棒性的研究正積極發展，試圖提升 AI 系統的內在安全性。預計未來幾年，AI 安全將更著重於主動防禦和自動化威脅檢測技術，結合 AI 輔助安全分析與更完善的系統追蹤機制，才能有效應對日益複雜的攻擊手段。對於企業而言，除了強化技術防禦，建立安全文化、提升人員安全意識也將是 AI 安全不可或缺的一環。
