隨著人工智慧應用日益普及，倫理和價值觀的考量變得至關重要。如何在技術發展的同時，確保 AI 系統的公平性、隱私性和安全性，是當前技術社群關注的焦點。本文除了探討倫理 AI、負責 AI 和可信 AI 等核心概念外，也深入剖析隱私和公平性在 AI 系統中的挑戰，並提供組織和技術層面的隱私權實踐。從資料準備階段到系統架構設計，文章提供 LOCKED 許可權的實踐方法，並探討如何將其應用於基礎模型的隱私保護。
人工智慧中的倫理與價值觀
人工智慧（AI）系統的發展和應用已經成為現代科技的一部分，但在設計和使用 AI 系統時，我們必須考慮到倫理和價值觀的問題。這些問題包括公平、正義、隱私和安全等。不同文化、宗教和個人經歷都會影響我們對於這些價值觀的理解和重視。
倫理 AI、負責 AI 和可信 AI
在 AI 領域中，常常提到的三個重要概念是倫理 AI、負責 AI 和可信 AI。
- 倫理 AI 關注的是確保 AI 系統的設計和使用符合人類的價值觀和道德標準。它會問一些問題，如：AI 系統是否存在偏見？是否尊重隱私？誰對其決策負責？
- 責任 AI 則強調在 AI 系統的開發和使用中，需要考慮其對個人、群體和社會的影響，包括其對工作、能源消耗等方面的影響。
- 可信 AI 則著重於評估和確保 AI 系統的客觀品質，包括其可靠性、透明度、公平性、隱私性、安全性和問責制等。
隱私在 AI 系統中的重要性
在 AI 系統中，隱私問題比傳統軟體更為複雜，因為 AI 可以透過資料推斷和揭示敏感資訊。因此，確保隱私不僅僅是關乎資料儲存和存取，也關乎 AI 系統的輸出和決策可能揭示的敏感資訊。
例如，在醫療領域，AI 演算法可能根據多種輸入預測病人的健康結果，即使個別健康記錄被保密，來自不同源的資料仍可能被相關聯以違反隱私規則。因此，確保隱私意味著要解決 AI 演算法如何處理、分析和揭示資料的問題，超越傳統的資料保護措施。
公平性在 AI 系統中的挑戰
公平性是另一個重要的方面，它涉及到 AI 系統中潛在的偏見和歧視。這不僅僅關乎決策的公平性，也關乎決策過程和模型開發過程的公平性，包括資料收集、演算法設計和系統管理等。
例如，在徵才 AI 工具中，公平性可能受到挑戰，因為 AI 系統可能無意中學習到偏好某些人群，這不是由於明確的程式設計選擇，而是因為訓練資料反映了歷史上的徵才偏見。解決這個問題需要從概念上轉變，以瞭解和減輕 AI 系統如何學習和延續社會偏見。
個人資料保護與隱私權實踐
隨著個資保護法規日益完善，企業必須從組織和技術層面全面實踐隱私權保護。
1. 組織層面的隱私權實踐
許多企業設有專門的隱私保護主管（如 CPO、DPO），負責：
- 制定和實施資料隱私政策。
- 監控法規遵循情況。
- 處理資料主體請求（如存取、刪除）。
- 管理資料洩露事件。
- 進行員工隱私保護教育。
2. 技術層面的隱私權實踐
系統架構師需決定在何處實施隱私保護措施，無論是在資料準備階段還是在系統架構中。LOCKED 許可權是一個重要的概念框架：
- 限制（Limit）: 僅為符合法規的目的使用資料。
- 選擇退出（Opt-out）: 允許個人選擇不與業務合作夥伴分享其資料。
- 糾正（Correct）: 糾正錯誤資料，並確保系統使用正確的資料。
- 知情（Know）: 讓個人了解組織收集了哪些關於他們的資料。
AI 系統隱私保護實踐活動圖
圖表描述 (Alt Text): 此活動圖展示了在AI系統中實踐隱私保護的流程，從組織層面的政策制定，到技術層面在資料準備與系統架構階段實施LOCKED許可權，最終達成全面的隱私保護。
個人資料保護與 AI 系統
在設計和實施 AI 系統時，個人資料保護是一個至關重要的議題。LOCKED 原則（Lawful、Open、Consent、Limited、Exact、Delete）為我們提供了一個框架，以確保 AI 系統尊重個人隱私權。
LOCKED 原則
- 合法性（Lawful）：確保 AI 系統的資料收集和處理是合法的，並符合相關法律法規。
- 開放性（Open）：提供透明的資料收集和處理過程，讓個人瞭解其資料如何被使用。
- 同意（Consent）：取得個人同意後，才能收集和處理其資料。
- 限制性（Limited）：僅收集和處理必要的資料，避免過度收集。
- 精確性（Exact）：確保資料的準確性和完整性。
- 刪除（Delete）：提供刪除個人資料的機制，讓個人可以控制其資料。
實施 LOCKED 原則
為了實施 LOCKED 原則，AI 系統必須具備以下功能：
- 存取控制：實施存取控制機制，確保只有授權人員可以存取個人資料。
- 差分隱私：使用差分隱私技術，為資料新增噪音，以保護個人隱私。
- 監控和記錄：監控 AI 系統的輸出，記錄任何違反 LOCKED 原則的行為。
基礎模型（FMs）與隱私
基礎模型（FMs）由於其非特定域訓練和無法知曉訓練資料來源，對於隱私保護提出特殊挑戰。為瞭解決這個問題，我們需要：
- 維護資料血統：維護資料的血統，確保可以追蹤資料的來源和使用情況。
- 評估基礎模型：評估基礎模型的隱私風險，並採取措施減少風險。
人工智慧技術的倫理與價值觀議題正成為全球關注焦點。深入剖析 AI 系統的發展脈絡，可以發現，確保公平性、隱私性和安全性並非僅是技術挑戰，更需考量社會責任和法律規範。LOCKED 許可權的提出，試圖在技術層面提供一個框架來保障個人資料的隱私，但實務落地仍面臨諸多挑戰。
多維比較分析顯示，僅依靠技術手段不足以完全解決 AI 的倫理困境。組織層面的隱私權實踐，例如 CPO 和 DPO 的設定，以及企業內部政策的制定，與技術層面的資料存取控制、差分隱私等措施，需相輔相成才能構建可信 AI 生態。此外，基礎模型的興起，更凸顯了資料血緣追蹤和模型評估的重要性，這些都是當前技術發展的瓶頸，需要業界共同努力突破。
技術演進預測顯示，未來 AI 系統將更注重可解釋性和透明度，以增強公眾信任。同時，隨著法規日趨完善，AI 系統的設計和佈署將更緊密地與倫理和價值觀議題結合。預見資料最小化和目的限制原則將成為 AI 發展的重要指導方針，驅動更精細的隱私保護技術方案的誕生。
玄貓認為，AI 倫理的落實需要技術社群、監管機構和社會大眾的共同參與。技術團隊應著重於開發更具隱私保護能力的 AI 系統，並將倫理考量融入設計流程的每個環節，才能真正實作 AI 技術的普惠價值，並構建以人為本的未來科技。
