◎ 陳子豪 / 美國佛羅里達國際大學公共政策與行政系助理教授
圖片來源：unsplash.com
近年來，人工智慧（AI）技術逐漸進入公共治理場域，包括優化政府運作流程、自動化重複性行政作業，以及輔助決策。於此同時，各國政府也開始思考：如何在提升行政效率的同時，確保AI的使用符合民主治理原則。台灣也不例外──中央層級提出了《公部門人工智慧應用參考手冊》及《行政院及所屬機關（構）使用生成式 AI 參考指引》，台北市政府於 2024 年通過《台北市政府使用人工智慧作業指引》，另外還有國家層級的《人工智慧基本法》，以試圖規範或指引公共治理場域中的AI應用。這些政策都顯示，政府使用 AI 已成為制度設計的重要議題。而在相關議題當中，AI的課責性更是討論焦點之一。
想像一個情境：一名民眾申請社會福利，卻被政府系統自動判定為不符合資格。事後才發現，這個決定來自一個存在偏誤的AI模型。那麼問題來了──這個錯誤，究竟該由誰負責？
雖然在近年AI快速發展的背景下，「誰該為使用AI負責」以及「應如何負責」，已逐漸成為公共治理的重要議題；然而，相關討論往往分散於法律、資訊管理與公共行政等不同領域，缺乏整體性的比較與整合。同時，關於AI課責在政府實務中如何被落實，也仍缺乏系統性的實證證據。本文整理筆者的兩項研究成果：一是針對學界觀點的系統性文獻回顧，二是對美國32個州AI政策的實證分析，並嘗試從學界與實務界兩個面向出發，系統性釐清AI課責的核心問題。
具體而言，這兩項研究聚焦於三個關鍵問題：第一，誰應該對AI的使用負責？又是對誰負責？第二，不同參與者需要為哪些行為與結果負責，其判斷標準為何？第三，當AI造成不良後果時，應產生何種責任後果（例如制裁或補救機制）？本文比較國際學界與美國州政府在AI課責上的研究發現，並討論兩者在責任分配與制度設計上的異同。
Yuan, Q., & Chen, T. (2025). Holding AI-Based Systems Accountable in the Public Sector: A Systematic Review. Public Performance & Management Review, 48(6), 1389–1422. https://doi.org/10.1080/15309576.2025.2469784
Chen, T., M. Gasco-Hernandez, and J. R. Gil-Garcia. (2026). “Understanding Accountability in AI Use Within the Public Sector: Insights From State Governments in the United States.” Public Administration, 1–19. https://doi.org/10.1111/padm.70051
什麼是AI課責性？
雖然AI的應用可能可以提升政府行政效率，但如果 AI 帶有偏見，或演算法出錯，而導致民眾權益受損，究竟應該由誰來負責？這正是「AI 課責性」（AI Accountability）所關注的核心問題。從筆者進行的文獻回顧來看，在學界的認知中，AI課責性包含三個核心要素：(1) 課責者與被課責者，也就是誰應該對誰負責；(2) 被課責者必須說明其行為、決策或結果，提供相關資訊並解釋理由；(3)後果，包括制裁處分或採取糾正措施以減輕損害。
而根據對美國 32 個州相關政策的分析研究指出，對公部門而言，負責任不只是因為怕被批評，也是為了建立民眾信任與確保公平。AI系統必須在設計與使用過程中納入課責機制，才能避免民眾因演算法偏誤而遭受損害。
出了事，誰要負責？
研究發現，無論是學界還是美國各州政府的政策，都有一個共識：責任不能被推給非人類的 AI 系統。AI在公部門通常被視為輔助決策的工具，因此最終的決定權與責任歸屬仍必須落在人類身上，尤其需要建立「人類把關」（Human in the loop）的機制。
學界普遍認為，AI的課責是一個多方參與的過程，主要涉及三個必須承擔責任的群體。第一類是使用AI來協助工作的公務員，他們必須對使用AI產出的結果負責；第二類是決定採購或導入AI系統的政府機關及其主管，因為他們決定了系統的應用範圍與治理目標；第三類是科技供應商與開發者，因為他們的系統設計會直接影響決策結果。
而從美國各州的政策分析來看，研究發現多數州政府的規定主要將責任放在「使用AI的公務員」以及「導入AI的政府機關」身上，要求他們對州政府與全體民眾負責。相較之下，對科技供應商與開發者的責任規範仍然相對有限。因此，雖然學界普遍強調三方共同承擔責任，但在實際政策設計中，責任明顯集中於政府內部，而對科技供應商的規範則相對薄弱。
政府應如何負責任地使用AI？
那麼，若要避免責任模糊或失衡，政府應如何設計AI的使用制度？就政府應如何實現可負責的AI使用而言，學界與美國各州政府的政策觀點在以下幾個面向上相當一致：
明定角色與責任：必須明確界定所有參與AI系統實施人員的責任與角色。這些人員涵蓋了高層與中階主管（如資訊長、決策者）、系統使用者，以及外部合作的私人科技公司。
法律合規性：要求使用AI系統時，必須嚴格遵守既有的州政府法規、聯邦法律以及其他相關的法規與政策。此外，部分州也要求必須符合產業界的標準與最佳實務作法。
使用許可：公務員在工作中使用 AI（特別是生成式 AI）之前，必須先取得授權與批准。通常員工需要取得直屬主管的同意，而在機關層級，如果要開發或導入 AI 系統，也必須向州政府的資訊部門申請並獲得批准。
評估與監控：AI系統在部署之前與之後都必須受到評估與監控。事前評估重點在於確認AI的使用是否符合業務需求，並衡量其對弱勢群體的潛在社會、倫理與法律影響；事後監控則強調持續檢視AI產出的錯誤或偏見，並根據使用者回饋進行更新。
資料與系統治理：強調資料的準確性、公平性與隱私保護，規定資料必須具備代表性以避免加深社會歧視，並且嚴禁將機密個資輸入商用生成式 AI 系統。在系統方面，高度要求系統的安全性與可解釋性，意即AI模型必須讓人能理解其運算與決策邏輯，強烈反對在決策中使用無法解釋的黑盒子AI。
透明度與紀錄保存：政府機關必須對AI的使用保持公開透明。當使用 AI 生成內容或輔助決策時，必須向政府與民眾進行揭露與明確標示。同時，政策也建議公務員與機關將AI的使用流程、提示詞、測試資料集與演算法模型記錄並妥善保存，以備未來的稽核。
決策結果：政府不應讓AI系統獨立做出會重大影響個人權益（如公共福利、資格審查）的決定。另外，所有 AI 生成的內容或決策建議，最終都必須經過人類的審查、校對與驗證，以確保結果的準確性與公平性。
從這些研究結果來看，這些制度設計不僅是理想原則，也反映目前政府實際運作中試圖回應AI課責問題的方式。
學界理想與政策現實的差異
有趣的是，筆者的研究發現，學界對AI課責的理想設計，與目前美國州政府的實際政策之間，還存在三個明顯落差。學界傾向於建立一個多維度、同時涵蓋內部與外部監督的民主課責體系；相較之下，目前美國各州政府的AI政策則高度偏向內部官僚管理與行政合規。
專業監督（專家審查）的有無：由於特定AI演算法極為複雜，一般民眾甚至公務員往往難以理解其運作方式，因此學界主張應由領域專家或技術稽核人員擔任監督者，定期審查 AI系統。然而，在州政府的政策文件中，幾乎看不到建立專家審查或技術稽核機制的規定。
政治課責與公民參與的深度：學界認為政府採用AI本身是一種治理選擇，因此必須對政治監督者（如立法機關）以及一般公眾負責。研究也強調多方利害關係人（特別是可能受到影響的民眾群體）應參與AI系統的評估與討論。相比之下，各州政策仍主要聚焦於內部合規與行政報告，而非與民意機關或公眾進行雙向討論。
權利救濟與究責機制的明確性：學界認為當AI決策可能損害民眾權益時，民眾必須能夠透過法定途徑尋求救濟。然而，在州政府政策中對於違規後的責任追究與民眾申訴機制的規定卻相當有限。只有極少數州明確建立了讓民眾對AI決策提出申訴，或要求改由人工審查的制度。亦只有少數州規定違反AI政策時可能面臨的後果，如解僱相關人員或終止合約。
整體而言，這些差異顯示目前公部門AI治理的實務運作，仍偏向風險控管與內部課責，而較少觸及學界所強調的對民眾負責與外部監督機制。
結語
從這些國際學界與美國州政府的經驗來看，政府導入AI是一個關於決策權力與責任分配的民主治理議題。當政府使用AI進行決策時，除了思考如何有效使用技術，也必須思考如何建立清楚的責任制度，並確保民眾在權益受到影響時，能夠知道向誰究責，以及如何主張自己的權利。如果這個問題沒有被妥善處理，那麼AI所帶來的可能不只是效率提升，也可能是責任的模糊甚至消失。