[影評]《人造正義》當司法被交付與AI治理的困境

一個正在發生的現實

《人造正義》（Artificial Justice）是一部西班牙、葡萄牙合拍的電影，呈現的不是遙遠的科幻想像，而是即將在現實社會中發生的場景，當我們觀看電影中AI參與司法判決時，許多大型企業已經在使用類似的機制：AI判斷員工是否該被資遣、應徵者的履歷是否值得進入下一輪面試，某些職缺正在消失、許多職缺則進行縮編，因為經營者認為AI可以更便宜且有效率地完成那些工作。

電影《人造正義》雖為虛構敘事，但其所呈現的 AI 判決機制與現實中曾被廣泛使用的司法風險評
估系統 COMPAS，在制度邏輯與爭議結構上具有高度相似性。

*替代性制裁犯罪矯正管理剖析軟體（英語：Correctional Offender Management Profiling
 for Alternative Sanctions，簡稱COMPAS），是一款由Northpointe公司開發並所有的法律
案例管理和決策支持系統，美國法院系統藉助這一系統評估案件被告成為累犯的可能性。這一軟體的
評分後被曝光對非裔美國人存在偏見，引導法官給予更嚴厲的判罰，由此成為算法偏見的經典案例。

電影與現實的差異，主要在於技術成熟度，電影中的AI預設沒有幻覺問題，能夠處理複雜的司法情境，並且監測被審判者的面部表情與生理反應，但兩者的共同點值得注意的是：判別權重對被審判的人來說都不透明，決策過程都被包裝成「數據客觀」與「理性」的代名詞。

這促使我去思考一個潛藏在水面下的問題：即使結果更好、更有效率，我們是否該接受由機器執行判斷？ 以電影為例，把判斷聚焦在司法權上，當我們接受「司法權可以被交付」時，這個認知本身改變了什麼？

電影如何讓「判斷交付」看起來合理

▍人治困境的精準呈現

電影成功之處在於它精準捕捉了當代社會對司法制度的集體焦慮：

• 政治干預的陰影： 從各國的司法爭議中，我們看見法官任命過程可能受到政黨影響，重大案件的判決時機引發質疑。
• 個人價值觀的不可避免： 每個法官都帶著自己成長背景形塑的價值觀，這些價值觀如何影響裁決？
• 法律與時代的落差： 法律的制定與修改速度，往往跟不上社會價值觀的變遷，某些法條可能反映的是數十年前的社會共識，但仍在約束當代的人民。
• 效率的渴望： 漫長的司法程序讓人難熬，當事人可能等待一年以上才能得到裁決，期間承受巨大的心理與經濟壓力（這跟案件複雜度、類型、證據齊備與否和法院和地檢署目前案件量都有關）。

只是這個「慢」並非完全是缺陷，就我所知，台灣的重大案件採合議制審理 ，三位法官必須共同評議、辯論、達成共識，這個過程需要時間，因為它確保了多方觀點的碰撞、防止單一法官的偏誤。

問題在於：當AI承諾「快速且一致」的裁決時，我們是否意識到，我們可能正在用「多方觀點的碰撞」與「人類法官的審慎」，交換系統的效率？ 司法的慢，某種程度上正是司法品質的保證 ，它提醒我們這不是可以速食的決定。

而電影讓這些被質疑的現狀浮上檯面，觀眾很容易套用當前主流想法： 「如果有一個系統/AI能夠避免這些問題，為什麼不試試看？」

▍為什麼要審慎這個想法

這個想法之所以需要被仔細檢視，是因為它偷渡了一個前提：司法權是可以被外包的。

這個前提的危險之處，不在於它完全錯誤，而在於它將一個複雜的憲政問題簡化成了技術問題，它暗示只要技術夠好，司法權就可以被委託，但這忽略了一個關鍵問題：

司法權作為國家五權之一，其價值可能不只在於「裁決正確」，還在於「由誰裁決」以及「如何承擔後果」。

因此我們需要分析司法與裁決，其本質上是否就包含了某些不可外包的成分？

司法可以被演算法化嗎？

▍從程序正義到計算正義的位移

當代正義觀同時並重程序正義（過程公平）與分配正義（結果公正） ，但電影讓觀影者直接進入慣性思維，只著重在結果，敘說如果AI能消除人類法官的疲勞、隱性歧視，且裁決更準確、一致，那麼追求這樣「更好的結果」就是合理的。這是一種工具主義的思考方式：只要結果更好，手段的改變就是正當的。

但這忽略了程序正義，開庭與過程辯證不僅是技術步驟，一來是確保受審者不是「被處理的物件」，而是「能為自己辯護的主體」 ；二來事實往往是碎片化的，蒐證來的「證據」不等於「真相」，真相是在控辯雙方對證據的解讀與辯論中浮現的 。

再來在法律領域，真的存在「正確答案」嗎？法律案件不是「對或錯」的二元選擇，而是在模糊地帶尋求社會共識的「最適解」 。當 AI 基於歷史數據與證據，直接定義出一個（偽）正確答案時，它使判決中的辯論空間消失了 ，當判決從「動態對話」降級為「靜態計算」，程序便失去了人對人的理解，退化為單向的技術指令 。

司法僅僅是為了「得到答案」嗎？還是它本身就是一種社會對話的過程？

▍去偏見的幻覺與偏見的轉移

電影暗示AI能提供「中立」的裁決，這呼應了一個常見期待：演算法能夠去除人類偏見，但近年來的研究顯示，這個期待建立在一個誤解之上，AI不是沒有偏見，而是偏見的性質改變了：

• 資料選擇的偏見（過去的延伸）： AI 的訓練資料來自過去，若既有系統存在系統性偏見，這些偏見將被固化。如 ProPublica 調查發現 COMPAS 對非裔被告的風險評估偏高，這證明 AI 並非創造正義，而是在複製過去。

*技術解析：為什麼 AI 會複製歷史偏見？

司法 AI 沒意外應該是採用「監督式學習」，目標是讓預測結果符合過去判決。
問題在於：如果歷史判決存在偏見，模型只會將偏見當作規律複製。

舉例來說：即使刻意排除「種族」，「經濟狀況」、「教育程度」等變數仍會成為種族或階級的「代理
變數」，讓模型依然反映結構性偏見。

• 設計者的價值立法（開發端的判斷）： 權重配置與 Feature Prioritization反映的是設計者的價值取向，當軟體開發將「快速處理」排在「深入理解」之前、將「低上訴率」排在「個案正義」之前，這是技術決定，且是隱形的價值立法。

*技術解析：權重配置如何進行隱性立法？

機器學習中的「權重」決定每個特徵對判決的影響力。
可能會使用隱蔽的「F1 分數」分析法，因為分數的設定是「精確率」和「召回率」的調和平均數，
可能會用這樣的設定：
前科紀錄 45%  ← 影響力最高
犯罪情節  5%  ← 影響力最低
前科的影響力是犯罪情節的 9 倍

但當開發團隊決定 F1 分數的目標值時，他們實際上是在數學上定義了「冤獄與錯放的倫理權重」。
也就是將複雜的道德兩難被窄化為技術規格，且往往缺乏明確的民主問責機制。

• 商業機密與知情權的衝突（監督權的喪失）：Proprietary Algorithm（專有演算法）在商場是競爭優勢，但在司法中卻成了黑盒子，當軟體公司以商業機密為由拒絕公開算法細節時，同時也沒收了公眾的知情權與監督權。

電影直白的點出關鍵的一個點：判別權重是不透明的。 當普羅大眾以為「AI是客觀的」，他們實際上是將司法權讓渡給了那些設計與調校系統的人，而這些人是誰？他們對正義的理解是什麼？

AI的偏見與人類法官的偏見不同，它更隱蔽、更難以質疑、更難以被個案推翻。

責任的漂移與權力的重組

▍責任結構的碎片化：從「集體負責」到「無人負責」

設想一個具體情境：一個AI系統做出了錯誤的裁決，一個無辜的人被監禁。當錯誤被發現時，責任由誰承擔？

以台灣為例，傳統合議制由三位法官共同評議並簽署判決書，每個人都必須為裁決承擔完整責任，但當裁決由AI系統做出時，責任結構變得模糊：

• 演算法工程師： 「我只是實作模型，權重配置不是我決定的」
• 資料科學家： 「我提供的是既有案例資料，沒有做價值判斷」
• 產品經理： 「權重是統計最優化的結果，而且我們諮詢了專業法官」
• 系統採購者： 「我們相信技術專業，錯誤是技術問題」
• 審批法官： 「裁決是AI做出的，我只確認程序正確」

這種每個人都只負責一部分的現象在軟體開發中並不陌生，但更難以察覺的危機往往隱藏在 PRD（產品需求文件）之外。在漫長的開發過程中，為了達成「產品成功」的指標，PM 或產品設計師經常需要在實務細節中做取捨，例如為了優化運算性能、趕上上線時程，或是為了讓介面更簡潔而減少了資訊呈現的維度，這些看似微小的「決策偏移」，其實就是在 PRD 計畫書難以寫清楚的地帶，隱性地進行了價值立法，將複雜的司法判斷窄化成了技術規格。

當產品出錯時，每個人都宣稱「我只負責規格內的部分」，在商業軟體中，代價僅是客戶流失；但在司法系統，代價卻是人的生命與自由。當沒有人需要承擔「我做了裁決」的道德重量時，原本應有的慎重被轉化為可被優化的技術指標，司法責任也隨之在碎片化的分工中消失。

關鍵的是：企業無法真正為錯誤裁決負責，因為司法責任從來不是金錢賠償可以抵銷的。

▍國家角色的轉向：從「行使者」降格為「採購者」

還有個不可忽視的問題是：當司法被外包給企業提供的系統，國家在其中扮演什麼角色？

司法權本是憲政權力，人民委託國家，國家則作為正義的最終擔保者，但當司法被外包給企業提供的 AI 系統，國家的本質發生了位移，國家變成了「系統採購者」而非「司法權行使者」，錯誤變成了「合約糾紛」而非「國家責任」。

當司法被技術化，正義的基礎不再是政治正當性與憲政責任，而降格為一種由企業供應、國家採購的技術服務，國家是否不再是司法正義的最終擔保者，而只是技術服務的使用者。

▍責任的消失與倫理的真空

當沒有人需要完整承擔「我做了這個裁決」的道德重量時，發生了什麼？司法本來是一種不可卸責的行為，做出裁決的人及其代表的單位，必須願意承擔這個裁決的後果：承受質疑、承認錯誤，這個心理負擔本身具有倫理意義，同時法院（政府或國家）也必須承擔責任，因其承擔人民委交權利擔負的正確、正義判決權。

但當裁決被外包給系統，這個心理負擔和責任就消失了，裁決變成「執行系統建議」，錯誤變成系統bug或是特例，而原本應該存的慎重，被轉化為一個可以被技術優化的指標。

那麼是否可以問：當責任結構被瓦解，司法還是司法嗎？還是它已經變成了一種帶有法律效力的技術服務？

▍倫理實踐的降級：從「價值辯證」到「系統維運」

當司法被演算法化後，整個討論的性質就改變了，在傳統司法系統中，當裁決引發爭議時，討論的是：

「這個法官的裁決是否合理？」 「這個價值權衡是否恰當？」 「這個裁決是否符合正義原則？」

但在AI司法系統中，當裁決引發爭議時，討論可能將會變成了：

「到底是依據什麼什麼法條或是什麼案例資料給出這樣的判決？」 「這個判決模型的準確率是多少？」 「訓練資料是否有偏差？」 「權重配置是否需要調整？」 「是否更新至最新資料？或更新後的新版本有維持相同的邏輯嗎？」

如果判決邏輯隨著軟體更新而變動，正義是否也成了有時效性的產品？這些技術性的質疑，其實源自於產品開發思維的一個根本性缺失：我們習慣將軟體視為一個解決問題的「孤立工具」，而非一套整體的「服務設計」。

在現行的產品開發邏輯中，團隊多半專注於「法官（使用者）」的痛點與需求，思考如何更快產出判決，但司法不是單向的工具，他與社會更像是關係網。一個具備「社會目的」的產品，必須將服務地圖延伸至使用情境的當下之外，我們不只要設計法官看到的裁決介面，更要設計「被審判者（重要關係人）」如何理解理由、以及公民社會如何監督判決品質。

在好的 UX 設計原則中，系統出錯時應清楚告知錯誤細節，以便使用者修正。即使AI提供了判決依據，依照現代AI模型，這些解釋是否 真正反映了模型的決策過程，還是只是一種事後合理化，仍然存在爭議，更遑論說電 影內的AI沒有提供判斷解釋。這讓司法原本具備的「知情與上訴」權利，在軟體流程中被簡化為一封無感的系統通知信。

當司法從公共倫理實踐降級為技術維運與契約條款時，公民將難以參與 「什麼是正義」的討論，長遠下來可能導致社會對判決結果的無感接受。

AI無法裁決的未來

▍過去如何殖民未來

電影中有一個重要的洞察是：女法官指出，法官有時需要站在更高的視角思考，什麼才是對未來更好的發展。

這觸及了AI的一個結構性限制，AI主要從既有資料中學習，雖然具備推理與組合能力，但面對「尚未被社會廣泛承認的價值」時，AI仍受限於訓練資料所反映的歷史價值結構。

歷史上如廢除種族隔離、承認同性婚姻、確立性別平等原則等重大社會進步，往往源於法院願意「違反過去模式」，承認當時非主流的價值。當司法權交付給 AI，實質上是選擇讓過去的價值結構決定未來的發展方向。對於追求持續進步的社會而言，這種「讓過去殖民未來」的取捨，必須經過極為謹慎的評估。

*技術解析：為什麼 AI 無法預見未來的進步價值？

司法 AI 透過歷史數據預測未來，但許多推動社會進步的判決（性別平權、廢除種族隔離...等），
在當時都是「異常值」的狀態，在「數據清洗」階段，系統會將異常值剔除以求穩定。

如果預測性模型主導司法，這些代表「個案正義」的異常值就會被抹煞，
結果是過去的價值結構影響未來，社會喪失透過司法推動進步的可能性。

▍誰有權為未來立法？

這個問題還有另一個維度：當價值被寫進系統，誰在為未來做選擇？

AI系統的權重配置與優化目標，是一種隱性的價值立法，真實在法院被使用後，寫入系統的價值判斷就會影響成千上萬個案件，持續數年甚至數十年。這引發了一個民主正當性的問題：是誰決定了這些權重配置？他們的決定經過了什麼樣的民主程序？當社會價值觀改變時，這些權重如何被更新？誰有權力決定「現在該更新了」？

現階段的體制內，這些問題透過五權分立、法官任命程序、上訴制度、立法機制等來處理。而在AI系統中，這些權重配置往往發生在技術開發階段，由工程師、產品經理、或演算法自動優化程序決定，不透明也沒有明確的民主問責機制。

系統的設計決策，可能成為長期的、不可見的道德基礎設定，這不是中立的工程問題，而是一種新形式的立法行為。

長遠後的社會變形

▍倫理感知的降階

當重大決策被流程化，社會對這些決策的感受會如何改變？

像是電影中出現的，法官會看著系統介面告訴你的審判結果，未來甚至有可能只是收到一封通知信，告知你最終結論。表面上看，這是效率的增進，但實際上改變了我們對「審判結果」這件事的感受方式：

• 從「某人的裁決」到「系統的結果」：當裁決來自系統，「對話」變得困難，因為系統沒有意圖、沒有理由（只有機率），也無法被說服。
• 從「例外的裁決」到「常態的處理」：當這些決策被系統化處理，它們在感受上變得「常態化」，就像處理一筆交易一樣。

這些改變積累起來，影響一生的決定，可能逐漸變得像信用評分一樣，一個介面上的數字，一個無法思考的結果。

▍新的數位階級：誰能質疑系統？

AI司法化還會帶來另一個隱憂：權力的交付是否會加劇不平等？

目前法律資源分配不均，但至少在原則上每個人都有權質疑裁決、要求說明理由、提起上訴。裁決的依據是法條與判例，這些都是公開的、可被檢視的，但當裁決由AI系統做出時：

• 有資源的人可以聘請演算法專家、資料科學家，分析系統可能的偏誤，甚至設計策略來「優化」自己在系統中的表現
• 一般人只能無感地接受通知信，不知道如何質疑、也不知道從何質疑
• 弱勢者可能連系統為何做出這樣的判決都無法理解，更遑論挑戰

認知鴻溝是否成為一種特權？

▍判斷能力的系統性退化

長遠的問題是判斷能力退化，當社會習慣於將判斷交給系統，人類是否還能進行有效的判斷？這不單是司法 AI 化的問題，現今我們大量使用生成式AI處理工作，生產效率化的同時，思維訓練和經驗累積正急劇減少。

當法官、被審判者、以及全體公民不再需要在複雜的裁決中思考時，也就失去了練習這個能力的機會和經驗。這種趨勢將導致社會對結果失去敏感、且無法提出批判性見解， 我們將可能變成只會要求「系統應該更好」、但難以思考和理性和深度辯證「該如何裁決」的社會。

▍不可量化價值的系統性消失：守護產品的「社會目的」

更隱蔽的影響是價值的系統性消失，當決策由 AI 主導，無法量化的因素將會被邊緣化，這是一個緩慢且難以察覺的過程：系統固化了既有的評估框架，卻也同時抹煞了社會進步的可能性。

這種現象在軟體實務中，會導致嚴重的「目標位移」：開發團隊原意是為了輔助正義，但在技術落實時，為了讓系統可被測量、可被優化，最終往往會將目標簡化為追求數據上的穩定與效率。當產品的開發指標只剩下商業邏輯（如：縮減人力成本、提升判決周轉率），而忽略了隱含在司法背後的「社會目的」，正義便會開始乾涸。

用於公眾的數位產品，其社會目的應是決定底層架構的核心指標，這觸及了AI軟體最深層的矛盾：AI 基於歷史數據進行優化，它能精準預測過去，卻難以容納未來的社會變革。例如前面有提到的，許多推動社會進步的判決（如平權法案或性別正義），以當時的數據庫中來說可能就屬於被排除的「異常值」。如果產品設計師與 PM 在開發初期，未曾思考如何納入價值迭代的空間，我們實際上是在用過去的數據偏見，殖民了未來社會演進的可能性。

判斷的重量，往往就藏在那些無法被建模、無法被量化的「社會影響力」之中。身為產品人，我們必須在每一個微小的設計決策中保持謹慎，守護那些數據之外、關乎公眾產品的正義空間。

從電影回到現實

▍無聲的選擇

《人造正義》這部電影的價值，揭示了一個選擇：我們是在追求更極致的正義，還是在逃避裁決的責任？

現實已經給出了部分答案，從企業篩選履歷到政府評估福利資格，我們已在效率與成本的誘因下，慣性地接受系統裁決。當我們將「公平」簡化為「一致」，並將責任分散至技術系統的各個環節時，整體的社會方向已在無聲中悄然改變。這些微小且看似合理的決定，正緩慢地侵蝕著我們對正義深層意涵的深思。

▍判斷的重量

AI 無疑是推動效率的強大工具，但在涉及判斷以及更須謹慎的司法領域，我們需要更謹慎地定義人機協作的邊界，而非僅是權力的讓渡。

我們想要什麼樣的社會？

是追求效率、指標一致，卻逐漸失去判斷力與核心價值的系統化社會；還是願意承擔人類裁決的缺陷，以保留倫理敏感度與對話空間的社會？

這兩條路徑的取捨，不應由技術專家主導或在效率慣性中被決定，電影最終邀請我們思考的，我想不是技術上的「能不能」，更是「如何做」、以及「代價是什麼」。當司法被交付給系統時，人類不只是卸下了責任，更可能正在放棄作為道德主體所必須承擔的判斷重量，而那個重量，正是讓社會保有人性與正義的關鍵。