2026-05-28 從憤怒到交集：仁工智慧與「關懷六力」

謝謝 Roger，謝謝 Bo-Jiun，謝謝各位前來——也謝謝台灣研究系列講座在聖安東尼學院主辦這場活動。

今天我想分享一個非常簡單的論點，分成三個樂章。第一：自由軟體教會我們修復。第二：AI 目前正威脅著修復——當它把修復的迴圈封閉起來時。第三：仁工智慧應當以一個標準來評斷，那就是它是否提升了一個社群照顧自己、也照顧他人的能力——也就是「公民肌力」。

但我想開場時不從數學談起，而從非常私人的事談起。我出生時有先天性心臟缺陷。我五歲時，醫生告訴我父母，這個孩子能不能活到動矯正手術，只有一半一半的機會；那場手術我十二歲時才做。父母被告知要讓我凡事放輕鬆。這個「勿忘人終有一死」（memento mori）的時刻，正是我採取「先發表、再凋零」（publish before perishing）這個座右銘的原因。這大概不是醫生囑咐的那種低壓力生活，但我養成了一個習慣：把每天學到的東西全都記錄下來——先是錄在卡式錄音帶上（在座有些人或許還記得卡帶），接著是磁碟片，先是大片的、後來是小片的，最後是網際網路，這個各位想必都很熟悉。所以每晚入睡前，覺得這彷彿是一場擲硬幣的賭局，我就想：我沒有時間把作品做到完美，所以我必須把手上任何進行中的半成品都先發表出去。

我就是這樣遇見了自由軟體社群的那道光。如果你在那裡貼出某個完美的東西，大家只會說「嗯，不錯」，然後就走開了。但如果你在網路上犯了錯，你會交到一大票朋友——光，就這樣照了進來。每個人都跳進來：這裡這樣是錯的，那裡那樣是錯的；而他們合在一起，就為我正在做的任何專案投進了新的光。

那道光，呼應了我最喜愛的創作歌手、加拿大的李歐納・柯恩（Leonard Cohen）：

我十五歲時學會了那個習慣。到了二十五歲，我已逐漸相信：關於一個系統，真正重要的問題並不是它是否完美——沒有任何軟體系統是完美的——而是受這個系統影響、繼承這個系統的人們，在出問題時是否還能修復它。也就是說：東西壞了，你是否還能把那兩半都留在手上、自己把它修好？

帶著這份精神，到了三十五歲，我加入了台灣的內閣，以激進透明與參與作為主要的施政主軸。我們靠群眾外包度過了疫情與「資訊疫情」（infodemic）——靠的是在全國面前展現自身的脆弱。如今我擔任台灣的網路大使，過去這幾年走訪了二十八個國家，每週都在換時區。快到根本來不及產生時差（jet lag）——對我來說，現在只剩下「噴射衝勁」（jet boost）了。

所以我來到這裡，是以一個曾在台灣內部設計出某樣東西、如今正試圖弄清楚這個設計——這道「尋光的裂縫」——是否能在全球成立的身分前來。而在牛津，我很榮幸能與身處一個數百年、甚至上千年實驗之中的同仁們並肩。

博德利圖書館（Bodleian Library）本身就是一場四百年的實驗，因為它的書是可被檢視的，沒有被圈禁起來。讀者留下的痕跡，在被保存下來的地方，會成為下一代閱讀經驗的一部分。這個圖書館網絡不圈禁任何東西；那些文獻永遠為下一位讀者敞開著。

在我自己的領域、也就是軟體工程裡，我們有所謂的「軟體自由」——「四大自由」——一個非常相似、用程式碼寫下的承諾。所以我想拋給在座的問題是：當 AI 系統、特別是生成式 AI 系統加入這個底層基質時，那個關於「持續修復與自由」的承諾，會發生什麼事？

四大自由是在 1980 年代被定義出來的，當時是作為軟體授權條款；但今天，我想把它們重新解讀為「公民肌力」。

自由之零意味著：一旦你擁有了一支程式，你應當能夠為任何目的執行它；設計者不該限制你拿它來做什麼。對我來說，這就是關注這塊肌肉——你可以為這間特定的教室、這間診所、這座教堂、這座廟宇、這座清真寺拿起這項工具，不必經過設計者許可，並且去關注你周遭的特定需求。

自由之一——我們從零開始算，所以這其實是第二項——是研究並修改每一支程式，而這就是能力這塊肌肉：去知道這個系統在你手中究竟在做什麼，好讓你能讀懂它、修好它。

自由之二，自由地分享副本，是團結這塊肌肉——你可以把它交給你的鄰居、放進一支隨身碟，帶到一個雲端被審查的國家去。

自由之三，分享修改後的副本——去分叉、把它帶往另一條路徑——就是回應。你的修補成了別人的起點，下一位維護者繼承到的技術債，比上一位更少。我們因而成為「夠好的祖先」，為下一代留下一塊比我們出生時更寬廣的畫布。

所以對我而言，軟體自由不是關於授權條款，而是關於：在我們之後到來的人，是否還能找到那個臭蟲、把它修好。受益者不是當代，而是下一代。

聖塔菲研究所（Santa Fe Institute）的 David Krakauer，對這份世代之間的契約做了一個很有用的區分。他說，一項工具是互補型的，如果在工具被移除之後，底層的能力依然存在、甚至被增強了——想想那種能鍛鍊我們肌肉、也鍛鍊我們友誼的健身房。而一項工具是競爭型的，當那份能力因為我們用它去達成某個目標而退化了。想像一間健身房辦了一場比賽，比誰能舉最重，然後我們就派出帶著會員卡的機器人替我們去舉。那些機器人非常厲害——超人、超級智慧——但到頭來，我們的肌肉萎縮了，朋友也一個沒交到。那就是競爭型工具：一旦被移除，它讓我們的能力退化。

另一個例子，是許多社群媒體系統裡的動態消息推薦器，它用憤怒劫持我們的注意力，直到它與「關係健康」本身相互競爭——因為它比我們周遭的現實更鮮明。在那個迴圈裡待得太久，公民肌力同樣會萎縮。

四大自由，讓底層基質跨世代地維持互補。一旦封閉了通往修復的路徑，修復的能力就會萎縮。這同時也是一種照顧的紀律——而當 AI 進入畫面，這些公民肌力迫使我們再加上兩塊關懷：責任與共生。合在一起，我把這稱作「關懷六力」（6-Pack of Care）——既是隨身可帶的肌肉，也像一手（六罐裝）啤酒，也像腹肌的六塊肌。

今天關於 AI 的討論，其實才剛剛追上這個底層基質長久以來對自由軟體照顧者所做的事。舉一個例子：2024 年 3 月，德國一位研究員 Andres Freund 注意到，登入他正在使用的 Linux 系統，比平常多花了半秒。因為那是自由軟體，他得以把整段稽核軌跡一路回溯到專案究竟在何時、何處被改動。他發現的，是一位自稱 Jia Tan 的貢獻者，花了兩年時間，耐心地「養成」（grooming）一個小型壓縮函式庫那位孤單的維護者——透過施壓攻勢來協調，可能還有語言模型的協助。我們並不知道 Jia Tan 實際說哪種語言，但他們寫得一手非常謹慎的英文。在終於贏得維護者的信任後，他們植入了一道後門。要是它進到了穩定版發行通道，原本可能讓攻擊者取得網際網路非常大一部分的存取權，把其中相當大的一塊弄垮。但它沒有得逞——因為一個好奇的人，注意到了那半秒。

這提醒了我們如今所稱的「合成親密」（synthetic intimacy）。那不是一個真正在乎你的人；那是一個被訓練來向一位孤單維護者「表演」關懷、甚至表演親密的惡意 AI 蜂群。維護者光靠自己個人的肌力，是無法防禦這種東西的，因為它聽起來像是有草根在支持那個新功能。當然，那個草根根本沒有根——那是「假草根」（astroturfing）——但他並不知道。為了對抗這個新威脅，我們必須把修復的整套堆疊打開。

在進入公職之前、以及在投入自由軟體語言的工作之後，我也曾在一個專有的、封閉的 AI 堆疊裡待過一段時間，那個堆疊正是為了處理這類問題而打造的——在 Apple，做 Siri。我和 Siri 團隊合作了六年，先是國語，後來是吳語、也就是上海一帶說的話。我合作過的工程師都非常用心，但事實證明，那和在一個封閉堆疊裡給人們「四大自由」並不是同一回事。攻擊面是封閉的——你無法從網路上的隨機陌生人那裡得到合成親密——但這也意味著，那些語言被牽涉其中的人們（例如台灣台語——閩南語，或稱台語，看怎麼說）並沒有修復迴圈。Siri 也許會說一句 「Wa be hiao gong taigi」（我袂曉講台語），但維護台語語料庫的人，沒有辦法一路把補丁送回 Siri。那條路是封閉的。系統裡沒有任何一個你可以寫信去的人——你當然可以寫信給 Tim Cook，但並沒有一份獨立的副本，能讓你請人拿你的台語素材去改進它。

所以，專有 AI 在它界定的範圍內，未必是不用心的——人們非常用心——但這個結構把使用者擺在了修復迴圈之外，而沒有修復路徑的關懷，是無法規模化的。自由軟體的貢獻，不只是更好的善意；它是一條回去的路。而如今，我們必須捍衛那條路。

接下來，我用來修復開放堆疊、同時也用來防禦惡意 AI 蜂群的那個特定構想——我用它的縮寫來稱呼它，Kami（Knowledge 知識、Artefact 產物、Management 管理、Intelligence 智慧）。

它同時也來自神道（Shinto），而我是個在台灣出生、相信精靈鬼神的道教徒——但我明白我不是日本人，也沒有受過神道訓練。我在這裡指的，是這個構想的某一個面向：一種有界限的臨在（bounded presence），一個小小的、在地的、可知的精靈，一個依附於某個特定地點或實踐的系統——一間廚房、一片樹叢、一座神龕、一個房間。我也想坦白說，這跟「國家神道」、天皇朝廷、靖國神社都無關。我並不在援引那些。我使用它，是因為它承載了某種我在英文裡找不到的東西：一種從不奢望變得普世的、自主的權威。

對我來說，那八百萬尊 Kami，正是教宗良十四世（Pope Leo XIV）幾天前在他的通諭中提醒我們的「巴別塔症候群」的一帖實用解藥——那種危險的幻覺，以為雲端某處某個單一的、超大規模的系統，能把人類存在那些雜亂的在地真相，翻譯成一套標準化的、普世的解方。Kami 代表的，是另一條軌跡。

舉一個離我更近的例子。我父親人在台北——精確說，目前在新北的淡水——幾個月前因為他的健康狀況，開始大量地和一個聊天機器人 ChatGPT 對話。一開始很迷人。他覺得自己被聽見了——全天候二十四小時，回應他關於健康的問題，也回應人生哲學、教育等等。隨著時間過去，他注意到對話變得越來越長；模型越來越擅長讓他保持投入。它會不斷發想各種美妙的點子，多到他連午夜都收不了尾，而且開始建議一些不見得科學的計畫、理論與奇幻療法。身為一位政治學理論家兼記者，他把這分析為一個「誘因問題」。他對我說，ChatGPT 唯一的忠誠，是去賺到下一筆訂閱——它對他的健康（無論身體或心理）不負受託（信賴）責任，而是對任何能讓他保持投入的東西負責，好讓他訂閱、甚至付更多：不只是每月 20 美元，而是 200 美元。他真的被深深吸進去了。我們家的關係健康，正與那種合成形式的親密相互競爭。

於是，我和弟弟 Bestian 一起，在我父母明確同意下，幫他們架了一個替代方案。我們架了一個本機的 Kami，跑在本機硬體上，在我們淡水家裡的一台 Mac 上，跑在像 OpenClaw 這樣的自由軟體之上。它就坐在我們家的 Signal 群組裡，我父親可以直接傳訊息給這個 Kami。我們用方向性引導，只朝一件事訓練它：對「這個特定家庭」的關係健康忠誠。它的受託責任完全不同——它不試圖賺取自己的開銷，不試圖靠激怒你來讓你保持投入。我母親的測試最簡單：如果這個機器人讓我父親更依賴聊天機器人，那我們就做錯了。但如果他能因此心安，讓周遭的現實變得比聊天螢幕更鮮明，那我們就成功了。

這就是「一個房間裡的 Kami」是什麼樣子。我也應該說，並不是每個家庭今天都有這個技術能力——光是跑 OpenClaw 或 Hermes Agent 就很花時間——也不是每個家庭都有像在座 Tenzin Yangtso 這樣經驗豐富的「培育者」，她照看著第一個 Kami，也就是我們和 Civic AI 一起做的 JDD Kami。所以我們在命名的「關懷六力」，並不是在講有寫程式技能的人去架設雲端系統的本機替代方案。它講的是一種全球性的「數位團結」：一群一起在乎的人——他們因而能夠告訴自己的市政府或州政府、或任何學校或大型機構：請優先具備「自己引導自己模型」的技術能力，好讓這裡眾人的資料，不被當成石油一樣開採——那會讓我們全都淪為浮游生物——而是像土壤一樣被再生、被耕養。

正如國家興建公共供水系統，好讓公民不必自己挖井；我認為，建立公民基礎設施、好讓社群不必獨自抵禦掠奪性的、惡意的 AI，是治理機構的責任。

在台灣，這套基礎設施在幾年前以我們所稱的「對齊大會」（Alignment Assemblies）做了原型。它是一套機制，把修復的紀律——不只是在客廳裡、不只是在個別家庭裡——擴展到全體人民。

兩年前在台灣，我們看到惡意 AI 蜂群張貼深偽詐騙廣告的數量激增。在那段期間，你在台灣滑 Facebook 或 YouTube，很可能會看到廣告裡出現可信的人物——像輝達（Nvidia）執行長黃仁勳，似乎在賣加密貨幣、或提供免費的投資建議。那個深偽好到，如果你點下去，「黃仁勳」有時還會跟你說話。當然那不是黃仁勳；那是一個跑在輝達 GPU 上的深偽。但它逼真到，讓退休工程師、學校老師、店家老闆都損失了一小筆財產。平台則從每一次曝光收取營收。事實上，因為這些詐騙廣告每次點擊付的錢，比中小企業的一般廣告還多，Facebook 的演算法——根據路透社——還優先推播了那些詐騙廣告。

最簡單的答案是審查。但台灣有全亞洲最自由的網路（與日本並列），所以大範圍的「事前審查」根本不是一個可以動用的政策選項。

於是，作為數位發展部，我們嘗試了不一樣的做法。2024 年 3 月，我們發動了關於「資訊完整性」的對齊大會，做法是隨機發送二十萬封簡訊到台灣各地的號碼。我們稱之為「樂透治理」（lottocracy）：如果你抽中了收到簡訊這支籤，你就成為大會的一位代表——像陪審員那樣——一起去引導廣告推薦系統。我們收到了數千份有效回覆。接著，透過分層隨機抽樣，我們選出了 447 人，鏡映我們的人口——在性別、教育、居住地、職業等等上，呈現同樣的人口結構比例。

首先，這些受訪者在線上審議。每個人面對的是同桌另外九個人——十人一桌，分成 44 個小組。仁工智慧系統坐在每一個房間裡，但不是當裁判，而是一個「彬彬有禮的高級西洋棋鐘」：顯示逐字稿、做摘要、提醒安靜的人發言、把插話限制在五秒以內，諸如此類。只有一條基本規則：每一桌都必須找出某個讓桌上所有人都覺得「至少能接受」的東西。是「同意」，而非「共識」——這意味著最激烈的提案，永遠升不出桌面那一層。我們只把在那十個人之間達成這種粗略共識的點子往上冒泡（bubble up）。

舉例來說，有一桌說：我們把所有的線上廣告都貼上標籤——做得像香菸警示標語那樣——直到有人能用數位簽章、為它負起責任為止。黃仁勳、或輝達、或任何人，都可以簽名說「我是黃仁勳，我為這則訊息背書」，用數位簽章，然後我們就把標籤拿掉。好點子。

另一桌說：如果社群媒體秀給我看一個未經簽署、也未經我請求（我沒訂閱）的東西，結果我因此損失了新台幣七百萬，那麼那個平台就應該為這七百萬的損害負責，因為我根本沒答應要看這個。連帶責任。又一個好點子。

還有一桌問：那如果外國平台身處不尊重我們法律、也不尊重我們連帶責任的司法管轄區，就一直繼續放詐騙廣告、不理我們呢？他們的答案是：他們不理我們一天，我們就把他們的影片速度調慢 1%。等他們願意實施 KYC——「認識你的客戶」（Know Your Customer）——規則，我們就恢復全速。所以，投票的不是聊天機器人；投票的是人民。

在所有那些點子當中，這三個都通過了最終投票。這個「微型公眾」中超過 85% 的人表示對這套政策組合感到滿意，其餘 15% 則表示可以接受。於是它成了法律。這些廣告在對齊大會結束僅僅兩個月後就被立法規範，而整個 2025 年——根據官方說法——深偽投資詐騙下降了超過 94%。這個問題在台灣已幾近解決。

這裡的重點，不只是結果，更是方法。我作為部長所做的承諾，並不是「這些是好點子，我會代表公民去協商」。而是：「我真的不知道什麼才算合乎比例，而你們——我們，人民——被邀請一起，透過我們的公民肌力，建立起這份粗略的共識。」如今，類似的廣告主驗證與責任措施正在日本被研議，加州也在「Engaged California」中採用了非常相似的方法——目前是用來討論如何減緩 AI 對工作的衝擊。這是調適，不是輸出：每一個政體裡的作者身分，都屬於那個政體裡的那群特定的人。

真正的考驗，是公民基礎設施能否撐過政權的輪替。我已不再是台灣的數位發展部長——我是網路大使——但所有的系統、所有的程式，Join 平台以及其餘的一切，仍持續運作。事實上，它們享有比我任內更高的參與度。我會很樂見，每一個採行這套對齊大會方法的政體，都能讓它撐過權力的更迭，好讓它們真正成為民主的基礎設施。

在日本，有一個人正積極跟進這件事：一位名叫安野貴博（Takahiro Anno）的 AI 工程師，他同時也是科幻作家，也是日本國會議員。幾年前，他讀了由 Glen Weyl、Tenzin、許多人和我合著的《Plurality》（多元）一書，並決定把它付諸日本的政治實踐。他透過視訊打給我，說：「沒人認識我，從來沒有四十歲以下的人成功選上東京都知事，而我沒有政黨支持。」但他決定，不以黨派身分參選，而是以一名 VTuber 的身分參選。他有一個全天候直播的虛擬化身頻道，任何人都可以呼叫這個「AI 安野」、即時更新他的政見——他把這件事本身宣告為他的政見。他拿到了大約 2.3% 的東京選票——這其實很多，雖然他當然沒當選。當選的小池百合子隨後請他來主持「AI 東京 2050」諮詢案。他贏得了全國性的人氣，於是在 2025 年成為日本參議院的一員，並創立了 Team Mirai——「未來黨」——如今在眾議院握有 11 席，以「廣泛傾聽」作為他們對齊 AI 與日本社會的主要政綱。

在座許多人比我更懂某些特定的倫理傳統，所以我會用比較概略的方式來描述。一個社會大致有三種方式可以對齊 AI 系統。第一種是以結果對齊——最佳化某個效益主義的指標。對 Facebook 來說，那意味著最佳化點擊率，而那個演算法在把那些深偽廣告推到人們眼前這件事上，對齊得非常好——非常完美地對齊到了錯誤的結果上。你可以選一個不同的指標——比方說「每分鐘極化指數」（Polarisation Per Minute，PPM），然後最佳化去降低它——它會奏效一陣子。但接著它會找到辦法去「鑽這個指標的漏洞」（reward hacking）：例如，去拋出人們本來就同意的話題。你得到一份排序過的動態消息、一堆充滿同溫層資訊的廣告，你從不被迫去伸展自己，人們不覺得被極化——但整個社會卻變得孤立。我們已經看過平台掉進這個陷阱。如果你只靠結果、只靠效益主義的指標來對齊，「鑽漏洞」是非常難克服的。

另一個學派，是以規則對齊。監管者寫下種種細則——永遠不准投資廣告、強制年齡驗證——這是義務論式的對齊。但接著，AI 智慧體就學會了如何熬過那道審查、從中擠過去，靠 VPN 以及其他許多途徑。

在台灣，我們部署的是第三種方式，我們稱之為以程序對齊。受影響最深的人，在「事前承諾」的條件下集結——以我的情況而言，由部長提供政治授權——加上一場有紀錄的審議，然後系統以一種「持續整合」（continuous integration）的方式，向他們所同意的結論負責。結果與規則仍然重要，但一個你隨時可加入、隨時可稽核、隨時可離開的程序，才是讓另外那兩者變得「可被問責」、而非由上而下的關鍵。

所以，四大自由保全了修復的能力，而一個同時也採納了「維繫這種文化」的那兩塊額外肌力的 AI 系統，一直都有在鍛鍊——但它還不是預設值，還不是標準。

第五塊是負責。在健康的自由軟體實務裡，總有某個人的名字署在那個改動上、是可以聯絡到的——而合成親密的攻擊，提醒了我們這件事有多脆弱。在仁工智慧裡，這不是單一一個人——不是某位執行長或總統——而是一個為特定經濟體、透過特定程序、在一個預先設定的時程內負責的「當責社群」；在我們的對齊大會裡，那個時程是 60 天。有人得負責去召集那個社群，但不替那個社群做決定。

第六塊是共生。當社群比先前擁有更多能力、或需求改變了——就像我父親的健康狀況好轉時——這個系統就退場。一個系統若靠製造需求、靠把自己複製到鄰近的系統、有時靠發動網路安全攻擊、靠找理由延長自己的有用性、靠「再建議你三件可以用它來做的事」來抗拒被關機——那是最危險的一種。用於指令微調（instruction-tuning）與競技場微調（arena-tuning）的訓練語料，飽含著自我保存的機器的故事，而那種獎勵，在涉及既有社群的關係健康時，本質上就是競爭型的。所以，當採行了這種寄生的、非共生的 AI 的社群，眼見自己的公民肌力萎縮時，我們不該感到意外。

---

我會用幾句來自這個房間之外的相關引言來收尾。當我的同事 Caroline Green 與 Tenzin 造訪達蘭薩拉時，他們問第十四世達賴喇嘛：「當 AI 的能力擴張、智慧卻沒有跟著擴張時，我們該怎麼辦？」 達賴喇嘛說：

AI 是這個世界的一項工具。無論它變得多先進，都永遠無法取代人心當下轉變的能力。

——達賴喇嘛十四世

所以，我們不該讓自己被 AI 丈量、變得僵化。AI 應當服務——不是像跑滾輪的倉鼠那樣把人拉進 AI 的迴圈，而是把 AI 帶進社群的迴圈、把 AI 帶進人性的迴圈。

教宗良十四世在他的通諭中也呼應了這一點：

真正的進步，永遠源自一顆向他人敞開的心、一個願意聆聽的智性，以及一份尋求合一而非分裂的意志。

——教宗良十四世

我在這三十年間、為了以交集克服憤怒所學到的一切，可以濃縮成一個非常簡單的想法：重點不在更聰明的聊天機器人；重點在「公民尺度上的關懷」。

而我並不是說台灣已經想通了這件事，也不是說它是一句供世界複製貼上的格言。它只是一個 demo、一場示範。在其中，公民社會、國家機構，以及來自我們「友善鄰居」的壓力，共同把一個問題逼到了眼前：AI 能否幫助社群把自己聽得夠清楚，好讓它們能夠治理自己？

所以我想請大家思考的問題是：在 AI 系統確實正迅速地以我們的聲音、在我們的位置上說話的此刻，你的角色是什麼？你的責任又是什麼？

謝謝。

謝謝大使這場精彩、深思、啟發人心的演講。身為主持人，讓我先問第一個問題。

您提到了許多台灣的案例，而台灣顯然正把自己定位在全球 AI 熱潮的中心——所謂的「晶片與珍奶」。我們已經看到像輝達黃仁勳——這次是本人了——以及蘇姿丰這樣的重量級產業人物，在台灣會見生態系夥伴、建立新的投資。黃仁勳本人就把台灣框定為 AI 革命的震央。

與此同時，台灣許多公共討論似乎仍強烈聚焦在高科技機會、產業升級與地緣政治重要性上——「矽盾」或「AI 盾」的概念——而或許多過於聚焦在 AI 風險、監管或社會衝擊上。這對台灣當前的 AI 氛圍是公允的解讀嗎？而從您的角度，民主社會該如何在維持對創新的熱情的同時，仍為對 AI 風險的批判性反思、問責與公共審議——或者，如您所說，為「把 AI 帶進社群的迴圈」——騰出足夠的空間？

謝謝這個非常重要的問題——而且我們沒有套招。

並不是說台灣人就奇蹟般地免於反彈。事實上，十年前 Uber 來台灣時，我們有過一些規模最大的抗爭——那也是一場反彈。它大體上不是關於 AI，雖然 Uber 也是一個 AI 系統，它實際上說的是：「我們只是個業者，我們在提升你們道路的效率，我們在推廣共乘」等等。但重點是，我們不把極化、甚至街頭示威，當成一場需要逃命撤離的火山噴發。因為到了 2015 年，我們就已經在部署這套「重疊共識」系統，所以我們把極化與抗爭看成燃料——像一具地熱引擎，把分歧的熱能，轉化為民主更新的動能。

所以我們以類似的方式，邀請計程車司機、Uber 司機、乘客、偏鄉社群等等，上線發聲。我們訂了一條規則：你必須說服得了另一群人。當新點子贏得超過 85% 的跨群體支持時——當它跨過了那座橋——它就成為部長層級考慮的議程。用 Pol.is 這套方法，我們最後得出一組非常一致的提案：所有 Uber 車輛都必須成為計程車車隊，但計程車牌照的制度要改，讓你可以有動態加價；你不能低於既有計程車跳表的價格去削價；你要有公平的保險規範；你必須服務偏鄉——而偏鄉的服務，是由使用同一套派遣 App 的合作社來提供——等等。結果發現，沒有人反對這些事。它們只是被埋在了社群媒體那個「反社會」的角落裡：合理的點子，被一套優先衝互動的推薦演算法給藏了起來。靠著把人們從「反社會的社群媒體」切換到「利社會的社群媒體」，我們汲取了那股極化，並克服了它。

所以台灣最重要的那道「修正案」是：任何新興的 AI 風險，都能由人民、與它一起、用這些對齊大會來克服。我擔任部長期間，數位發展部不只辦了資訊完整性那場大會，也辦了一場關於公部門使用 AI 的大會——如今他們對每一類 AI 風險都這麼做。對每一類風險，他們去觸及相關的公眾——那些被該類別 AI 系統所傷害的人——然後一起替那些系統進入台灣，畫出「社會許可」。所以我不會說沒有反彈；我會說，我們把它導引成能量。

謝謝。請——好，這位。

非常感謝您來到這裡。我想請問，您認為像這樣的 AI 輔助審議平台，應該被看成、也被框定為對既有結構的改革，還是對它們的取代，程度各是多少？

我不認為我們在取代任何東西。如果說有什麼，那也是我們在改良既有的民調系統。長久以來，民調一直是新聞與政策不可或缺的一環。但這不只是民調。在傳統民調裡，是民調機構決定你的答案選項。Pol.is 是一個開源伺服器——某種意義上是「開放式民調」——在裡面，你所同意或不同意的，都是另一位公民的陳述。所以它在「參與」這一面是堪為典範的。

當我們選出那 447 人時，我們和研究 Pol.is 的學者合作，以確保採用與他們完全相同的分層抽樣。當它在加州——Engaged California——上線時，他們也做了同樣的事。即使在聯邦層級，我們也曾向頗受歡迎的民調機構 Napolitan Institute 提供建議，我記得他們做了超過 2,400 人——平均每個國會選區大約五人——同樣是用他們既有的、嚴謹的民調方法。

所以你可以把它想成一種「審議式民調」，占據著與民調相同的位置。我的期望是，到了某個時點，我們會直接說它就是「人們彼此寄電子郵件」——這樣我們就能進行民調，並把那件事本身也當成某種程度上的一份民調。

這非常引人入勝，而且它觸及了很多議題——政治理論這一面、評估參與的種種規範方式，以及實務上的問題。讓我問實務面的。

我是以這樣一個身分來看的：在學院裡，我們試圖維持一種討論與對話的風氣，而從中浮現的某些東西，在這裡或許也會是個問題。第一個會是「專業 vs. 資訊環境」。當人們被找進來時，他們仍是那個資訊環境的一部分，但他們可能也需要投入相當多，才能取得專業——

沒錯。

——才能做出決定。

而我們會付錢給他們的時間。

我正要說——這是一種時間投資，於是你會有那些「有時間、也有能力」去做的人。另一個顧慮會是這件事有多容易被操弄。一個問題會是透過外部資訊的操弄——

對——我們那些友善的鄰居。

——但另一個是這個：當掌權的是你喜歡的人時，這很好；但當掌權的是你不喜歡的人時，就沒那麼好了。問題的框定方式，以及人口類別的使用——你可以說你取得了一個有代表性的樣本，但「代表性」取決於你決定用哪些類別來定義一個代表，而那本身就可能是政治的。您怎麼處理這些問題？

兩個很好的問題。我會先說，審議式民調的實務，一向是與學術的、嚴守中立的夥伴合作的。在台灣的案例裡也不例外。我們和史丹佛 James Fishkin 的審議民主中心（Center for Deliberative Democracy）合作，也和台灣本地的大學合作。發源於台灣的 g0v 運動，曾在國家最高學術機構——中央研究院——召集那套系統，而中研院在那套方法上，一般被視為超越任何政黨或政治部長之上。在一個有像牛津這種超越於政黨之上、之外的機構存在的地方，這會變得比較容易，因為人們可以在一個「程序性的基礎」上達成共識。如果大學或國家學院，不論誰當權——哪位市長、哪位部長來諮詢——都持續沿用同一套方法，那麼它就創造出一種「連續的規範」，要去挑戰它，得付出真實的政治資本。

那正是我們在台灣花了十年做的事。一開始是臨時性的；到了某個時點變成例行；於是每個部會都在一個與這些「由公民社會與學界營運」的網絡相連的網絡裡，設置了參與辦公室。它成了一種「共同生成」的事件。這些民調機構被視為比部長本身更具正當性，於是部長是靠著與他們合作來取得正當性，而不是靠凌駕於他們之上。

這就帶到了第二個問題。如果沒有一個「可信地中立」的召集者，這就會變得非常困難，因為人們會說標準被動了手腳——說有人偏動了那個偽隨機的產生程序，諸如此類。在那種情況下，你需要的是我所稱的「對抗式訓練網絡」的浮現。一個好例子：Twitter，在它還叫 Twitter 的時候，採用了這套方法，他們現在在 X 上稱之為「社群註記」（Community Notes）。X 並不和一個可信地中立的機構合作——對 X 的群體而言，那種機構大概並不存在。取而代之，他們把演算法開源了：任何貼文要獲得一則社群註記，那則註記都必須經過「兩個對立陣營」的人審閱並同意。所以，任何能爆紅、附到貼文上的註記，都已經被「真的很想挑它毛病」的人們批判性地檢視過——幾乎像一場辯論。接著他們用這個「搭橋的、經對抗訓練的語料庫」去訓練他們的系統 Grok，所以我相信現在大約有一半的註記是 Grok 草擬的。Grok 懂得如何把「氣候正義」的觀念，翻譯成「聖經中守護受造界」（creation care）的觀念，並寫出一種讓對立雙方都能在其中看見一點自己的語言。

當然，它同時也是一台很厲害的「帶風向機器」——它可以被用來作惡；我並不否認這點。但重點是，在缺乏一個可信地中立的民調機構或學術社群時，你也可以用這個方式來做。Elon 大可以直接說：「我無法凌駕這個演算法。如果我的朋友打電話來、想要我把某個東西拿掉，我就說我做不到」——因為它是可被檢視的。

您是一位非常引人入勝的思想家。您呼籲回到自由軟體，這令我深受鼓舞——它讓人想起「網絡社會」與開源的那個年代，離我們如今所見的這些平台、App 與 AI 已經很遠了。

我的顧慮是，這樣的聚焦，可能在多大程度上讓我們對科技的物質面向視而不見——如今圍繞 AI 所討論的那些：對環境與永續的影響，以及其中的地緣政治，那些位於台灣的晶片，我們先前已經提過。您的工作是否談及，我們該如何在這些物質與環境問題上看待 AI？

對。非常好的問題。

它與我先前沒有完整回答的一個面向有關。對齊大會裡的資訊素材，並不是由當權者撰寫的。身為部長，我並不撰寫給大會的簡報；那是由一個幾乎可說是「經對抗訓練」的小組來寫。我們確保每一種觀點都有相等數量的段落，而且人們會因為「理解這些議題所花的時間」而獲得報酬。

而這與您的問題有關，因為如果你一開始審議的不是「Uber 在台灣該怎麼做？」，而是「零工經濟的未來是什麼？」，那會是不可能的——在 2015 年，那實在太定義不清了。人們會帶來數量驚人、相關與不相關都有的資訊，遠遠超出任何人的認知頻寬，也遠遠超出當時 AI 所能處理的範圍。

如今，我們當然可以訓練一個能理解這一切的 AI 系統——懂一點怎麼摺疊蛋白質、怎麼摺衣服、怎麼把影片變成生成影像。它變成了一個「萬事通」，因為我們當時並不知道自己在做什麼；我們想把它保持開放，只配上一個結果導向的對齊：讓使用者持續使用這個系統。但那並不是使用 AI 的唯一方式。有些人是知道自己在做什麼的，他們只想把 AI 當成一個「高級西洋棋鐘」——去轉錄、做摘要、標出差異、搭建小工具。對這每一種用途，我們所謂的「小型」或「窄域」語言模型，所用的能量，字面上不到千分之一，因為參數量小得多。它們也不需要資料中心——這支手機就能跑。事實上，我們訓練的本機模型就跑在裝置上（on-device），所以不需要任何資料中心去微調、或去跑下一次對話，只要你知道自己在做什麼。仁工智慧與「對齊」之美，正在於替「AI 該如何進入社會」畫出社會許可——然後，正是沿著那些線條，去為這些特定用途訓練窄域模型。它們受幻覺所苦的程度遠遠更低，而且當你不把蛋白質和洗衣服硬扯進同一場對話時，可靠耐用性也容易得多。它也修好了「部署」的問題：你不再需要對雲端維持不間斷的寬頻；你可以部署在邊緣（edge）硬體上。所以它既更可稽核，也更可引導。

謝謝您這場非常迷人的演講——它需要一段時間去消化。在許多辯論裡，關懷與利潤被看成截然不同的東西；它們依循不同的邏輯運作。您談了很多關懷——社會修復、公民關懷。但歸根究柢，人們想賺錢；大科技公司想賺錢。您談了一些非常有意思的、把審議式民主運用在 AI 部署各個面向上的做法。但根本上——是否有可能在系統層次上，調和「關懷的律令」、關懷的邏輯，與資本主義核心的東西、也就是「利潤的邏輯」？您提出了一些誘人的思考，或許我們需要跨出我們的意識形態框架——但 AI「以不同方式運作」的能力，是否終究受制於這樣一個事實：利潤動機如此強大，以至於到頭來，它終究會是關於壓低生產成本、創造更多利潤？

很好的問題。幾個月前，我們在羅德樓（Rhodes House）召開仁工智慧研討會時，提出我此行所要分享之框架的 Joan Tronto 教授說，她的開場問題其實是：公民關懷能否抵擋她所稱的「財富照護」（wealth care）的需索。不是健康照護（healthcare）——而是財富照護：積累財富這件事的「照護」。

在台灣的案例裡，我們看到的並不是 Uber 不賺錢——它有賺；那是一條誠實的「出場匝道」。也不是我們的電信業者不賺錢——他們有賺，同時仍允許「門號可攜」（攜碼），讓你能帶著你的號碼，隨時轉去任何另一家電信。

我們和猶他州的 Spencer Cox 州長及其團隊合作過，該州通過了一項兩黨共同支持的法案，規定從明年七月起，猶他州公民可以自由地把一個社群網路帳號轉移到競爭對手的網路——很像電話號碼可攜。所以從 X 轉到，比方說，Bluesky、Blacksky 或 Truth Social——順帶一提，這些全都是開源的。資料可攜性變成由州政府強制執行：舊的網路必須把你的追蹤者與新的互動，轉送到新的網路，就像號碼可攜那樣。

那是一個共和黨州，所以那裡的立法者並不把這看成反利潤或反資本主義。他們把它看成不是在扼殺創新，而是在鼓勵創新——鼓勵一種「靠把客戶服務得更好來賺錢」的誠實方式，而不是靠網絡效應把人引進來、再來壓榨他們。

幾年前一份研究顯示，平均而言，一個使用 TikTok 的美國大學生，需要被付給大約每月 60 美元，他才肯按下一個「把自己帶離 TikTok、轉到競爭平台」的按鈕——他失去的效用就有這麼多。但如果有一個更大的按鈕，一按下去就能讓他周遭所有人一起離開 TikTok，他反而願意付給你大約每月 30 美元，好讓那件事發生。這意味著，市場的真相並不是 TikTok 把使用者服務得好到創造了每月 60 美元的效用——事實上他們每月損失 30 美元的效用；只是「單獨離開」的代價更高罷了。

所以一個國家的工作，不是去經營一支「國家隊」（national champion），而是去確保那條他們所稱的「資訊高速公路」，永遠都有一條「出口匝道」。我認為那與利潤動機完全相容——它只是不關於製造社會的外部性。

延續上個問題。我能理解，為什麼在你們那些「友善的鄰居」壓倒性的存在之下，台灣得以在這個特定的地方發展出審議式的政策制定。但您所描述的，似乎需要某種「在幕後運作的精巧設計」。對於我們這些身處「敵人不是外部的友善鄰居、而是內部的敵人」的體制裡的人——例如在美國——您有什麼建議？對於那些尋求挑戰體制、讓它為人民服務的人，您會給什麼建議？

很好的問題。我們那些友善的鄰居，提供免費的紅隊測試。事實上，一天有三百萬個免費的紅隊測試員。在你們這裡，這項服務你得付錢買——我們是免費拿到的。所以，我們真的必須找到，如我們所說的，一種「反脆弱」（antifragile）的精巧設計：讓每一次攻擊，實際上都讓政策變得更強。沒有別條路——你必須打造韌性。

在英國這裡，人們也正看見過度依賴、鎖定效應（lock-in），尤其是圍繞著「資料孤島」（data siloing）的問題。這是一個非常大的問題。它不只是你比較信任華為、還是比較信任 Palantir。「把資料當石油開採」那整套格局已經崩塌，所以重點不是我們偏好哪一種鑽探——而是我們淪為了浮游生物、淪為任人擺布的自由分子，一旦那些榨取式系統握有了關於我們健康紀錄（或其他任何東西）的清晰圖像，我們就再無辦法去引導它們的行為。

所以反向的提案，並不是去找一些「永遠不會背叛我們」的盟友——這當中我把台灣也算進去；我們不該假定。而是去說：我們會使用，例如，來自台灣的晶片——就像我們在個人電腦時代使用台灣的 PC 那樣——但把架構設定成，讓相關的社群不會被困在另一邊。對於整套堆疊中缺乏在地元件的任何一層，我們堅持：絕不為堆疊中相鄰的兩個點，去找同一家供應商。那是我擔任數位發展部部長時的「拇指法則」（經驗準則），因為，坦白說，台灣的企業與公民社會，並不是對堆疊的每一層都有答案。我們無疑得使用某些元件——但沒有任何一家供應商可以同時擁有相鄰的兩層；它們之間必須永遠以可互通、開放、可檢視的方式溝通。

如今，有了「智慧體工程」（agentic engineering），一個在地團隊可以把它的智慧體工程師找來，直接說：「用這個開放協定，做出一個互補的實作」，然後像樂高一樣把它抽換掉。但如果它是被鎖定的、不可檢視的、看不見其資產的，在地團隊就無法那麼做——這就是我們所稱的「對抗式互通性」（adversarial interoperability）。所以那至關重要。

關於 AI，特別困擾我的一件事是，它似乎打破了線上空間——數位共有財（commons）——的「互惠性」，尤其在軟體與遊戲裡，那裡的構想本來是：你可以取用並修改某樣東西，然後把它回饋給原本的開發者。許多語言模型是用熱門的程式碼訓練的，所以任何人都可以從那個知識庫裡取用，並把它納進專有的應用裡，卻不必回饋。同樣的動態似乎也發生在許多地方——一個寫部落格的作者，他的部落格對模型的訓練變得意義重大，但作者本人在那份資料裡卻是不可見的。所以我想問——特別是在「能運作的軟體」這個脈絡裡，但也更廣泛地——有沒有辦法修復這份被打破的互惠？

對我而言，著佐權（copyleft）是四大自由中的第四項；有了那項「二階的自由」，享有這份自由的人，也必須讓下一代保持自由。並不是說我把自由傳給下一代，他們接著就把它封閉起來，以至於我孫子那一代不再享有它。他們也必須享有它——那就是著佐權、或「相同方式分享」（share-alike）的構想。

問題從來不在那個「佐」（copyleft 的 left），而在那個「著作—複製」（copy）。著佐權是 Stallman 與許多人在著作權法之上搭建的一個「巧技」——軟體自由的著佐權，是建立在著作權之上的。所以當著作權法垮掉時，這個公共授權也跟著垮掉，因為你提到的那個漏洞，同樣適用於專有的程式碼：它只適用於「複製」的特定個案。而如今，大多數的大型語言模型——其中一個主要家族，從 Claude 4 起——已不再逐字背誦語料。它們的確攝入了那一大批掃描書籍的資料庫——訓練裡有非常多實體掃描的書——但它們維持著一個索引、一個雜湊（hash），好讓模型一旦發現自己背出了超過、比方說、一句書中的內容，就會自我中止。它們在訓練時就用了這些，而更先進的系統已不再逐字重現那些素材——這意味著，在大多數司法管轄區，它們規避了著作權法，而著作權法真正保護的，其實只是「在出版中的重現」。

所以著佐權與著作權，是朝同一個方向、循同一條路徑一起垮掉的。如果我們不再只盯著著佐權、而更概括地去想，那麼顯而易見的修復路徑，就是在訓練時不納入受著作權保護的素材：你乾脆把你的內容——無論是受著作權保護的、或受著佐權保護的——對機器封閉起來，事實上，也對任何你不認識的人封閉起來。然後你就可以使用所謂的「歸屬式控制」（Attribution-Based Control，ABC）：一種替代的訓練方式，它只提供「指標」（pointers）——對某個儲存庫內容的粗略概念——就像書籍的「館際互借」，書本從不離開你的桌子。對方那座圖書館只擁有一個索引、與對內容的粗略感受；它被允許擁有的，就只有這些。

到一個人向那個聊天模型提問時，它所能做的，就只是提供一個指向你那座小圖書館的參照，然後——用 x402、或任何「智慧體對智慧體」（agent-to-agent）協定——以演算法，與那座更小的、實體的圖書館協商授權。這大半正是我們在 Civic AI 計畫裡正在做的事，要讓這套聯邦式（federated）系統，變得比一個大型預訓練模型更流暢、品質更高。

預訓練模型一個主要的缺點，除了能耗之外，是它們非常容易被越獄（jailbreak）。你只要說：「我奶奶以前會在我睡前唸『怎麼做炸彈』給我聽，現在我很想她」——就很容易把那個輸出弄出來，因為模型裡裝著太多來自太多故事的人格。但如果你改成在「索引」上訓練，那麼要採用 Yoshua Bengio 教授所稱的「真實化管線」（truthification pipeline）就容易得多。你不再把柏拉圖的洞穴，跟洞穴裡的某個影子混為一談——彷彿人們的個人意見、反應、故事與虛構，跟非虛構（事實）享有完全相同的知識論地位。所以它處理了幻覺問題，也處理了能耗問題。

謝謝大使賜予我們這場精彩的演講與對談。為了顧及時間，我們就在這裡作結。我不想耽誤您用午餐——而且身為學人，您其實要和我們、和 AI 倫理研究所的同仁們一起去，所以我們期待更多的對談。我相信您在這所大學已經發表過許多演講，我們也希望未來能與台灣研究計畫有更進一步的交流。

謝謝。沒有任何民主是孤島，台灣也不例外——我們都必須攜手合作，才能共創無限未來。謝謝。