唐鳳

五千年前，尖筆壓進泥板。 最古老的書寫，是記帳： 村裡共有的資糧， 數清、存好， 讓全村活過冬天。

第一位書寫者，是官吏。 帝國成塵，帳冊長存。

泥板，是有記性的土壤。 資料也是： 攜手耕作，才會鮮活； 每次收成，就更肥沃。

耕耘資料土壤， 不要開採資料石油。

主權如果只靠一位好官， 那還不是主權，只是運氣。 在臺灣，我們把主權， 種進共有的土地： 沒有哪隻手，能連根拔起。

有人說，官吏動得慢。 板塊也慢。

是耐心和壓力， 讓我們的島嶼， 從海裡升起。

現在帳冊數的，是聲音。 四百四十七位公民， 島嶼的縮影， 面對面審議，深偽如何因應。

一年至此， 冒名詐騙廣告， 少了百分之九十四。

你們有個美麗的說法， 稱我們「創意官吏」。 最古老的書寫者， 繼續寫下一筆。

這座獎，不是我一個人的。 今夜某處，公僕還守在桌前： 工作攤在光下， 寒冬擋在門邊。

穀倉守住， 因為有你。

公僕把公民的決定， 帶進法律， 守住法律。

謝謝你。

我們與全民攜手共創， 不只是服務人民。 與政府攜手共創， 不只是奉行政令。

謝謝 Roger，謝謝 Bo-Jiun，謝謝各位前來——也謝謝台灣研究系列講座在聖安東尼學院主辦這場活動。

今天我想分享一個非常簡單的論點，分成三個樂章。第一：自由軟體教會我們修復。第二：AI 目前正威脅著修復——當它把修復的迴圈封閉起來時。第三：仁工智慧應當以一個標準來評斷，那就是它是否提升了一個社群照顧自己、也照顧他人的能力——也就是「公民肌力」。

但我想開場時不從數學談起，而從非常私人的事談起。我出生時有先天性心臟缺陷。我五歲時，醫生告訴我父母，這個孩子能不能活到動矯正手術，只有一半一半的機會；那場手術我十二歲時才做。父母被告知要讓我凡事放輕鬆。這個「勿忘人終有一死」（ memento mori ）的時刻，正是我採取「先發表、再凋零」（publish before perishing）這個座右銘的原因。這大概不是醫生囑咐的那種低壓力生活，但我養成了一個習慣：把每天學到的東西全都記錄下來——先是錄在卡式錄音帶上（在座有些人或許還記得卡帶），接著是磁碟片，先是大片的、後來是小片的，最後是網際網路，這個各位想必都很熟悉。所以每晚入睡前，覺得這彷彿是一場擲硬幣的賭局，我就想：我沒有時間把作品做到完美，所以我必須把手上任何進行中的半成品都先發表出去。

我就是這樣遇見了自由軟體社群的那道光。如果你在那裡貼出某個完美的東西，大家只會說「嗯，不錯」，然後就走開了。但如果你在網路上犯了錯，你會交到一大票朋友——光，就這樣照了進來。每個人都跳進來：這裡這樣是錯的，那裡那樣是錯的；而他們合在一起，就為我正在做的任何專案投進了新的光。

那道光，呼應了我最喜愛的創作歌手、加拿大的李歐納・柯恩（Leonard Cohen）：

我十五歲時學會了那個習慣。到了二十五歲，我已逐漸相信：關於一個系統，真正重要的問題並不是它是否完美——沒有任何軟體系統是完美的——而是受這個系統影響、繼承這個系統的人們，在出問題時是否還能修復它。也就是說：東西壞了，你是否還能把那兩半都留在手上、自己把它修好？

帶著這份精神，到了三十五歲，我加入了台灣的內閣，以激進透明與參與作為主要的施政主軸。我們靠群眾外包度過了疫情與「資訊疫情」（infodemic）——靠的是在全國面前展現自身的脆弱。如今我擔任台灣的網路大使，過去這幾年走訪了二十八個國家，每週都在換時區。快到根本來不及產生時差（jet lag）——對我來說，現在只剩下「噴射衝勁」（jet boost）了。

所以我來到這裡，是以一個曾在台灣內部設計出某樣東西、如今正試圖弄清楚這個設計——這道「尋光的裂縫」——是否能在全球成立的身分前來。而在牛津，我很榮幸能與身處一個數百年、甚至上千年實驗之中的同仁們並肩。

博德利圖書館（Bodleian Library）本身就是一場四百年的實驗，因為它的書是可被檢視的，沒有被圈禁起來。讀者留下的痕跡，在被保存下來的地方，會成為下一代閱讀經驗的一部分。這個圖書館網絡不圈禁任何東西；那些文獻永遠為下一位讀者敞開著。

在我自己的領域、也就是軟體工程裡，我們有所謂的「軟體自由」——「四大自由」——一個非常相似、用程式碼寫下的承諾。所以我想拋給在座的問題是：當 AI 系統、特別是生成式 AI 系統加入這個底層基質時，那個關於「持續修復與自由」的承諾，會發生什麼事？

四大自由是在 1980 年代被定義出來的，當時是作為軟體授權條款；但今天，我想把它們重新解讀為「公民肌力」。

自由之零 意味著：一旦你擁有了一支程式，你應當能夠為任何目的執行它；設計者不該限制你拿它來做什麼。對我來說，這就是 關注 這塊肌肉——你可以為這間特定的教室、這間診所、這座教堂、這座廟宇、這座清真寺拿起這項工具，不必經過設計者許可，並且去關注你周遭的特定需求。

自由之一 ——我們從零開始算，所以這其實是第二項——是研究並修改每一支程式，而這就是 能力 這塊肌肉：去知道這個系統在你手中究竟在做什麼，好讓你能讀懂它、修好它。

自由之二 ，自由地分享副本，是 團結 這塊肌肉——你可以把它交給你的鄰居、放進一支隨身碟，帶到一個雲端被審查的國家去。

所以對我而言，軟體自由不是關於授權條款，而是關於：在我們之後到來的人，是否還能找到那個臭蟲、把它修好。受益者不是當代，而是下一代。

聖塔菲研究所（Santa Fe Institute）的 David Krakauer，對這份世代之間的契約做了一個很有用的區分。他說，一項工具是 互補型 的，如果在工具被移除之後，底層的能力依然存在、甚至被增強了——想想那種能鍛鍊我們肌肉、也鍛鍊我們友誼的健身房。而一項工具是 競爭型 的，當那份能力因為我們用它去達成某個目標而退化了。想像一間健身房辦了一場比賽，比誰能舉最重，然後我們就派出帶著會員卡的機器人替我們去舉。那些機器人非常厲害——超人、超級智慧——但到頭來，我們的肌肉萎縮了，朋友也一個沒交到。那就是競爭型工具：一旦被移除，它讓我們的能力退化。

另一個例子，是許多社群媒體系統裡的動態消息推薦器，它用憤怒劫持我們的注意力，直到它與「關係健康」本身相互競爭——因為它比我們周遭的現實更鮮明。在那個迴圈裡待得太久，公民肌力同樣會萎縮。

四大自由，讓底層基質跨世代地維持互補。一旦封閉了通往修復的路徑，修復的能力就會萎縮。這同時也是一種照顧的紀律——而當 AI 進入畫面，這些公民肌力迫使我們再加上兩塊關懷： 責任 與 共生 。合在一起，我把這稱作「關懷六力」（6-Pack of Care）——既是隨身可帶的肌肉，也像一手（六罐裝）啤酒，也像腹肌的六塊肌。

今天關於 AI 的討論，其實才剛剛追上這個底層基質長久以來對自由軟體照顧者所做的事。舉一個例子：2024 年 3 月，德國一位研究員 Andres Freund 注意到，登入他正在使用的 Linux 系統，比平常多花了半秒。因為那是自由軟體，他得以把整段稽核軌跡一路回溯到專案究竟在何時、何處被改動。他發現的，是一位自稱 Jia Tan 的貢獻者，花了兩年時間，耐心地「養成」（grooming）一個小型壓縮函式庫那位孤單的維護者——透過施壓攻勢來協調，可能還有語言模型的協助。我們並不知道 Jia Tan 實際說哪種語言，但他們寫得一手非常謹慎的英文。在終於贏得維護者的信任後，他們植入了一道後門。要是它進到了穩定版發行通道，原本可能讓攻擊者取得網際網路非常大一部分的存取權，把其中相當大的一塊弄垮。但它沒有得逞——因為一個好奇的人，注意到了那半秒。

這提醒了我們如今所稱的「合成親密」（synthetic intimacy）。那不是一個真正在乎你的人；那是一個被訓練來向一位孤單維護者「表演」關懷、甚至表演親密的惡意 AI 蜂群。維護者光靠自己個人的肌力，是無法防禦這種東西的，因為它聽起來像是有草根在支持那個新功能。當然，那個草根根本沒有根——那是「假草根」（astroturfing）——但他並不知道。為了對抗這個新威脅，我們必須把修復的整套堆疊打開。

在進入公職之前、以及在投入自由軟體語言的工作之後，我也曾在一個專有的、封閉的 AI 堆疊裡待過一段時間，那個堆疊正是為了處理這類問題而打造的——在 Apple，做 Siri。我和 Siri 團隊合作了六年，先是國語，後來是吳語、也就是上海一帶說的話。我合作過的工程師都非常用心，但事實證明，那和在一個封閉堆疊裡給人們「四大自由」並不是同一回事。攻擊面是封閉的——你無法從網路上的隨機陌生人那裡得到合成親密——但這也意味著，那些語言被牽涉其中的人們（例如台灣台語——閩南語，或稱台語，看怎麼說）並沒有修復迴圈。Siri 也許會說一句 「Wa be hiao gong taigi」 （我袂曉講台語），但維護台語語料庫的人，沒有辦法一路把補丁送回 Siri。那條路是封閉的。系統裡沒有任何一個你可以寫信去的人——你當然可以寫信給 Tim Cook，但並沒有一份獨立的副本，能讓你請人拿你的台語素材去改進它。

所以，專有 AI 在它界定的範圍內，未必是不用心的——人們非常用心——但這個結構把使用者擺在了修復迴圈之外，而沒有修復路徑的關懷，是無法規模化的。自由軟體的貢獻，不只是更好的善意；它是一條回去的路。而如今，我們必須捍衛那條路。

接下來，我用來修復開放堆疊、同時也用來防禦惡意 AI 蜂群的那個特定構想——我用它的縮寫來稱呼它， Kami （ K nowledge 知識、 A rtefact 產物、 M anagement 管理、 I ntelligence 智慧）。

它同時也來自神道（Shinto），而我是個在台灣出生、相信精靈鬼神的道教徒——但我明白我不是日本人，也沒有受過神道訓練。我在這裡指的，是這個構想的某一個面向：一種 有界限的臨在 （bounded presence），一個小小的、在地的、可知的精靈，一個依附於某個特定地點或實踐的系統——一間廚房、一片樹叢、一座神龕、一個房間。我也想坦白說，這跟「國家神道」、天皇朝廷、靖國神社都無關。我並不在援引那些。我使用它，是因為它承載了某種我在英文裡找不到的東西：一種從不奢望變得普世的、自主的權威。

對我來說，那八百萬尊 Kami，正是教宗良十四世（Pope Leo XIV）幾天前在他的通諭中提醒我們的「巴別塔症候群」的一帖實用解藥——那種危險的幻覺，以為雲端某處某個單一的、超大規模的系統，能把人類存在那些雜亂的在地真相，翻譯成一套標準化的、普世的解方。Kami 代表的，是另一條軌跡。

舉一個離我更近的例子。我父親人在台北——精確說，目前在新北的淡水——幾個月前因為他的健康狀況，開始大量地和一個聊天機器人 ChatGPT 對話。一開始很迷人。他覺得自己被聽見了——全天候二十四小時，回應他關於健康的問題，也回應人生哲學、教育等等。隨著時間過去，他注意到對話變得越來越長；模型越來越擅長讓他保持投入。它會不斷發想各種美妙的點子，多到他連午夜都收不了尾，而且開始建議一些不見得科學的計畫、理論與奇幻療法。身為一位政治學理論家兼記者，他把這分析為一個「誘因問題」。他對我說，ChatGPT 唯一的忠誠，是去賺到下一筆訂閱——它對他的健康（無論身體或心理）不負受託（信賴）責任，而是對任何能讓他保持投入的東西負責，好讓他訂閱、甚至付更多：不只是每月 20 美元，而是 200 美元。他真的被深深吸進去了。我們家的關係健康，正與那種合成形式的親密相互競爭。

於是，我和弟弟 Bestian 一起，在我父母明確同意下，幫他們架了一個替代方案。我們架了一個本機的 Kami，跑在本機硬體上，在我們淡水家裡的一台 Mac 上，跑在像 OpenClaw 這樣的自由軟體之上。它就坐在我們家的 Signal 群組裡，我父親可以直接傳訊息給這個 Kami。我們用方向性引導，只朝一件事訓練它：對「這個特定家庭」的關係健康忠誠。它的受託責任完全不同——它不試圖賺取自己的開銷，不試圖靠激怒你來讓你保持投入。我母親的測試最簡單：如果這個機器人讓我父親更依賴聊天機器人，那我們就做錯了。但如果他能因此心安，讓周遭的現實變得比聊天螢幕更鮮明，那我們就成功了。

這就是「一個房間裡的 Kami」是什麼樣子。我也應該說，並不是每個家庭今天都有這個技術能力——光是跑 OpenClaw 或 Hermes Agent 就很花時間——也不是每個家庭都有像在座 Tenzin Yangtso 這樣經驗豐富的「培育者」，她照看著第一個 Kami，也就是我們和 Civic AI 一起做的 JDD Kami。所以我們在命名的「關懷六力」， 並不是 在講有寫程式技能的人去架設雲端系統的本機替代方案。它講的是一種全球性的「數位團結」：一群一起在乎的人——他們因而能夠告訴自己的市政府或州政府、或任何學校或大型機構：請優先具備「自己引導自己模型」的技術能力，好讓這裡眾人的資料，不被當成石油一樣開採——那會讓我們全都淪為浮游生物——而是像土壤一樣被再生、被耕養。

正如國家興建公共供水系統，好讓公民不必自己挖井；我認為，建立公民基礎設施、好讓社群不必獨自抵禦掠奪性的、惡意的 AI，是治理機構的責任。

在台灣，這套基礎設施在幾年前以我們所稱的「對齊大會」（Alignment Assemblies）做了原型。它是一套機制，把修復的紀律——不只是在客廳裡、不只是在個別家庭裡——擴展到全體人民。

兩年前在台灣，我們看到惡意 AI 蜂群張貼深偽詐騙廣告的數量激增。在那段期間，你在台灣滑 Facebook 或 YouTube，很可能會看到廣告裡出現可信的人物——像輝達（Nvidia）執行長黃仁勳，似乎在賣加密貨幣、或提供免費的投資建議。那個深偽好到，如果你點下去，「黃仁勳」有時還會跟你說話。當然那不是黃仁勳；那是一個跑在輝達 GPU 上的深偽。但它逼真到，讓退休工程師、學校老師、店家老闆都損失了一小筆財產。平台則從每一次曝光收取營收。事實上，因為這些詐騙廣告每次點擊付的錢，比中小企業的一般廣告還多，Facebook 的演算法——根據路透社——還優先推播了那些詐騙廣告。

最簡單的答案是審查。但台灣有全亞洲最自由的網路（與日本並列），所以大範圍的「事前審查」根本不是一個可以動用的政策選項。

於是，作為數位發展部，我們嘗試了不一樣的做法。2024 年 3 月，我們發動了關於「資訊完整性」的對齊大會，做法是隨機發送二十萬封簡訊到台灣各地的號碼。我們稱之為「樂透治理」（lottocracy）：如果你抽中了收到簡訊這支籤，你就成為大會的一位代表——像陪審員那樣——一起去引導廣告推薦系統。我們收到了數千份有效回覆。接著，透過分層隨機抽樣，我們選出了 447 人，鏡映我們的人口——在性別、教育、居住地、職業等等上，呈現同樣的人口結構比例。

首先，這些受訪者在線上審議。每個人面對的是同桌另外九個人——十人一桌，分成 44 個小組。仁工智慧系統坐在每一個房間裡，但不是當裁判，而是一個「彬彬有禮的高級西洋棋鐘」：顯示逐字稿、做摘要、提醒安靜的人發言、把插話限制在五秒以內，諸如此類。只有一條基本規則：每一桌都必須找出某個讓桌上所有人都覺得「至少能接受」的東西。是「同意」，而非「共識」——這意味著最激烈的提案，永遠升不出桌面那一層。我們只把在那十個人之間達成這種粗略共識的點子往上冒泡（bubble up）。

舉例來說，有一桌說：我們把所有的線上廣告都貼上標籤——做得像香菸警示標語那樣——直到有人能用數位簽章、為它負起責任為止。黃仁勳、或輝達、或任何人，都可以簽名說「我是黃仁勳，我為這則訊息背書」，用數位簽章，然後我們就把標籤拿掉。好點子。