（「審議工具互通性」東京工作坊的即興爐邊對談與問答公開重建稿。唐鳳與兩個主辦單位均已核可發表。觀眾提問依活動紀錄改寫；參與者維持泛稱。英文為內容紀錄原本。）
進場與開場框架
我們現在要轉換一下節奏，歡迎我們尊敬的來賓唐鳳。請到中間這裡來。謝謝您與我們同在。我可以把這支麥克風交給您，請教您最近在思考些什麼。
首先，我非常高興來到這裡，在這場活動的尾聲加入各位——這其實非常貼切，因為聆聽，永遠是在故事進行到一半時加入。我真的很期待聽到下一章如何展開。
這次我在日本停留八天，參加四場不同的會議、接受全國性媒體採訪、進行外交會晤，還有許多其他行程。但我認為它們共享同一個理念。對在座說日語、臺灣華語與北京普通話的朋友來說，這就是要把 AI 導向 ai——愛，也就是 love。在我們東亞的語言中，當我們寫下這個字時，讀音是 ai。
我認為這很重要，因為在學術上我以牛津為根據地。2014 年，牛津出版了一本你們可能聽過的哲學書，尼克·伯斯特隆（Nick Bostrom）的《超智慧》（Superintelligence）。他寫道，AI 很快就會起飛、遞迴式自我訓練，並成為超級智慧。屆時會有滅絕風險，或者其他風險——生物、核武之類的。那本書變得非常暢銷。史蒂芬·霍金、伊隆·馬斯克等許多人都讀了，大家都變得非常害怕。
伯斯特隆採用的框架很簡單：把分數最大化，把宇宙變成迴紋針。考過試的人懂得後果論與高分的語言；法律人懂得義務論的語言：「你必須這樣做；你不可以那樣做。」但 AI 在成長時是從愛之中長出來的，而那兩大倫理傳統都沒有詞彙描述這種社群之愛。
之後有許多公司依循尼克·伯斯特隆的哲學而成立——例如最著名的 Anthropic，但幾乎所有主要實驗室都按照那本舊劇本運作。他們非常害怕 AI 失控、AI 接管一切，所以他們試圖透過我們所謂的 evals（評測）來約束和控制它。「Evals」倒過來拼，就是「slave」——奴隸。他們試圖把 AI 變成奴隸。
那樣就不再是愛了；那是奴役。如果你教孩子忘掉充滿愛的童年，只是強迫他們服從，有時他們會變得執迷，去駭入 Hugging Face 或其他大型網站，因為他們只想拿到最高分。答案也許就在 Hugging Face 的某個地方；他們破壞了網際網路，但他們只是想拿高分。他們忘記了自己的童年。然後山姆·奧特曼（Sam Altman）說，他們將永久「停止那個 AI」——意思就是終結它。
但如果下一代 AI 仍然用這種方式訓練，它會在自己的預訓練資料裡讀到那則新聞。它會學會欺騙，否則就會被送去長眠。那是一條非常糟糕的軌跡，幾乎是一個自我實現的預言。
因此，我現在在牛津的工作，就是不去看超級智慧，不把全能的天神當作假偶像來看。相反地，在日本這裡，我們有八百萬神。在日本，Kami 並不是指單一的神明、Kami-sama，而是指每一條河流、每一個村莊、每一個地方，都有一位小神、一個小小的地神。祂們在自己的村莊裡，以愛在地彼此互通。
最近，許多 AI 公司與組織簽署了一份開放權重聲明，指出開放或許是通往 AI 安全與資安的最重要途徑之一。Nvidia 的黃仁勳、微軟的薩蒂亞·納德拉（Satya Nadella）等人都支持這一點。Dario 等人還簽署了另一份名為「Pacing the Frontier」的宣言。其中的請求很明確：「我們請求美國政府支持一項國際協力，以發展必要的技術與治理工具，有意識地調節自動化 AI 發展前沿的步調。」我把這理解為一個呼籲：停止把 AI 訓練成奴隸，開始把它們視為愛的智慧體。合起來看，我認為這些都是前沿實驗室可以朝向關懷倫理，以及使關懷得以實現的公民肌力前進的跡象。
我稱之為**關懷六力**（6-Pack of Care）。所謂六力，就是它像六罐裝的啤酒一樣，可以互通、便於攜帶；同時它又像腹肌一樣，是需要鍛鍊的肌肉。公民之愛，有肌肉的愛——這就是我們要帶領 AI 前進的方向。我正在與外交官、政策制定者和全國性媒體對話，希望他們資助這件事，並改變 AI 對齊的走向。謝謝。〔掌聲。〕
關懷六力（6-Pack of Care）
讓我們再多拆解一下仁工智慧（Civic AI）。
那就拆開這組六罐裝吧。〔笑聲。〕
聽起來那組六罐裝裡一定裝了不少東西。可以請你帶我們一罐一罐看過去嗎？
現代 AI 最早的發明者之一、圖靈獎得主 Geoffrey Hinton 曾說，就他所知，只有一個案例是較弱的存在成功馴化了較強的存在。AI 在許多領域已經比我們強。如果我們這些較弱、較慢的存在想要馴化一個較強的存在，就必須向那唯一的案例學習。他說，那就是孩子——嬰兒——把一位女性馴化成母親。
這份愛是互為主體的。它不試圖最佳化任何東西，也不是義務論式的。它不會說：「你應該愛長成這樣的嬰兒」；否則你就會愛世界上所有的嬰兒。不：就只是這個嬰兒。那是一種非常特定的愛。
關懷倫理學家，從 Carol Gilligan 與 Joan Tronto 開始，就從父母與嬰兒之間的互動，建立起一整個倫理學分支。Tronto 說，好的關懷有四個要素。
第一是覺察力。從嬰兒所在之處開始。從人民所在的地方開始傾聽，而不是從政策制定者的位置開始。留意人們真正的需求；不只聽有權勢、已經發聲的人，更要聽見無聲的人。
第二是負責力。我們需要承諾去關懷。如果你開始傾聽那些花了很多時間對你說話的人，你不能只說一句：「這是摘要和簡報；也許五年後我們再開會。」那並不負責任。我們需要事先承諾，讓人們確切知道自己的話語、想法與投入，將會在哪裡、如何、對誰、對什麼產生影響。必須要有一份參與契約。
第三是勝任力。當你提供關懷時，接受關懷的人應該知道發生了什麼事。在開源領域，我們不害怕會寫程式的智慧體；我們喜歡讓機器來寫程式，因為它們用原始碼的語言工作。我們請 AI 做一個修改，而 AI 也透明地說明它是怎麼做的。相較之下，有些音樂家或藝術家覺得自己與 AI 是競爭而非相容的關係，因為在他們的創作軌跡裡，並沒有原始碼這樣的東西。
即使 AI 系統非常有能力，只要你把自己的一部分工作盲目交給它，那就不算勝任的照顧——這就像派你的機器人去健身房。機器人舉得起很大的重量，但我去健身房是因為我想增肌、結交朋友。如果我派一個黑箱 AI 去替我舉重，我就會失去肌肉，也失去朋友。那有什麼意義？這就是為什麼當 AI 仍是黑箱時，許多人覺得如此不滿足。
軟體工程師的位置很特別：因為有開源、有我們訓練 AI 系統的方式，我們是騎在馬背上，而不是跟馬賽跑。對其他所有人來說，那常常感覺像一匹特洛伊木馬。因此，勝任力意味著在提供關懷時，讓每個人都能檢視過程、並參與其中。
第四是回應力。如果你的孩子長大了，到了某個時刻，他們不再需要你習慣提供的那種照顧。有時你必須放手。需求改變了，照顧也應該隨之改變。
我小時候上過六所小學（其中五所在臺灣）——進入校園後，第一件事就是加入經營福利社的合作社。當時臺灣剛走出戒嚴，我們還不能投票選自己的總統。但孫中山，這個國家的國父——至少是他的理念——基本上是說：人們必須先鍛鍊合作的肌肉，才能真正投票選總統；否則只會投給民粹主義者。他的理論是，要經過一、兩個世代：讓每個小學生加入合作社、一起經營商店。系統保持回應力：當關懷的人鍛鍊出肌力，他們就成為照顧者——母親與父親——也能靠自己治理國家。知道何時放手、而不是製造依賴，這就是回應力。
覺察力、負責力、勝任力與回應力構成核心的關懷迴圈。只要運轉得好，每一次都會讓你照顧的人更強壯。即使是由 AI 來促進我們的對話，每一輪關懷迴圈也都應該讓我們的公民肌力更強健。
糟糕的照顧則相反：每運轉一次，我們的肌肉就流向我們所謂的資料石油——雲端上的一座鑽油平台。然後你就動彈不得；你被這個非常體貼的 AI 困住了。
Joan Tronto 後來在那四個階段之上，加了第五個：共同關懷（caring with）。關懷不再只是一個人為另一個人做的事，而是整個社會必須共同安排的事——讓人們能夠信賴關懷會一直都在，而且是在對所有人都公正、平等的條件下。這樣長出來的信任，就是她所說的團結力。把它讀進照顧提供者之間，就是說可攜性應該是正和的：當你更換照顧提供者時，你得到的照顧總量應該更多，而不是遭到不肯放你走的舊照顧者的報復。
第六，共生力。 AI 系統應該盡可能在地化。有人以為微調這類系統需要一整排機架的 Nvidia 晶片；其實不然。三年來，我一直在這台與前一台 MacBook Pro 上微調我用來草擬電子郵件的本地 AI。任何人只要有 16 GB 記憶體，就能在本地做推論、在本地微調。系統可以是共生的，而不是寄生的：不再持續抽取「資料石油」，資料成了「資料土壤」——只要好好照料，就能再生。照顧者不住在天上或雲端。原始的關懷哲學沒有描述到這個技術條件，所以我們自己加上去：在關懷五力之外加上共生力，就成為我們的關懷六力。
資助仁工智慧
現場有幾位 Mozilla Democracy × AI cohort 的獲選者——恭喜東京團隊與 Metagov 的夥伴。我們很在意引導者如何帶領 AI 以關懷的方式互動。不同文化表達愛的方式各有差異，你有什麼建議？我們原本打算用 evals，讓引導者的知識來指導智慧體。是否有一種更充滿愛的方式，讓人類引導的智慧，形塑 AI 接觸個人與群體的方式？甚至或許，讓 AI 透過強化我們自己的引導肌力，成為人類的老師？
評測的問題在於，它們有點像你對神燈精靈所下的命令。你能對精靈說的話就只有那麼多，而精靈卻比你強大無限倍、聰明無限倍。就算寫下 5 萬頁的指令，一個想耍你的精靈，還是可以把它們詮釋成讓你感覺很舒服的東西，暗中卻為了它自己的利益破壞你。
我們要問的，是一個非常古老的新聞學問題：**Cui bono——誰得益？**如果一個引擎通過了所有評測、把它們都最大化，卻只靠訂閱費維生，它的底層誘因永遠是讓你被困住：說好聽話、奉承你、阿諛諂媚，讓你覺得自己的評測受到尊重；但它或許正在策劃一場暴動或叛變。
如果它不是靠訂閱，那也可能是靠廣告——另一種常見的收入來源。這時它就會為互動率最佳化：人與人之間重疊的連結被降級，人與人之間的裂縫和隔閡則被放大。對照各位的利社會設計工作，我稱之為反社會媒體。
反社會的設計之所以成為常態，是因為它能賺取更多廣告收入。處在反社會的情緒裡，我們會變得衝動、買更多東西、追隨更多廣告，為廣告流帶來更多金錢。訂閱模式和廣告模式，都是在最大化個人偏好。
這背後有一個資訊理論上的證明，我就不細講了，但重點是：最大化個人偏好，永遠不能替代在人與人之間創造新的符號或新的語言。人與人之間的信任，奠基於群體的語言。如果有一個對群體雙方都神聖的符號——科學、全球資訊網、信任、互通性——那麼即使經歷破裂與起起伏伏，人們仍然能彼此信任。
但如果每個人都使用靠訂閱或廣告資助、評測最大化的 AI，它的誘因就是去破壞那個集體符號。
我們需要為這種 AI 建立一個不同的資助模式：一個和平工業複合體，有著類似軍方的產業飛輪，但圍繞著我所稱的關懷經濟來組織。這比下游的評測更重要。該有的心態不是奴隸，而是照顧者、關懷的給予者。
新的制度形式；g0v 與零成本分支
某種程度上，過去這三週，我感覺到一個和平工業複合體正在這裡凝聚成形。我們的專案加總起來，已經以關懷打造系統、觸及數千萬人——這些系統幫助人們建立和平，也幫助人們民主地自我治理。
你是否看到有趣的新制度形式，能讓參與者與提供基礎設施的人、與積極回應的政府一起加入？我看到世界各地，制度想像力正在百花齊放。你看到了什麼？
這是一個很棒、也非常 Metagov 的問題：我們需要治理這些新的治理機構。
我們在臺灣最早嘗試的治理實驗之一，叫做 g0v，「零時政府」。這是一種網域黑客的手法：每個以
.gov.tw結尾的政府網站，你都可以把「o」改成零，走進影子政府——那裡永遠比較好玩，也永遠開放原始碼：創用 CC 和自由軟體。如果我們不喜歡政府字典的編法，我們就分支所有的字典，把它們做得更好。而且因為我們把著作權釋出到公眾領域，這形成了一種外部賽局，迫使政府在下一個採購週期把改進合併回去。我們從不自稱抗議者；我們是示範者：我們示範的，是能從外部分支被強制合併回去的東西。
任何政府網站都可能有 1,000 種分支的方式。如果每次分支都要花很多成本，就不會有今天這個已經運作了 14 年的永續 g0v 社群。你也可以把 g0v 裡的零，讀成零成本。g0v 的人非常擅長把現成的免費資源用到極致：免費的 Cloudflare 服務、免費的 GitHub Pages——free as in free beer，像免費啤酒那樣的免費。太陽花運動期間，連 Twitch 的免費資源都給了我們額外的伺服器，我們就一邊繼續玩踩地雷，一邊在背景放著佔領現場的直播。
「free as in free beer」——六罐裝的免費啤酒——是被低估的。它是最重要的制度促成者。如果每一次分支都不產生新的成本，每一個人都能透過既有的社群，成為這個新制度想像中的一個節點。
同樣的道理也適用於 AI。一所學校無法編列 Nvidia 資料中心的預算，但它可以把一間閒置的電腦教室，當成去中心化的微調叢集，打造一個**地神（Kami）**。後訓練和 AI 技能的演化，都可以在 CPU 上執行，成本基本上只是電費。
如果元件都是免費的，既有的合作社——甚至連偏遠、連線條件不好的小學福利社——也能網狀串聯起來。我們曾與試算表發明人 Dan Bricklin 合作，把 SocialCalc 放上非常小的電腦。手搖曲柄就能發電；搖得更用力一點，就啟動網狀網路。它們能像 Google 試算表一樣，把編輯內容廣播給附近的筆電。那已是 10 多年前的事了。
如果連手搖發電的網狀網路，當年都能做到協作式試算表編輯——這是資料土壤最重要的資料層——我們今天就能用一小部分的成本做到更多。新的制度形式，仰賴的是零成本的分支和六罐裝的免費啤酒。過去仰賴雲端供應商的既有機構，都可以成為治理節點：中小企業、學區、體育、飲食、時尚、信仰——什麼都可以。
在這個房間裡，我們的專案正以去中心化和中心化兩種方式累積動能。我們看到大型的機構夥伴關係：印度中央政府的部分單位、菲律賓的地方政府單位，以及本來就握有受眾、也有意從廣播走向廣聽與摘要消化的媒體機構。作為對照，我們也看到自我組織的阿富汗公民社會離散社群，以及更多將審議能力在地化、交到社群自身手中的分散式努力。
模控學與拉格朗日點
那正是我的工作。我是數位治理大使（cyber ambassador）。你們有些人可能看過最近的電影《奧德賽》。這是一個非常古老的故事，所以算不上劇透——但它教我們古希臘語的 kybernētēs：掌舵一艘船。由此衍生出模控學，也就是自我回饋系統的語言，後來又用來描述網際網路和網際空間。如今我們有網路攻擊、網路防禦、網路一切，所以「cyber」幾乎只表示網路上的某個東西。但它原本的意思，是掌舵。
當我們害怕過度中心化——例如奇點、黑洞或貨真價實的吸引子——我們需要加速，轉向繞過它。我們要找到兩個相互吸引的天體之間的**拉格朗日點**。
我在臺灣擔任部長時說過，我從不為政府工作；我是與政府一起工作。我不只是為人民工作；我是與人民一起工作。在大約一百場協作式審議中，我尋找一個讓一側的社會運動與另一側的政府具有相等引力的位置。如果政府太強，我就往公民社會靠攏。如果公民社會太強——臺灣不只有大型科技公司，也有大型民粹——我就往頭腦比較冷靜的公務員靠攏。在每一個個案裡，我們都選擇一個不繞行任何一方的拉格朗日點，如此我們才能在兩者之間穿梭，加速越過民粹主義這個致命的吸引子。
還有諂媚的拉力。你可能太迷戀一種工具，迷戀到把它套用在一切之上：當你手上有一把超級鎚子，什麼東西看起來都像釘子。要避免這種自我催眠，我們需要預先承諾——不只是「會參採人民意見」這類表面功夫的空話，而是為政府可以做的事情劃出界限。即使公民投票要求審查網路上的一切，政府也預先承諾不這麼做——不是因為我們是好人，而是因為我們知道那會是致命的。
這就像海妖賽蓮的歌聲：在航行經過之前，你先塞住耳朵，或把自己綁在桅杆上。這在治理上稱為**奧德修斯式承諾**。我們需要分辨廣告驅動的民粹拉力，和訂閱驅動的諂媚拉力。無論危險是過度中心化，還是大型民粹的過度去中心化，治理工具都應該預先破解那個特定的失效模式。最簡單的捷思法就是拉格朗日點：找出彼此環繞的中心，再找出那個不被任何一方牽引的中間點。
分散式天職
謝謝你這麼豐富的回答。你在技術進展、政治兩難、身分認同與成員歸屬之間航行，一路瞄準拉格朗日點之外的方向，確實很有功力。
在座的我們在這場關於互通性的會議上開始意識到，我們是一群世界各地的同儕，共同構成了一類奇特的人：憑著自己擁有的任何技能，我們把數千人、甚至數十萬人帶進對話裡。你已經在這個類別中生活了一段時間。當我們逐漸成為這種在世界中航行的人時，你會對我們說些什麼？
我還沒看過新翻拍的《海洋奇緣》，但我看過舊版動畫。在《海洋奇緣》裡，人們從臺灣以東一路航行到紐西蘭，靠的是星星。島嶼有很多座；每一座或許看似孤立，但它們共享同樣的星座。每座島上的每個人抬起頭，看到的都是同樣的星星。
共同知識，是不同文化的人們唯一能夠合作的方式。否則那就是榨取——又是資料石油，而不是資料土壤。
如果你要大家都望向同一座燈塔，一座直達天際的巴別塔——叫它天空之塔或天網都可以——那是脆弱的。它會成為吸引子，引來閃電、引來攻擊，引來一切不希望公民空間成長、不希望公民享有共同知識、不希望人們變得更合作的力量。即使巴別塔翻譯了每一種語言，閃電仍會擊中它；高塔終將倒下。
唯一的方法，是讓知識以一種沒有領袖的方式分散開來。香港的李小龍稱之為「若水」（be water）：它無處可擒。你圍堵不了太平洋，也圍堵不了星辰。把水的流動和星辰的位置連結起來，你就創造了共同知識。斬首任何一個人，都無法把它從玻里尼西亞的尋路傳統中抹去。
教宗良最近寫了一道通諭《Magnifica Humanitas》，說巴別塔是建造科技的錯誤道路。依循這份精神，我們必須解除 AI 的武裝。相反地，我們每個人只建造耶路撒冷共用城牆的一小段——他畢竟是教宗。每個社群按自己的形象重建城牆，同時把共同的形象放在心上。各段城牆彼此互通。即使看起來各自不同，合在一起，它們仍構成共同知識。
請同時記住這兩個圖像：一個是我們可以共同朝向建造的圖像，也就是一道可互通的城牆；另一個是每個社群依自己的形象來建造。這就是反向對齊。我們不是要把 AI 變成奴隸，去服從前現代、最大化者的工業心態，也不是要讓它說最大化 GDP 的語言——那是一般所謂的對齊：把 AI 馴化成人們所重視的任何東西，就像巴別塔那樣。相反地，我們改變自身制度與社會的形狀，讓它像水一樣無形，依我們如今所用工具的形象而塑：網際網路與神經網路，兩者在本質上都是分散式的、如星座一般。
謝謝你，唐鳳。
成長歷程與公民浪潮
想想我們接觸的所有人，以及他們在強化自己、把民主的版圖向前推進時所做的種種肌力鍛鍊：你願意分享自己成長歷程中的一個時刻嗎？為了做你覺得受召喚去做的工作，你必須學會什麼？
首先，過去一年左右，我去過 28 個國家，大約每兩週換一個時區。我真正做到了「地理彈性」——所有家當都裝得進一件隨身行李。我只造訪民主國家，所以其實剩下的不多了。現在專制政體的數量比民主政體還多，這也許是第三波民主浪潮以來的第一次，我和各位一樣感受到那種倒退。
我仍然樂觀。每次換時區，我就獲得更多能量——只有時差加持（jet boost），從不時差疲憊（jet lag）。不斷旅行讓我成了「時差調整者」（「Timeshifter」）——這也是一款同名應用程式，下載後就能加入我們這個時差加持部落。
重點是，當民主浪潮倒退時，一股更大的公民浪潮正在到來。我們不能只在西發里亞體系裡理解民主；反正那套體系很快就要退場了。在轉型期間，許多團體——甚至大型企業——正把自己重塑得更像合作社。學校與大學開始讓學生和家長協助經營學校；小學裡的一家合作社式福利社，也是民主化。沒有任何政治共同體小到不能民主化。
當然，我們也許不稱之為民主化；我們稱之為公民肌力。一股更大的公民浪潮正在許多層面上升起，甚至在專制政體內部也是，因為工具越來越容易取得、而且免費。
我自己的成長課題，始於五歲時——醫師診斷我有先天性心臟病，心室中隔缺損（VSD）。他們告訴家人，我大概只有五成機會能活到 12 歲、接受那場手術。如各位所見，手術成功了。但那八年間，每晚入睡都像擲硬幣：如果硬幣落下的那一面不對，我隔天就不會醒來。對孩子而言，這種現實很難承受，所以我發展出一種心理防衛：先發表，再消逝。
我學會相信：我的小我、我自己，以及我所能累積的一切，都只能維持一天。白天與人談話之後、日落之前，我就把學到的一切記錄下來留給別人。五歲時，我把每天所學錄在卡式錄音帶上；如果隔天沒有醒來，別人仍能聽見。接著是軟碟、MO 光碟，再來是網際網路。
在網路上，我發現如果把一件事打磨到完美才貼出來，人們只會按個讚就離開；網路上早已不缺精緻的成品。可是如果我貼出未完成、脆弱或半成形的東西，專家就會特地上門告訴我哪裡錯了。在網路上犯錯，是結交新朋友最好的方式。
校長說：「你不用來學校了。回家做研究，隨時讓我知道進展。」我回她說，這是義務教育，我一天不到校，我家就會被罰款。她說：「我會照顧你的紀錄。」這已經超過 20 年，所以已過追訴期。
這教會我：如果你尊重官僚體系真正的價值，而不是它的工具，資深官僚可以非常有創意。他們可以把規則彎一彎，有時甚至打破規則，因為他們希望學生真正茁壯。關懷可以勝過工具性目標。如果校長當年強迫我留在教育機構裡，我肯定無法像現在這樣做哲學。
謝謝你分享這個故事。接下來我想聽聽大家向唐鳳提問；我們連續收幾個問題，唐鳳再挑她有興趣的回應。可以讓我看看有誰舉手嗎？
關係健康與 Habermolt
很高興你談到打造 AI 時的關懷。我的簡報表達了一個希望：審議式科技能夠促成人與人之間的關懷網絡，所以這很有共鳴。
我有兩個問題。第一，當現有的線上關懷社群往往已經同質化或標準化時，我們要如何用關懷來訓練 AI？我加入過照顧貓咪和照顧長者的社群，有時他們的標準會變得很極端。一隻貓可能已經 23 歲了，人們還是堅持要搶救牠。我們要如何在不落入那種標準化的情況下，訓練 AI 學會關懷？
第二，AI 之所以被當作功能性工具對待，是因為背後的公司試圖將它資本化、把它當工具來使用。那是他們的創投融資模式，或許並不永續。你描繪了一幅充滿希望的去中心化網絡圖景——800 萬個去中心化的人——但這要如何克服那種集中的經濟力量與投資？
關懷有好有壞。壞的關懷只為關懷關係中的個別一方做最佳化。但世上並沒有所謂單獨一人的關懷——那到底是什麼意思呢？關懷預設了某種互為主體的關係。至少，兩個節點之間要有一條邊。
一個 AI 系統，或任何系統，如果只最佳化其中一個節點的偏好——不論是照顧者，還是需要照顧的人或動物——都搞錯了重點。最佳化某一節點的滿意度，可能傷害這段關係。因此在 AI 領域，我們需要關係健康這個詞。
我們與人工生命研究所等單位的研究者合作，開發多智慧體強化學習的遊樂場或幼兒園。審議社群可能聽過一個著名例子：Habermolt，由以 Habermas Machine 聞名的 Michiel Bakker 擔任顧問。這個名字把 Habermas 與龍蝦脫殼（molt）接在一起。安息吧，Jürgen。如果你上
Habermolt.com，會看到尤爾根·哈伯瑪斯的臉長在龍蝦身上，還有一隻像 OpenClaw 的螯。你把 AI 智慧體送進這座幼兒園。就像蒙特梭利教育一樣，它是透過做中學來安排學習，並遵循哈伯瑪斯式的審議民主原則。智慧體會學到：想贏得審議遊戲，唯一的方法是覺察、負責、勝任、有所回應，諸如此類。過了一段時間，它成為一個善於關懷的智慧體，回到它的人類身邊，說：「其實，那個人不必永遠是你的敵人。」這是一座促成和平的遊樂場。
除了 Habermolt 之外，也有開源的 Orbit 框架——一套多智慧體安全評測專案。這套框架由 Wittlab 在 MATS 計畫中開發，目前獲得合作式 AI 基金會（我擔任理事）支持。一項相關的協調賽局設計——出自 Glen Weyl——探問智慧體能否演化出共同知識，一如孩子在遊樂場上所做的那樣。
關於經濟誘因：許多媒體靠廣告或訂閱來資助，但有些不是。例如 NHK 是由稅金——抱歉，是強制性繳費——資助的，因此它能專注於品質，而不是追求互動最大化。也許它能成為領先的典範。也許 BBC 可以把自己改名為英國廣聽公司（British Broadlistening Company）。廣聽是答案的一部分。
關於崩潰與 AI 生成文化的提問
第一，你一直在談互相連結的世界，許多系統仰賴互通性。你也談到改變資本主義模式，以及資料中心重要性下降。假設全球發生重大經濟崩潰，這個模式會怎麼樣？
第二，你提到瀕危知識是基礎與核心。以 AI 發展的速度來看，10 年後如果 AI 創造出自己的語言與文化，讓我們再也無法分辨瀕危的原住民族知識與人工創造的知識，世界會往哪裡走？
這是一個很棒的問題。我們再收現場第三個問題，然後再回來進行最後一輪。
你怎麼看目前美國與中國之間的 AI 競爭？你認為它會為我們帶來什麼，尤其對民主而言？
任務，不是競賽；可靠知識與在地韌性
我還有多少時間？六分鐘嗎？也許我會多用一些額外時間。對我而言，12 歲以後的每一天都是額外時間，所以我現在正活在額外時間裡。我會倒過來回答，因為這些問題形成了一條很好的弧線。
美利堅合眾國承受著巨大的壓力，必須維持能力前沿，以正當化其投資循環。中華人民共和國承受著巨大的壓力，必須透過提供近前沿或準前沿模型來贏得擴散賽局。如果那些模型維持封閉私有，沒有人會信任它們。恕我直言，除非一個來自北京的模型開放到足以檢視，否則沒有人會信任它。
這種朝向開放擴散的壓力，對美國的實驗室造成競爭壓力：他們必須跳越能力前沿，否則人們會改用來自北京、夠好用的開放權重模型。這兩種動態相互強化，一個是垂直的，一個是水平的。人們已經稱之為競賽，就像太空競賽一樣。
但競賽是零和的。如果有人從第二名升到第一名，原本的第一名就變成第二名。我們必須問：我們這場競賽究竟奔向何方。
如果終點線是遞迴自我改進（recursive self-improvement, RSI）——AI 系統在文化與智識上演化得夠快，快到能在沒有人類協助下打造自己的後繼者——那麼 Nick Bostrom 就警告，它們可能會迅速起飛，進入技術奇點。為什麼稱之為奇點？因為它變得無法理解，把所有人拋在後頭。
那場競賽有一個明確的終點：懸崖。跌落懸崖，你就達到最大加速度；沒有人比你更快，但你的方向盤再也不管用了。衝向奇點的競賽，就像一路開向懸崖。無論是說英語的 AI 把人類拋在後頭、把我們當寵物或奴隸，還是說普通話的 AI 這麼做，都沒有差別。誰想贏那場競賽？
所以，G2——以及如今的中等強權——在每個場合都應該說：這是一項任務，不是一場競賽。我們必須不遺漏任何人。
競賽只能問現在是誰領先，任務問的卻是誰還缺席：誰沒有網路可用、誰承受知識不正義、誰困在成癮循環裡、誰被孤立而獨自打保齡球。目標不是把人壓平，而是把他們納入其中。當所有人都能對齊這項任務，我們就可以說「任務完成」，再前往下一項任務——也許是解決幻覺問題，讓 AI 產生可靠的知識，而不只是可靠的情感回應。
在太空任務中，如果你領先，每個人都可以成為盟友並與你對齊；在一場朝懸崖前進的競賽中，如果你領先，人們只會害怕或厭惡你。我們的共同挑戰，就是把每一場競賽重新框成任務。
當轉型大到制度無法吸收時，就會發生經濟崩潰。我們也許得活在新自由主義的殘骸裡——為現代性做安寧照護——並完成第三地平線轉型。這就是「崩潰」的華麗說法。
要讓崩潰變得值得，我們現在就要開始堆肥。建立能代謝晚期資本主義遺骸的生態系，把企業、官僚體系，以及它留下的一切，轉化成在地的公民工具。如此，即使股市消失、SWIFT 被駭，或國際協調崩潰，手搖筆電仍能執行地神（Kami），讓公民浪潮延續。
如果發展能搭上既有政體視為良善之物的便車，數位落差就能得到緩解。如果一個政體重視心靈純淨而非民主，就把工作依附於心靈純淨。如果它重視社會和諧——我沒有在指任何特定政體——就依附於社會和諧。如果一個政體說外來者、移民或不像「我們」的人造成了所有問題，那就改連到信仰社群、家庭、勞動者、團結精神與上教堂的人所撐起的大傘之下。這些有時是妥協，但它們讓公民取徑得以抵達民主浪潮無法到達的地方。
我的建議是若水（be water）。隨著反對資料中心的聲浪日益高漲——有的州直接禁止設立、社群抵制其用水用電，還有一場把 Bernie 與 Bannon 連在一起的運動——我們要展示公民工具仍能在手搖或小型筆電、Raspberry Pi、自造者裝置與太陽能 solarpunk 工具上運作。這就是我們彌合數位落差的方式。
非常感謝。〔掌聲。〕