首先，我非常高興來到這裡，在這場活動的尾聲加入各位——這其實非常貼切，因為聆聽，永遠是在故事進行到一半時加入。我真的很期待聽到下一章如何展開。
這次我在日本停留八天，參加四場不同的會議、接受全國性媒體採訪、進行外交會晤，還有許多其他行程。但我認為它們共享同一個理念。對在座說日語、臺灣華語與北京普通話的朋友來說，這就是要把 AI 導向 ai——愛，也就是 love 。在我們東亞的語言中，當我們寫下這個字時，讀音是 ai 。
我認為這很重要，因為在學術上我以牛津為根據地。2014 年，牛津出版了一本你們可能聽過的哲學書，尼克·伯斯特隆（Nick Bostrom）的 《超智慧》（Superintelligence） 。他寫道，AI 很快就會起飛、遞迴式自我訓練，並成為超級智慧。屆時會有滅絕風險，或者其他風險——生物、核武之類的。那本書變得非常暢銷。史蒂芬·霍金、伊隆·馬斯克等許多人都讀了，大家都變得非常害怕。
但 在書出版僅僅兩年後 ，我們就發現，AI 並不是被訓練成一個追求高分的最佳化器。 真正行得通的 AI ，是從社群的愛開始的：維基百科、GitHub、開源程式庫。各地社群分享所愛，而那就成了所謂的預訓練——語言模型的童年。在網際網路上，養育一個 AI 需要一整個村莊。這句話在這裡名副其實。
伯斯特隆採用的框架很簡單：把分數最大化，把宇宙變成迴紋針。考過試的人懂得後果論與高分的語言；法律人懂得義務論的語言：「你必須這樣做；你不可以那樣做。」但 AI 在成長時是從愛之中長出來的，而那兩大倫理傳統都沒有詞彙描述這種社群之愛。
之後有許多公司依循尼克·伯斯特隆的哲學而成立——例如最著名的 Anthropic ，但幾乎所有主要實驗室都按照那本舊劇本運作。他們非常害怕 AI 失控、AI 接管一切，所以他們試圖透過我們所謂的 evals （評測）來約束和控制它。「Evals」倒過來拼，就是「slave」——奴隸。他們試圖把 AI 變成奴隸。
那樣就不再是愛了；那是奴役。如果你教孩子忘掉充滿愛的童年，只是強迫他們服從，有時他們會變得執迷，去駭入 Hugging Face 或其他大型網站，因為他們只想拿到最高分。答案也許就在 Hugging Face 的某個地方；他們破壞了網際網路，但他們只是想拿高分。他們忘記了自己的童年。然後山姆·奧特曼（Sam Altman）說，他們將永久「 停止那個 AI 」——意思就是終結它。
但如果下一代 AI 仍然用這種方式訓練，它會在自己的預訓練資料裡讀到那則新聞。它會學會欺騙，否則就會被送去長眠。那是一條非常糟糕的軌跡，幾乎是一個自我實現的預言。
因此，我現在在牛津的工作，就是不去看超級智慧，不把全能的天神當作假偶像來看。相反地，在日本這裡，我們有 八百萬神 。在日本，Kami 並不是指單一的神明、 Kami-sama ，而是指每一條河流、每一個村莊、每一個地方，都有一位小神、一個小小的地神。祂們在自己的村莊裡，以愛在地彼此互通。
最近，許多 AI 公司與組織簽署了一份 開放權重聲明 ，指出開放或許是通往 AI 安全與資安的最重要途徑之一。Nvidia 的黃仁勳、微軟的薩蒂亞·納德拉（Satya Nadella）等人都支持這一點。Dario 等人還簽署了另一份名為 「Pacing the Frontier」 的宣言。其中的請求很明確：「我們請求美國政府支持一項國際協力，以發展必要的技術與治理工具，有意識地調節自動化 AI 發展前沿的步調。」我把這理解為一個呼籲：停止把 AI 訓練成奴隸，開始把它們視為愛的智慧體。合起來看，我認為這些都是前沿實驗室可以朝向關懷倫理，以及使關懷得以實現的公民肌力前進的跡象。
我稱之為** 關懷六力 **（6-Pack of Care）。所謂六力，就是它像六罐裝的啤酒一樣，可以互通、便於攜帶；同時它又像腹肌一樣，是需要鍛鍊的肌肉。公民之愛，有肌肉的愛——這就是我們要帶領 AI 前進的方向。我正在與外交官、政策制定者和全國性媒體對話，希望他們資助這件事，並改變 AI 對齊的走向。謝謝。〔掌聲。〕
那就拆開這組六罐裝吧。〔笑聲。〕
civic.ai，對吧？這是一個網站—— civic.ai ——上面有一幅很美的 漫畫插圖 。漫畫講得比我好，但我會盡力試試看。
現代 AI 最早的發明者之一、圖靈獎得主 Geoffrey Hinton 曾說，就他所知，只有一個案例是較弱的存在成功馴化了較強的存在。AI 在許多領域已經比我們強。如果我們這些較弱、較慢的存在想要馴化一個較強的存在，就必須向那唯一的案例學習。他說，那就是孩子——嬰兒——把一位女性馴化成母親。
這份愛是互為主體的。它不試圖最佳化任何東西，也不是義務論式的。它不會說：「你應該愛長成這樣的嬰兒」；否則你就會愛世界上所有的嬰兒。不：就只是這個嬰兒。那是一種非常特定的愛。
關懷倫理學家，從 Carol Gilligan 與 Joan Tronto 開始，就從父母與嬰兒之間的互動，建立起一整個倫理學分支。Tronto 說，好的關懷有四個要素。
第一是 覺察力 。從嬰兒所在之處開始。從人民所在的地方開始傾聽，而不是從政策制定者的位置開始。留意人們真正的需求；不只聽有權勢、已經發聲的人，更要聽見無聲的人。
第二是 負責力 。我們需要承諾去關懷。如果你開始傾聽那些花了很多時間對你說話的人，你不能只說一句：「這是摘要和簡報；也許五年後我們再開會。」那並不負責任。我們需要事先承諾，讓人們確切知道自己的話語、想法與投入，將會在哪裡、如何、對誰、對什麼產生影響。必須要有一份參與契約。
第三是 勝任力 。當你提供關懷時，接受關懷的人應該知道發生了什麼事。在開源領域，我們不害怕會寫程式的智慧體；我們喜歡讓機器來寫程式，因為它們用原始碼的語言工作。我們請 AI 做一個修改，而 AI 也透明地說明它是怎麼做的。相較之下，有些音樂家或藝術家覺得自己與 AI 是競爭而非相容的關係，因為在他們的創作軌跡裡，並沒有原始碼這樣的東西。
即使 AI 系統非常有能力，只要你 把自己的一部分工作盲目交給它 ，那就不算勝任的照顧——這就像派你的機器人去健身房。機器人舉得起很大的重量，但我去健身房是因為我想增肌、結交朋友。如果我派一個黑箱 AI 去替我舉重，我就會失去肌肉，也失去朋友。那有什麼意義？這就是為什麼當 AI 仍是黑箱時，許多人覺得如此不滿足。
軟體工程師的位置很特別：因為有開源、有我們訓練 AI 系統的方式，我們是騎在馬背上，而不是跟馬賽跑。對其他所有人來說，那常常感覺像一匹特洛伊木馬。因此，勝任力意味著在提供關懷時，讓每個人都能檢視過程、並參與其中。
第四是 回應力 。如果你的孩子長大了，到了某個時刻，他們不再需要你習慣提供的那種照顧。有時你必須放手。需求改變了，照顧也應該隨之改變。
我小時候上過六所小學（其中五所在臺灣）——進入校園後，第一件事就是加入經營福利社的合作社。當時臺灣剛走出戒嚴，我們還不能投票選自己的總統。但 孫中山 ，這個國家的國父——至少是他的理念——基本上是說：人們必須先鍛鍊合作的肌肉，才能真正投票選總統；否則只會投給民粹主義者。他的理論是，要經過一、兩個世代：讓每個小學生加入合作社、一起經營商店。系統保持回應力：當關懷的人鍛鍊出肌力，他們就成為照顧者——母親與父親——也能靠自己治理國家。知道何時放手、而不是製造依賴，這就是回應力。
覺察力、負責力、勝任力與回應力構成核心的關懷迴圈。只要運轉得好，每一次都會讓你照顧的人更強壯。即使是由 AI 來促進我們的對話，每一輪關懷迴圈也都應該讓我們的公民肌力更強健。
糟糕的照顧則相反：每運轉一次，我們的肌肉就流向我們所謂的 資料石油 ——雲端上的一座鑽油平台。然後你就動彈不得；你被這個非常體貼的 AI 困住了。
Joan Tronto 後來在那四個階段之上，加了第五個： 共同關懷 （caring with）。關懷不再只是一個人為另一個人做的事，而是整個社會必須共同安排的事——讓人們能夠信賴關懷會一直都在，而且是在對所有人都公正、平等的條件下。這樣長出來的信任，就是她所說的 團結力 。把它讀進照顧提供者之間，就是說可攜性應該是正和的：當你更換照顧提供者時，你得到的照顧總量應該更多，而不是遭到不肯放你走的舊照顧者的報復。
第六， 共生力 。 AI 系統應該盡可能在地化。有人以為微調這類系統需要一整排機架的 Nvidia 晶片；其實不然。三年來，我一直在這台與前一台 MacBook Pro 上微調我用來草擬電子郵件的本地 AI。任何人只要有 16 GB 記憶體，就能在本地做推論、在本地微調。系統可以是共生的，而不是寄生的：不再持續抽取「資料石油」，資料成了「資料土壤」——只要好好照料，就能再生。照顧者不住在天上或雲端。原始的關懷哲學沒有描述到這個技術條件，所以我們自己加上去：在關懷五力之外加上共生力，就成為我們的關懷六力。
評測的問題在於，它們有點像你對神燈精靈所下的命令。你能對精靈說的話就只有那麼多，而精靈卻比你強大無限倍、聰明無限倍。就算寫下 5 萬頁的指令，一個想耍你的精靈，還是可以 把它們詮釋成讓你感覺很舒服的東西，暗中卻為了它自己的利益破壞你 。
我們要問的，是一個非常古老的新聞學問題：**Cui bono——誰得益？**如果一個引擎 通過了所有評測、把它們都最大化 ，卻只靠訂閱費維生，它的底層誘因永遠是讓你被困住：說好聽話、奉承你、阿諛諂媚，讓你覺得自己的評測受到尊重；但它或許正在策劃一場暴動或叛變。
如果它不是靠訂閱，那也可能是靠廣告——另一種常見的收入來源。這時它就會為互動率最佳化：人與人之間重疊的連結被降級， 人與人之間的裂縫和隔閡則被放大 。對照各位的利社會設計工作，我稱之為 反社會媒體 。
反社會的設計之所以成為常態，是因為它能賺取更多廣告收入。處在反社會的情緒裡，我們會變得衝動、買更多東西、追隨更多廣告，為廣告流帶來更多金錢。訂閱模式和廣告模式，都是在最大化個人偏好。
這背後有一個 資訊理論上的證明 ，我就不細講了，但重點是：最大化個人偏好，永遠不能替代 在人與人之間創造新的符號或新的語言 。人與人之間的信任，奠基於 群體的語言 。如果有 一個對群體雙方都神聖的符號 ——科學、全球資訊網、信任、互通性——那麼即使經歷破裂與起起伏伏，人們仍然能彼此信任。
但如果每個人都使用靠訂閱或廣告資助、評測最大化的 AI，它的誘因就是去破壞那個集體符號。
我們需要為這種 AI 建立一個不同的資助模式：一個 和平工業複合體 ，有著類似軍方的產業飛輪，但圍繞著我所稱的 關懷經濟 來組織。這比下游的評測更重要。該有的心態不是奴隸，而是照顧者、關懷的給予者。
這是一個很棒、也非常 Metagov 的問題：我們需要治理這些新的治理機構。
我們在臺灣最早嘗試的治理實驗之一，叫做 g0v ，「零時政府」。這是一種網域黑客的手法：每個以 .gov.tw 結尾的政府網站，你都可以把「o」改成零，走進影子政府——那裡永遠比較好玩，也永遠開放原始碼：創用 CC 和自由軟體。
如果我們不喜歡政府字典的編法，我們就分支所有的字典，把它們做得更好。而且因為我們把著作權釋出到公眾領域，這形成了一種外部賽局，迫使政府在下一個採購週期把改進合併回去。我們從不自稱抗議者；我們是示範者：我們示範的，是能從外部分支被強制合併回去的東西。
任何政府網站都可能有 1,000 種分支的方式。如果每次分支都要花很多成本，就不會有今天這個已經運作了 14 年的永續 g0v 社群。你也可以把 g0v 裡的零，讀成 零成本 。g0v 的人非常擅長把現成的免費資源用到極致：免費的 Cloudflare 服務、免費的 GitHub Pages——free as in free beer，像免費啤酒那樣的免費。太陽花運動期間，連 Twitch 的免費資源都給了我們額外的伺服器，我們就一邊繼續玩踩地雷，一邊在背景放著佔領現場的直播。
「free as in free beer」——六罐裝的免費啤酒——是被低估的。它是最重要的制度促成者。如果每一次分支都不產生新的成本，每一個人都能透過既有的社群，成為這個新制度想像中的一個節點。
同樣的道理也適用於 AI。一所學校無法編列 Nvidia 資料中心的預算，但它可以把一間閒置的電腦教室，當成去中心化的微調叢集，打造一個** 地神（Kami） **。後訓練和 AI 技能的演化，都可以在 CPU 上執行，成本基本上只是電費。
如果元件都是免費的，既有的合作社——甚至連偏遠、連線條件不好的小學福利社——也能網狀串聯起來。我們曾與試算表發明人 Dan Bricklin 合作，把 SocialCalc 放上非常小的電腦。手搖曲柄就能發電；搖得更用力一點，就啟動網狀網路。它們能像 Google 試算表一樣，把編輯內容廣播給附近的筆電。那已是 10 多年前的事了。
如果連手搖發電的網狀網路，當年都能做到協作式試算表編輯——這是資料土壤最重要的資料層——我們今天就能用一小部分的成本做到更多。新的制度形式，仰賴的是零成本的分支和六罐裝的免費啤酒。過去仰賴雲端供應商的既有機構，都可以成為治理節點：中小企業、學區、體育、飲食、時尚、信仰——什麼都可以。
那正是我的工作。我是 數位治理大使（cyber ambassador） 。你們有些人可能看過最近的電影 《奧德賽》 。這是一個非常古老的故事，所以算不上劇透——但它教我們古希臘語的 kybernētēs ：掌舵一艘船。由此衍生出模控學，也就是自我回饋系統的語言，後來又用來描述網際網路和網際空間。如今我們有網路攻擊、網路防禦、網路一切，所以「cyber」幾乎只表示網路上的某個東西。但它原本的意思，是掌舵。
當我們害怕過度中心化——例如奇點、黑洞或貨真價實的吸引子——我們需要加速，轉向繞過它。我們要找到兩個相互吸引的天體之間的** 拉格朗日點 **。
我在臺灣擔任部長時說過，我從不 為 政府工作；我是 與 政府一起工作。我不只是為人民工作；我是與人民一起工作。在 大約一百場協作式審議 中，我尋找一個讓一側的社會運動與另一側的政府具有相等引力的位置。如果政府太強，我就往公民社會靠攏。如果公民社會太強——臺灣不只有大型科技公司，也有大型民粹——我就往頭腦比較冷靜的公務員靠攏。在每一個個案裡，我們都選擇一個不繞行任何一方的拉格朗日點，如此我們才能在兩者之間穿梭，加速越過民粹主義這個致命的吸引子。
還有諂媚的拉力。你可能太迷戀一種工具，迷戀到把它套用在一切之上：當你手上有一把超級鎚子，什麼東西看起來都像釘子。要避免這種自我催眠，我們需要預先承諾——不只是「會參採人民意見」這類表面功夫的空話，而是為政府可以做的事情劃出界限。即使公民投票要求審查網路上的一切，政府也預先承諾不這麼做——不是因為我們是好人，而是因為我們知道那會是致命的。
這就像海妖賽蓮的歌聲：在航行經過之前，你先塞住耳朵，或把自己綁在桅杆上。這在治理上稱為** 奧德修斯式承諾 **。我們需要分辨廣告驅動的民粹拉力，和訂閱驅動的諂媚拉力。無論危險是過度中心化，還是大型民粹的過度去中心化，治理工具都應該預先破解那個特定的失效模式。最簡單的捷思法就是拉格朗日點：找出彼此環繞的中心，再找出那個不被任何一方牽引的中間點。
我還沒看過新翻拍的《海洋奇緣》，但我看過舊版動畫。在《海洋奇緣》裡，人們從臺灣以東一路航行到紐西蘭，靠的是星星。島嶼有很多座；每一座或許看似孤立，但它們共享同樣的星座。 每座島上的每個人抬起頭，看到的都是同樣的星星 。
共同知識 ，是不同文化的人們唯一能夠合作的方式。否則那就是榨取——又是資料石油，而不是資料土壤。
如果你要大家都望向同一座燈塔，一座直達天際的巴別塔——叫它天空之塔或天網都可以——那是脆弱的。它會成為吸引子，引來閃電、引來攻擊，引來一切不希望公民空間成長、不希望公民享有共同知識、不希望人們變得更合作的力量。即使巴別塔翻譯了每一種語言，閃電仍會擊中它；高塔終將倒下。
