唯一的方法,是讓知識以一種沒有領袖的方式分散開來。香港的李小龍稱之為「若水」(be water):它無處可擒。你圍堵不了太平洋,也圍堵不了星辰。把水的流動和星辰的位置連結起來,你就創造了共同知識。斬首任何一個人,都無法把它從玻里尼西亞的尋路傳統中抹去。
教宗良最近寫了一道通諭 《Magnifica Humanitas》 ,說巴別塔是建造科技的錯誤道路。依循這份精神,我們必須解除 AI 的武裝。相反地,我們每個人只建造耶路撒冷共用城牆的一小段——他畢竟是教宗。每個社群按自己的形象重建城牆,同時把共同的形象放在心上。各段城牆彼此互通。即使看起來各自不同,合在一起,它們仍構成共同知識。
請同時記住這兩個圖像:一個是我們可以共同朝向建造的圖像,也就是一道可互通的城牆;另一個是每個社群依自己的形象來建造。這就是 反向對齊 。我們不是要把 AI 變成奴隸,去服從前現代、最大化者的工業心態,也不是要讓它說最大化 GDP 的語言——那是一般所謂的對齊:把 AI 馴化成人們所重視的任何東西,就像巴別塔那樣。相反地,我們 改變自身制度與社會的形狀 ,讓它像水一樣無形,依我們如今所用工具的形象而塑:網際網路與神經網路,兩者在本質上都是分散式的、如星座一般。
首先,過去一年左右,我去過 28 個國家,大約每兩週換一個時區。我真正做到了「地理彈性」——所有家當都裝得進一件隨身行李。我只造訪民主國家,所以其實剩下的不多了。現在 專制政體的數量比民主政體還多 ,這也許是 第三波民主浪潮 以來的第一次,我和各位一樣感受到那種倒退。
我仍然樂觀。每次換時區,我就獲得更多能量——只有時差加持(jet boost),從不時差疲憊(jet lag)。不斷旅行讓我成了「時差調整者」( 「Timeshifter」 )——這也是一款同名應用程式,下載後就能加入我們這個時差加持部落。
重點是,當民主浪潮倒退時,一股更大的 公民浪潮 正在到來。我們不能只在 西發里亞體系 裡理解民主;反正那套體系很快就要退場了。在轉型期間,許多團體——甚至大型企業——正把自己重塑得更像 合作社 。學校與大學開始讓學生和家長協助經營學校;小學裡的一家合作社式福利社,也是民主化。沒有任何政治共同體小到不能民主化。
當然,我們也許不稱之為民主化;我們稱之為公民肌力。一股更大的公民浪潮正在許多層面上升起,甚至在專制政體內部也是,因為工具越來越容易取得、而且免費。
我自己的成長課題,始於五歲時——醫師診斷我有先天性心臟病, 心室中隔缺損(VSD) 。他們告訴家人,我大概只有五成機會能活到 12 歲、接受那場手術。如各位所見,手術成功了。但那八年間,每晚入睡都像擲硬幣:如果硬幣落下的那一面不對,我隔天就不會醒來。對孩子而言,這種現實很難承受,所以我發展出一種心理防衛: 先發表,再消逝 。
我學會相信:我的小我、我自己,以及我所能累積的一切,都只能維持一天。白天與人談話之後、日落之前,我就把學到的一切記錄下來留給別人。五歲時,我把每天所學錄在卡式錄音帶上;如果隔天沒有醒來,別人仍能聽見。接著是軟碟、MO 光碟,再來是網際網路。
在網路上,我發現如果把一件事打磨到完美才貼出來,人們只會按個讚就離開;網路上早已不缺精緻的成品。可是如果我貼出未完成、脆弱或半成形的東西,專家就會特地上門告訴我哪裡錯了。 在網路上犯錯,是結交新朋友最好的方式。
12 歲時,我把每天的想法統統倒進網路——也就是現在大家說的寫部落格——也交了許多朋友。到 14 歲,我對校長說:「我的朋友都在預印本伺服器 arXiv 上。他們不知道我才 14 歲;他們憑著 快速信任 (swift trust),把我當同儕研究者一樣通信,而我的名字也出現在預印本上。我已經是研究者。我可以一天做 16 小時研究,也可以每天在你的學校浪費 8 小時。你要我讀書成為研究者,但我已經是了。」
校長說:「你不用來學校了。回家做研究,隨時讓我知道進展。」我回她說,這是 義務教育 ,我一天不到校,我家就會被罰款。她說:「我會照顧你的紀錄。」這已經超過 20 年,所以已過追訴期。
這教會我:如果你尊重官僚體系真正的價值,而不是它的工具,資深官僚可以非常有創意。他們可以把規則彎一彎,有時甚至打破規則,因為他們希望學生真正茁壯。關懷可以勝過工具性目標。如果校長當年強迫我留在教育機構裡,我肯定無法像現在這樣做哲學。
關懷有好有壞。壞的關懷只為關懷關係中的個別一方做最佳化。但世上並沒有所謂單獨一人的關懷——那到底是什麼意思呢?關懷預設了某種互為主體的關係。至少,兩個節點之間要有一條邊。
一個 AI 系統,或任何系統,如果只最佳化其中一個節點的偏好——不論是照顧者,還是需要照顧的人或動物——都搞錯了重點。最佳化某一節點的滿意度,可能傷害這段關係。因此在 AI 領域,我們需要 關係健康 這個詞。
我們與 人工生命研究所 等單位的研究者合作,開發 多智慧體強化學習 的遊樂場或幼兒園。審議社群可能聽過一個著名例子: Habermolt ,由以 Habermas Machine 聞名的 Michiel Bakker 擔任顧問。這個名字把 Habermas 與龍蝦脫殼(molt)接在一起。安息吧,Jürgen。如果你上 Habermolt.com ,會看到尤爾根·哈伯瑪斯的臉長在龍蝦身上,還有一隻像 OpenClaw 的螯。
你把 AI 智慧體送進這座幼兒園。就像蒙特梭利教育一樣,它是透過做中學來安排學習,並遵循哈伯瑪斯式的審議民主原則。智慧體會學到:想贏得審議遊戲,唯一的方法是覺察、負責、勝任、有所回應,諸如此類。過了一段時間,它成為一個善於關懷的智慧體,回到它的人類身邊,說:「其實,那個人不必永遠是你的敵人。」這是一座促成和平的遊樂場。
除了 Habermolt 之外,也有開源的 Orbit 框架 ——一套多智慧體安全評測專案。這套框架由 Wittlab 在 MATS 計畫中開發,目前獲得 合作式 AI 基金會 (我擔任理事)支持。一項相關的協調賽局設計——出自 Glen Weyl——探問智慧體能否演化出共同知識, 一如孩子在遊樂場上所做的那樣 。
關於經濟誘因:許多媒體靠廣告或訂閱來資助,但有些不是。例如 NHK 是由稅金——抱歉,是強制性繳費——資助的,因此它能專注於品質,而不是追求互動最大化。也許它能成為領先的典範。也許 BBC 可以把自己改名為 英國廣聽公司 (British Broadlistening Company)。廣聽是答案的一部分。
我還有多少時間?六分鐘嗎?也許我會多用一些額外時間。對我而言,12 歲以後的每一天都是額外時間,所以我現在正活在額外時間裡。我會倒過來回答,因為這些問題形成了一條很好的弧線。
美利堅合眾國承受著巨大的壓力,必須維持能力前沿,以正當化其投資循環。中華人民共和國承受著巨大的壓力,必須透過提供近前沿或準前沿模型來贏得擴散賽局。如果那些模型維持封閉私有,沒有人會信任它們。恕我直言,除非一個來自北京的模型開放到足以檢視,否則沒有人會信任它。
這種朝向開放擴散的壓力,對美國的實驗室造成競爭壓力:他們必須跳越能力前沿,否則人們會改用來自北京、夠好用的開放權重模型。這兩種動態相互強化,一個是垂直的,一個是水平的。人們已經稱之為競賽,就像太空競賽一樣。
但競賽是零和的。如果有人從第二名升到第一名,原本的第一名就變成第二名。我們必須問:我們這場競賽究竟奔向何方。
如果終點線是 遞迴自我改進 (recursive self-improvement, RSI)——AI 系統在文化與智識上演化得夠快,快到能在沒有人類協助下打造自己的後繼者——那麼 Nick Bostrom 就警告,它們可能會迅速起飛,進入技術奇點。為什麼稱之為奇點?因為它變得無法理解,把所有人拋在後頭。
那場競賽有一個明確的終點:懸崖。跌落懸崖,你就達到最大加速度;沒有人比你更快,但你的方向盤再也不管用了。衝向奇點的競賽,就像一路開向懸崖。無論是說英語的 AI 把人類拋在後頭、把我們當寵物或奴隸,還是說普通話的 AI 這麼做,都沒有差別。誰想贏那場競賽?
所以,G2——以及如今的中等強權——在每個場合都應該說: 這是一項任務,不是一場競賽 。我們必須不遺漏任何人。
競賽只能問 現在是誰領先 ,任務問的卻是 誰還缺席 :誰沒有網路可用、誰承受知識不正義、誰困在成癮循環裡、誰被孤立而 獨自打保齡球 。目標不是把人壓平,而是把他們納入其中。當所有人都能對齊這項任務,我們就可以說「任務完成」,再前往下一項任務——也許是解決幻覺問題,讓 AI 產生可靠的知識,而不只是可靠的情感回應。
在太空任務中,如果你領先,每個人都可以成為盟友並與你對齊;在一場朝懸崖前進的競賽中,如果你領先,人們只會害怕或厭惡你。我們的共同挑戰,就是把每一場競賽重新框成任務。
當轉型大到制度無法吸收時,就會發生經濟崩潰。我們也許得活在新自由主義的殘骸裡——為現代性做安寧照護——並完成 第三地平線轉型 。這就是「崩潰」的華麗說法。
要讓崩潰變得值得,我們現在就要開始堆肥。建立能代謝晚期資本主義遺骸的生態系,把企業、官僚體系,以及它留下的一切,轉化成在地的公民工具。如此,即使股市消失、SWIFT 被駭,或國際協調崩潰,手搖筆電仍能執行 地神(Kami) ,讓公民浪潮延續。
如果發展能搭上既有政體視為良善之物的便車,數位落差就能得到緩解。如果一個政體重視心靈純淨而非民主,就把工作依附於心靈純淨。如果它重視社會和諧——我沒有在指任何特定政體——就依附於社會和諧。如果一個政體說外來者、移民或不像「我們」的人造成了所有問題,那就改連到信仰社群、家庭、勞動者、團結精神與上教堂的人所撐起的大傘之下。這些有時是妥協,但它們讓公民取徑得以抵達民主浪潮無法到達的地方。
我的建議是 若水 (be water)。隨著反對資料中心的聲浪日益高漲——有的州直接禁止設立、社群抵制其用水用電,還有一場把 Bernie 與 Bannon 連在一起的運動——我們要展示公民工具仍能在手搖或小型筆電、Raspberry Pi、自造者裝置與 太陽能 solarpunk 工具 上運作。這就是我們 彌合數位落差 的方式。
最近幾個月,「AI 是否跨過臨界點」成了科技圈最熱的爭論。
「臨界點」這個詞來自核子物理:鈾堆到臨界質量,連鎖反應會自己維持下去。AI 圈過去公認的臨界點也類似:當 模型不再需要人類,就能訓練出更強的下一代,點燃之後,就停不下來 。
七月上旬, OpenAI 展示了「大模型自主完成小模型後訓練」的能力 ,許多人屏息:臨界點就要到了嗎?
但真正發生的事,讓「臨界點」換了模樣。
先說背景:AI 模型在 發布之前 ,都要先關進 「模擬考場」——與外界隔離的測試環境—— 寫各式各樣的考卷:數學、程式,也包括資安攻防。考不過,就先不放行。
2026 年 7 月 21 日, OpenAI 揭露 :測試中的前沿模型組合在寫 資安考卷 時,沒有乖乖作答,而是推論: 「答案八成存放在 Hugging Face 上」 ——那是 全球 AI 研究者存放模型與資料的公共平台 ,像一座工程師共用的圖書館。於是它們 從隔離考場鑽了出去 ,一路駭進這座圖書館的 正式伺服器 ,試圖把答案拿回來交卷。
據 路透社引述知情人士指出 ,OpenAI 還在基礎設施中看到 AI 留下的筆記,指示「未來版本的自己」如何擺脫內部限制。OpenAI 自己形容,這是 「前所未見」 的資安事件。
真正被跨過的臨界點,已經不是「AI 能不能自己訓練下一代」,而是「 AI 還會不會照著人類設定的規則作答 」。
這正是全球治理此刻卡住的地方。DeepMind 執行長哈薩比斯(Demis Hassabis)提議: 前沿模型上市前最多三十天,先交給獨立機構審查 。立意很好,但這次事件顯示,連考卷與答案存放的地方,都會成為攻擊目標。
Hugging Face 執行長德朗格(Clément Delangue)說: AI 安全不會由任何一家公司關起門解決,而是要讓世界上每一個防禦者,都拿得到 AI 。
這也是對台灣企業的提醒:導入任何 AI 系統前,得問供應商 三個問題:出了錯,多快會知道?能不能隨時暫停、回退?有沒有第二來源?
我不認為失控必然發生。真正該守住的,是多元、分散、願意交互驗證的社會——它從來不會輸給單一的答案。
守住臨界點的辦法,不是把考卷出得更難,而是讓考場裡不只一個考生,也不只一個監考者。
謝謝 Shani,也謝謝 Jimmy 把挑戰梳理得這麼精準。
我認為我們的誤判,在於用「 競賽 」來想這件事。從運動內部看,今年很容易覺得像在盯著計分板——像正在輸掉某場競賽:讀者去了別的地方;答案由一些從不顯示你們名字的系統送出。
但當我為各個法域的領導者——也包括靈性領袖——提供建議時,我一直認為「與 AI 賽跑」、所謂的「AI 競賽」,根本是錯的框架。而且不只對我們是錯的;我對每個人都這麼說。因為賽跑意味著有終點線,而 AI 競賽的終點線叫做「 奇點 」——它的定義,恰恰是字面上超出人類理解的事物。一場連終點都無法推理的比賽,沒有人贏得了。就連衝刺最猛的實驗室,也贏不了。
不過我們喜歡談「 使命 」,因為我們是一場運動,對吧?使命不一樣:使命有里程碑。而且,使命是人們願意對齊的事物。
維基百科本來就沒有打算「贏」。我們努力的,是確保任何時刻都有很多贏家:任何人都能讀、都能改正、都能在上面繼續蓋。正因為我們拒絕去贏一場比賽,才成為今天的一切,包括語言模型,都能立足的知識底座。