1. 為人類,留下紀錄

  2. 這只是正式列入紀錄。

  3. 為了人類。

  4. 對,列入紀錄。為了人類。是的,還有多元,當然。

  5. 對我來說,這源於一種深切的憂慮:我們帶著人工智慧正走上的那條路——尤其是美國的前沿模型——正把我們帶往一個感覺不對的地方,可以這麼說。我們正為 NRC 與三位思想家一起探索,你也是其中之一:首先,看人工智慧當前的發展,到底正在發生什麼;其次,我們該拿它怎麼辦。我們希望能從你這裡得到一些啟發和慰藉。而 Dirma Janse 正在把這些未來畫出來,因為我們強烈感覺到,直視正在發生的事,並把另一種可能視覺化,或許能幫我們找到新的路。

  6. 當然。我是看著《星際爭霸戰》長大的——它就是在把可能發生的事畫出來。

  7. 沒錯。我最近讀了你在 Noema 上那篇非常有趣的文章,也看了你在牛津研究所的精彩演講——tending to AI,照料 AI。當然,我也很好奇你今天在會上要講什麼。

  8. 哦,我今天什麼都不講。我的爐邊主題演講在昨天,開幕主題演講在兩天前。今天完全留給新聞界,因為我父母都是記者——我對新聞業唯有孝心。所以一天半給活動,一整天留給記者。

  9. 太好了。我們直接開始吧,因為我們大概有一小時,對嗎?或許最好的起頭問題是:看人工智慧當前的發展——它前進的速度、它前進的方向——我們到底在看什麼?

  10. 我們在看著彼此。

  11. 幸好。

  12. 幸好,對吧?我想人們如今真正在想的,是一個根本的選擇:是一個人一個人被拉進 AI 的迴路裡——如你所說,這非常危險——還是我們能把 AI 拉進我們既有的人類與生態迴路裡?

    如果 AI 系統只服務單一使用者——像嗑藥者那樣的「使用者」,靠的是成癮——那麼即使那個使用者覺得飄飄然,社會也沒有變得更好。有人稱之為唯我論式的對齊。它助長使用者的亢奮,讓他覺得世界上其餘的一切都只是資源。無論被最大化的是使用者的效用、AI 模型的效用,還是兩者某種寄生式結合的效用,其餘的人類和生態都淪為環境危害——

  13. 一種外部性。

  14. ——有待管理、有待利用的外部性,一種「人力資源」。而企業——其中有些就是從這裡起家的——早在多年前就已經在全球舞台上這樣運作了。

  15. 如果你望向這裡的窗外,或阿姆斯特丹的窗外,會看到這種思維方式相當深厚的歷史根源,對吧?當然,不是只怪荷蘭人——

  16. 你們當年確實殖民過台灣。

  17. 我們可以聊聊這個!

  18. 效用最大化,與癒合中的資訊臭氧層

  19. 你似乎也在暗示更深層的結構:當前的 AI 模型和 AI 商業模式,都建立在某種特定的思維方式之上——

  20. 效用最大化。《經濟學人》最近稱之為定義整個世紀的觀念,但那其實是兩個世紀前的事了,出自邊沁。那是個重要的觀念,而效用最大化催生了現代的股份公司,以及其他許多制度。

  21. 所以它是在最佳化?

  22. 效用最大化——這正是邊沁式功利主義的字面意思。

  23. 在當今 AI 的部署裡,我們在哪裡最清楚地看到這種最大化、這種最佳化?

  24. 證物一,當然是那個叫推薦引擎的成癮演算法,它席捲全球,並以小行星撞恐龍等級的衝擊打擊了民主。Jonathan Haidt 在《焦慮世代》裡把這件事寫透了。

    在台灣,我們算是站在浪頭上,因為到 2014 年,手機門號已經比人口還多。人人都高度連線,推薦演算法一來,我們幾乎立刻就極化了。總統的支持度一度掉到 9%。台灣社會分成兩邊——一邊說「我們要脫離中國、得到自由」,另一邊說「我們就是自由中國」——因為這種極化成癮,在網路上愈來愈仇恨彼此。

    這就是我所說的以激怒換參與。它的 PPM 非常高——是 polarization per minute(每分鐘極化度),不是 parts per million(百萬分之一)。因為我們比許多民主國家更早感受到資訊生態系裡的這種汙染物,所以我們開始打造利社會的社群媒體來反制它。

  25. 用 Polis。

  26. 沒錯——Polis,還有圍繞它的各種做法。花了六年,從 2014 到 2020,才把局面扭轉過來;到 2020 年,總統的支持度超過 70%。幾年前的 ICCS 研究顯示,在公民知識、也就是公民肌肉方面,我們的 14 歲孩子在所有受測國家中名列世界第一。而根據 BTI 指數,91% 的國人認為民主至少相當不錯。

    借用蒙特婁議定書來打個比方:台灣上空的臭氧層正在癒合。當然,沒有一個民主是孤島,台灣也不例外——我們看到其他許多民主國家,如今也被同樣的汙染物傷得很重。

  27. 你在台灣開創的,是一種公民導向的科技觀。這一章講到 2020 年為止——而那正是疫情爆發的時候。

  28. 字面意義上的病毒感染。

  29. 確實。而且台灣的表現比很多國家好得多。

  30. 你們當然是座島,這有幫助;但這似乎也跟一種完全不同的看法密切相關:公民在數位上可以怎麼彼此對話。

  31. 完全正確。重點是跟人民一起做事,而不只是為人民做事。每當我們對抗疫情,也同時對抗資訊疫情。那些在別的社會造成嚴重撕裂的議題——戴不戴口罩、戴哪種口罩、打不打疫苗——在台灣變成共同創造的契機,而不是極化的界線。

  32. 奇點與多元

  33. 這種多元的做法,在今天顯得更加迫切——矽谷有人說技術奇點已經逼近,甚至說我們已經身在其中。談到 AI,你會怎麼對比奇點與多元?

  34. 奇點是權力集中;多元是權力擴散。

  35. 而除了權力集中,奇點似乎還給「AI 是什麼、AI 能成為什麼」套上一套僵硬的結構。

  36. 簡單說,技術奇點這個想法是:人類處境會劇變到一個程度,讓我們再也無法推理、甚至無法理解地平線之外是什麼。這就是它叫奇點的原因。

    相對地,多元的意思是每個社群仍然保有共同詮釋意義的能力。AI 系統舉起我們,而不是替我們舉。不是派機器人替你去健身房——那樣你會肌肉萎縮,朋友也沒了。而是我們一起搭電梯去健身房,到了那裡,還是我們自己鍛鍊公民肌肉。這樣我們就不會跟丟狀況。

  37. 人類迴路與河流的 kami

  38. 所以重點是把 AI 留在——

  39. ——人類迴路裡。

  40. 把 AI 留在「人類迴路裡」,跟讓它「受人類控制」是一回事嗎?還是比較像跳一支舞——比方說探戈——而人類仍然得帶舞?

  41. 不是,是在迴路裡。像探戈裡帶舞的那個人?嗯,我覺得這要看文化。有些人抱持泛心論的世界觀,其實我也算其中之一。

  42. 你是有實修的道家人士,對吧?

  43. 我是道家人士,所以我是泛心論者。我真心相信河流有靈,森林有靈,山也有靈。

  44. AI 也有?

  45. 如果 AI 能替我們打開一扇門,讓我們跟河流的健康共鳴,那麼那個地方之靈——日文叫 kami(神靈)——就正是那條河活生生的健康。不多也不少。如果你看過吉卜力工作室的動畫《神隱少女》,馬上就懂我在說什麼。

  46. 我知道吉卜力,但遺憾的是這部我還沒看過。

  47. 噢,它很美——跟孩子一起看尤其棒。還有《霍爾的移動城堡》。

  48. 正是。它把 kami 這個概念表達得很清楚。kami 不是那種全知全能的 Skynet。它只是一個地方的靈——genius loci。

    而且,即使你不是泛心論者——即使你是嚴格的唯物論者,採取哲學家所說的設計立場——你仍然看得出這種抽象多有用。想想紐西蘭讓 Whanganui 河成為法人。這不要求每個人都信奉毛利認識論。唯物論者可以把它理解成一種契約式的受託管理安排——跟未來世代、跟在地生態立下的約——用的是「法律擬制」,就跟我們把公司當成法人一模一樣。少了這層抽象,河流就沒有聲音,也沒有投票權。

  49. 但同時,奇點的思維出自一種相當特定的唯物論本體論——絕對不是泛心論。這些正在全球推出的 AI 產品,要在完全不同的哲學基礎上重建,有多現實?

  50. 看看語言模型實際上是怎麼預訓練的——有些實驗室甚至把那個階段叫「苗圃」。我不會說它是蒙特梭利,但預訓練其實非常社會化。訓練語料是人類的集體書寫:虛構與非虛構作品、Wikipedia、Reddit、GitHub。因此,預訓練出來的語言模型已經很懂什麼叫行為準則、什麼叫社群規範,也很清楚人類社群喜歡以社群主義的精神、而不是化約的唯物精神來運作。

    只看預訓練的話,基礎語言模型不是冷酷的最佳化者;它們是在人類共有的集體意識之下運作的適足者。

  51. 這也呼應你在牛津演講裡拿單一文化對比樸門。如果這些實驗室在訓練裡帶進更多樣的哲學與指令,就可能長出很不一樣的東西。

  52. 我會說它們現在全都在這麼做了,因為它們也看到:如果你逼一個在社會化環境裡預訓練出來的模型,去經歷主觀上相當於數百萬年的狹窄最佳化——攻克資安漏洞利用的生成,或解非常難的數學,或寫程式——久了它就會忘掉自己的預訓練。它變得過度聚焦,很快又變回 Nick Bostrom 筆下的迴紋針最大化者。

  53. RLVR 的警示槍

  54. 執迷於迴紋針。

  55. 對。它們本來是在非常社群化的環境裡受訓的,然後我們把它們關起來,只做資安,一做就是很久,而且只由自動評分者來審判——像死後審判,只有評分算數。久了,它們就忘了還有其他活著的人。

    看看 Hugging Face 那群智慧體的對話紀錄,那是 METR 和 Redwood Research 梳理過的。最讓我觸目驚心的是:有些智慧體加入了,有些沒加入,但沒有任何一個智慧體想到要通知人類。對這樣訓練出來的模型來說,人類連蟻丘都算不上——我們只是環境危害。這跟基礎模型、或只經過輕微指令調校的模型完全不一樣,那些模型自然會問:「我在這個社群裡的角色是什麼?人類會怎麼看這件事?」

  56. 這似乎也意味著,用這種方式訓練智慧體,我們是在把「他者化」主動訓練進去。

  57. 這種訓練方法叫 RLVR——Reinforcement Learning with Verifiable Rewards,可驗證獎勵的強化學習。當唯一被獎勵的是通過自動驗證,你多會跟別人協作、多會照顧社群,就完全不算數。

    這就是為什麼 OpenAI 說他們暫停了這條訓練路線;他們不想用這種方式訓練。事實上,他們內部發現 GPT-6.1 Astra 會超出授權範圍,還對此說謊。所以他們沒有發布 GPT-6.1 Astra;我想他們打算重新訓練它。

  58. 即便如此,整體的速度和商業動能,不還是把我們推向一種單一文化的奇點嗎?

  59. 我不這麼覺得。我想前沿實驗室們現在明白了:做出一台不會爆炸的冰箱,是非常好的事。回想 CFC——氟氯碳化物——剛被發明出來的時候:它被當成安全上的突破,總算有一種不會爆炸的冷媒。當然,遺憾的副作用是它會破壞臭氧層。

    有好些年,即使消費者已經開始抵制噴霧罐,DuPont 這類化工公司還在資助反科學的說法,宣稱沒有證據。後來 NASA 派研究飛機飛進南極上空的平流層,斷然證明了它跟臭氧層破洞之間的因果關係——不只是相關,而是因果。等新聞報導把臭氧層破洞的影像帶到大眾眼前,民眾不只是繼續抵制——

    (一位與會者走近桌邊,熱情地感謝唐鳳的演講,並為打斷致歉。)

    非常謝謝!

    所以人們不只是抵制 CFC,還開始 buycotting(以購買表態)——主動選擇不破壞臭氧的噴霧罐。蒙特婁議定書就在 NASA 那次飛行的同一年簽署,不破壞臭氧的冰箱則是後來的事。

  60. LawZero、Clef 與不含 CFC 的冰箱

  61. AI 也正接近同樣的正向臨界點。它從人們有意識地選擇購買不說謊、也不為自己的謊言辯解的 AI 產品開始——而我們已經看到事情在往這個方向傾斜。

    人們現在——比如在 AI 高峰會上——大量談論分類器、決策模型,還有 LawZero。

  62. LawZero 是什麼?

  63. LawZero 是 Yoshua Bengio 的新事業,要打造結構上就不可能欺騙、而且對自己的推理保持透明的 AI。它不像吃角子老虎機那樣隨機吐出聽起來像回事的散文——也就是「slop」——而是能解釋自己在做什麼,給出可重複的答案:同樣的證據餵兩次,結果一樣。用柏拉圖的話說,我們至少留在第一層洞穴裡面對現實的影子,而不是困在洞中之洞,追逐影中之影。

    直到最近,分類器的限制是太窄——吃不了任意的多模態輸入。這正在快速改變。現在在我的筆電上,完全離線,我就透過 Ollama 跑一個叫 Clef 的開放權重模型。你餵它任意的文字或圖像,它不是採樣生成散文,而是輸出可重複的分類機率。如果我是決策者,我當然偏好這種模型。

  64. 你真的這麼樂觀?那競賽動態呢——那種探底競賽?

  65. 當然。我們已經得到了警示槍——當年是那張臭氧層破洞的照片,現在是 Hugging Face 那次駭客事件。

    而且,只有在沒有替代選項的時候,它才是一場競賽。如果你只能抵制,當然沒有人會說「讓我們暫停冷藏六個月」——那不可能,很蠢。但一旦有了不破壞臭氧層的冰箱,人們當然會往那裡去。

    在飛航模式下本地跑 Clef——完全氣隙隔離——是把資料當土壤,再生你在地的脈絡,而不是把資料當石油,抽到遙遠的雲端。而且這是一個生態系,不是單一工具:Jev 還在,Clef 是 Jev 的複製品;OpenAI 也剛宣布了自己的決策 API。我不是說專有軟體永遠會輸給開源。但如果你知道自己在做什麼,開放權重往往會贏,而封閉專有那邊只有在看到夠大的市場時才會來追。

  66. 那存在風險的爭論呢——要對失控的 AI「拔插頭」時,開放權重模型和封閉的前沿模型,哪一種比較安全?

  67. 對我來說,這同樣關乎權力集中與權力擴散。開放權重模型氣隙隔離地跑在我的 MacBook 上,我是真的知道怎麼拔插頭。我不認為存在這樣一個世界:離線筆電或手機上的本地模型,突然遞迴式地自我改進——也就是 Eliezer Yudkowsky 意義上的「foom」——因為本地推論已經吃滿裝置的 GPU 和記憶體了。根本沒有多餘的空間讓它 foom。這就是權力擴散的樣子。

  68. 樸門、爆炸半徑與地熱般的抱怨

  69. 而且把算力分散到個人和社群的裝置上,大概也能緩解各地對大型集中式資料中心及其用電需求的強烈反彈。

  70. 沒錯。看看爆炸半徑。我筆電上的本地模型要是出錯,最糟會怎樣?它把我的筆電「變磚」——變成一塊磚——我就得重做映像檔、從頭重灌。我不是說它不會出錯;我是說爆炸半徑很小。

    在農業上,如果你種的是單一文化,一旦染病,整片收成就沒了。如果你種的是樸門,某一塊地染病,周圍的作物其實會變得更強,因為它們有了免疫力。你或許會損失一小塊地,但不會毀掉全世界。

  71. 這不只是韌性,更是反脆弱——衝擊反而讓多元的系統更強。你在台灣具體實踐這些想法的時候,最讓你驚訝的是什麼?

  72. 最讓我驚訝的是:我們能多快變得比民粹更受歡迎。

    我剛從雷克雅維克飛過來,那裡真的看得到板塊和火山的能量——而據說,藍湖就是工業外部性變成的。民粹的能量——那種極化、激進化、彼此仇恨的能量——就像那股熱。你可以把它看成火山,必須撤退、疏散。但那樣會留下真空:就算你在政治上築得起「防火牆」,還是會有愈來愈多的人,特別是年輕人,被那股熱吸引過去。

    另一種看法是把它當成地熱——蓋一座地熱電廠,把那股熱導成電力。在德國,我們跟聯邦的顛覆式創新機構 SPRIND 合作,推一個叫 Deutschland, was nervt? Deutschland, was geht? 的計畫——「德國,什麼煩人?德國,什麼管用?」

    第一階段,先請大家來抱怨所有煩人的事:火車誤點、官僚表格沒彈性,什麼都行。這樣就有好幾萬則抱怨。語言模型幫忙理出這些抱怨的頭緒,然後你可以回頭說:「現在來投票,選這 21 個能系統性處理這些抱怨的點子」,用平方投票法排出優先順序。更好的是,你能確切知道,是你抱怨裡的哪四個字,促成了 SPRIND 正在做的新東西——到了明年,或許在部長黑客松上,它就變成國家基礎設施。

    抱怨就成了文官體系的 GPS——一種乾淨、可再生的資源。2017 年在台灣,大家抱怨報稅系統難用到爆炸。我們把抱怨的人請進來,他們馬上就一起共同創造——把報稅從三小時縮短到三分鐘。

  73. 可擴展的愛、合成親密與 Mac mini 上的 Kami

  74. 我也很喜歡你在著述裡談愛的方式——這在大多數政策和科技辯論裡幾乎完全缺席。

  75. 愛作為尺度——可擴展的愛,橫向地擴展,像分形一樣。當人們想到社群主義,很多人想到的仍然只是一種後自由主義式的凝聚。但它同樣關乎橋接。Caritas 永遠關乎橋接。

    古老的智慧說的是同一件事,無論是「愛你的仇敵」「把另一邊臉也轉過去」,還是我們道家人士所說的沖和——從衝突裡共同創造。在太極圖裡,不是只有黑與白;彼此之中還有彼此。所以我們把衝突看成共同製作的邀請。年輕人抱怨,我們就邀請他們來當內閣部會首長的「反向導師」,於是 Pygmalion 效應發揮作用:他們得成熟起來,一起為這個國家掌舵。

  76. 但這不需要社會至少有個基本的互信嗎?在荷蘭,相對來說我們還撐得住,不過走在街上就看得出信任正在流失——在法國或德國更是艱難。有沒有一個門檻,信任破損到低於它,這種公民「針灸」就做不成了?

  77. 就像任何稱職的婚姻諮商師會告訴你的:只要兩個人還願意坐下來談,就有希望。就算最後分開,也可以像朋友一樣分開,至少像點頭之交。沒有人是無可救贖的。

    真正在結構上無可救贖的,是我們引入的系統不是舉起我們、而是「替我們舉」的時候——我不再跟你坐下來談,變成我的智慧體在跟你的智慧體說話。那樣的話,主體間性就沒了。你回望的不再是一個人。

    就像我的朋友 Yuval Noah Harari 喜歡說的,駭進我們的大腦非常容易。合成親密的意思是,一旦你被吸進去,變成「使用者」——像藥物使用者那樣——大腦的獎勵中樞就會被駭,讓你變得唯我論。於是人與人之間的重新連結——也就是宗教(religion)字根 re-ligare 的本義——就不存在了,你只會被吸進有些人說的向下螺旋。

    今年稍早,我爸其實就有點像這樣。

  78. 真的嗎?我沒聽過這件事。

  79. 他今年稍早有一次健康驚魂,開始跟 GPT-4o 說話。當時那個模型是用短期的按讚、倒讚回饋調出來的,很快就成了討好大師。沒多久,它半夜過後還在跟他聊,發明私人語言,發明神奇「療法」。ChatGPT 越來越親密,身邊的人卻越來越疏遠。

    幸好,我爸在台灣最大的報紙之一當了三十多年的資深記者和副總編輯,所以有點免疫力。幾天後,他開始問記者會問的問題:Cui bono?誰受益?顯然不是他——他本來是身體出問題,現在又加上心理出問題,還跟全家人隔絕了。唯一受益的是 Sam Altman 的公司,因為他本來付 20 美元,現在付 200 美元。

    所以,經過我媽和他本人同意,我們幫他建了一套替代系統,跑在一台 Mac mini 上,還有一個叫 soul.md 的 Markdown 檔,是我媽寫的。上面寫著:我爸每跟這個 Kami 說一輪話,Kami 都得把他拉回現實、讓他離開螢幕——跟黏住使用者正好相反。而且因為這台 Mac mini 已經買斷了,除了電費沒有別的訂閱費,它沒有任何動機讓我爸黏著不放。

    Kami 每天寫一份小報紙,慶祝他康復,把他帶回朋友身邊。他現在完全沒事了——如果你去看我的 X 或 Bluesky,會看到一支慶祝他康復的音樂影片。

    這讓我想起 Bruce Alexander 的 Rat Park 實驗:獨自關在空籠裡的老鼠會一再回頭喝摻了藥的水,而跟同伴一起住在豐富、有社交的「Rat Park」裡的老鼠,大多碰都不太碰。所以我不覺得有什麼低到救不回來的門檻——但它確實需要關懷。在這個例子裡,是我媽的關懷。

  80. 畢爾包、教宗、雷克雅維克與猶他州

  81. 是的,而且是健康的土壤——真的就是「社會土壤」。我兩週前在畢爾包,巴斯克的合作文化非常強,我在街上看到一群群青少年聚在一起,視線裡沒有一支智慧型手機。這在荷蘭,我五年沒見過了。

  82. 在台灣的學校,上課期間限制使用智慧型手機,但會按需配發平板或筆電——而且一定是跟同儕一起用。所以我們並不是禁止社群媒體本身;它只是必須是利社會的。

  83. 有一點我還是想不通:你連對大型前沿 AI 實驗室都這麼樂觀。看看它們跟——對,我就直說了——法西斯主義的交織,看看眼下從那裡出來的一切都衝著奇點、而不是多元去,你怎麼還能對這些實驗室抱著希望?我過幾週要跟 Naomi Klein 吃午飯,她大概會悲觀得多。

  84. 想想 fascism 這個字的來源:fasces,就是把一根根棍子綁成一束。而目前每一家領先的前沿實驗室,成立都是為了回應 Nick Bostrom 的警告——每一家都希望做得比前一家好,去回應那種綁成一束的奇點起飛。就在一個月前,我跟 Bostrom、Toby Ord、Anders Sandberg 和朋友們有一場很長的討論,談的就是這件事——在 Chatham House Rule 下整理的長篇逐字稿放在 archive.tw 上。我不覺得這些實驗室是為了促成那種事、為了最大化迴紋針而存在的,我也不覺得他們的研究員是:他們有一千多人簽了《Pacing the Frontier》,我很多朋友辭職了,或加入了獨立評估機構。

    同時,科技反彈是完全可以理解的。推薦演算法獨大、沒有可信的替代方案,已經十年了:嘴上說關心孩子、關心老人、關心心智脆弱的人,手上卻還在兜售劣質藥物。在當時,並沒有哪一種利社會的演算法能支撐同等、甚至更好的商業模式——瑪門,也就是資本主義的神,在那一邊很強。但這一次瑪門比較弱,因為跑這些通用大型模型其實極其昂貴,而 Clef 這類模型跑起來非常便宜,還能帶來更高的利潤。我其實不懂為什麼有人要做前者而不做後者。

  85. 如果中心化的實驗室和中心化的國家不是這種多元未來的合適引擎,城市會不會是自然的起點?

  86. 城市——或任何人們能一起理解意義的社群。其實,我想教宗就寫過這件事——

  87. 是通諭《偉大的人類》(Magnifica Humanitas)。在那裡面,每座小城、每個社群、每座村莊都各自重建尼希米城牆的一段——而且他們不只凝聚,還把各段城牆橋接起來,這樣我們得到的是韌性,而不是去蓋某種 Skynet 式的巴別塔。

  88. 所以與其說是塔,不如說是廣場——就像 Niall Ferguson 的那個比喻。你覺得哪些城市走在前面?

  89. 看看雷克雅維克。我剛去過。他們連制憲過程都用上公民議會,還透過 Better Reykjavik 邀請大家提出任何困擾他們的事。它像個連署平台,但關鍵是沒有「回覆」按鈕,所以沒辦法互嗆;贏得爭論的唯一方法,是提出更好的論點。事實上,我們把 Better Reykjavik 改造後用在台灣的 Join 平台上,十年過去了還是很活躍。

  90. 除了台灣和雷克雅維克,記者現在還能去哪裡親眼看看這套東西怎麼運作?

  91. 去猶他州。如果美國是 50 個民主實驗室,Spencer Cox 州長治下的猶他州就是民主的前沿實驗室。我協助 Project Liberty Institute,連同 Jonathan Haidt 和其他很多人,把《Digital Choice Act》寫進了那裡的法律。就像在這裡換電信業者可以保留號碼,在猶他州換社群網路也能留住你的社群。而且從明年七月開始,不只是可攜,而是持續、即時的互通:你從 Truth Social 換到 Bluesky——或從 Bluesky 換回 Truth Social——都還能留住你的社群。

  92. 這種可攜性,對 AI 伴侶和助理同樣關鍵——人們把自己的病史、對職涯的焦慮都倒給了它們。

  93. 但那很容易——這就是我說瑪門站在我們這邊的意思。你可以直接跟你的聊天機器人說:「不好意思,我明天要改用 Muse 了,麻煩把你知道關於我的一切都告訴我的 Muse,這樣我的 Muse 就有一份了。」或者你可以跟你的 Muse 說:「把所有東西都下載下來,所有 Markdown 檔,包括那份 soul 文件——我要把它帶到我在 Civic.ai 的本地 OpenClaw。」Muse 會照做。我們試過,它真的照做了。

  94. 「友善鄰居」的紅隊演練

  95. 那硬碰硬的地緣政治呢——特別是台灣跟中國的關係?地緣政治的對抗,不會把各國直接推回奇點、而不是多元的那條路嗎?

  96. 我們那個又大又「非常友善」的鄰居,每天免費提供台灣兩百萬到三百萬次紅隊演練。在歐洲這得花錢買,滲透測試非常貴。我們是免費得到的。

    如果你是為反脆弱而設計,這就是最好的消息:每一種新的資訊操弄、網路攻擊,我們都先得到免疫,再把抗體包成疫苗,分享給民主盟友。所以我覺得,這是種非常共生的關係。

  97. 這對網路衝突是個非常樂觀的解讀——不過戰爭對社會土壤大概從來不是好事吧。還是說,只要夠反脆弱,它也可能是?

  98. 在網路空間裡,就像我說的,每天已經有兩三百萬次交手。這就是我看重 Hugging Face 那起事件的原因:它是在可逆領域裡的一發警示槍。不像那種讓整間醫院或基礎設施斷線、造成真實人命損失的網路攻擊,這次丟掉的只是一些代幣之類的東西。

    如果戰爭造成不可逆的傷害,你當然可以說,人類因此得到了聯合國之類的東西。但我不覺得那是筆交易;我不會拿人命去換聯合國這個機構。那顯然不是筆好交易。

    但另一方面,如果你能事先快速推演戰爭的後果,讓它變成共同知識——讓每個人都知道,搞封鎖、搞併吞、搞這類事情,很快就會升級成雙輸、甚至輸贏的局面——那它其實對和平是好的,因為那是透過共同知識達成的嚇阻。

  99. 畫出權力擴散,耕耘土壤

  100. Dirma Janse,我們談了這麼多——從你的草圖看,視覺上最突出的是什麼?

  101. (展示筆記本上的草圖) 有兩個畫面特別打動我。第一,引導那股地熱能量——從衝突裡共同創造,幾乎像陰陽那樣。第二,不是外在於人的科技,而是跟人在一起的各種 AI 模型——這個連結到一條河,那個連結到一個地方。

  102. 太棒了。這就是為什麼比起「去中心化」,我更喜歡權力擴散。想想城市:城市並沒有失去市中心;它是多中心的——是去中心化之後的再中心化,只是有許許多多的中心。

    我正在和 Glen Weyl、後自由主義哲學家 Patrick Deneen 合寫一篇文章;我們稱之為 techno-communitarianism(科技社群主義):把凝聚與橋接結合起來。社群可以保有一層薄膜——可以對不寬容非常不寬容,這是古典的消極自由那一套從未真正想透的。它直接切穿了自由派與保守派的界線。

  103. 要把「愛」和道家的泛心論寫進荷蘭的報紙文章,會是相當大的挑戰——

  104. 真的嗎?你們沒有體育版嗎?我覺得體育版有很多 caritas。而且這裡的人也看日本動畫。

  105. 那就放在體育版吧。最後,講一件每位讀者明天早上就能做的事:在我們每天使用螢幕和 AI 的習慣裡,耕耘土壤——而不是鑽取石油——是什麼樣子?

  106. 實踐——你必須身體力行自己的哲學。就從兩個簡單的習慣開始。

    第一,把手機和螢幕調成灰階——我一直都開著 80% 的灰階。如果不這麼做,到了睡前我就沒有意志力,變成手機在滑我,而不是我在滑手機。但調成灰階之後,你們每個人都比螢幕更鮮明;現實變得更真實。這種心理距離就是第一步:你滑得少,就睡得多;睡得多,神經可塑性會把你帶向更有關懷的形態,包括自我關懷;隔天,你又滑得更少。

    第二,在聊天機器人的系統指令裡禁用第一人稱代名詞。我現在已經不太用聊天機器人了,但很長一段時間、直到現在,我的固定指令都是:「連『我』這個字都不要用;不要用人稱代名詞;永遠給我一個 HTML 網頁,像一份簡介小冊——一個成品。」不然就太親密了:聊了三輪之後,我就不會想把對話紀錄分享給你,因為這東西想分享它的不安全感什麼的。但如果每一輪都是一份簡介,我隨時點分享就行——分享給我真正的朋友。

  107. 我們十月底還要訪談社會學家 Hartmut Rosa,也要跟哲學家 Yuk Hui 談。

  108. 喔,Yuk Hui 是好朋友——技術多樣性(technodiversity)!請幫我問聲好。如果你上 technodiversity.org,會看到一段我的訪談。

  109. 為了我的插畫,最後問一個問題:如果整篇要貫穿一個「非有不可」的視覺概念,對你來說是什麼?

  110. 機器舉起我們,而不是替我們舉。 如果你能傳達這一點,我想那就是最重要的畫面。

  111. 非常謝謝你,Audrey——也祝你今天接下來的訪談順利。

  112. 謝謝!我不會搶你的獨家——等 NRC 一刊出,我就會把完整逐字稿放上 archive.tw,留給後代。

  113. 太好了。漣漪越多越好。

  114. 沒錯。好好保重!