當我們,尤其是年輕人,越能夠看清這場戰爭迷霧——裂變生成(schismogenesis),也就是衝突的生成過程——是我們共同的敵方,我們就越能結合彼此的經驗。因為那個敵方是人類認知和對齊失敗的一種狀態。敵方不是另一個人。那正是最好的共生性工作:共同生產以清除無知,進行社會翻譯。
「以實力促和平」不只是指動能上的實力。也指認知上的實力——理解到不同意識形態的人,透過社會翻譯,可以在具體行動的層次上取得共識。那就是我們所說的「沖和」——衝突轉化為和諧。這是一個非常道家的觀念。那就是真正的實力。
因為如果一個人不具備這種安全感和信心,就會變得非常不安全。然後就會對那種不安全感的投射毫無抵抗力。每當我們看到某個挑戰自己意識形態的事物,我們不是說「噢,衝突是偉大的動力來源」,而是說「噢,那就像火山,我們必須撤退」。如果我們不斷撤退,最終就無處容身。人們變得如此不安全,以至於願意不惜一切代價為生存而戰。
因此,能夠以一種讓衝突轉化為共創的方式來面對衝突——也就是「沖和」——我認為那才是真正的實力。和平正是透過這種實力而來的。
這場戰爭迷霧和認知戰的解方,不是去增強極化。因為那正是攻擊者想要的。攻擊者真的只有一個敘事:民主從來無法交付成果,只會導致混亂。任何強化這個敘事的反應,都像是在向這個單一體獻祭,那個威權主義的黑洞把所有人都吸進去。
與其跟他們的威權敘事共振,不如去建立更健康的關係。那種你們可以一起笑、一起生活的關係。「以幽默勝謠言」(Humor over Rumor)的劇本是這樣的:每當有好戰者投射出不安全感,你就用共享的笑話、共享的幽默、共享的澄清、協作註記等等,來建造抗體、建造免疫力,來克服它。
這就完全像音樂,因為那叫做即興合奏(jamming)!人們在一起合奏,就像爵士樂。每當我看到有酸民在網路上攻擊我,也許他們用了五萬個字來做一篇仇恨言論。我就用一個小型語言模型,讓它看完整篇長文,然後找出五個字,是我可以重新詮釋為建設性的、幽默的、有趣的東西。
我只對這五個字用非常共生的方式回應。這就降低了緊張。而且我也讀到了一些詩意,因為我從來不知道華語或英語可以被這樣使用。那就像發現了一首新詩。以前這很困難——如果你沒有道家冥想的訓練的話。光是吸收那五萬個字的仇恨,就需要巨大的情緒勞動。但現在你不用再承受那些了。你的智慧體可以替你做,而你只需要專注在那五個字的詩意上。
對,完全正確。甚至不需要 140 個字。只要 14 個。
我把所有螢幕都調成灰階。我希望像素不要比現實更鮮豔。因為我們周遭的現實,其實不像現在那些像素那麼閃閃發亮。只要把所有螢幕調成灰階,我的睡眠品質就好了很多,因為我不會再覺得有一股衝動要一直滑螢幕。反正都是灰階嘛,對吧?所以我覺得色彩濾鏡是一種非常好的防禦。
沒錯。如果你用色彩濾鏡,即使只是把色彩降低七成,你就會提醒自己這只是一幅畫,然後你就不會永遠滑下去。所以我的建議,我想我就說: 少滑一點。多睡一點。
當然。未完待續。謝謝。
很高興來到這裡。真的早就該來錄了。我才剛從印度和日本回到臺灣。錄音當天是 3 月 18 日,但我理解這集大約會在一週後播出。
我不會把這說成是脫離了公共服務。我覺得自己現在是在服務更大的公眾。我們用來帶領社會穿越轉型科技挑戰的方法,例如 AI、合成親密與合成詐騙,在臺灣確實奏效。但真正的考驗是:這些方法能不能超越任期,在這裡持續發揮作用,並且在世界各地擴散開來。
三個白話動詞:我翻譯、我示範、我連結。
翻譯(Translate) :我把臺灣行之有效的方法,跨文化、跨政治語彙地翻譯出去,讓它能在加州、東京、倫敦以及更多地方落地。 示範(Demonstrate) :我證明臺灣的方法是可以攜帶、可以移植的。 連結(Connect) :我在對話開始前就先搭起文化橋梁。
舉個具體的例子:這個月稍早,我從印度飛到日本,要和日本哲學家東浩紀見面。他的新書《Peace and Stupidity》已經有日文版,英文版還沒有出版。
在飛機上,沒有網路的情況下,我用筆電上的本地 AI,把《多元宇宙》裡臺灣的思路,和他在日本的思考,做出哲學上的對應。到了東京,我把翻成日文的投影片交給他,像一塊羅塞塔石碑,讓人看懂臺灣的做法,也想像它在日本可能如何發生。他笑著說,這是開啟握手的好方式。
那就是一種外交操作:不只是先建立共同語言,而是用 AI 在兩種文化之間先做出一塊意外的中間地帶。當然,一旦對話開始,我們就不再需要 AI 了。但這種在對話開始前先搭橋的工作,就是數位治理大使要做的事。
當然。你如果去看 engaged.ca.gov,也就是 Engaged California,就會看到加州政府的計畫,臺灣人一眼就能認出它是 JOIN 的變體,也就是我們的網路連署與公共諮詢平台。它也很像我們所說的「內部版 JOIN」:讓公部門員工有一個安全空間,可以討論如何面對新興議題,包括 AI 對公部門職缺的影響。
當時我還是數位發展部長時,加州州長 Gavin Newsom 有找我一起協助打造這個平台。最初,我們打算把它用在合成親密上,特別是青少年因為無止盡滑動資訊流(doomscrolling),或像 Character.AI 這類 AI 伴侶,而對螢幕過度依附的問題。加州認為這是真實存在的難題,但也不想在沒有先諮詢青少年與家長的情況下,直接把解法強加上去。
後來,在啟用的那一週,洛杉磯野火爆發了。於是這個平台轉而去諮詢 Eaton 和 Palisades 火災的倖存者,請他們談未來如何降低野火風險並重建。這件事做得相當成功。它把原本圍繞責任歸屬的極化時刻,轉化成共同創造的公民能量。這個成功之後,加州又處理另一個挑戰:請州政府員工提出,如何在公部門內部引導 AI 轉型,讓政府更有效率。這有點像 DOGE,但不是電鋸,而是一連串州政府員工的連鎖回應,一起推動 AI 轉型。
首先,臺灣和日本都是島嶼民主。我們面對的是共同威脅:地震、海嘯、颱風,還有更多。所以我們都知道,怎麼把持續的壓力轉化為公民能量。我把這稱為 地熱民主 。
板塊構造壓力在物理上的體驗,和資訊壓力在公民生活裡的體驗,其實並不分離。當板塊互相擠壓時,玉山,也就是臺灣最高峰,會每年長高大約半公分。這提醒我們,政治與意識形態中的對立力量,不是該逃離的火山。它們正是讓臺灣持續往上、往天際生長的力量。
《多元宇宙》這本新書出版之後,它在 plurality.net 上是公領域版本,很多人寫信給我。其中一位就是安野貴博。當時他和政治完全沒關係。他原本是、現在也仍然是科幻作家與 AI 研究者。
他告訴我,他想把這本書的一個核心概念,也就是 廣泛傾聽(broad listening) ,真正實踐出來。廣泛傾聽就像反向廣播:不是一個人對數百萬人說話,而是一個人傾聽數百萬人的聲音,再把他們的共同點、差異與群眾集體想法反映回來。因為他也有程式設計能力,所以他做出了一套系統,然後問我,如果用這套系統去選東京知事,他這個當時只有 33 歲、而且相對不知名的人,機會怎麼樣。我告訴他:去做吧。
想像一下,你把機器人送去健身房,還把會員卡交給它,因為那間健身房有一個排行榜,獎勵舉得最重的人。機器人拿了滿分,但你自己的肌肉卻萎縮了。更糟的是,你也錯過了本來可能在那裡交到的朋友,因為機器人只在乎拿到排行榜第一。
那就是 榨取式 AI 的運作方式。每個系統都在優化某個抽象分數。但合在一起,這些系統卻讓社會破碎、削弱人類能動性、讓公民肌肉變弱,也滋生不信任。
仁工智慧 則反其道而行。它像保護員一樣,幫助我們鍛鍊公民肌肉,讓彼此的關係更健康。你可以把「仁工智慧」想成一種工具:它不是替人做事,而是讓人與人之間更有能力互相照應。就算在現在這波多智慧體系統興起之前,很多人也早就擔心過,AI 智慧體會在替人類行事時引發混亂。「仁工智慧」就是我對這種擔憂的回答。
一個很好的例子,是 2024 年 3 月臺灣發生的事。那時候,如果你打開 Facebook 或 YouTube,可能會看到黃仁勳提供投資建議、或贈送免費加密貨幣的假影片。那些影片看起來和聽起來都很逼真,很多人因此損失了數百萬元。
如果我們當時只是問一個簡單的是非題,例如政府是否應該讓大型科技公司負責,我們就會直接引爆有關審查的爭論。所以我們沒有這樣做。相反地,我們用了仁工智慧。
我們先向全臺灣隨機手機號碼發出 20 萬則簡訊,問一個問題:我們應該一起做什麼,才能維持線上資訊完整性?數千人回應。我們從中邀請 447 位具有代表性的臺灣民眾,進到 44 個線上房間。在那裡,仁工智慧扮演計時員、摘要員與主持人,提醒比較安靜的人也要發言。
每一桌都有一條簡單規則:如果一個想法能說服整個房間,它就往上走;如果它太激進、太撕裂,無法在這個房間成立,它就不會擴散。
沒錯。換句話說,和社群媒體常常放大憤怒不同,仁工智慧讓只有彼此重疊的想法才會真正流行。
公眾提出了幾項具體建議:
所有未簽署的廣告,都先標記為「可能是詐騙」,直到它們完成數位簽章。 如果平台刊登未簽署的詐騙廣告,並因此造成金錢損失,平台要一起負責。 如果不配合的平台拒絕合作,就每天把它的連線速度降低 1%。當時這很重要,因為 TikTok 在臺灣沒有代表處,原本就可能忽略罰鍰。
我們把這些想法翻成法律。2024 年 5 月,我們推動《數位簽章法》通過;同月也提出《詐欺犯罪危害防治法》草案,並在 2024 年 7 月通過。去年生效之後,12 個月內,冒名詐騙廣告下降了超過 94%。
關懷六力有六個支柱,讓 AI 成為仁工智慧。前五項來自哲學家 Joan Tronto 的關懷循環。一個有關懷的機器應該具備:
覺察力(Attentiveness) :傾聽最接近問題的人,而不是只聽有權勢的人。 責任力(Responsibility) :守住具體承諾,提出真實、可信的承諾。 勝任力(Competence) :讓人們能透明地檢驗 AI 的過程。 回應力(Responsiveness) :讓人們可以用自己參與設計的指標來評估結果。 團結力(Solidarity) :產生雙贏結果,讓使用者不會被鎖在單一生態系裡,也可以輕易更換供應商。
第六個支柱是 共生力 ,我也把它叫做 在地神靈(local kami) 。它的意思是,AI 應該盡可能在地運行,而不是成為一個一體適用的雲端霸主。同樣一個摘要 AI 可以跑在雲端,也可以跑在筆電上。當它在地運行時,當然比較少監控;但更重要的是,它也更容易被人修正。
如果臺南或臺北的民眾覺得某個摘要器運作方式不對,他們應該能在本地調整,而不是等下一次矽谷更新。
某種程度上是。Edge AI 是說,部署時盡量放在最接近人的地方;但仁工智慧還必須能被它所影響的人修正。如果是一支監視攝影機,那確實是在邊緣部署;但如果人們受到它監控後,沒有任何方式去修正它,那它還是不能算仁工智慧。只有當受影響的人也能引導、修正它時,系統才算真正公民。
《多元宇宙》提出一個簡單主張:民主生活中的衝突不是瑕疵,而是能量來源。真正的任務,是打造一臺地熱引擎,把衝突的熱轉化為共同創造的能量,而不是把每一次分歧都當成必須逃離的火山爆發。
奇點,因為奇點就是終極的自上而下。
當然。Caroline Green 主持牛津大學 AI 倫理研究所的 Accelerator Fellowship。就在這集播出的那一週,我們會在牛津 Rhodes House 舉行的仁工智慧會議上,發表完整框架。
牛津至少從 2004 年起,就以清楚闡述 AI 的風險而聞名。Nick Bostrom 的《Superintelligence》替今天的很多詞彙打下基礎:超級智慧、奇點、單一體、起飛,等等。下一個順理成章的問題就是:既然我們已經理解機器取代人類工作、能動性與意義的危險,那我們要怎麼辦?這正是我們正在做的事。
我們在 2016 年為了 2019 年的 12 年國教課綱做準備時,在臺灣就長時間討論過這個問題。
沒錯。大約就在那時,AlphaGo 跟李世乭對弈,還下出了著名的第 37 手。那讓所有人都很震撼。圍棋有非常清楚的規則與客觀分數,但最好的真人選手已經開始打不過機器了。
這件事讓教育者看得很清楚。如果一個七歲小孩進學校,主要是學習怎麼守規則、怎麼考好標準化測驗,那等這孩子 18 歲的時候,機器早就會把這些事情做得更好。教育不能只是訓練人去模仿機器。
因此,我們最後歸納出三種無法被自動化的人類內在美德: