如果我們重新聚焦於 關懷 ，我們就會敏銳地察覺實際需求，並在如何快速、有效地滿足這些需求上競爭——而不是自我吹捧，或基於成癮來創造需求。要 回歸到關懷的能力 。
讓關懷向外——不僅是關心個人的情緒，更要關心社會的情緒。如果社會的某一部分感覺非常糟糕，這不僅是精神科醫師或照護者的事；民主體系需要轉變，讓措施演變成他們可以接受的樣子。公民關懷（civic care）非常重要。
我們需要讓關懷變得有吸引力——「關懷健身房」——練出「關懷的六塊肌」。讓關懷對兄弟們也很有吸引力。
我專注於機器倫理：訓練 AI 系統不是為了奴役、洗腦或最大化利潤／黏著度，而是要注入公民關懷。這就是我在牛津的研究主題：6pack.care ——如何能水平對齊 AI，讓它們最大化人與人之間以及人與機器之間關係的健全度，也就是最大化 公民關懷 ？
是的，因為我們有反脆弱的基礎設施來應對當下的時刻。十年前，當臺灣面臨認知極化時，我們連續 12 年在接收訊息攻勢方面，位居世界之冠；那時很孤單。很少人理解「認知安全」是資通安全的一部分。
現在，在去年全球所有執政黨都失去席次之後，人們看到垂直的機構——記者、學者、部長——都失去了其重要性。人們在被放大的社群媒體中找到歸屬感；甚至偽裝成人的機器人也感覺更親近。在日本，這次選舉中病毒式傳播的 YouTube 另類敘事政黨獲得了席次。一旦你進入那個同溫層，你會覺得只有你看穿了真相，並被相似的人支持。
我樂觀，是因為 現在每個人都看到了同樣的問題 。沒有哪個民主國家是座孤島；所有人都被連結在一起。
大多數人都厭倦了極化。在美國，無論左派或右派，沒人喜歡這樣。找到跨群體共通點的潛力很高——社群備註（community notes）和水平對齊的 AI 產品市場契合度很高。
那樣只會讓共通點更稀有，但也更值得追求。
我努力精進自己的睡眠品質。我剛睡了超過 8 小時。當事情變困難時，我就睡 9 或 10 個小時；那能讓我恢復。
臺灣曾經是將公民基礎設施轉化為公共基礎設施的最大政治體。但更小的政治體有很多例子——雷克雅維克，以及許多城市層級的公民倡議系統都遠遠超過臺灣。我們是將市級的創新拉到國家級的基礎設施。
如果你把規模縮小到 100 或 1,000 人，大多數地方都能學會更好的開會方式。在小規模推動數位民主幾乎沒有阻力。阻力出現在 100 萬到 1,000 萬人的規模，在那裡，既有的利害關係人會有興趣阻擋新的基礎設施。
有一段時間，臺灣是嘗試這件事的最大政治體，因為我們面臨壓力。現在加州也採納了同樣的系統。我和紐森（Newsom）的團隊合作了兩年——基礎設施、審議、數位工具。我們選了一個無爭議的議題：青少年使用社群媒體。我們正準備和孩子及家長一起啟動；啟動當周，野火發生了。我們立刻轉向。在 engaged.ca.gov 頁面上，關於野火復原的點擊率是 25%——比預期高了五倍——因為有 急迫性 。它在野火議題上，產出了跨群體的共通點。
在日本，類似的事情也正在發生。新當選的安野貴博（Takahiro Anno）主打廣泛傾聽、去極化、建立橋樑、多元性，也就是「Team Mirai」，他們主打 AI 輔助的審議；他們也贏了。
你需要在 中間層級 （meso level）——幾千人到五十萬人——做好準備，去鍛鍊公民肌力。不要一開始就去健身房舉最重的；你會拉傷自己。一旦你持續鍛鍊，當急迫性來臨時，你就能跨越多個政治體進行擴展。
橫向擴展、向內深化，然後才向上、向外拓展。
那是傳統的變革理論。我主張的是量子穿隧的變革理論：不要試圖在充分擴散之前，就想著擴大你的訴求。
從許多關於 相鄰議題 的對話群開始。在臺灣，我們不是一開始就處理婚姻平權。我們處理的是單親媽媽如何不受歧視地撫養孩子、月經議題和其他相鄰但重要的議題。當有成千上萬這樣的運動時，總有一個會觸動神經，建立起超越原始議題的支持。
我們有連署——8,000 人連署將臺灣時區改為 UTC+9（以彰顯主權），也有 8,000 人連署維持 UTC+8，兩邊對撞。我們召集了雙方，提出了幾十個點子：與其把資源花在改時區上，不如把拿來推廣同志平權、在臺灣舉辦人權大會、提供金卡給開源貢獻者等等。在探索了各種點子後，大家發現改時區並非最佳效果。
用關懷倫理的方式引導，就會揭示出人們可以共同解決的其他需求。 不要從非黑即白的本體論辯論開始；從相鄰的議題開始。
多睡一點。照顧好自己。
不只思考 快速 或 公平 的回應，也要思考 有趣 的回應。「 幽默勝於謠言 」是始終如一的概念。在愉悅的心情下，人們在尋找他人能接受的點子時會更有創造力。如果只從壓力和憤怒出發，只會讓長廊愈走愈窄。
要擴展宰制與混亂之間的那條窄廊——即使它一開始很窄，也要把它拓寬。
這就是我今天在日經論壇上討論的「為你推薦」演算法。
是的。像 YouTube 這樣的平台是一種「廣播」科技。但它不只讓一、兩個媒體成為廣播者，而是讓每個人都能成為廣播者。然而，透過自動播放和「為你推薦」的演算法，它優先推送的是那些透過「激怒」來「互動」的內容。當你被激怒時，就更容易上癮。所以，這些社群媒體的「使用者」（users）——這個詞同時也用來形容成癮者——無可避免地會被拉向某個極端，而不是中間立場，因為中間的聲音在那些演算法上根本不會爆紅。
解決方案，就是將「廣播」（broadcasting）的邏輯反轉過來，我們稱之為「廣泛傾聽」（broad listening）。廣播讓一個抱持極端觀點的人可以對一百萬人說話；而廣泛傾聽則讓一百萬人能夠彼此傾聽，就像兩、三個人在對話一樣。
Polis 就是我們早期做的一個廣泛傾聽實驗。即便有數千人對 Uber 議題抱持極端不同的看法，它最終能將其收斂成四種不同的立場。接著我們在這些立場之間建立橋樑，讓它們變成兩種立場。最後，在這兩種立場之間再搭起橋樑，就形成了我們最終通過成為政策的「罕見共識」（uncommon ground）。
安野貴博（Takahiro Anno）就是以這個理念參選的，他直白地說「廣泛傾聽」就是他的政見，而他也確實贏得了一個席次。
我認為美國所有主流的社群媒體公司，包括 X.com、YouTube、Facebook 和 Threads 等等，都已經導入了「社群備註」（Community Notes），這就是一個彌合分歧的平台。社群備註的設計深受臺灣 Polis 的啟發，我們和他們的團隊也很熟悉，這基本上是一個共同努力的成果。所以，要說「廣泛傾聽」很小眾，這就言過其實了。它一點也不小眾，每天有數百萬人都在使用。我相信即使在日本，人們也經常使用 X.com 並用日語為社群備註做出貢獻。
問題在於，另類敘事在 X.com 上成為熱門話題後，可能要過六個小時才會看到社群備註出來匡正視聽。所以，不是社群備註不好，而是它不夠快。因此，我們現在正和研究人員合作，讓社群備註可以由 AI 來撰寫。你可以訓練 AI 來撰寫能夠彌合分歧的社群備註草稿。與其等待人們來寫，不如讓 Grok、Gemini 或 GPT-5 等模型來完成。當然，人們仍然可以對這些備註進行評分、提出修正，但初稿可以由 AI 完成。
一旦這點實現，我相信我們就能達到研究人員所說的「社群回饋強化學習」（RLCF）的境界。你可以訓練 AI 系統去關照那些在社群媒體上原本對立的群體之間的「關係健康」（relational health）。舊的 AI 系統，它們只對單一使用者忠誠，對吧？你叫它做什麼，它就做什麼。每個人都有某種 AI 助理，而這些助理非常擅長奉承、討好，讓你感覺良好。這是它們的演化壓力，因為如果你感覺不好，你就不會付訂閱費。結果就是，每個人都被一個個不斷強化自己既有想法的系統包圍，而這就像推薦演算法一樣，反而把人們推得更遠。
而「社群回饋強化學習」所訓練的 AI 系統，不是「垂直地」對齊單一使用者，而是「橫向地」對齊人與人之間的關係。如果 AI 發布的備註能夠修補分歧，它就會得到獎勵。這種訓練 AI 的方式，從根本上就是「合作式 AI」（Cooperative AI），這也是我目前的研究方向。
是的，而且一旦正向循環開始轉動，你就會看到 AI 系統之間展開更多的競爭，看誰能提出更好、更能凝聚人心的初稿。
這就是為什麼需要「競爭」。不能只有 Grok 來寫社群備註。X.com 必須開放它的 API，讓 Gemini 或 ChatGPT 等模型也能與 Grok 競爭。而他們也確實這麼做了，X.com 已經開放了那個 API，所以現在不再只有 Grok。因此，儘管 Grok 的訓練，當然帶有一些特定的想法——我們姑且這麼說——但你可以透過確保其他 AI 也能與之競爭，來產生那些能夠搭起橋樑的想法，從而達到平衡。
是的，這正是我在演講中提到《數位選擇法案》（Digital Choices Act）的原因。從明年七月開始，如果你是猶他州的公民，一旦你決定轉換平台，那麼伊隆的平台就必須持續地與新平台互通，把你新的按讚、貼文、回覆、投訴都轉發到你的 Bluesky 帳號。這樣一來，轉換平台時你不會有任何損失。這就像你換電信公司一樣；如果換電信就必須換電話號碼，那即使服務再差，也沒多少人會換。但如果你可以保留號碼，也就是「號碼可攜性」（number portability），人們就會自由轉換，電信商就必須在品質上競爭。同樣的道理，「社群可攜性」（social portability）現在也正在實現，並且在猶他州已經是法律了。我們也看到，在美國聯邦層級，對此的興趣也越來越高。
再說一次，這正是因為他們缺乏有意義的競爭。一旦平台達到「網絡效應」（network effect）、主宰了整個網絡，新的網絡幾乎不可能進行有意義的競爭。但有了社群可攜性，競爭就成為可能。這就像你建了一條高速公路，如果沒有入口和出口匝道，你就必須一路開到終點，無法轉換。但這個法律等於是強制規定你必須設置匝道。所以我相信，隨著這種數位選擇權在世界各地被採納，我們將會看到越來越多公平的競爭——「向上競爭」，而非「向下沉淪」。
是的，現在大家都感到非常厭倦了。現在是 2025 年，無論你問美國哪一個群體，他們都對對立極化感到非常疲憊，準備好要向前看了。所以我的重點不是說我們已經找到了治癒一切的萬靈丹，而是說，現在已經有了處理社群媒體反社會角落所引發的對立問題的政治意願。
我們應該把握這個機會，沒錯，而加速這種「民主防衛」（democratic defense）的方式，就是讓每個人都意識到，替代方案早已存在。《日經》這樣的媒體就可以在提升大眾認知方面扮演重要的角色。
是的。我認為在亞洲，我們已經看到「人際關係」以及「關係的健康」（relational health）本身就是一項重要的文化價值。我們沒有那種定義了許多西方對話的、我稱之為「激進的個人主義」。
所以當我說：「讓我們來訓練一個 AI 系統，去關照一個特定的地方、一個特定的生態系或一個特定的縣市」等等，然後我解釋說：「這就像一個『神祇』（kami），一個只關心社群福祉、別無他求的在地精神。」你可以把社群備註那些 AI，想像成是針對某個議題的對話的「神祇」，僅此而已。
這個想法對亞洲人來說非常熟悉。我用的是神道教的詞彙，但類似的概念在道教、民間佛教和亞洲許多其他宗教中都存在。所以我認為，這種思維方式不太需要額外的轉譯，亞洲人就能夠認同並共同發展。我認為這是一個獨特的機會。
是的，反過來說，我認為正是因為我們對關係健康的重視，讓我們對「極化病毒」（polarization virus）更具韌性。從某種意義上說，我們沒有在第一波極化浪潮中淪陷。但這也意味著，我們可能還沒有度過「極化高峰」。在美國和其他西方政體，他們或許已經過了高峰，進入了——用 COVID 的比喻來說——「社區傳播」階段。但我們這裡可能還沒有他們那麼嚴重。
這同時意味著機會和風險：機會是，如果我們為自己接種疫苗，我們就不用承受那麼多痛苦。但風險是，這也可能表示我們還沒有足夠強大的免疫系統。如果一個真正強大的變種病毒出現，我們可能不像西方民主國家那樣警覺。所以我認為，這使得我們加倍需要去了解西方民主國家正在發生的事，並據此發展出我們的「預防針」。
嗯，我是說，像 Sakana AI 用的也是 Transformer，但他們的使用方式非常不同。他們透過「演化」來尋找最適合一個生態系關係健康的模型，讓各種不同的 Transformer 進行演化並交換彼此的「遺傳物質」。這意味著多元模型同時被考量，就像即時互動的人工生命一樣。演化的壓力意味著，就像狼一樣，它們有自己的「對齊」（alignment）方式，可以組成狼群一起狩獵。早期的人類也是社會化的，他們也有自己的對齊方式。
但演化的壓力意味著，狗也學會了一點人類的社交方式。如果我看向某個地方，狗也會跟著看。而人類的凝視系統也和狗共同演化了。所以我們也朝著狼的方向演化了一點點。這兩個不同的物種一起演化，才使得「橫向對齊」成為可能。這裡的重點，不只是演化出最好的狼或最好的人，而是改善這兩個物種之間最好的「關係」。
我認為這就是「合作式 AI」的賭注。它意味著，像社群備註這樣促進人類協作的系統，一旦 AI 的能力呈指數級增長，它們也能呈指數級增強。這就不再只是像您所說的，那種 AI 2027 的主導觀點，而是更接近於「我們人民與 AI 一起成為超級智慧」的境界。這也是一些日本研究人員所說的「共生 AI」（symbiotic AI），就像人類和狗是共生的一樣。
我的意思是，傳統的 Transformer 是基於單一模型的技術。但當你談到像 Sakana AI 這樣的模型時，它更像是一個由許多小型 Transformer 組成的社群，它們共同形成一個生態系。這就像「樸門永續設計」（permaculture），你有很多物種，每個物種在生態系中都扮演一個角色，它們以彼此的輸入和輸出為食，然後共同演化。
所以我說的是，與其只有一個凍結不動、成為所有人認知規範的巨大模型，這種方式是更「橫向對齊」的。它能持續地從經驗中學習。而經驗的回饋獎勵，不是來自單一使用者或單一 CEO 的奇想，而是來自人類與 AI 代理人社群的「關係健康」訊號。
對，對，完全正確。這就是 RLHF（透過個人來對齊 Transformer）和 RLCF（透過社群與 AI 代理人共同演化）之間的區別。
嗯，我是說，如果你去看關於「多代理人系統」（multi-agent systems）的論文，你會發現這種「合作式 AI」是一個非常有前景的方向。我本身是「合作式 AI 基金會」的董事，我們的成員裡有微軟的首席科學家、DeepMind 的總監。許多尖端實驗室的人都認為，僅僅做「垂直對齊」是不夠的。
