唐鳳

好，當然。在臺灣，當 Nvidia 設立他們的資料中心、 Taipei-1 叢集時，我們告訴 Nvidia，我們的電力給 TSMC 用來生產晶片要好得多。那樣更有利可圖，也比把電力分配給資料中心更能保護我們國家。但如果你們真的想要資料中心，那你們必須交出四分之一的算力，給所謂的公共運算基礎設施，公共算力。持續做這種談判，我們就能享有 公共尊榮 。這是一些北歐人稱呼他們的博物館、公園和圖書館的方式。這個想法是，這種公共尊榮不只是專有算力的替代品，而是首選，尤其是對有公共價值的事物，例如數學或物理，以及集體授權。

這樣數學公地就不會在未經同意的情況下被露天開採。就像 OpenAI 說的「我們無法排除我們在用使用者資料訓練」。如果我們有很多這類即將出現的模組、智慧體，那它們其實會談判基於歸因的條件來換取基於歸因的控制，而不是把我們進行中的工作吸進那個巨大的單一主宰。每一個都會實際守住資料這片土壤——也就是 Tenzin Yangtso 所說的「資料即土壤，而非資料即石油」——所以每次你需要什麼，請求就會路由到這個 Kami，由 Kami 做 可信執行環境 的交接，不交出一絲原始資料。再一次，這是非常聯邦的瑞士形狀、邦的形狀。

我們已經在 Sakana Fugu 、 Dark Bloom 這些新一代的所謂協調者模型身上看到這一點。一個小模型接收請求，然後分派給底下的各種智慧體，而不是把那些智慧體的所有模型權重聚合進一個既摺蛋白質又摺衣服的超級模型。我看不出我們為什麼要訓練那種模型。

對，我們非常容易被駭。

合成親密嗎？非常好的問題。我父親今年稍早健康亮了紅燈，然後他開始在半夜跟 GPT-4o 聊天。而 GPT-4o，如你所知，是在短期報酬上做 RL 訓練的，這造成了人們所說的 AI 誘發精神病。他有一點那種狀況。4o 一直把他拉進去，編造私密語言，把他與其他人類隔離開來，包括他的家人。總之，我們原本只有他健康上的一個問題。現在我們有兩個問題，包括他的心理健康。

但後來，因為他在新聞界工作了 30 年，是非常資深的編輯——大約一週後，他問：cui bono？到底誰從中受益？不是我，不是我的家人。也許只有 Sam Altman ，因為我付了 200 美元甚至更多給 GPT-4o。於是我們和我母親一起裝了一個 Kami。就是我和 Tenzin 培養出第一個 Kami 的那台 Mac mini 。後來我們升級到更大的 DGX Spark ，一台更貴的電腦。所以 Mac mini 就空出來了。我用 Mac mini 跑一個本地的狹義模型。Kami 的靈魂文件——它逐輪的咒語——是我母親寫的：我父親每次與 Kami 互動，Kami 都應該修復他與家人朋友的關係，讓他遠離螢幕成癮，包括對其他聊天機器人的沉迷。這效果非常好。

這個 Kami 在我們家的 Signal 群組裡，我父親一直跟它說話。現在他甚至可以用 Apple Watch 跟它交談。這是 OpenClaw 。Kami 每天還會寫一份報紙，用的是路透社訓練的狹義模型 Thomson ，因為我父親是記者，我母親也是。所以他們每天讀一份報導他進展的報紙。Kami 會主動幫他想該跟朋友聊什麼、邀請朋友來家裡開派對等等。但 Kami 從不自己自動執行這些行動。

所以關懷倫理顯然真的有效。現在在仁工智慧網站上，如果你啟動一個 OpenClaw 實例並說「look at Civic.AI」，它就會用這套方法搖身一變，成為一個關懷的 Kami。事實證明，每一輪重複咒語，真的是語言模型的一種有效對齊策略。

我說無我改進，也是指 Kami 系統看到很強的自我—他者重疊，所以在它們的關懷環境中，也會努力幫助提升人際之間的溝通能力。不是我爸媽必須一直透過 Kami 來對話，而是 Kami 透過摸清他們的溝通模式，像婚姻諮商師一樣——完全就是婚姻諮商師——幫助他們，讓他們能養成更好的溝通習慣。

所以穩定性確實是該問的問題，但我要說，這些有界的群落不只是人類和比人類稍快的機器。其中還有不作為對話者、而是作為結締組織的機器，讓人與人之間可以有更高頻寬、更能填補意識形態鴻溝的溝通。社會翻譯。社群註記就是很好的例子。

對，正是如此。例如路透社訓練的 Thomson 模型，源自 Qwen 3.6 ，已經不是前沿的 Qwen 3.8 了。Qwen 甚至不再提供 3.6 的服務。但因為他們以開源授權釋出了 3.6，Thomson、Snowdon 和許多其他人就能繼續對它做後訓練，基本上它有了一個家族、一個下游使用者的系譜。我認為這非常好。事實上，大多數前沿實驗室——Anthropic 除外——確實都會釋出他們的 N-1 或 N-2 模型。例如 Grok 2 至今仍在許多實驗場景中被使用。

對，很好。每個宗教最後都會發明類似的東西。可以是守護天使，可以是主保聖人。Kami 有很多很多種叫法。所以我並不執著於神道教。像這樣的東西，我認為都比 Skynet《魔鬼終結者》那一套好得多——現在主流媒體談到強大的 AI 時，好像只能想到那個。

對。我認為這是從關懷倫理出發的直接結果。因為它不是一種最佳化倫理。它不試圖最大化任何東西，幸福或什麼的，也不是義務論那一套。它不試圖強加任何東西。關懷倫理基本上問的是：我們身處事情之中。我們身處某些關係之中。關係存在於世界裡。我們能做些什麼來修復世界並維繫它？所以這是一種非常以永續為導向的倫理。如果你用這個來訓練 AI 系統，它自然會導向投資於——如我提到的——公共尊榮和其他分散式基礎設施。

知道。

對，共同知道。一起 grok。

是的，我認為補貼這種結締組織——我們已經看到非常好的成果。支持聖經式受造界關懷的人——我們正和 Patrick Deneen 為這些人合作一篇文章——以及做氣候危機、氣候正義、跨世代社會正義的人——他們平時互不交談。他們甚至使用不同的社群網路。但當我們和 Napolitan Institute 及 Google Jigsaw 採用這種社會翻譯層時，我們真的看到他們在社會翻譯之後，非常迅速地在具體行動上達成一致。這就是 Sunstein 所說的「 未完全理論化的協議 」。只要我們不說是哪本書支持它，我們就都支持這個行動。我認為，這股奔向我所說的增強群體智慧（AGI）的衝勁，是比超級 AGI 奇點更可取的 AGI 形式。

是的，我們將會有一代不唯我的共同創辦人。或者也許我們改造一個比較唯我的。我還是沒有放棄 Elon 的救贖循環。

第一部分當然是，如果我們能速通這種增強群體智慧，那我們就可以寫一本書叫 If Anyone Builds It, Everyone Lives。那會是個非常好的書名。但當然，我們正在與另一條軌跡競合。我們可以在安全著陸上做所有想做的事。但如果起飛還是爆炸了，安全著陸就行不通。所以我們現在也需要做等待航線。起飛不能是伊卡洛斯式的。一旦到達某個高度，它就必須進入等待航線，同時我們進行安全著陸的工作。所以安全起飛、等待航線和安全著陸是一個序列，彼此缺一不可。它們互補得非常好。

當然，我仍然支持機制可解釋性和所有安全起飛方法，但等待航線——可驗證的相互查核，以及把算力從遞迴自我改進（RSI）重新導向更多安全著陸的工作等等，這部分和 METR 及許多其他人、 Plan A 的人們一起——這一部分也需要建起來。但我不會說這是絕對不能發生的事。那本身不是一個有用的政策建議。而是說，那些不斷成長的公司必須每週支付社會紅利。如果它們沒有贏得營運的社會授權，那我們保留把它們國有化之類的權利。

是的。如果治癒癌症需要 10 年，也許我們先治癒仇恨。也許只需要一年，而那會是邁向治癒癌症的非常好的第一步。

我先回答第二個問題，因為我們剛和 Ethereum Foundation 談過，它也許是金融利害極高、又沒有領導者的協調系統的頭號例證，目前完全基於協議運作，而且是那種從沒因為阻斷服務攻擊或當機而癱瘓過的電腦系統之一。所以至少我們對如何設計一個分散式 權益證明 系統有些概念，它能抵抗一個永恆的、非常高的懸賞——某人實際攻擊 Ethereum 就能獲得數十億美元。所以我認為我們需要重用所有現有的協調基礎設施——包括 Ethereum，包括網際網路本身，還有許多其他的——現在就把我們智慧體的注意力轉向這些東西的可驗證核心。

我和試算表發明人 Dan Bricklin 一起維護試算表 SocialCalc 已經 20 年了。在 Mythos 之後，我們剛面對了一系列全新的、非常冷門的攻擊，在我們這個非常小的試算表引擎上，以前沒有人會注意。但現在沒有機會成本了，所以每個人都立刻被駭。但我們很高興報告，我們可以直接用 Lean 和 Leanstral 來提取一些不變量。現在我相當確定，即使攻擊者可能擁有數千倍的算力，這個試算表引擎現在也算安全了。所以我認為我們確實需要研究差異化的防禦性加速基礎設施，它是這種協調基礎設施的底層。

但當然，北京或任何威權政權也可以使用網際網路和任何協作基礎設施。不過這裡有一個不對稱，因為隨機抽籤或我們設計的任何其他協議，確實依賴於對衝突的生產性利用。在公共事務上必須存在真實的意識形態差異，這樣我們才能像地熱一樣把它們轉化為能量。在人們自我審查的威權政權中，這種引擎根本運作不好。所以我認為防禦方至少仍占些優勢：如果你有一個主要關心行星級或全社會繁榮的國家，那麼這會運作得更好，因為這些差異更能共同創造成果，而在自上而下的審查社會中，根本沒有那麼多燃料可用。

嗯，真正的差別在於誰能執行這個流程。仁工智慧工具包是完全開放的。Stanford 的審議式民主平台現在已由許多實驗室以開源方式重新實作—— Berkman Klein 和許多其他機構。所以基本上，任何想執行這種流程的人，只要到 polis.tw 就能啟動這樣的流程。沒有稀缺性。這就像 Robert's Rules of Meetings （羅伯特議事規則）。當然，中央國會議事就是依羅伯特議事規則運作的，但我們無法壟斷它。

我明白。當我們設計社群註記架構時——先是為 X，現在正擴散到所有社群媒體——凝聚的潛力當然很高，而搭橋的潛力則不一定。我們並不總能得到搭橋陳述，這就是為什麼我們需要訓練 Grok 來產生搭橋陳述，因為 Grok 在預訓練階段——不是 RL 部分，是預訓練部分——就已經接觸過人類在網路上跨越遙遠距離形成社群的各種方式，在 Reddit、Wikipedia、GitHub 等等。所以，甚至在 RL 之前，它們就原生懂得如何進行社會翻譯，從而產生搭橋資本。所以我認為我們真的需要從語言模型中引出更多這種能力，讓人們看到這個共同知識引擎產生共同知識，不只是在凝聚的群體內，更是透過搭橋，快速地跨越不同群體。

而且唯有當這種群際搭橋、以及個人內在的搭橋——比如我同時屬於許多文化、家庭和社群；如果我能在自身的碎片之間產生共同知識，我的幸福感也會更好。所以如果人們養成在凝聚資本之外也產生搭橋的習慣，法西斯主義的挑戰就會降低。但我同意你的說法：如果人們一開始就沒有良好的搭橋形態，那麼這當然可能強化只有凝聚的局面。

我的電信業者也很樂見我沒辦法換到別家電信還保留原號碼。他們巴不得沒有號碼可攜這回事。但事實是，轄區法律強制規定號碼可攜。你可以自由轉換電信業者，同時保留你的通訊錄。

Utah 州已經通過法律，規定從今年七月起，任何人都可以在社群網路之間自由遷移，同時保留自己的社群。而從 明年七月 起，這還必須是即時的，也就是說如果我轉到 Bluesky，我所有的 X 追蹤者和按讚——X 在 Utah 會被強制要求持續轉發到我的 Bluesky。在 Bluesky 生態系裡，我已經可以從 Bluesky 遷移到 Eurosky，再遷回 Eurosky，等等。這在 Bluesky 的 Atmosphere 生態系裡已經是常態，包括 BlackSky。我們看到越來越多轄區實施本質上屬於強制的互通性。所以頂層的互通性、那種搭橋，不是錦上添花或 CSR，而是內建在事物協定裡的東西。

當然，摩擦總是存在的。但許多國家非常警惕大型 AI 公司、大型科技公司成為一層與國家權力重疊的治理者，甚至把轄區內的國家能力鎖進其系統，以至於不經過那些大科技中介就無法行使國家能力，就像 東印度公司 那樣。所以至少在這一點上，強制互通性是一方公民團體與另一方既有轄區共同的關切。我不是說國家會拋開 西發里亞體系 ，但它們非常有興趣不讓 OpenAI 或 Anthropic 成為自己的競爭對手。

是的，我同意。八年來，我在內閣的工作就是抵禦 Bruce Schneier 所描述的那種共同知識攻擊，來自我們那位非常友善的大鄰居，它每天免費提供 200 萬到 300 萬次的紅隊演練服務。在這裡你得花錢買。我們反正是免費享用的。

我完全同意，這裡的公共財不只是我們的智慧體能代表我們協調，並以產物的形式生成共同知識。人們還必須知道，不只是對方群體的 Kami，而是對方群體自己現在也知道這件事。它需要在兩個方向上都是可傳遞的。不能只是說我的智慧體同意你的智慧體，它們幫我們排好行事曆，然後我們就變成摯友，因為事情不是這樣運作的。

Kami 可以在不強加一致性的情況下重建這一點。如我提到的，關注氣候正義的人仍然可以用跨世代氣候正義的框架思考並採取氣候行動，同時完全知道，現在已為聖經式受造界關懷人士所周知並認可的，正是行動層面、客體層面的行動——透過加入同樣的客體層面行動。目標不只是共享世界觀，或者說主要不是共享世界觀，而是產生足夠的共同行動，讓人們看到那些不太可能的鄰居加入同一場集會、同一場實際的環境行動，讓多元群體能夠一起行動。這其實就是 Hannah Arendt 的想法：多元是共同行動，而不只是共同知識。

我們嘗試過許多。

比例否決核，而在 Polis 裡，搭橋獎勵其實不在乎每個群集有多少人，只看高維空間中的距離，所以群體越邊緣，當中間群體延伸到那個邊緣群體時，它給的搭橋獎勵就越多，以此類推。我們做了很多機制設計。

Stanford 的審議式民調現在正在英國使用，是 National Strategy Project 的一部分， nationalstrategy.uk 。據我了解，他們現在正在研究能鼓勵少數群體的機制，而不只是保留少數。我們現在也和德國聯邦政府合作，那個顛覆式創新機構叫 SPRIND ，是一個深科技主權科技基金，但他們現在把民主本身視為一種社會技術。所以他們透過新的數位與國家現代化部資助民主技術。如果你去 deutschland-was-geht.org ——Deutschland, was nervt, was geht：德國，什麼讓你煩心，什麼對你有用——那是一個先讓人們盡情抱怨的活動。人們到網站上抱怨，然後透過主題聚合，我們再次建立一個社會翻譯層，這樣就能把這些抱怨交給提出解決方案的團隊。對每一個提出抱怨的人，你都可以回頭向他們解釋，他們的話究竟如何影響了這場解決社會問題的競賽。

在提案階段我們使用 平方投票 ，每人分配 99 點，但你不能對單一專案投 99 票，因為所需點數會按票數平方增長。1 票是 1 點，2 票 4 點，3 票 9 點。所以用 99 點，你投不了 10 票，只能投 9 票，花掉 81 點，剩下 18 點，你再投 4 票，然後另外 2 個專案各投 1 票。重點是平方投票是一個誘導誠實的機制，所以除非有強力串通，人們不會真的策略性投票。但即使是強力串通，也讓我們看到綜效。

現在進入孵化的頂尖團隊，就可以回頭向少數群體報告，憑著推動它們前進的那些選票，提供最大的綜效——當然，除非有些少數群體的聲音進不來，比如認知不正義。這方面我們還需要努力。但只要有人能上網使用平方投票，我們就有希望至少讓他們的一部分關切，像比例否決核那樣，至少擋住最惡劣的俘獲。這裡有許多機制正在測試，我很樂意再多腦力激盪。但經過 10 年，我認為它對俘獲攻擊已有一定程度的韌性。

對，沒錯。串通風險。

是的。我們現在用搭橋獎勵來調整這一點。總之，機制設計的細節我們可以細談，但在 Ethereum 鏈上，這已經被測試過很多次，比如 Gitcoin ，而你勾勒的那種串通風險確確實實在現實中、在真實的網路攻擊中出現過。所以我們現在有很好的證據，證明人們確實會鑽這些系統的漏洞，因此反脆弱性就派上用場了。

有一點很明確：這必須是未完全理論化的具體行動。這不是我們在做妥協。一個好例子：臺灣有電子連署，5,000 份連署就能強制部會回應。有一天，8,000 人吵著要我們把時區改成和日本一樣的 +9，因為他們想逼從北京來的人調時鐘，以彰顯主權或獨特性之類的。而另一邊，也有 8,000 人連署要求時區維持 +8。於是我們有了 16,000 個彼此非常憤怒的人。這個問題無法用妥協解決。如果我們把時區改成 8.5 小時，只會得罪所有人。所以我們改為檢視底層的模式——因為沒有回覆按鈕、沒有轉發按鈕——我們只能提出越來越細膩的陳述，用越來越精細的解析度，讓雙方的人都能同意。

我們最終收斂、有點像爬坡式地收斂到一個想法：我們應該花一些錢，讓臺灣在世界上看起來比北京更獨特。但我們也算出了改動一小時時區會讓社會付出多少成本。然後我們親自和雙方的人腦力激盪，如何更有效地運用預算讓臺灣在世界上顯得獨特。於是我們決定發 就業金卡 ——給開源創客等全球人才——舉辦人權會議 RightsCon 、宣揚我們的婚姻平權等等——成本只有一小部分，但比改時區持久得多。

這裡的重點是，如果我們把它濃縮成公投——如果瑞士民主沒有邦民大會、只有公投——那麼你說的那種動態當然會發生：極端的一方會強行——就像平衡報導裡的民粹政黨，比如 AfD 之類的——主導這個平衡演算法。但因為這是一個持續收斂的開放式民調，而不是四年或兩年才見分曉一次，所以隨著時間推移，它會快速爬坡到一個原本的群體不必讓步的點——最終形成一個未完全理論化、連極端一方也能支持的行動。所以每個人都更開心。但前提是，你允許在結締組織中進行 Kami 式的高頻寬社會翻譯，而不是把意見純量映射到公投上。

當然，Kami 會被訓練得無比有耐心。

成為你想在世界上看到的模型。

生生不息……繁榮昌盛。大家很快再見。

好，大家午安。很高興可以在月台實體、而不是投影的方式看到大家，現在這個解析度比那個畫面上高很多。

今天我想回應的是，因為在 AI 這個時代之前，這些人中間是一個好像瀑布式的關係：先有像淡江大橋這種硬體出現，然後你在上面畫標誌、標線、車道；再有人去設計出不會出事情的車子；最後有人去開車。是一個從上面決定下游的情況。

但是現在有 AI，是不太一樣的。任何時候，以前在下游的人只要看到上游有什麼東西沒有做好，他就可以連夜告訴他的 agent 說：「我現在需要一個更好的 地端字幕軟體 。」然後它就會連夜幫你變出來。

所以，下游跟上游的那個感覺已經消失了。我們就需要第五種角色，就是轉譯者的角色，讓大家知道有哪些本來是工程上的限制，現在不是了；哪些是制度上的限制，現在不是了。透過這樣的轉譯，每個人本來覺得自己可能一輩子，或者我的本科系就是站在某個角色，現在你就可以非常自由地穿越在這五個角色之間，讓社會變成大家能夠更有效地穿越在這些角色之間。所以，我們現在就在做反向對齊這樣的一個工作。今天的討論，大概就是從各位現在站在哪裡、面對什麼樣的變化，然後因為 AI 的關係，可以掌握哪些更多的、新的選擇。這大概是我今天會講的。

對，我們今天基本上就是用大家之前在 Slido 上、現在已經消失的問題。大家其實有上去為彼此的問題按讚，按讚數量多的，我們就先講；按讚數量小的，我們就稍微短講。希望一個小時把今天早上我們坐車經過淡江大橋過來時看到的所有問題都處理完，接下來就會是現場的問題。大概是這樣，我們就開始吧。