有問題嗎？
所以底層仍然是語言模型——因此可以泛化——只是靠狹窄的資料集訓練，把它變窄了。
我懂了。所以它仍然是通用 AI，只是以狹窄的方式訓練、使用。
抱歉——只是想弄清楚機制：一開始有多少人參與？而且每個人是否都會對其他人按讚或倒讚？
這個做完之後，你可以補上其餘的步驟嗎？你說最後促成了立法——可以請你慢慢帶我們走一遍嗎？
所以是由 10 人組成的一組組陪審團，和 AI 智慧體一起開會，而這些智慧體基本上扮演主持人或引導者的角色。
那下一層是什麼？
抱歉——有沒有一場全體會議，讓 440 多人自由討論，還是只有想法在各個房間之間流動？
所以想法是取一個小到足以進行連貫對話的人類群體，並把審議維持在那個層級。
很好。回到更大的願景：你怎麼看這件事擴展到更強大的轄區——甚至更強大的國家？
容我就你描述的內容提供一個直覺：這種 Kami 式的架構，在我看來，是想把類似瑞士式直接民主的東西擴大規模。
對。但我還是沒辦法銜接你描述的——民主的、更好的決策——與智識火力集中的問題。假設你能改變 AI 從現在起的發展方式：如果由你主事，會有什麼不同？OpenAI 會怎麼樣？Anthropic 會怎麼樣？我們會建出哪些種類的 AI？
那麼在技術層面上，AI 模型該怎麼發展，才能讓數學家社群——還有物理學家社群——仍然想彼此合作？有些人只跟 Claude 對話就非常滿意，但先把這點擱在一旁，你有什麼想法嗎？
對，沒錯。
再問一個問題。這些模型相當博學多聞，而且即使發展今天就停下來，智慧型手機也已經教會我們，人們非常容易被吸引去和機器互動，而不是和其他人互動。
對。整整一代孩子就在這段時期長大。這該怎麼應對？
我還在試著從系統層面思考這套東西的穩定性，以及它解決的是什麼問題。人類跟一個只比自己稍微聰明一點的 Kami 對話；這些 Kami 再跟一個只比自己稍微聰明一點的超級 Kami 對話；依此類推，一路往上。
所以，不是在新版本讓舊的 ChatGPT 和 Claude 實例過時之後就讓它們退役，而是讓它們的靈魂繼續活著——分散開來，活在許多地方。也許人類不是直接跟前沿模型對話，而是跟隔了幾層的模型對話，這些模型再跟它們的後繼者對話，後繼者又再跟自己的後繼者對話。這樣就為通用系統也建立起分散式的權力基礎，而不只是狹義系統。
而且它是個小型系統，也許正適合我們心中所想——一個屬於家庭的 Kami。
「良心」（conscience）和「意識」（conscious）有共同的詞根——而我們正試圖弄清楚「意識」是什麼意思。最初的含義基本上就是共同知識：你的良心，就是你與內生界定的群體裡其他成員共同知曉的事。而在 Hobbes 的時代，有數百種宗教卻只有一個來源，也就有一種豐富的——
對 Hobbes 來說，「任何人都不應被迫否認自己的良心」，意思是任何人都不應被迫否認自己所屬群體認為重要、且普遍相信的命題。但重點在這裡：一個機器人，專業上的職志不是接管任何事，而是幫助人們彼此溝通——提出能把大家導向共識的問題，幫助人們看出自己想聚焦哪些主題，並建立議程，以均衡的方式推進這些主題。如果你能讓所有成員都有均衡的貢獻，我認為那意義重大。
鼓勵並補貼這類產品的政策，能不能幫忙扭轉那股朝打造超級 AGI 衝刺的勢頭？那是一個截然不同的計畫。我很喜歡這個想法。把調解自動化，是 AI 真正補足人類智慧、又不協助建立中央集權結構的一種方式。人類的魔力——人類當初之所以能稱霸這個星球的原因——就是在地的組織能力，以及我們在地與區域的人際網路能力，這是我們非常擅長的。過去 5,000 年間全球性人脈網路菁英的出現才是新事物，而超級 AGI 計畫正對它猛打類固醇。
最讓我擔心的——這只是個人見聞，來自我與科技業人士的接觸——是聽說有些創辦人幾乎不靠其他人，就用 AI 經營一家不斷成長的大型新公司。你所描述的技術則是讓一群人能夠合作，更有效地創辦企業，或做大家想做的任何事。那是遠遠更具社會生產力的用法。
這很有幫助。對主張暫停發展的人來說——到此為止，不要在這個方向上再往前——有一個難處，就是這股能量該導向哪裡。如果你能說：「不要再往這個方向走了，但歡迎你們往另一個方向前進，那個方向同樣能給人們想要的東西」，那會是非常有用的政策建議。
民族主義在歐洲興起時，法國人是出了名的先行者。但當法軍行軍穿越德國時，是德國總參謀部——我記得是 Scharnhorst 和 Gneisenau ——儘管他們本身就屬於軍事建制，卻想要德意志民族主義，因為這讓徵集大軍更容易。所以這是一個傳開來的想法——一種協調協定。
從高層次來看，這肯定會對我們這一邊——民主社會——有幫助，我也認為它肯定能幫助我們處理 AI 問題。但是——如果我沒有把顧慮說對，請糾正我——擔憂在於它可能成為一把雙面刃，另一邊也能使用。
說到 X：雖然那裡有許多極化的群體，X 本身卻是一種元社群。你可以想像 X 不太熱衷於一個功能，寫著「Bluesky 上有一則非常有趣的貼文，你也許想改讀這則」，然後把流量導過去——而 Bluesky 大概同樣不願意把人送去 X 上的好貼文。兩邊的負責人都想要內部相處得更融洽的快樂使用者，以及更高的互動量，但是否想在自己的平台之外合作，就比較不清楚了。
不過在全球層級，各國可能不想要完全的互通性——也就是每個人都能自由遷往任何想去的地方、選擇在哪裡納稅，或是對哪個國家該被入侵擁有投票權，諸如此類。
有一個由學生推演出的完美案例，其中平方投票徹底失敗。
基本上就是專家知道有沒有問題的那種情況。
沒錯——當個有耐心的模型。
謝謝大家。
