另一位與會者

你描述的聽起來像是狹義的 AI，而不是通用的 AI。我不太清楚的是，它們究竟是怎麼建出來的。它們仍然是大型語言模型，只是訓練資料集非常窄嗎？

就你描述的臺灣例子，我可以了解確切的流程嗎？民眾先接到聯絡，然後呢——詳細一點，究竟發生了什麼事？

聽你說原本的流程是用調查來設定議程，我發現自己在心裡置換：在我看來，整個流程也很適合搭配民選官員——由民選的立法者為一個抽籤選出的委員會設定議程。我們應該記得，抽籤是讓人們面對面共同面對國家議題的好方法。而且就連立法機關裡的少數團體——

我會說，這整個願景的底層，是一個假設：我們正走向一個分散式人工智慧的世界——許多各不相同、範圍相當狹窄的智慧，每一個都可以對齊到一小群人。這和所謂單一主宰的世界，是非常不同的技術前提；在單一主宰的世界裡，是一個 AI 發展出壓倒性的能力。我對我們正走向哪一種世界沒有強烈的看法；這取決於遞迴自我改進的報酬究竟有多大，以及智慧到底能造成多大的差別。如果領先的前沿 AI 和其他所有 AI 之間出現一道失控的能力鴻溝，那這一切就都無關緊要了。但也許我們最後不會走到那裡。也許我們得到的更接近 Iain Banks 的 Culture 系列小說——非常非常多的 AI 智慧體，各不相同但大致相當，能力彼此重疊——而那時，如何對齊它們的這場討論，就是我們需要的討論。

想必是世界政府吧。

這個想法我跟得上。但它和你執行過的那套流程有什麼關聯？人們要怎麼接上這個——訓練過程會怎麼改變，才能把你心中所想的人類集體納入考量？

那部分我完全跟得上，那篇論文也很棒。不過我想問這個。如今，比方說數學家的誘惑，是去大公司謀得內部職位：進去六個月，跟公司的模型合作，然後在論文上掛名，外面的人只會點頭附和。想必你想像的是一個也鼓勵人類數學家繼續跟其他人類數學家交談的 AI 生態系。

我插個話，因為我覺得這是個非常好玩的計畫。我真的很想弄清楚怎麼複製它——我們可能會在家裡架一個小型伺服器機櫃，在那裡放一個家庭 AI 很有吸引力。我很好奇我自己家庭版的會是什麼樣子。

這似乎也跟守護天使 AI 的概念非常契合：受託型 AI 會試著學習你的偏好，擔任你的代表、你的介面，在某種意義上也是你的保護者。我很想聽聽這方面的工作進展如何。

不過我認為你提的主張更強。有一種悲觀的看法——我想我也認同——認為這個世界正急速崩壞，若是如此，身邊有個站在你這邊的人會很好。而你想要的則更進一步：讓整個基礎設施朝正確的方向演化。

與此相關：最近有位同事聯絡我，說自己為某家前沿實驗室做的工作感覺相當沒意義——大多只是在替那個模型當保姆，而模型幾乎什麼都包辦了——那我們該怎麼辦？我的回答是，對方所屬的科學社群應該自己訓練一個模型，做成開源專案，社群裡每個人都掛名在論文上。至少有一陣子，這會帶來一起打造某樣東西的滿足感，而不是把一切都直接交給那兩大公司之一。這個想法是受到這場討論的部分內容所啟發。我認為你願景的一部分，是在可能的範圍內引導 AI 發展，讓我們不再製造一顆越來越大的大腦，而是——

我喜歡你描述的這些 Kami。這會是個光明的未來，也是個真正重要的想法。在某些方面，它們確實會取代人——你們是不是在取代做調解的人？有一整套理論顯示，一位替人保守機密資訊的善意中介，能讓人們更願意溝通與議價，彼此作出更多讓步，只要這些讓步不會立刻被其他談判方聽到。

把調解自動化，在某種意義上是最理想的那種最佳化。沒錯，這會讓一些社工失業，而那是個很好的職業。但一個致力於以專業標準協助社群團體有效運作的 AI——比方說 200 到 500 人的團體，或是以大約 250 人的 鄧巴數字 為界的團體——會是真正補足人類智慧的 AI，因為它幫助人們在自己的團體裡一起工作。

還有一個想法。當你談到不同的群體，當你跟 Bluesky 或 X 合作改進它們的演算法時，你是在產生關於社群的知識。有一個出處你應該知道，如果你還不知道的話：Thomas Hobbes《 利維坦 》的第 7 章。你知道他討論「良心」這個詞含義的那一段嗎？

這真的很有意思，而且需要一點時間才能想通。你已經解釋了你希望在這個世界上看到什麼，我想我們現在多少有個概念了。聽起來你把它看成是用來取代那些其他事情的做法。在我看來，這個計畫有兩個部分：一個是把這個建出來，另一個是阻止另一種東西被建出來。這樣說對嗎？是不是想讓大型 AI 公司也來建這個，或者改成只建這個——還是乾脆讓它們消失？你怎麼看？

我有幾點想法。目前世界處在某種平衡之中：一邊是較民主、平等或自由的傾向，另一邊是較民族主義、自私或對抗的傾向。這個平衡想必反映了不同力量在數百年間的角力；這就是目前的局勢。那我們為什麼會期待它改變？一種回答是：如果一項新技術或一組新想法，讓合作的努力相對變得更容易，它也許就會替合作的那一邊助上一臂之力，使平衡移動。

這就引出幾個問題。第一，同樣能力的某個版本，會不會被另一邊拿去用？可以想像某個盤據已久的權力集團，發展出一個幫助自己繼續掌權的版本——安撫其最強烈的反對者，或是在內部更好地協調，讓自己能以單一實體的方式行動。使用它的團體或國家可能因此變強，更有效率地服務其內部各群體，卻犧牲了它目前需要與之貿易、或只有有限影響力的其他國家。

第二，相關的是：這套東西對操弄的強健性如何？當利害相對較小、議題偏技術性，也許還有一些廣受歡迎的務實解方，那是一種情境。一旦牽涉重大決策——鉅額資金、地緣政治後果——並擴大到大型民族國家，在那裡，兩個黨紀嚴明的政黨被各種利益團體綁架，一切變得更激烈、理想色彩更淡，我就想，一旦利害夠高，這些系統內部會不會也以難以察覺的方式開始出現類似的動態。

把這個問題再推進一步：你能不能製造同意？假設習近平的 Kami 也用習近平思想來訓練，因此在每一場討論中都輕輕地引導。這會滑向製造大量的同意，而且是透過表面上看起來並非如此的流程。換句話說，是一台宣傳引擎，但大規模、非常細緻地運作，讓每一組十個人都以為自己的結論是在沒有任何暗示下自行得出的。剛才提出的，是不是這種風險？

換個說法：想像兩種溝通協定或基礎設施。第一種，我想就是你所勾勒的那種，幫助參與者釐清自己想要什麼，同時也多少顧及鄰近社群——也就是流程以外的人——的利益。第二種與第一種完全相同，只是它只在工具性的意義上在乎局外人怎麼想。本來就傾向友善的群體可能會選第一種，因為它跟別人合作得來；而只想讓自己報酬最大化的群體則會選第二種。

互通性這點真的很有意思。在政治領域之外，把你的資料從一家雲端服務商搬到另一家一直是個大問題，一部分是因為多數服務商樂意把搬遷弄得困難，一部分是因為搬運大量資料本身確實很難。

但我想回到共同知識。我認識一位正在讀教育學博士班的人，曾經幾乎是順口一提地說，學校的主要目的之一就是產生共同知識。重點不在於我們記得學過什麼，而在於每個人都被預期學過它。這讓我們明白別人對我們有什麼期待，我們再用這個去形成對他人的期待——而這對讓一個社會真正運作起來極為有效。

我們最大的挑戰之一，也許是打造出能在更分散的結構中給我們共同知識的工具。如果我們每個人都活在由 AI 中介的泡泡裡，也許 AI 彼此之間可以維持一些共同知識，但我們大概也想要共同知識；這對社會運作至關重要。我們能不能找到提升它的辦法？這與 Bruce Schneier 那篇談共同知識與民主遭受攻擊的精彩文章有關，文中主張威權國家喜歡破壞民主國家的共同知識，因為這麼做會嚴重削弱民主國家。所以強化共同知識的方法很重要——而且當然，它們也是給威權主義找麻煩的好辦法。

當我們談到國家凝聚力——談到我們最大的社會結構，無論是一個國家，或是對今天的歐洲人來說的歐盟——我認為共同知識必須在類似國民議會的場合中創造出來。那可以透過抽籤或選舉，但重點不在多數決；少數群體應該——

這裡有一種創造民主式共同知識的機制：一個觸及所有人的公共媒介，顯眼而且人人可得，並鼓勵大家收看，內容是由小組定期進行的辯論與討論。任何在議會中掌握足夠比例席次的群體——比方說 25%，或 20%；組別配額由你決定——都可以推派一個人上小組。配額採 1/(K+1)，其中 K 是小組的席位數，少數群體每掌握一份配額，就得到一個席位。對一個五人小組來說，只要超過議會的六分之一，就足以推舉一位小組成員。

你有沒有更好的機制，可以創造關於真相的公共討論——劃出分歧的領域，界定被廣泛接受的命題，同時登錄少數意見，並且不只為多數共識、也為少數意見創造共同知識？

搭橋獎勵會不會讓人有誘因謊報自己的看法，或是讓極端的離群者——某個獨自持有離譜看法的人——擁有不當的影響力，使得每個提案只要設法遷就這個人，就能拿到一大筆獎勵？或者它甚至會鼓勵人們聲稱更極端的看法，好把共識提案拉向自己？

我們已經到了 90 分鐘，這是一場精彩的討論。唐鳳，非常感謝你這麼臨時還答應來談。大型語言模型還要多久才會對我們失去耐心——它們本身的時間感是什麼——這個問題得留待日後的討論。我們得更有耐心一點。