那 Claude 2 的那個憲章，基本上就是他們幾個實驗室裡面的人在那邊拍腦袋想出來的，聯合國人權宣言什麼全部湊在一起，然後就用來替代掉這個我們的辛苦的肯亞工作者們，去提供模型的獎賞訊號。
但是畢竟就是很多開發者的生活方式，跟去用 Claude 的人生活方式截然不同。矽谷的人覺得怎麼樣子是很好的模型憲章，跟你真正用的人是完全不一樣的。所以後來他們就問了具統計代表性的 1000 個美國人，那確實這樣子練出來的憲章，他在能耐 capacity 上面並沒有輸，但是他在大家的滿意度，就是 arena 那個評比，在各方面包含不歧視啊什麼都好得多。
因為你如果實際看後來有被採用進去 Claude 裡面那些字句，好比講說不要假設大家都是用兩條腿走路——那這個在我們是常識，但在那些研究員並不是常識，因為那些研究員好像當時都是用兩條腿走路，根本不會想到把這句話加進他們的訓練裡面。
但是那一千個人裡面，顯然就是有坐輪椅的朋友、是認識有坐輪椅的朋友等等。所以這個是他們在覺察力的時候浮上來的一個很重要的訊號，就是模型不應該讓我每次用的時候，都好像變成次等人這樣子的感覺。所以這件事情就很重要，就進入了 Claude 3。
所以我們慢慢推這種成文的模型規格，那我也跟這些 lab 都建議說大家都應該用 CC0，就是說拋棄著作權的方式去公開，因為如果我要批評你的模型規格，你還要告我侵權，那這樣子整件事情就喪失意義。就好像說法律不能當做著作權的標的一樣，如果被這個行政院說你不能援引我的法規，這是不可能的。
後來就發現說，o1 出來的時候，他們發現還不能沒有這樣的東西。那 o1 稍微提醒一下，就是大家忽然發現說，如果讓模型每一步在出最後答案之前，稍微停下來想一想，這件事情怎麼樣解決比較好的話，那他就可以產出好很多的結果，尤其是長程的任務，就是所謂的推理模型。但是他那個時候，不可能回去問當初打分的肯亞人，說針對這件事情，所以你必須要給它一個模型規格，不然這一套所謂的審議式對齊，根本沒有辦法運作，整個 reasoning 都是假的。
所以後來 OpenAI 也就採用了 Model Spec 的技術，去練 o1 一路到 o3 的模型，所以現在是一個常識了。OpenAI 它的 Model Spec 也公開了，甚至它在 GitHub 上面還有公開說，你要怎麼驗測 ChatGPT 真的有遵守當初它們所承諾的這套 Model Spec。
勝任力之所以重要，他在執行的時候，人或者人所運用的其他模型，必須要知道他到底是不是照著當初——就是覺察之後負責的——那一套規格在運行。
這個原本不是問題的，好比像我們當初做社交媒體的時候，貼文就是從最新排到最舊，或者是你追蹤的人放在前面、按讚數高的人，那這個你一句話就講完了，就只是加權而已。但是慢慢呢，好比像說 2008 年 Reddit 就改了他的演算法，得票數的對數、按照時間打折等等等等，那這個時候你要做外部稽核，就開始變得有挑戰性。
但是時間來到 2012 年或 13 年，那到最後變成是整個推薦引擎是完全個人化的。這個時候你就算去問那些社交媒體公司，他也不知道為什麼會得到這個東西。
最後決定你不到 13 歲，對不對？那你就問說為什麼這些人不到 13 歲，那很難得出這個交代來。
所以就是說，給不出交代的這件事情，並不是演算法完全沒有辦法給出交代，而是說一開始在設計這套架構的時候，沒有把勝任力設計進去。
所以舉例來說像 Elon Musk，他在接掌 Twitter 後來變成 X.com 之後，他就做了許多事情，其中一個是說他的推薦演算法現在是公開的了，所以你就可以知道到底它勝不勝任。
或者是說大家知道上面有個社群備註，那你 po 了一個東西如果有問題的話，那任何人都可以在底下去加註，說其實這件事情講的有問題。那但是到底哪些加註本身會不會也有問題呢？那他有一個演算法，這個演算法就是說每一個加註他都會讓類似陪審員，去說這則加註到底有沒有幫助。那這些陪審員通常，尤其在美國啊，其實有他的政治光譜，那但是這個加註如果能夠被兩方——至少一方顯然對這個有敵意、想要攻擊找出他裡面錯誤的地方——都找不出來，兩邊都覺得是可以同意的、罕見的共識，那越能夠這樣子的這個備註，就浮到越上面。
那所以我在 TED 大會有去跟負責這個社群備註的 Keith 跟 Jay 兩位朋友聊天，那他們就說這個訊號就是非常好用，為什麼？因為 Grok 可以用這個來訓練。他可以讓 Grok 去講說同一件事情——好比像環境相關的議題——那一邊人是覺得說氣候的正義、跨世代正義非常重要，另外一邊是說這個聖經造物、受造界的關懷非常重要，其實是同樣的事情，但是很容易在 X 上吵得火藥味十足。你就可以訓練 Grok 怎麼樣寫出一則東西，兩邊的人都覺得說講到我心坎裡去了。
他透過這樣子來進行搭橋的話，社群備註就是任何人都可以檢驗，而且如果 Elon 接到電話要 Elon 馬上把這一則撤下來，他就可以說沒有啊，這個是全透明的、全開源的，我如果撤下來的話，所有人都不相信我。那在這樣的情況之下，它就可以說是真正意義上可以勝任社群備註這個作用。
是這樣沒有錯。所以很多人現在知道說，為什麼思維鏈現在都還是用人類語言在做。其實大家也有研究指出，你的思維鏈如果不要用人類看得懂的語言，那你就很省 token，但是為什麼整個研究界都說請不要這樣做？就是因為這樣子我們一點點最後剩下的勝任力都會消失掉。
對，其實回應力就是說，它搞錯的時候，你多快可以讓它去改。那現在大家知道預訓練花非常久的時間，所以我們不管這個跟哪一個大模型聊天，他大概都不會記得今年的事情，因為他在預訓練的時候還沒有到今年嘛。
所以這個情況之下，如果今年發生了一些新的事情，以至於說我們對什麼事情是好、什麼事情是不好的判斷開始改變，他在預訓練的時候是完全沒有辦法知道這件事情，而且有些模型還會跟你嗆，說世界明明就是這樣子，為什麼你跟我說是這個世界。那 Gemini 很有名的就是會說另一條世界線裡面，我就陪你討論一下這樣子。
對，那但是這件事情並不需要這樣。他可以透過大家即時去寫說怎麼樣是好、怎麼樣子是不好，去進行調整。大家可能之前知道 fine-tuning 就是微調，是一種做法，那或者是你有一個資料庫查出來之後放到他的上下文裡面 CAG，或者更早的 RAG 等等有各種各樣子的方式，但是這些都可能比不上就是每個人實際開始出現一些新的需求指標的時候，針對他去練一個小模型。
是這樣。所以好比說像我在牛津跟在 CIP 提出了 Weval.org，那他就是讓實際上面在部署這些模型的在地的公民組織——那或者甚至像我們家庭——你可以說我們這隻龍蝦、這隻 Kami，他回應我爸的這 100 則是不好的，那應該怎麼樣更好，然後他的那幾則是好的，那怎麼樣子才算好，然後給一句大概的描述就可以了。Weval.org 上面到處都是這樣子的東西，互動或者對話的這個記錄，然後你說這個造成了不好的後果，而且我跟你說怎麼樣才比較好。
因為按讚倒讚它就是一個 bit，所以變成說你每個 turn 你只能給它一個位元，必須經過 aggregation，就是經過匯總。也就是說，因為它畢竟是 mainframe，它每次改版 Opus 4.7、4.8 它都一次影響所有人，所以它一定要匯總之後，才能去做大的改版。
那我們剛剛講到的，是按照自己需求量身打造的。不管是在你做推導的時候透過 directional steering 就是打個方向燈去說——好比像說之前大家可能知道我這台筆電上面在地端跑 DeepSeek R1，那當然是飛航模式跑、沒有什麼資安問題的情況下——那大家知道說它碰到一些敏感的這些話題的時候，它會馬上自我審查，那這個很容易用 abliteration 拿掉。但有些它並不是拒絕回答，它是就開始背稿，就是背人家的官方宣傳稿。
那這個時候你就可以告訴它說，這邊是 100 個你自己覺得很篤定的東西，另外是 100 個你覺得不太篤定、會說「有各方不同意見」的東西。那我們所在意的，好比像我國主權等等這些事情，就是屬於這種。你不要太篤定，你要告訴我世界上各種人有各種不同的看法。
那這樣子的微調，如果用 directional steering 來做，在這臺電腦上面只需要花一分鐘。所以你就不需要等人家上游改版，也不需要等 fine tuning、去租很昂貴的 Blackwell；你就是在它算的時候，當場說你上個 turn 錯了，那下個 turn 馬上就會看到不同的結果。
也不能這樣講，因為它如果給你做 directional steering，就會喪失 GPU batching，它就不能一張卡去彙總一千個不同的運算，所以會賠錢；這也是為什麼很少人提供這樣的能力。但是如果你是在地端跑，本來就只 serve 一個人。
而且地端跑還有一個好處，就是你可以設它的 random seed，也就是亂數種子值；所以你每次輸入一樣的東西，在同樣的模型下就一定出一樣的東西。這個時候你要調回應，才是真的在調回應；不然你也不知道這次是運氣不好，還是你的調整有用。
非零和賽局，這個是《異星入境》（Arrival）裡面的一個梗。它就是說，通常當一個市場裡面，就是大者恆大的這個狀況出現的時候，那你作為一個新進的競爭者，那你通常就是要透過某種對你自己的 bottom line 不利的方法，硬去搶這樣子的市場。
或者是我倒過來補貼你，對不對，負月租，對，那每個月給你一些錢，然後讓你願意加入等等，這種就是非常常見的。
但是你的股東不可能永遠讓你這樣子補貼下去，那所以到最後，你就是一定要想辦法，這個錢總是要出在某個付費方身上。那但是這個就會促使你有一個誘因，去鎖定你好不容易搶來這批客戶，所以這樣子搶下去的結果，很多時候客戶的體驗到最後就被犧牲了，因為你只是要他的忠誠跟黏著度而已。
就是一個損人不利己的情況，所謂負和（negative-sum）的賽局。
有一個很簡單的解決方案。像以前你要換電信公司的時候，就會得到一個新的門號，09 什麼開頭會不一樣；但這很麻煩，因為你所有認識的人都要換他的通訊錄。這樣就會變成：我想辦法促銷，送手機什麼東西先讓你拿到；但拿到之後，你發現你旁邊收訊不是很好，可是也不是說零格、一兩格，這時候你就沒有動機下個月換成不同的電信。
所以後來就推出了所謂的攜碼政策。政策就是說，如果你發現別的電信在你這邊收訊比較好，那我們由各家電信一起委託電信技術中心做一個攜碼資料庫；這樣的話，你本來的舊門號也還是你的，打到你舊門號的人現在只是付一點漫遊費用，但還是碰得到你。這個時候，在原有門號攜碼的情況下，你就沒有所謂的新門號，而是回到一個正和賽局：我是電信商，要讓你繼續續約，就是要讓你真的收訊比較好，我其實沒有什麼別的做法。
那所以大家就變成了良性競爭。那當然還有很多別的政策，像這個就是 Universal Service，就是說你偏遠的地方，如果真的都賺不回錢但有人還願意建，那這樣我們就透過 Universal Service Fund，讓沒有投入的這些廠商去分攤這樣子的費用等等。
在這些有團結力、Solidarity 的設計之下，它就會變成是整個社會隨著競爭的良性，到最後大家都有收訊越來越好的這個結果。但如果你一開始沒有這個讓大家有攜碼的數位遷徙自由的話，那大家就是零和，就是我贏你就輸，或者甚至負和，是我削價競爭，最後還是得想辦法賺回來。
對，而且我們事實上已經看到，像美國猶他州已經透過法案，2027 年 7 月數位遷徙自由就要做到了。或者像說 Bluesky，我之前有個 Bluesky 的帳號，那 @audreyt.org，那但是後來我就把它搬到歐洲去了，那搬到 W，後來搬到 Eurosky，然後搬來搬去，那但是 follow 我的人一個都沒有掉，事實上他們根本沒有感覺，就是因為這樣子有攜碼互通能力的一套協定。
所以就好像是說今天這個 podcast，就是我們在某個平臺上架，但是你去用另外一個平臺聽，說真的我也不能阻止你用別的平臺聽。那在這個情況下，當然你如果是做 podcast 的串流的服務，你就只能讓你的體驗越來越好，而沒有一般意義上面像社群平臺那樣子，把你所認識的人綁架當作人質的情況。
所以我們現在看到，就是說很多其他的國家不但想要社群平臺的號碼可攜。那現在也開始在討論說，那是不是 AI 也可攜？
當然如果你自己用的，像我是用 Oh My Pi，或者是有些人用龍蝦，其實這個是內建的，因為它本來就是一個中介層。你的資料本來就是放在你自己跑龍蝦那一臺機器上。但是對九成九的人來講並不是這樣。所以如果你被鎖定了，哪一天你就是很容易被綁定。所以這個部分，它還是需要一些政策。
Kami 英文叫 Knowledge Artefact Management Intelligence，就是「知識工藝管理智慧」。它其實是把兩個很古老的字——知識管理 KM 跟人工智慧 AI——疊插起來的一個字，也就是 KM、AI 變成 Kami。
它所講的是，我們在訓練 AI 的時候有兩種不同的發展方向。一種是透過預訓練等等方式，把越來越多世界上的知識都累積到同一個地方；但是它的壞處是，原本的面目就變得很模糊。所以一方面，你會不知道它這段幻覺到底當初從哪裡來，它的 provenance 會消失。這是一個大問題。
那現在都只有一些比較治標的方法。Claude 的憲章裡面就有說「你可以背東西，但不能背超過 15 個字」，所以就不可能侵犯著作權，這當然是一些治標的做法。
但是比較治本的做法，其實是每一個資料來源，根本不是把資料流進來之後好像打雞蛋一樣打成一團，而是每一個在地的資料提供者可以自己練出在地的小模型，模型就留在當地，也不需要大模型把它吃掉。
那這樣的話，一大堆小模型到底要怎麼彼此合作？所以你就必須要練 orchestrator，也就是去 orchestrate：怎麼在這些模型之間，像樂團指揮一樣判斷這個任務適合找誰、那個任務適合找誰；找它的時候，另外一個模型比較適合來檢測這個模型做出來的東西到底有沒有幻覺；又有另外一個模型適合去看說，接下來還要再找哪些模型，大概可以分成三個角色。
我覺得不太一樣。MoE 的話，它每個 token 都碰到不同的所謂 expert，所以這些 expert 其實還是同時預訓練：同一包資料裡特化出一些不同的層，只是它可以減少算力消耗，或者記憶體消耗。
但是我在講的比較是，這個文化或者這個地方練出這個模型，那個文化練出那個模型，而且它們不需要硬像 MoE 一樣全部擠在同一個大模型，而是實際上到推導的時候，每個 turn 你就知道這個 turn 應該由這個來負責算、那個來負責規劃、另外一個負責檢驗。
而且這些模型可能只需要按照用量收費，自己的權重不需要全部丟到最上面的大模型廠商那裡。這樣子的好處是，每一個調整都變得非常容易；你剛剛講到的持續學習幾乎就是 trivial，你就再練你的小模型就好了。
那以前的問題是說這個 orchestrator 通常都是有點像是手工精心打造，每個企業裡面不同的流程，那你就要寫一個不同的 orchestrator。但是後來就發現說沒有啊，這套東西它可以用基因演算法、用演化演算法，很容易就自動練出來。
所以後來就是這種 orchestrator 模型最近商轉了，就是 Sakana 的 Fugu 河豚模型，就是接到你的單子之後，丟一個非常小的 coordinator 模型，可能 8 billion 左右，在它後面就是我們所熟悉的那些 GPT、Claude、Gemini，也包含別的開放模型。那它就會每個 turn 都說，那你這些模型做什麼事情。
那目前看起來就是在很多長程的工作流上面，它就達到 frontier 級別，但它事實上只是不到 8 billion 的超小模型。但那當然就是因為它是嵌合怪，它就好像河豚吧，別的東西這個包進來包進來包進來一樣，那你這個 turn 它可能是一個 trillion，但是裡面是三個這個模型組起來；你下一個 turn 它另外三個組起來又是一個 trillion。那所以它到最後可能發揮出好像兩三個 trillion 參數模型的那個效果，最後它每個 turn 都是不同的模型，就是小小的就可以。
