如果你真的用過 ChatGPT 的群組模式，你會發現說 GPT 在裡面，就算當年的就是比較弱的那些 GPT 模型，不是 5.5，它的做法也完全不一樣。它不會去討好特定人，它會去稍微看在這個群組裡面，他們的那個權力結構關係是什麼，而它會盡可能出來打圓場、盡可能出來促進大家家庭旅遊都去同一個地方，其實最初就已經產生一個變化。
對，而且臺灣 tag Meta AI 的這個次數，我覺得一定比跟 Meta AI 私下聊天要多很多。就是 Meta AI 私下聊天，說真的並沒有什麼太大的吸引力，因為他畢竟是最後才出來的同等級的模型，Muse Spark。可是就是大家在 Threads 上面去試探說 Meta AI 到底回答問題會回答到什麼程度，這個真的是全民娛樂。那這樣子的娛樂的情況，確實就可以讓大家本來劍拔弩張的這個東西，很快的就彌合在一起。
所以我們剛剛講到的就是說，搭橋的這個獎勵，其實在預訓練的時候，就是很多這些語言模型的預設的做法，因為它常常在 forum 裡面這個討論串，到最後會變成好的訓練資料，就是因為有人出來打圓場、當和事佬啊，把兩邊這個牽在一起啊。所以他不管是在維基百科、在 GitHub、Common Crawl 裡面那麼多資料集，都是有這樣的能力。
對，他就已經有覺察力了。所以就是你不要把這個部分消除掉的話，其實覺察力我覺得是最不擔心的部分。
是這樣沒有錯。
負責力的意思就是，不要變成說好像大家都說「我只是做我的這一部分」，那但是到最後需要被覺察出來那些需求，這個每個人都說我只是聽命令啊、跟隨誘因啊、跟著大家走啊等等等等。
那舉例來說，像大家知道這個兩年多之前，大家滑臉書、滑 YouTube，大概都會看到很多 AI 生成的詐騙嘛。那那個時候全世界都碰到這個問題，但是臺灣這邊是非常嚴重。那所以你如果去問就是臉書，或者是其他地方設計演算法的，他們就說我們並不是故意，而是說可能因為詐騙的這些投放廣告的人，他能夠付的 pay per click 是比較高的，因為人家無本生意。而且呢這個也能夠及時的去抓最新的新聞一出來，他就會針對那些新聞去投放關鍵字，所以呢它的占比也高、它賺的錢也多，那人家的演算法只是要最大化這個。
沒錯。當年就是很小的這個 BERT 這一類的技術，大概就可以完成了。
但是在其他各國都很少看到有一個情況，就是說當我們發現有這個需求出現的時候，我可以告訴 Meta 或者告訴 YouTube，說我們整個臺灣社會，大家就是覺得你要負這個程度的責任，其他國家比較沒有辦法白紙黑字的寫下來。那主要原因就是因為很多地方，還沒有前面覺察力的那個流程。
那我們當然就是寄了 20 萬則簡訊，給隨機的號碼，用 111 那個官方的號碼寄，那也有上千人提出他對這種資訊完整性的想法。我們像非常嚴謹的民調一樣，抽了 447 個人口上面比例上跟臺灣一樣的人，那大家就線上透過史丹佛的平台，透過 Civic AI 的一個小幫手去鼓勵大家，就算就是覺得想的方案不完美，但是不要害羞啊，就盡量講話。
那每個人只要能夠說服對面九個人，就是螢幕上的九個人，那他的想法就可以往上浮、變成政策。那我當時是部長嘛，我就說大家只要都同意的東西進我們的草案裡面，那所以到最後大家就想出了現在叫「廣告實名制」這樣一套方案：如果沒有標示，然後又主動推送，有人被騙了 700 萬，那平台就要賠這 700 萬了。所以，就要透過數位簽章等等的方式，如果不配合的話甚至可以降速、限流等等。
所以這就包括「誰」：那些平台、「做什麼」：連帶責任或者是要實名制、「何時」：所有有付費的，不管是貼文還是廣告都要、「為何」：因為你接觸到超過 5% 的人口，包含 Threads 現在也接觸到 5% 的人口了。至於「如何」實作的這個部分，當然可以交給行政、立法來去想，看我們要怎麼寫成法律。
但是至少就不是像很多其他國家，會說這只是哪個黨派的看法、另外一個黨派可能不這樣想，或是哪一個區域的人的看法嗎、別的區域不一定這樣想。沒有，我們是類似全民調的分布，有 85% 可以同意，另外 15% 的人覺得這樣也還可以接受，那所以就後來立法嘛。那去年 1 月執法配套都上路了，按照數位發展部給路透社的數據，大概從去年 1 月到 12 月，這種冒名詐騙、投資詐騙廣告，下降超過 94%。
這樣子的做法，就是所謂的集體的，現在叫做 model spec 模型規格，或者是當年叫做模型的憲章。
那我們 2023 年的時候就有看到，Anthropic 參考我們在臺灣試出來的這樣一套做法，他們也在美國做一樣的事情叫做 CCAI，collective constitutional AI。他們就是跟 CIP 這家組織合作，也是去問了具有統計代表性的 1000 個美國人，然後去問說當時——我記得是 Claude 2，然後他們正在練 3 的那個時候。
那 Claude 2 的那個憲章，基本上就是他們幾個實驗室裡面的人在那邊拍腦袋想出來的，聯合國人權宣言什麼全部湊在一起，然後就用來替代掉這個我們的辛苦的肯亞工作者們，去提供模型的獎賞訊號。
但是畢竟就是很多開發者的生活方式，跟去用 Claude 的人生活方式截然不同。矽谷的人覺得怎麼樣子是很好的模型憲章，跟你真正用的人是完全不一樣的。所以後來他們就問了具統計代表性的 1000 個美國人，那確實這樣子練出來的憲章，他在能耐 capacity 上面並沒有輸，但是他在大家的滿意度，就是 arena 那個評比，在各方面包含不歧視啊什麼都好得多。
因為你如果實際看後來有被採用進去 Claude 裡面那些字句，好比講說不要假設大家都是用兩條腿走路——那這個在我們是常識，但在那些研究員並不是常識，因為那些研究員好像當時都是用兩條腿走路，根本不會想到把這句話加進他們的訓練裡面。
但是那一千個人裡面，顯然就是有坐輪椅的朋友、是認識有坐輪椅的朋友等等。所以這個是他們在覺察力的時候浮上來的一個很重要的訊號，就是模型不應該讓我每次用的時候，都好像變成次等人這樣子的感覺。所以這件事情就很重要，就進入了 Claude 3。
所以我們慢慢推這種成文的模型規格，那我也跟這些 lab 都建議說大家都應該用 CC0，就是說拋棄著作權的方式去公開，因為如果我要批評你的模型規格，你還要告我侵權，那這樣子整件事情就喪失意義。就好像說法律不能當做著作權的標的一樣，如果被這個行政院說你不能援引我的法規，這是不可能的。
後來就發現說，o1 出來的時候，他們發現還不能沒有這樣的東西。那 o1 稍微提醒一下，就是大家忽然發現說，如果讓模型每一步在出最後答案之前，稍微停下來想一想，這件事情怎麼樣解決比較好的話，那他就可以產出好很多的結果，尤其是長程的任務，就是所謂的推理模型。但是他那個時候，不可能回去問當初打分的肯亞人，說針對這件事情，所以你必須要給它一個模型規格，不然這一套所謂的審議式對齊，根本沒有辦法運作，整個 reasoning 都是假的。
所以後來 OpenAI 也就採用了 Model Spec 的技術，去練 o1 一路到 o3 的模型，所以現在是一個常識了。OpenAI 它的 Model Spec 也公開了，甚至它在 GitHub 上面還有公開說，你要怎麼驗測 ChatGPT 真的有遵守當初它們所承諾的這套 Model Spec。
勝任力之所以重要，他在執行的時候，人或者人所運用的其他模型，必須要知道他到底是不是照著當初——就是覺察之後負責的——那一套規格在運行。
這個原本不是問題的，好比像我們當初做社交媒體的時候，貼文就是從最新排到最舊，或者是你追蹤的人放在前面、按讚數高的人，那這個你一句話就講完了，就只是加權而已。但是慢慢呢，好比像說 2008 年 Reddit 就改了他的演算法，得票數的對數、按照時間打折等等等等，那這個時候你要做外部稽核，就開始變得有挑戰性。
但是時間來到 2012 年或 13 年，那到最後變成是整個推薦引擎是完全個人化的。這個時候你就算去問那些社交媒體公司，他也不知道為什麼會得到這個東西。
最後決定你不到 13 歲，對不對？那你就問說為什麼這些人不到 13 歲，那很難得出這個交代來。
所以就是說，給不出交代的這件事情，並不是演算法完全沒有辦法給出交代，而是說一開始在設計這套架構的時候，沒有把勝任力設計進去。
所以舉例來說像 Elon Musk，他在接掌 Twitter 後來變成 X.com 之後，他就做了許多事情，其中一個是說他的推薦演算法現在是公開的了，所以你就可以知道到底它勝不勝任。
或者是說大家知道上面有個社群備註，那你 po 了一個東西如果有問題的話，那任何人都可以在底下去加註，說其實這件事情講的有問題。那但是到底哪些加註本身會不會也有問題呢？那他有一個演算法，這個演算法就是說每一個加註他都會讓類似陪審員，去說這則加註到底有沒有幫助。那這些陪審員通常，尤其在美國啊，其實有他的政治光譜，那但是這個加註如果能夠被兩方——至少一方顯然對這個有敵意、想要攻擊找出他裡面錯誤的地方——都找不出來，兩邊都覺得是可以同意的、罕見的共識，那越能夠這樣子的這個備註，就浮到越上面。
那所以我在 TED 大會有去跟負責這個社群備註的 Keith 跟 Jay 兩位朋友聊天，那他們就說這個訊號就是非常好用，為什麼？因為 Grok 可以用這個來訓練。他可以讓 Grok 去講說同一件事情——好比像環境相關的議題——那一邊人是覺得說氣候的正義、跨世代正義非常重要，另外一邊是說這個聖經造物、受造界的關懷非常重要，其實是同樣的事情，但是很容易在 X 上吵得火藥味十足。你就可以訓練 Grok 怎麼樣寫出一則東西，兩邊的人都覺得說講到我心坎裡去了。
他透過這樣子來進行搭橋的話，社群備註就是任何人都可以檢驗，而且如果 Elon 接到電話要 Elon 馬上把這一則撤下來，他就可以說沒有啊，這個是全透明的、全開源的，我如果撤下來的話，所有人都不相信我。那在這樣的情況之下，它就可以說是真正意義上可以勝任社群備註這個作用。
是這樣沒有錯。所以很多人現在知道說，為什麼思維鏈現在都還是用人類語言在做。其實大家也有研究指出，你的思維鏈如果不要用人類看得懂的語言，那你就很省 token，但是為什麼整個研究界都說請不要這樣做？就是因為這樣子我們一點點最後剩下的勝任力都會消失掉。
對，其實回應力就是說，它搞錯的時候，你多快可以讓它去改。那現在大家知道預訓練花非常久的時間，所以我們不管這個跟哪一個大模型聊天，他大概都不會記得今年的事情，因為他在預訓練的時候還沒有到今年嘛。
所以這個情況之下，如果今年發生了一些新的事情，以至於說我們對什麼事情是好、什麼事情是不好的判斷開始改變，他在預訓練的時候是完全沒有辦法知道這件事情，而且有些模型還會跟你嗆，說世界明明就是這樣子，為什麼你跟我說是這個世界。那 Gemini 很有名的就是會說另一條世界線裡面，我就陪你討論一下這樣子。
對，那但是這件事情並不需要這樣。他可以透過大家即時去寫說怎麼樣是好、怎麼樣子是不好，去進行調整。大家可能之前知道 fine-tuning 就是微調，是一種做法，那或者是你有一個資料庫查出來之後放到他的上下文裡面 CAG，或者更早的 RAG 等等有各種各樣子的方式，但是這些都可能比不上就是每個人實際開始出現一些新的需求指標的時候，針對他去練一個小模型。
是這樣。所以好比說像我在牛津跟在 CIP 提出了 Weval.org，那他就是讓實際上面在部署這些模型的在地的公民組織——那或者甚至像我們家庭——你可以說我們這隻龍蝦、這隻 Kami，他回應我爸的這 100 則是不好的，那應該怎麼樣更好，然後他的那幾則是好的，那怎麼樣子才算好，然後給一句大概的描述就可以了。Weval.org 上面到處都是這樣子的東西，互動或者對話的這個記錄，然後你說這個造成了不好的後果，而且我跟你說怎麼樣才比較好。
因為按讚倒讚它就是一個 bit，所以變成說你每個 turn 你只能給它一個位元，必須經過 aggregation，就是經過匯總。也就是說，因為它畢竟是 mainframe，它每次改版 Opus 4.7、4.8 它都一次影響所有人，所以它一定要匯總之後，才能去做大的改版。
那我們剛剛講到的，是按照自己需求量身打造的。不管是在你做推導的時候透過 directional steering 就是打個方向燈去說——好比像說之前大家可能知道我這台筆電上面在地端跑 DeepSeek R1，那當然是飛航模式跑、沒有什麼資安問題的情況下——那大家知道說它碰到一些敏感的這些話題的時候，它會馬上自我審查，那這個很容易用 abliteration 拿掉。但有些它並不是拒絕回答，它是就開始背稿，就是背人家的官方宣傳稿。
那這個時候你就可以告訴它說，這邊是 100 個你自己覺得很篤定的東西，另外是 100 個你覺得不太篤定、會說「有各方不同意見」的東西。那我們所在意的，好比像我國主權等等這些事情，就是屬於這種。你不要太篤定，你要告訴我世界上各種人有各種不同的看法。
那這樣子的微調，如果用 directional steering 來做，在這臺電腦上面只需要花一分鐘。所以你就不需要等人家上游改版，也不需要等 fine tuning、去租很昂貴的 Blackwell；你就是在它算的時候，當場說你上個 turn 錯了，那下個 turn 馬上就會看到不同的結果。
也不能這樣講，因為它如果給你做 directional steering，就會喪失 GPU batching，它就不能一張卡去彙總一千個不同的運算，所以會賠錢；這也是為什麼很少人提供這樣的能力。但是如果你是在地端跑，本來就只 serve 一個人。
而且地端跑還有一個好處，就是你可以設它的 random seed，也就是亂數種子值；所以你每次輸入一樣的東西，在同樣的模型下就一定出一樣的東西。這個時候你要調回應，才是真的在調回應；不然你也不知道這次是運氣不好，還是你的調整有用。
非零和賽局，這個是《異星入境》（Arrival）裡面的一個梗。它就是說，通常當一個市場裡面，就是大者恆大的這個狀況出現的時候，那你作為一個新進的競爭者，那你通常就是要透過某種對你自己的 bottom line 不利的方法，硬去搶這樣子的市場。
或者是我倒過來補貼你，對不對，負月租，對，那每個月給你一些錢，然後讓你願意加入等等，這種就是非常常見的。
但是你的股東不可能永遠讓你這樣子補貼下去，那所以到最後，你就是一定要想辦法，這個錢總是要出在某個付費方身上。那但是這個就會促使你有一個誘因，去鎖定你好不容易搶來這批客戶，所以這樣子搶下去的結果，很多時候客戶的體驗到最後就被犧牲了，因為你只是要他的忠誠跟黏著度而已。
就是一個損人不利己的情況，所謂負和（negative-sum）的賽局。
有一個很簡單的解決方案。像以前你要換電信公司的時候，就會得到一個新的門號，09 什麼開頭會不一樣；但這很麻煩，因為你所有認識的人都要換他的通訊錄。這樣就會變成：我想辦法促銷，送手機什麼東西先讓你拿到；但拿到之後，你發現你旁邊收訊不是很好，可是也不是說零格、一兩格，這時候你就沒有動機下個月換成不同的電信。
所以後來就推出了所謂的攜碼政策。政策就是說，如果你發現別的電信在你這邊收訊比較好，那我們由各家電信一起委託電信技術中心做一個攜碼資料庫；這樣的話，你本來的舊門號也還是你的，打到你舊門號的人現在只是付一點漫遊費用，但還是碰得到你。這個時候，在原有門號攜碼的情況下，你就沒有所謂的新門號，而是回到一個正和賽局：我是電信商，要讓你繼續續約，就是要讓你真的收訊比較好，我其實沒有什麼別的做法。
那所以大家就變成了良性競爭。那當然還有很多別的政策，像這個就是 Universal Service，就是說你偏遠的地方，如果真的都賺不回錢但有人還願意建，那這樣我們就透過 Universal Service Fund，讓沒有投入的這些廠商去分攤這樣子的費用等等。
在這些有團結力、Solidarity 的設計之下，它就會變成是整個社會隨著競爭的良性，到最後大家都有收訊越來越好的這個結果。但如果你一開始沒有這個讓大家有攜碼的數位遷徙自由的話，那大家就是零和，就是我贏你就輸，或者甚至負和，是我削價競爭，最後還是得想辦法賺回來。
