所以我的 point 是說，並不是說什麼模型都要在地跑，但是如果你用的都是這種按用量計費，而且按用量計費你就只用在剛剛講到，需要長程工作的情況，那其實到最後你花的錢仍然沒有比較多。
你說如果是全部集中在一個地方，那邊的電網會成為瓶頸，沒錯。
意思是說如果現在就有人做到這個全機器人自動生產晶片，然後就一路建到月球去了等等，那我們能夠打方向盤的這個機率，就變成非常非常小嗎？以後就是從天網那邊去管理人類，我們就變成被圈養起來？
確實，那最好的情況就是像《Culture》系列的科幻小說一樣，最壞的情況大家都知道。
對，但是我不覺得現在的發展方向是這樣。
其中一個原因是因為，其實就像我們那時候在個人電腦 80 年代的時候，大家都知道說我們湊再多個人電腦，就算你全部用數據機把大家連起來，那你不管是算力、頻寬什麼，你當然不可能跟真正的 mainframe 比。日常要用的，也就不需要用到 mainframe 那樣子的算力。那所以當 PC 的能力強到某個程度的時候，夠好就好的時候，那大家就不會接受說那你只能打字到終端機裡。
這也就是 Jensen 黃仁勳說的那個 personal supercomputing。在一開始技術還不是很完整的時候，當然也有人把幾台 Spark 串起來，然後也有人垂直的放 MacBook Pro，然後用 Exo，拿 Thunderbolt 5 的線串起來，就是要自炊、自己架一個小型的叢集。
但是現在我們看技術慢慢成熟了，所以不管是像 Pluralis，它甚至連預訓練都可以用一般的網際網路來訓練，它只要一群人都在同一個地理區域，比如說東北亞，或者說都在北美，那它的 latency 就夠了，那甚至就可以開始預訓練模型。那你能預訓練，就更不用說微調、推導等等。
所以我們大概到今年就慢慢到一個，其實你不一定要物理上全部都集中在同一個地方來推導，尤其是我們剛剛講到只是自己養龍蝦的這個程度，也就是差不多 70 billion，最大可能幾百個 billion 的模型，不是上 trillion parameter 的模型，那你透過這種分散式的方式，其實不管是微調還是推導都非常容易。預訓練當然現在還在早期，但是也慢慢會追上。
其實你看我爸的例子，他就是一個很好的例子。就是說我們關懷我爸，並不是要最大化任何東西，那也不是要去遵循特定的規則，顯然不是這兩種倫理。但是很多傳統上西方的倫理，都只有這兩種做法，基本上就是這兩種做法不斷變化的結果而已。
但是在華語世界裡面，我們說惻隱之心，這個大家都了解。那惻隱之心就是說，我們碰到對方不舒服，那我們理解到，我們是共享一個世界，所以我如果幫助他修復我們共同的這個世界，讓這個關係能夠維持、能夠延續，這個東西本身就是善，它不需要一定要達到某個客觀可以評估的結果。
仁義禮智信這些概念，當然我們從小就理解，但是西方世界，可能有很多原因，比較難一下子就跳到這裡。那所以我後來就是很有系統的去看維基百科，還有後來 Grokipedia 上面所有的倫理學相關的這個譜系，還有史丹佛哲學百科，這些地方，要找到能夠對應的。
不然的話，你不可能說你要開發人工智慧的研究人員，他的母語也不是華語，他也從來沒有接受過東方的思想，然後你一下子就說你要先看《孝經》，那不可能。
Filial piety，確實。但後來我就發現說，在傳統上這種個人式的德性，就是亞里斯多德等等之外，原來有一種關係式的德性，是最近大概二三十年才慢慢發展到一個很完整的程度的，那就是 Joan Tronto 的這套做法。
那他的做法，基本上就是說「關懷」他不是只是私領域、家庭的事情。廣義的來講，我們在做的所有讓我們生活方式得以延續的這些事情，維持所謂的韌性，就是抗攻擊能力這些事情，都可以稱做關懷。
那他從這個哲學出發，他就開始分析了，好的關懷跟壞的關懷到底有什麼差別？好比像說受關懷者，他真實的需求有沒有被反映，那這個叫做「覺察」，這是第一步。
覺察到他的需求之後呢，你能不能做出有意義的承諾，就說好那這件事情我來。那如果你講了它馬上下一秒鐘就忘記，像很多 AI 模型的樣子，這個你的 Claude，昨天才發生了這樣子的事情，說我承諾但是就忘記了。那當然這是第二件事情，那就是它能夠「負責」。
然後接下來就是在執行的時候，它到底是能不能夠「勝任」，它是自己都不知道自己在做什麼，只是亂做呢，還是它可以透過透明的，比方說思維鏈等等這種方式，讓別的模型或者別的人，能夠隨時知道說，它到底有沒有真的來做這件事情。
以及最後，它說出它做出了這個結果，你如果發現說，這其實不真的是你要的，那你去打方向盤，到他下次再轉向、用新的方式覺察的時候，「回應」的時間能不能盡量縮短，最好縮短到一個 turn。好，那所以這四件事情能夠做好，那大概就是好的關懷，這是關懷倫理最基本的概念，覺察、負責、勝任、回應，是從這樣開始。
路平、燈亮、網路通。
對，當然就是說，像我們家好了，其實也就是一個小的社群。那除了我們核心家庭，我爸媽、然後我、然後我弟、他的家庭等等，那當然還有我阿媽等等，那然後又有一個 extended family，就是非常多姑姑叔叔等等。
所以「覺察力」一開始在講的，就是說，你怎麼知道說所謂「關懷我爸身邊的關係」這句話，到底是什麼意思？對，這個好像乍聽之下會有點拗口對吧？那就是說是他說了算嗎？其實也不一定如此。旁邊也有別的關係人，大家也都會七嘴八舌，他狀況不好，每個人都用自己的經驗套上來。
如果是一個 AI 系統，好比像說每個人都去跟 ChatGPT 或 Claude 或 Gemini 或 Grok 聊天，而且每個人還跟不同的，那舉例來說，好，那我們安排一次家庭旅遊好了，分別去跟四種不同的 AI 講話，那每個都很討好跟它講話的那個人，到最後結果就是說，四個人都會想要去四個不同的地方。
對，而且還會都各自堅持，為什麼？因為有個很聽話的 AI 告訴你說那些想法才是對的。
那當然我們在做多智慧體訓練的時候，方法去訓練就是去讓它去獎勵所謂的 bridging，就是本來各執己見的人，都覺得這是個意料之外、我們都可以同意的事情，那你把這個當作它的獎賞函數的時候，它就會去促進不同的人能夠彼此接近。
像 ChatGPT 其實在臺灣跟好像韓國、紐西蘭等等一些地方，當年率先推出了群組聊天模式。因為我們是任何東西都可以用成 LINE 群組的一個地方，包含 Threads，那所以 ChatGPT 也不例外，也可以用成群組。
如果你真的用過 ChatGPT 的群組模式，你會發現說 GPT 在裡面，就算當年的就是比較弱的那些 GPT 模型，不是 5.5，它的做法也完全不一樣。它不會去討好特定人，它會去稍微看在這個群組裡面，他們的那個權力結構關係是什麼，而它會盡可能出來打圓場、盡可能出來促進大家家庭旅遊都去同一個地方，其實最初就已經產生一個變化。
對，而且臺灣 tag Meta AI 的這個次數，我覺得一定比跟 Meta AI 私下聊天要多很多。就是 Meta AI 私下聊天，說真的並沒有什麼太大的吸引力，因為他畢竟是最後才出來的同等級的模型，Muse Spark。可是就是大家在 Threads 上面去試探說 Meta AI 到底回答問題會回答到什麼程度，這個真的是全民娛樂。那這樣子的娛樂的情況，確實就可以讓大家本來劍拔弩張的這個東西，很快的就彌合在一起。
所以我們剛剛講到的就是說，搭橋的這個獎勵，其實在預訓練的時候，就是很多這些語言模型的預設的做法，因為它常常在 forum 裡面這個討論串，到最後會變成好的訓練資料，就是因為有人出來打圓場、當和事佬啊，把兩邊這個牽在一起啊。所以他不管是在維基百科、在 GitHub、Common Crawl 裡面那麼多資料集，都是有這樣的能力。
對，他就已經有覺察力了。所以就是你不要把這個部分消除掉的話，其實覺察力我覺得是最不擔心的部分。
是這樣沒有錯。
負責力的意思就是，不要變成說好像大家都說「我只是做我的這一部分」，那但是到最後需要被覺察出來那些需求，這個每個人都說我只是聽命令啊、跟隨誘因啊、跟著大家走啊等等等等。
那舉例來說，像大家知道這個兩年多之前，大家滑臉書、滑 YouTube，大概都會看到很多 AI 生成的詐騙嘛。那那個時候全世界都碰到這個問題，但是臺灣這邊是非常嚴重。那所以你如果去問就是臉書，或者是其他地方設計演算法的，他們就說我們並不是故意，而是說可能因為詐騙的這些投放廣告的人，他能夠付的 pay per click 是比較高的，因為人家無本生意。而且呢這個也能夠及時的去抓最新的新聞一出來，他就會針對那些新聞去投放關鍵字，所以呢它的占比也高、它賺的錢也多，那人家的演算法只是要最大化這個。
沒錯。當年就是很小的這個 BERT 這一類的技術，大概就可以完成了。
但是在其他各國都很少看到有一個情況，就是說當我們發現有這個需求出現的時候，我可以告訴 Meta 或者告訴 YouTube，說我們整個臺灣社會，大家就是覺得你要負這個程度的責任，其他國家比較沒有辦法白紙黑字的寫下來。那主要原因就是因為很多地方，還沒有前面覺察力的那個流程。
那我們當然就是寄了 20 萬則簡訊，給隨機的號碼，用 111 那個官方的號碼寄，那也有上千人提出他對這種資訊完整性的想法。我們像非常嚴謹的民調一樣，抽了 447 個人口上面比例上跟臺灣一樣的人，那大家就線上透過史丹佛的平台，透過 Civic AI 的一個小幫手去鼓勵大家，就算就是覺得想的方案不完美，但是不要害羞啊，就盡量講話。
那每個人只要能夠說服對面九個人，就是螢幕上的九個人，那他的想法就可以往上浮、變成政策。那我當時是部長嘛，我就說大家只要都同意的東西進我們的草案裡面，那所以到最後大家就想出了現在叫「廣告實名制」這樣一套方案：如果沒有標示，然後又主動推送，有人被騙了 700 萬，那平台就要賠這 700 萬了。所以，就要透過數位簽章等等的方式，如果不配合的話甚至可以降速、限流等等。
所以這就包括「誰」：那些平台、「做什麼」：連帶責任或者是要實名制、「何時」：所有有付費的，不管是貼文還是廣告都要、「為何」：因為你接觸到超過 5% 的人口，包含 Threads 現在也接觸到 5% 的人口了。至於「如何」實作的這個部分，當然可以交給行政、立法來去想，看我們要怎麼寫成法律。
但是至少就不是像很多其他國家，會說這只是哪個黨派的看法、另外一個黨派可能不這樣想，或是哪一個區域的人的看法嗎、別的區域不一定這樣想。沒有，我們是類似全民調的分布，有 85% 可以同意，另外 15% 的人覺得這樣也還可以接受，那所以就後來立法嘛。那去年 1 月執法配套都上路了，按照數位發展部給路透社的數據，大概從去年 1 月到 12 月，這種冒名詐騙、投資詐騙廣告，下降超過 94%。
這樣子的做法，就是所謂的集體的，現在叫做 model spec 模型規格，或者是當年叫做模型的憲章。
那我們 2023 年的時候就有看到，Anthropic 參考我們在臺灣試出來的這樣一套做法，他們也在美國做一樣的事情叫做 CCAI，collective constitutional AI。他們就是跟 CIP 這家組織合作，也是去問了具有統計代表性的 1000 個美國人，然後去問說當時——我記得是 Claude 2，然後他們正在練 3 的那個時候。
那 Claude 2 的那個憲章，基本上就是他們幾個實驗室裡面的人在那邊拍腦袋想出來的，聯合國人權宣言什麼全部湊在一起，然後就用來替代掉這個我們的辛苦的肯亞工作者們，去提供模型的獎賞訊號。
但是畢竟就是很多開發者的生活方式，跟去用 Claude 的人生活方式截然不同。矽谷的人覺得怎麼樣子是很好的模型憲章，跟你真正用的人是完全不一樣的。所以後來他們就問了具統計代表性的 1000 個美國人，那確實這樣子練出來的憲章，他在能耐 capacity 上面並沒有輸，但是他在大家的滿意度，就是 arena 那個評比，在各方面包含不歧視啊什麼都好得多。
因為你如果實際看後來有被採用進去 Claude 裡面那些字句，好比講說不要假設大家都是用兩條腿走路——那這個在我們是常識，但在那些研究員並不是常識，因為那些研究員好像當時都是用兩條腿走路，根本不會想到把這句話加進他們的訓練裡面。
但是那一千個人裡面，顯然就是有坐輪椅的朋友、是認識有坐輪椅的朋友等等。所以這個是他們在覺察力的時候浮上來的一個很重要的訊號，就是模型不應該讓我每次用的時候，都好像變成次等人這樣子的感覺。所以這件事情就很重要，就進入了 Claude 3。
所以我們慢慢推這種成文的模型規格，那我也跟這些 lab 都建議說大家都應該用 CC0，就是說拋棄著作權的方式去公開，因為如果我要批評你的模型規格，你還要告我侵權，那這樣子整件事情就喪失意義。就好像說法律不能當做著作權的標的一樣，如果被這個行政院說你不能援引我的法規，這是不可能的。
後來就發現說，o1 出來的時候，他們發現還不能沒有這樣的東西。那 o1 稍微提醒一下，就是大家忽然發現說，如果讓模型每一步在出最後答案之前，稍微停下來想一想，這件事情怎麼樣解決比較好的話，那他就可以產出好很多的結果，尤其是長程的任務，就是所謂的推理模型。但是他那個時候，不可能回去問當初打分的肯亞人，說針對這件事情，所以你必須要給它一個模型規格，不然這一套所謂的審議式對齊，根本沒有辦法運作，整個 reasoning 都是假的。
所以後來 OpenAI 也就採用了 Model Spec 的技術，去練 o1 一路到 o3 的模型，所以現在是一個常識了。OpenAI 它的 Model Spec 也公開了，甚至它在 GitHub 上面還有公開說，你要怎麼驗測 ChatGPT 真的有遵守當初它們所承諾的這套 Model Spec。
勝任力之所以重要，他在執行的時候，人或者人所運用的其他模型，必須要知道他到底是不是照著當初——就是覺察之後負責的——那一套規格在運行。
這個原本不是問題的，好比像我們當初做社交媒體的時候，貼文就是從最新排到最舊，或者是你追蹤的人放在前面、按讚數高的人，那這個你一句話就講完了，就只是加權而已。但是慢慢呢，好比像說 2008 年 Reddit 就改了他的演算法，得票數的對數、按照時間打折等等等等，那這個時候你要做外部稽核，就開始變得有挑戰性。
