而且尤其後來又有非常強的地端模型，所以地端模型稍微有一點點不對的時候，那我們就做一個 directional steering，就把它調整到對的方向就好。那你就不需要等說好像有點像是抽籤擲骰子一樣，Opus 4.5、4.6、4.7，每次是進化嗎？其實有時候是退化。這是你要等好幾個月，而且說不定還有問題的情況。
但是在我們的情況下，沒有啊，它任何時候不對，你一分鐘之後就改過去了。所以它會變成是我們叫 AI in the human loop，就是我們家庭有的這個關係，是 AI 來配合我們，而不是所謂 human in the AI loop，就是人被捲進——不管是我們剛剛講社交媒體的 doomscrolling 末日捲動，或者是剛剛講 ChatGPT sycophancy 討好你等等的——這些 AI loop 裡面，就不是被馬拉著跑了。
這個我們在商業模式現在都看到，無論從投資人也好，或者是從不同的一些新創也好，他們已經開始 lock in，就是盡可能把你鎖定到他的這個系統裡面。而且大家都在比說，他離你的眼睛越近越好。因為模型商，如果沒有辦法直接到你眼睛前面，那他中間有多少能夠做應用程式的人，都能夠把他換掉。
很多大家常用的應用程式，他後面說換就換了，對模型商而言他沒有保障。所以唯一的方法就是說，把你的工作流、把你的日曆，所有這些東西全部都深度綁定。那這樣就算有更好、更便宜的模型出來，你深度綁定、走不掉了，大概就這樣。
我是把它叫 Kami，「地神」。
一般人，如果你有個 16G 的記憶體，那你抓 Ollama 下來，然後下載 Gemma 4 12B，大概就是 QAT 的那個版本，大概也就八九不離十。很多人覺得他體感上面跟用 Gemini 並沒有差太多。主要原因也是因為很少人會直接叫他去做九個小時的事情。那你如果只是對話聊天、查資料這種應用，那包含比較粗淺的工具使用，那就是 Gemma 4 12B Dense 做的就很好。
所以實際上對大部分人來講，只是不知道有這個選項，並不是說這個選項體驗就一定差。那當然架龍蝦有它的資安問題，但是如果只是說我試個地端模型玩玩，我覺得這個沒有什麼門檻可言。
對，那還有就是說，就算你的電腦沒有 16G 的記憶體，那你現在也可以非常容易找到專門去做 Gemma 這種開源模型的算力提供商，好比像說我今天剛剛換成 Baseten，覺得用得非常好。實際上有非常多，Wafer、Friendli 等等，那他們的特點就是說他們並沒有想要綁住你，他們唯一要賺的錢就是單位時間裡幫你算出更多 token。而且他們自己也知道，因為前面有一個 OpenRouter 在做評比，所以他們一旦算力的提供能力沒有別人好，馬上大家就換地方了。
所以就會變成是有點像是水電這種 utility，那他就是要把這種公用事業做到最好，但是事實上他自己也知道他對你沒有 leverage。所以這個情況之下，我就比較傾向於相信，他說 Zero Data Retention，就是不儲存的資料等等，這個是比較有可能性的部分。
所以我的 point 是說，並不是說什麼模型都要在地跑，但是如果你用的都是這種按用量計費，而且按用量計費你就只用在剛剛講到，需要長程工作的情況，那其實到最後你花的錢仍然沒有比較多。
你說如果是全部集中在一個地方，那邊的電網會成為瓶頸，沒錯。
意思是說如果現在就有人做到這個全機器人自動生產晶片，然後就一路建到月球去了等等，那我們能夠打方向盤的這個機率，就變成非常非常小嗎？以後就是從天網那邊去管理人類，我們就變成被圈養起來？
確實，那最好的情況就是像《Culture》系列的科幻小說一樣，最壞的情況大家都知道。
對，但是我不覺得現在的發展方向是這樣。
其中一個原因是因為，其實就像我們那時候在個人電腦 80 年代的時候，大家都知道說我們湊再多個人電腦，就算你全部用數據機把大家連起來，那你不管是算力、頻寬什麼，你當然不可能跟真正的 mainframe 比。日常要用的，也就不需要用到 mainframe 那樣子的算力。那所以當 PC 的能力強到某個程度的時候，夠好就好的時候，那大家就不會接受說那你只能打字到終端機裡。
這也就是 Jensen 黃仁勳說的那個 personal supercomputing。在一開始技術還不是很完整的時候，當然也有人把幾台 Spark 串起來，然後也有人垂直的放 MacBook Pro，然後用 Exo，拿 Thunderbolt 5 的線串起來，就是要自炊、自己架一個小型的叢集。
但是現在我們看技術慢慢成熟了，所以不管是像 Pluralis，它甚至連預訓練都可以用一般的網際網路來訓練，它只要一群人都在同一個地理區域，比如說東北亞，或者說都在北美，那它的 latency 就夠了，那甚至就可以開始預訓練模型。那你能預訓練，就更不用說微調、推導等等。
所以我們大概到今年就慢慢到一個，其實你不一定要物理上全部都集中在同一個地方來推導，尤其是我們剛剛講到只是自己養龍蝦的這個程度，也就是差不多 70 billion，最大可能幾百個 billion 的模型，不是上 trillion parameter 的模型，那你透過這種分散式的方式，其實不管是微調還是推導都非常容易。預訓練當然現在還在早期，但是也慢慢會追上。
其實你看我爸的例子，他就是一個很好的例子。就是說我們關懷我爸，並不是要最大化任何東西，那也不是要去遵循特定的規則，顯然不是這兩種倫理。但是很多傳統上西方的倫理，都只有這兩種做法，基本上就是這兩種做法不斷變化的結果而已。
但是在華語世界裡面，我們說惻隱之心，這個大家都了解。那惻隱之心就是說，我們碰到對方不舒服，那我們理解到，我們是共享一個世界，所以我如果幫助他修復我們共同的這個世界，讓這個關係能夠維持、能夠延續，這個東西本身就是善，它不需要一定要達到某個客觀可以評估的結果。
仁義禮智信這些概念，當然我們從小就理解，但是西方世界，可能有很多原因，比較難一下子就跳到這裡。那所以我後來就是很有系統的去看維基百科，還有後來 Grokipedia 上面所有的倫理學相關的這個譜系，還有史丹佛哲學百科，這些地方，要找到能夠對應的。
不然的話，你不可能說你要開發人工智慧的研究人員，他的母語也不是華語，他也從來沒有接受過東方的思想，然後你一下子就說你要先看《孝經》，那不可能。
Filial piety，確實。但後來我就發現說，在傳統上這種個人式的德性，就是亞里斯多德等等之外，原來有一種關係式的德性，是最近大概二三十年才慢慢發展到一個很完整的程度的，那就是 Joan Tronto 的這套做法。
那他的做法，基本上就是說「關懷」他不是只是私領域、家庭的事情。廣義的來講，我們在做的所有讓我們生活方式得以延續的這些事情，維持所謂的韌性，就是抗攻擊能力這些事情，都可以稱做關懷。
那他從這個哲學出發，他就開始分析了，好的關懷跟壞的關懷到底有什麼差別？好比像說受關懷者，他真實的需求有沒有被反映，那這個叫做「覺察」，這是第一步。
覺察到他的需求之後呢，你能不能做出有意義的承諾，就說好那這件事情我來。那如果你講了它馬上下一秒鐘就忘記，像很多 AI 模型的樣子，這個你的 Claude，昨天才發生了這樣子的事情，說我承諾但是就忘記了。那當然這是第二件事情，那就是它能夠「負責」。
然後接下來就是在執行的時候，它到底是能不能夠「勝任」，它是自己都不知道自己在做什麼，只是亂做呢，還是它可以透過透明的，比方說思維鏈等等這種方式，讓別的模型或者別的人，能夠隨時知道說，它到底有沒有真的來做這件事情。
以及最後，它說出它做出了這個結果，你如果發現說，這其實不真的是你要的，那你去打方向盤，到他下次再轉向、用新的方式覺察的時候，「回應」的時間能不能盡量縮短，最好縮短到一個 turn。好，那所以這四件事情能夠做好，那大概就是好的關懷，這是關懷倫理最基本的概念，覺察、負責、勝任、回應，是從這樣開始。
路平、燈亮、網路通。
對，當然就是說，像我們家好了，其實也就是一個小的社群。那除了我們核心家庭，我爸媽、然後我、然後我弟、他的家庭等等，那當然還有我阿媽等等，那然後又有一個 extended family，就是非常多姑姑叔叔等等。
所以「覺察力」一開始在講的，就是說，你怎麼知道說所謂「關懷我爸身邊的關係」這句話，到底是什麼意思？對，這個好像乍聽之下會有點拗口對吧？那就是說是他說了算嗎？其實也不一定如此。旁邊也有別的關係人，大家也都會七嘴八舌，他狀況不好，每個人都用自己的經驗套上來。
如果是一個 AI 系統，好比像說每個人都去跟 ChatGPT 或 Claude 或 Gemini 或 Grok 聊天，而且每個人還跟不同的，那舉例來說，好，那我們安排一次家庭旅遊好了，分別去跟四種不同的 AI 講話，那每個都很討好跟它講話的那個人，到最後結果就是說，四個人都會想要去四個不同的地方。
對，而且還會都各自堅持，為什麼？因為有個很聽話的 AI 告訴你說那些想法才是對的。
那當然我們在做多智慧體訓練的時候，方法去訓練就是去讓它去獎勵所謂的 bridging，就是本來各執己見的人，都覺得這是個意料之外、我們都可以同意的事情，那你把這個當作它的獎賞函數的時候，它就會去促進不同的人能夠彼此接近。
像 ChatGPT 其實在臺灣跟好像韓國、紐西蘭等等一些地方，當年率先推出了群組聊天模式。因為我們是任何東西都可以用成 LINE 群組的一個地方，包含 Threads，那所以 ChatGPT 也不例外，也可以用成群組。
如果你真的用過 ChatGPT 的群組模式，你會發現說 GPT 在裡面，就算當年的就是比較弱的那些 GPT 模型，不是 5.5，它的做法也完全不一樣。它不會去討好特定人，它會去稍微看在這個群組裡面，他們的那個權力結構關係是什麼，而它會盡可能出來打圓場、盡可能出來促進大家家庭旅遊都去同一個地方，其實最初就已經產生一個變化。
對，而且臺灣 tag Meta AI 的這個次數，我覺得一定比跟 Meta AI 私下聊天要多很多。就是 Meta AI 私下聊天，說真的並沒有什麼太大的吸引力，因為他畢竟是最後才出來的同等級的模型，Muse Spark。可是就是大家在 Threads 上面去試探說 Meta AI 到底回答問題會回答到什麼程度，這個真的是全民娛樂。那這樣子的娛樂的情況，確實就可以讓大家本來劍拔弩張的這個東西，很快的就彌合在一起。
所以我們剛剛講到的就是說，搭橋的這個獎勵，其實在預訓練的時候，就是很多這些語言模型的預設的做法，因為它常常在 forum 裡面這個討論串，到最後會變成好的訓練資料，就是因為有人出來打圓場、當和事佬啊，把兩邊這個牽在一起啊。所以他不管是在維基百科、在 GitHub、Common Crawl 裡面那麼多資料集，都是有這樣的能力。
對，他就已經有覺察力了。所以就是你不要把這個部分消除掉的話，其實覺察力我覺得是最不擔心的部分。
是這樣沒有錯。
負責力的意思就是，不要變成說好像大家都說「我只是做我的這一部分」，那但是到最後需要被覺察出來那些需求，這個每個人都說我只是聽命令啊、跟隨誘因啊、跟著大家走啊等等等等。
那舉例來說，像大家知道這個兩年多之前，大家滑臉書、滑 YouTube，大概都會看到很多 AI 生成的詐騙嘛。那那個時候全世界都碰到這個問題，但是臺灣這邊是非常嚴重。那所以你如果去問就是臉書，或者是其他地方設計演算法的，他們就說我們並不是故意，而是說可能因為詐騙的這些投放廣告的人，他能夠付的 pay per click 是比較高的，因為人家無本生意。而且呢這個也能夠及時的去抓最新的新聞一出來，他就會針對那些新聞去投放關鍵字，所以呢它的占比也高、它賺的錢也多，那人家的演算法只是要最大化這個。
沒錯。當年就是很小的這個 BERT 這一類的技術，大概就可以完成了。
但是在其他各國都很少看到有一個情況，就是說當我們發現有這個需求出現的時候，我可以告訴 Meta 或者告訴 YouTube，說我們整個臺灣社會，大家就是覺得你要負這個程度的責任，其他國家比較沒有辦法白紙黑字的寫下來。那主要原因就是因為很多地方，還沒有前面覺察力的那個流程。
那我們當然就是寄了 20 萬則簡訊，給隨機的號碼，用 111 那個官方的號碼寄，那也有上千人提出他對這種資訊完整性的想法。我們像非常嚴謹的民調一樣，抽了 447 個人口上面比例上跟臺灣一樣的人，那大家就線上透過史丹佛的平台，透過 Civic AI 的一個小幫手去鼓勵大家，就算就是覺得想的方案不完美，但是不要害羞啊，就盡量講話。
那每個人只要能夠說服對面九個人，就是螢幕上的九個人，那他的想法就可以往上浮、變成政策。那我當時是部長嘛，我就說大家只要都同意的東西進我們的草案裡面，那所以到最後大家就想出了現在叫「廣告實名制」這樣一套方案：如果沒有標示，然後又主動推送，有人被騙了 700 萬，那平台就要賠這 700 萬了。所以，就要透過數位簽章等等的方式，如果不配合的話甚至可以降速、限流等等。
所以這就包括「誰」：那些平台、「做什麼」：連帶責任或者是要實名制、「何時」：所有有付費的，不管是貼文還是廣告都要、「為何」：因為你接觸到超過 5% 的人口，包含 Threads 現在也接觸到 5% 的人口了。至於「如何」實作的這個部分，當然可以交給行政、立法來去想，看我們要怎麼寫成法律。
但是至少就不是像很多其他國家，會說這只是哪個黨派的看法、另外一個黨派可能不這樣想，或是哪一個區域的人的看法嗎、別的區域不一定這樣想。沒有，我們是類似全民調的分布，有 85% 可以同意，另外 15% 的人覺得這樣也還可以接受，那所以就後來立法嘛。那去年 1 月執法配套都上路了，按照數位發展部給路透社的數據，大概從去年 1 月到 12 月，這種冒名詐騙、投資詐騙廣告，下降超過 94%。
這樣子的做法，就是所謂的集體的，現在叫做 model spec 模型規格，或者是當年叫做模型的憲章。
那我們 2023 年的時候就有看到，Anthropic 參考我們在臺灣試出來的這樣一套做法，他們也在美國做一樣的事情叫做 CCAI，collective constitutional AI。他們就是跟 CIP 這家組織合作，也是去問了具有統計代表性的 1000 個美國人，然後去問說當時——我記得是 Claude 2，然後他們正在練 3 的那個時候。
