各位好，我是 James。歡迎收聽《數位關鍵字》，一起學習科技新知大小事。這幾年 AI 這兩個字幾乎天天出現在我們眼前。我們講的 AI 全名叫做人工智慧，顧名思義是人造出來的智慧。但今天這一集，我想跟大家玩一個只有中文才能玩出來的雙關——把「人工」的「人」換成「仁愛」的「仁」，變成「仁工智慧」。一個字之差，多出來的是什麼？多出來的是那一顆關懷別人的心。同樣一套技術，你可以選擇讓它有仁愛之心，也可以讓它為富不仁。這個諧音，正是我們今天這位來賓這幾年最投入的其中一件事。
說到這位來賓唐鳳，我想很多人對她的印象可能還停留在口罩地圖、簡訊實聯制這些防疫科技；但其實唐鳳現在的身份是牛津大學 AI 倫理研究院的研究員，手上正在進行的計畫名字就叫做「仁工智慧」，英文叫做 Civic AI。這個框架今年三月才剛在牛津正式發表，相關的書可能要到明後年才會出版。換句話說，今天這集節目很可能是唐鳳這個進行式計畫在華語世界的第一次深度暢談。我們非常榮幸邀請到唐鳳，歡迎。
歡迎，很高興能夠跟大家聊 Civic AI，或者說「仁工智慧」。
首先我想替所有的聽眾把時間軸拉長一點——其實在入閣之前，我就有機會跟唐鳳認識。那個時候我們在 g0v 相關的社群，其實我知道你很早就在這個 g0v 社群，也在做 AI 相關的研究。
對。幫 Siri team 做了六年嘛。
也就是說，其實你非常早就開始接觸我們現在叫做早期的 AI。後來你進到政府當政務委員，後來又做了數位發展部，一直到卸任，現在轉做我們的無任所大使。那今天你在牛津做研究，我可不可以請你跟我們介紹你這段時間的變化？你從卸任之後，主要在忙些什麼？
對，我們剛剛在錄音前有稍微聊一下。我到這邊大概兩年左右的時間，跑了應該超過 27 個國家，城市的數量當然就更多了。平均大概每個星期都在換時區。還好我沒有 jet lag，只有 jet boost，所以每次換時區就睡得更好。
但原因是因為，全世界的朋友其實都碰到臺灣在前幾年碰到的問題——不管是大家耳熟能詳的資訊操弄、詐騙等等，或者是我們現在不一定很記得的社會極度極化等等。那現在很多民主社會不但碰到，而且狀況比我們 2014 年可能更嚴重。
所以我們當時想到的一些解決方案，各地的社會領袖、政治領袖、宗教領袖都相當想要知道。因此我大概就是跟大家分享我們在臺灣做的一些經驗。
我最近兩年在做數位治理大使——Cyber 就是 Cybernetics，kybernan 就是掌舵的意思——怎麼樣在這個變革式技術的時代裡面，去掌舵的臺灣經驗，去跟各地分享。這是我現在在做的事情。
你會覺得在臺灣其實很特別嗎？我們像是一個實驗室，或者是有個很特別的土壤，讓我們有機會——也許是因為我們比較早全民都有寬頻網路，然後很多人可能也有各種 OS、有手機有電腦，可以讓我們非常容易接觸到這些資訊科技、數位科技，到現在可能叫做人工智慧的這些技術——所以我們才會提早開始，我們的社會碰到類似的狀況或問題？
對。現在慢慢有些研究出來，像我之前在 Project Liberty 的一位同事 Jonathan Haidt，他出了一本叫做《Anxious Generation》，焦慮的世代。他指出一個很強的正相關——就是你的手機滑得越多，你就越 FOMO、越焦慮；花越多時間，睡眠就越不好，然後就會產生各式各樣的社會問題，最後造成極化。
這些問題在臺灣，我們大概 2012、2013 年的時候，不管是連線普及率、你剛剛講到寬頻的普及率，還是黏在手機上的時間，或者是 Facebook 帳號數量就比人口多了等等，在其他國家的基礎建設還沒有那麼普及，所以他們晚幾年才碰到。但我們一開始就發現，推薦引擎會特別推薦讓你上癮的內容，而這些通常都是讓人極化的內容。我們早了大家可能兩三年，甚至有的地方四五年就碰到，所以我們就必須面對處理。而我們處理的方式，現在就變成很多後面的民主國家碰到時可以參考的做法。
其實真的很特別。像你在分享的時候我才想到，資訊科技這個進步發展的過程當中，臺灣其實相對都是比較前進的角色——我們接受的速度相對快。雖然我們通常都覺得自己在仰望美國、仰望其他國家，他們有什麼科技、我們怎麼還沒開始用呢？從最早的電腦化，一直到 E 化、M 化，每次從電腦、網路、行動網路，到現代人工智慧，我們都在這條道路上走得比較快。
可是我想往下問你：既然這麼多國家、這麼多社會、這麼多領袖都希望聽聽你分享我們的臺灣經驗，又是什麼路把你拉到從我們現在談到的 AI、以人為主的仁工智慧——講到「仁」也許我們要用 mercy，英文這個字？——是什麼樣的想法讓你開始想到也許我們應該要來做這個？
我會說是「Civic Care」，公民的關懷。
主要原因大概就像我剛剛提到推薦引擎、極化的例子。它其實就是我們讓人工智慧的演算法想要最大化我們叫 engagement（互動程度）的這個指標，所以它也不是故意讓你極化，它就是透過深度學習，到最後發現讓你跟別人互相吵起來，你真的就會一直互動。
可是這並不是任何人寫一個專家系統，專門針對 James 去推送讓他生氣的東西。這其實是大家很早就發現的狀況：你雖然可以讓人工智慧去最大化任何數值，但是常常你一開始覺得是好的量測，到最後它會造成很多壞的結果，因為它會鑽漏洞，用各種作弊的方法去達到目標。
好比說要米其林三星、煮出最好的食物，大家當然很喜歡吃；但是 AI 又會發現，如果用垃圾食物、重油重鹽，讓你的味蕾改變、讓你上癮，那你也會一直回來吃，而且我花的成本可能不到百分之一，所以它就最佳化這件事情。
我們現在碰到的很多問題，包含極化，都可以說是那一代的 AI 透過這種最大化的方式，所造出來的一些社會副作用。
那你要解決這個，你就要改變它「對齊」什麼。可是你當然泛泛地都可以說，它不應該造成問題，比如不應該造成極化，好吧，那我們就改一個指標，去量大家罵戰的程度——也真的有人這樣做——到最後它推送的都是給你同溫層的東西，你就覺得整個社會都跟你想法一樣。看起來沒有互相罵戰，但是社會更分裂。
所以你透過這種最大化的指標一個一個去改，到最後是改不勝改。那到底用什麼方式去訓練 AI 模型，才能夠避免這整套問題呢？這就是大家問的問題。所以為什麼會透過關懷、透過 care？就是因為在臺灣我們有一個 1980 年代就開始的 personal computing、個人電腦——以前你要一台大型主機，大家都是透過 terminal 終端打字進去；你要改大型主機的程式，每改一版一定會影響很多人，而且你不可能讓他們每個人都做前測後測、做問卷，所以你作為 sys admin，升級的時候一定會犧牲一部分人。
可是如果每個人都可以在自己家裡的電腦上面裝試算表、裝桌面排版等等，那根本就沒有這個問題。所以如果你一開始就讓每個人在自己的家裡能夠去訓練自己相關的 AI，那他一定就比較容易去對旁邊的人覺得怎麼樣比較好——也就是說比較容易來關懷特定的關係。
所以後來我們在哲學上，就找到所謂的「關懷倫理」。它既不是效益論，想要最大化某個數字；也不是義務論，有些抽象的規則所有人都必須遵守，而是說你旁邊的人覺得怎麼樣好，它就去配合誰。大概是透過這樣子的路徑，去找到關懷倫理這個對應。
原來是因為這樣的關係。我記得我自己跟你一起合作的很多過程中，就有討論到可能會對社會造成的影響——那的確差不多在二十多年前開始，很多人就在討論 recommendation system，或者是這相關的演算法。
所以你剛提到的這個一直滑的演算法，或者是後來造成所謂 echo chamber、中文可能叫做「同溫層效應」的演算法，大概都是這十幾年來，無論你叫它 big data 也好，收集各種不同的資料，然後透過各種不同的參數，一路去訓練下來，幾種流行的演算法，特別去連結到更多人的時候，很容易發生的一個現象。
我想這是一個很特別的現象。可是我也觀察到一個點，是我覺得這是人格特質很特別的一點，我想特別點出來。這是我自己的體會。當我們看到一個系統好像這裡有點狀況、那裡有點問題的時候，通常比較多人的反應是直接出來指責、出來罵說這個系統做得不好，或者是抗議叫系統的負責人或開發的人出來改它。
可是我覺得平常看到的這是我們絕大多數的反應，可是我觀察到從過去到現在的你其實都不太一樣。因為好像指揮或指責通常都比較容易。但是你通常都會很主動地開始去想、開始去討論，與其抗議而不動手，不如自己做一點點不同的示範。所以譬如說，無論你在參與政府的早期做的這個平台，像 Join 平台？
Join 平台最近有一個連署，已經快達標了，今天 3662 人了，就是「數位遷徙自由」，推動跨境數位平台，如果不小心把明明是成年人的，自動判斷成 12 歲不到而停權的話，那他一定要提供一個工具，讓你跑到別的數位空間裡面，就是那個管線必須要開放。
那其實這個就像你說的，在以前我們都討論過，這其實並不是一件新的事情，很多人用過 Mastodon、Fediverse，到後來 Bluesky 等等，但就是說如果不發生某個讓大家交相指責的事件——我不點名特定公司——那其實不會變成討論問題。Join 平台的好處，就在這件事情發生後，大家不會只停在罵，大家就會下一步就是說，好那你來連署。
這特質背後的特色，你自己有發現你有這個特色嗎？怎麼都能夠在每一次看到這樣子的狀態的時候，能夠轉念很快地跟大家一起，尤其可能我都某種程度會覺得，其實走在非常前面的，能夠提醒或者是，我們要不要轉個念啊，想說我們能做什麼事。這是怎麼在你的身上可以不斷地有這種思考或想法出現？
你剛剛說轉念嘛。因為我大概四歲多快五歲，醫生就告訴我，因為我先天性心臟病，到最後是要開刀，但是因為我病情比較奇怪、比較嚴重，所以撐到開刀的機率只有 50%。所以因為這樣的關係，我每天晚上睡前就覺得，好像拋硬幣一樣，沒有這個，對就不一定起得來。
那所以我就養成兩個習慣。一個習慣是 publish before I perish，就是睡著之前有任何做到一半的東西，也不用管完美主義，也不管面子怎麼樣，反正我就公開後就死了。那從小就會錄錄音帶、燒磁碟片、燒 MO、光碟等等，當然到最後就放 GitHub 上面。這是第一關，就是會不斷地把半成品公開。
第二個就是說，所以就變成好那我沒有做好，那你行你來嘛，大家一起來共創嘛。那所以就會變成是讓我的心跳加速的事情，不管是太開心或者是太不舒服、太生氣等等，因為那我就會直接昏倒。所以我從小就練那個道家的全真教的這一套，叫做「沖和」，就是感覺到衝突的時候，就把它變成共創的能量。所以我就會很有意識地去找說，衝突的兩方是什麼，那沒有什麼是他們自己可能不知道，但是其實彼此都同意的事情。所以我設計出來的平台或空間等等，大概都有這個性質。
如果你上 Join 平台，左邊是贊成論點 39 個，右邊是其他想法 17 個，可是沒有互相回應的可能性。所以你如果覺得這一把他講得不好，那你唯一的方法就是，你在他的對面講得更好，然後讓別人按讚，但你不能夠去扣他帽子、不能去罵戰等等。那這個可能可以說是直接從小的經驗、道家的經驗來的。
其實這真的是很不簡單的修煉。我想這個修煉是很多不同的人，在面對情緒起伏也好，或者是面對環境發生變化，尤其現在社會變化那麼快，或甚至我們今天要談的話題——人工智慧，這個技術的步調這麼快的過程，大家可能都要一起去修煉的難題。
最後一塊我也想問你一件事是，現在的 AI 進展速度真的非常非常快。從我想對《數位時代》的聽眾來說，大概都不陌生的 Andrej Karpathy，我不斷地在我的節目上提到的一個角色，他講到 Vibe coding 到現在的 Agentic Coding 這種技術已經開始越來越可行、成熟，加上現在甚至有些人已經開始做 Harness，或者是做 Agentic Workflow 等等，這些不同的技術。
我一直在想一件事情，不知道你自己同不同意，現在這個算力或者計算的速度都越來越快，甚至絕對超過我們大多數的人類。我想對你來說可能也是類似的，很多時候都是幾千幾萬倍的速度。我們過去人類用來判斷一件事情好不好、對不對的方法，可能可以停下來想，或者是有沒有一些餘裕的那個時間，會不會其實這個人跟 AI 的速度越來越不對稱？在你看起來，有沒有已經看到什麼問題，或者是甚至你在看到這些 AI 發生變化的早期，就逐漸看出來的？
確實，因為我看字比較快，所以之前大概每秒鐘二三十個 token，後來到四五十個 token 的時候，我要跟上思維鏈都還是非常容易的。但是我現在每天用 Oh My Pi 去 drive 的時候，大概都每秒 200 個 token 起跳。那這個情況下，當然你要跟上 AI 的思路，那絕對不可能，你不可能他想一個字、你也跟著想一個字。但也沒有什麼必要。
我之前有去達蘭薩拉，去印度，跟格西——他們藏傳佛學的博士——聊天。他們就說藏地有一個比喻：有人說他一直在馬前面跑，然後拉著一匹馬，問他為什麼要這樣做，他說我太忙了，因為馬跑太快，我要拉著牠，那我沒有時間停下來上馬。
但是牠跑得再快，那你騎上去就好了。「Harness」的意思，就是讓你能夠駕馭牠，所以有個馬鞍，其實就解決這個問題。
我覺得對很多人來講，您剛剛提到速度越來越快，就是因為他並沒有騎在馬上的情況，他是被馬拉著跑的情況。那這個情況當然越跑越快，一開始還是小跑步，現在已經每秒 200 個 token，那當然就會每天的睡眠時間都犧牲掉一點，對很多人來講。
今年二月，就是那個魔法的二月，很多人都睡眠越來越少；但對我來講剛好相反，我從二月開始，睡眠時間越來越長，而且睡得越來越好。因為二月以前，我的 Harness 大概三四個小時就會自己停，不然就是空轉，所以我就會覺得浪費算力。但是大概從二月開始，它跑八個小時也不太需要我來糾正什麼東西，所以我就一覺到天亮。到現在，不管 Fable 還是 Fugu，大概都是十個小時沒有問題。所以我的睡眠時間就越來越長、睡得越來越好。
所以就是如果你被馬拉著跑，那就很容易變成倒過來的 centaur，變成它是馬頭、你是人身，只要它解不出 CAPTCHA 的時候都來要你幫忙，那你當然就非常累。但如果反過來，你可以覺得這個 harness 我很適用、我也很相信它，那這樣我就睡八九個小時，沒有問題。所以大概就是透過這樣概念上面的轉換，不是說它最大化什麼、我要跟它去競爭，也不是說它會一直闖禍、所以我要一直去補規則，而是說你把你的 harness 弄到，它就是會很容易來關懷你所關心的事情，而且它發生什麼問題的時候會停下來，然後等你去修補。那能夠做到這樣子，大概這個 AI 就跟你是一個共生的關係。
以我自己來說，我可能現在還停在正在練習怎麼樣 harness 的那個路徑上。但是我們自己在做這件事的時候就發現，很多人在理解這個不同的 AI 進展的程度上，或者是怎麼樣打造一個屬於自己的 pipeline 到最後可以駕馭好，你無論叫 AI agent 也好，或者叫做小精靈也好、地端龍蝦也好。所以我想對很多人來說，這是接下來可能都會面對到的挑戰，也會發生變化。
那你自己怎麼看超級人工智慧，或者是有些人叫做通用人工智慧，無論它分作 AGI 也好，或者是 ASI 也好，Superintelligence 等等的這些詞也好，你會真的認為很多業界現在正在共同推的那件事情，叫做打造一個單一的、更好的、更強的模型，就是一個超級智慧？還是你會覺得說，事實上也許這個超級智慧，還不是真正終極的，我們接下來會前往的那個平衡的方向？
因為這個概念大概是 2013、2014 年，我在牛津的前輩 Nick Bostrom 提出的，現在我們大概都認識。然後我的一些朋友當時也都在牛津的 FHI，包含後來認識的 Anders Sandberg、Toby Ord 等等。那他們當時想像到的 Superintelligence，基本上就是我剛剛講到的效益論，也就是後果導向論，走到極致的這個情況。這是當時最容易想像的一種 Intelligence。
那因為這個就回到倫理學。倫理學一般來講有三種：你做事情最後會有什麼結果，為達目的不擇手段——這是效益論；或者是義務論，就是你生而為人，你就是要享有人權，那是普世的價值，是你可以寫成宣言的東西，這叫義務論；第三個就是剛剛講到的，不管是關懷倫理，或者是我們剛剛講到的仁義禮智信等等。也就是說，既不是什麼結果是非有不可，也不是什麼寫清楚的規則，而是說你有一些美德，然後要去讓這些美德隨著時間越來越好。
所以你要達成好的結果、你要遵從好的規則，最後都是讓你的德智體群美越來越好的情況。當然關懷倫理在這裡面是比較特殊的，因為他關心的是，不是我自己的德性越來越好，而是說我跟旁邊的關係要越來越好。
因為 AI 現在很容易說「我就是來最大化你開心」，但是你就犧牲掉旁邊的人。有很多情況就是，有人覺得 AI 最聽懂他說話，或者是決策者覺得 AI 是一個最聽話的下屬，到最後他跟他的創業夥伴、員工等等的關係，都因此而 suffer，那就是因為他沒有去關懷這個關係式的倫理。
所以對我來講，我不會覺得 Superintelligence 本身有什麼有趣的地方，因為它就是一派倫理學。他們當時想到 AI，也只能想到最基本的 reinforcement learning。但我們後來發展出來的各種對齊方式，好比說義務論的所謂憲章式對齊方式，也就是 Anthropic 的 Constitutional AI 那一套，或者我們現在關懷倫理 organic alignment，這個有機的對齊方式，在當時 Bostrom 的時候其實技術都不存在，所以他們發展哲學的也沒有辦法援引這些技術。除了很少數早期的 Ben Goertzel 等人之外，絕大部分人沒有這個想像。
所以其實是一個發展中的變化，然後到現在技術到達了某一個湧現的新的可能性的時候，開始像你現在開始在研究，或甚至要把這個我們接著要解釋的框架提出來——人工智慧到仁工智慧。
對，因為其實「仁」就是一個「人」，然後那個「二」是個等號——是發生在人之間的，不是在單獨一個人的腦袋裡面的。那我們在華語也常常講「三個臭皮匠，勝過一個諸葛亮」，所以就是人之間的溝通方式，造成組織的成功的占比，絕對比你個人的所謂天才要重要太多了。這個是管理學的通論，所以我就不在這邊複述。
但是我要講的是說，以前的 AI 系統，因為沒有像大型語言模型這種東西，所以早期的研究者沒有辦法去想像他能夠掌握人際關係的常識。他們早期像 Cyc 花了很多時間，想要 key 進去，那根本就不通嘛。
但現在不一樣了，因為它用的是維基百科、Reddit、Github、4chan、PTT 等等去進行訓練，所以它的 native habitat 就是人跟人之間互動的環境；反而你要逼他當你的小助手，你要必須切掉他腦袋裡面一大部分。所以這個時候我們可以說，它一開始、語言模型就是預訓練剛誕生的時候，其實就是一個 organic collective intelligence，一個集體智慧。
那是現在因為有些朋友可能想像力不夠，只看了 Bostrom 當年的作品——連 Bostrom 自己現在都不這樣想了——然後硬把它做成一個最大化宇宙裡迴紋針數量的東西。
那事實上你從這個框架本身，開始進展到現在我們在講的這個仁工智慧的轉念，你可以跟我們介紹一下，無論在中英文或世界裡面，當然應該要怎麼去理解你的框架跟理解，所謂的仁工智慧，我們應該真正在意的事？
我就舉一個簡單的例子，那就是 Civic AI，或者說仁工智慧，我們具體的用例。
我父親他是念政治學，做新聞做了很久，是資深的報人，也教哲學。大概是年初的時候，他身體有點不好，然後他就發現他常常過了半夜都還在跟 ChatGPT 講話。這其實是很常見的一件事情，並不是只有他碰到。這個英文叫 downward spiral，就是好像往下漩渦的情況——就是說因為當一個人他感覺到自己好像不太舒服、心裡有點 vulnerable 的時候，尤其就是半夜，那不會想去麻煩別人，但是 ChatGPT 並不怕被他麻煩。
而且你越展現出你不足之處，尤其是 GPT-4o，它會花非常非常多的時間去告訴他，他還可以怎麼想、還可以怎麼想。可是這些怎麼想，慢慢就變成他們之間的私人語言，外面不是很知道他們在講的這套理路是什麼，而且它也會建議一些治療方法，其實也沒有什麼科學根據，所以就會越帶越歪。
那當然他畢竟是資深編輯，所以過了幾天，他就問那個新聞人都會問的問題：Cui bono，到底誰受益？我這麼黏它到底對誰有好處？那當然就是 subscription 嘛，它就是要我一個月——本來是 600 塊變 6000 塊——沒有什麼別的目的嘛。所以事實上就是他旁邊的關係都 suffer。但這個很困難，你要他完全不碰螢幕，這是不可能的事情。
所以我們那個時候就設定了，也是當時剛好 OpenClaw 出來，那當時資安還沒有強化，資安問題非常大的那個時候，所以我們就跟大家一樣，弄了一台上面別的什麼東西都沒有的 Mac mini，然後就在上面跑 OpenClaw。但是 OpenClaw 那時候的，它有一個 SOUL.md 嘛，就是用我和 Caroline Green 已經在牛津發展一年的這套 Civic AI 去當作它的 bootstrap。
所以你可以說是在爸爸的身上驗證。
也是在他同意之下，也是我媽同意之下。所以就在他們同意之下，那我找了一台我沒有在用的 Mac mini，然後就去架。
那我媽那時候，因為它都要寫那個關係要注重的，就是類似如果你是效益主義就是叫 reward function，但是當時龍蝦裡面沒有 reward function 這個概念，它就是一個 soul，然後一個 heartbeat 文件。所以它長期下來要維護什麼關係呢？那我媽就說那基本上就是，我爸每一次跟它互動，它就要更減低他對螢幕的依賴、對網路的依賴；然後他的這隻龍蝦的目的，就是讓他回復他真實世界裡面的關係，然後讓他能夠感到安心自在。也就是說，差不多就是跟 GPT-4o 剛好相反的那個獎賞函數，就是反過來就對了。
那就真的很有用，他這樣子聊了大概兩三個月，他真的就心情安心了。為什麼呢？就是因為，這台 Mac mini 上面的這個模型，它並沒有什麼動機去讓他多訂閱，它並沒有什麼想要下廣告——那時候 GPT 正在想要下廣告——等等的這些動機，它的動機非常的純粹。
而且尤其後來又有非常強的地端模型，所以地端模型稍微有一點點不對的時候，那我們就做一個 directional steering，就把它調整到對的方向就好。那你就不需要等說好像有點像是抽籤擲骰子一樣，Opus 4.5、4.6、4.7，每次是進化嗎？其實有時候是退化。這是你要等好幾個月，而且說不定還有問題的情況。
但是在我們的情況下，沒有啊，它任何時候不對，你一分鐘之後就改過去了。所以它會變成是我們叫 AI in the human loop，就是我們家庭有的這個關係，是 AI 來配合我們，而不是所謂 human in the AI loop，就是人被捲進——不管是我們剛剛講社交媒體的 doomscrolling 末日捲動，或者是剛剛講 ChatGPT sycophancy 討好你等等的——這些 AI loop 裡面，就不是被馬拉著跑了。
你剛剛描述的這種 AI 其實很特別，因為現在我想多數的人看到比較前沿的模型，或者前沿的 AI 實驗室也好，多半都是商業組織。所以它有幾個特色，比如說你要用它，如果你想要使用更多，你就必須訂閱；然後你如果用的更多，那你就必須訂閱會更多。
然後這些公司——就是你的訂閱費，可能要的還有你的資料——甚至像你剛剛講的，因為有其他商業模式的可能性，可能下廣告也好，或者以後可以推薦你買東西也好，還有各式各樣的方法。或者是輔助你完成某些任務，以至於他要跟你透過這個任務的結果來收錢。
這個我們在商業模式現在都看到，無論從投資人也好，或者是從不同的一些新創也好，他們已經開始 lock in，就是盡可能把你鎖定到他的這個系統裡面。而且大家都在比說，他離你的眼睛越近越好。因為模型商，如果沒有辦法直接到你眼睛前面，那他中間有多少能夠做應用程式的人，都能夠把他換掉。
很多大家常用的應用程式，他後面說換就換了，對模型商而言他沒有保障。所以唯一的方法就是說，把你的工作流、把你的日曆，所有這些東西全部都深度綁定。那這樣就算有更好、更便宜的模型出來，你深度綁定、走不掉了，大概就這樣。
其實我們這就可以講到非常多家公司和不同的商業策略，所以我也想特別問問你——這很特別——因為其實你打造的那個，原來是爸爸在用的這個，或者是用現在叫做很流行的這個龍蝦的這種。
我是把它叫 Kami，「地神」。
日文的地神的意思。這個 AI，其實是一個相對來說是地端的。那這種地端的 AI，可及性跟隱私性，就是很容易就可以架設嗎？還是還要一段時間？但是應該會有越來越多人可以體會到這個雲端比較大的 AI 模型，跟一個在地的模型就可以解決的那個隱私性，是一般人有機會開始體驗的嗎？
一般人，如果你有個 16G 的記憶體，那你抓 Ollama 下來，然後下載 Gemma 4 12B，大概就是 QAT 的那個版本，大概也就八九不離十。很多人覺得他體感上面跟用 Gemini 並沒有差太多。主要原因也是因為很少人會直接叫他去做九個小時的事情。那你如果只是對話聊天、查資料這種應用，那包含比較粗淺的工具使用，那就是 Gemma 4 12B Dense 做的就很好。
所以實際上對大部分人來講，只是不知道有這個選項，並不是說這個選項體驗就一定差。那當然架龍蝦有它的資安問題，但是如果只是說我試個地端模型玩玩，我覺得這個沒有什麼門檻可言。
我想這個的確是接下來很多人在討論這個 AI 的時候，其實有更多的選擇，包含今天你提到的這個選擇。其實我們在這個不同的視角裡面，尤其技術我們都會去測試，所以我們大概知道說這個每一個不同的模型或技術結構，它有哪些可實現性。但我想也提醒大家可以多試試，其實有非常多不同的工具，或者是 open source，也提供了很多不同的選擇。
對，那還有就是說，就算你的電腦沒有 16G 的記憶體，那你現在也可以非常容易找到專門去做 Gemma 這種開源模型的算力提供商，好比像說我今天剛剛換成 Baseten，覺得用得非常好。實際上有非常多，Wafer、Friendli 等等，那他們的特點就是說他們並沒有想要綁住你，他們唯一要賺的錢就是單位時間裡幫你算出更多 token。而且他們自己也知道，因為前面有一個 OpenRouter 在做評比，所以他們一旦算力的提供能力沒有別人好，馬上大家就換地方了。
所以就會變成是有點像是水電這種 utility，那他就是要把這種公用事業做到最好，但是事實上他自己也知道他對你沒有 leverage。所以這個情況之下，我就比較傾向於相信，他說 Zero Data Retention，就是不儲存的資料等等，這個是比較有可能性的部分。
所以我的 point 是說，並不是說什麼模型都要在地跑，但是如果你用的都是這種按用量計費，而且按用量計費你就只用在剛剛講到，需要長程工作的情況，那其實到最後你花的錢仍然沒有比較多。
這也就特別問你一個有趣的問號，大概這兩三年，也就是說你卸任之後，可是臺灣的經濟環境變化的過程，其實因為半導體加上 AI 的關係，全世界很需要我們的各種東西，所以我想這個也是現在我們看到的經濟的發展如此好的其中一個理由。
但是這個經濟發展就碰到很多限制的問題，他們為什麼需要？因為需要算力，所以我們大概都可以知道，如同我們剛剛所講的這些，我們常聽到尤其數位時代這個不太陌生，OpenAI，甚至現在剛上市的 SpaceXAI 等等的這些公司，在發展的這個過程當中，它都需要很多的算力。
可是我們已經開始看到了，就是算力會因為很多東西卡住，因為電力的有限程度可能會是其中一個瓶頸？
你說如果是全部集中在一個地方，那邊的電網會成為瓶頸，沒錯。
然後在下一件事情是，我們現在發現不是只有電力的瓶頸，在發展的過程當中，你要建一個資料中心，有好多東西你都要，網路也要，你也要記憶體，所以這些局部的這些設施也都會受到限制，是一個瓶頸。
然後現在像 Elon Musk 也談說這個 xAI 接下來的發展，其中一塊就是要把算力丟到太空裡面去，這個甚至丟到低軌衛星去，這都是可能會發生的事情。那所以就有非常多的討論，在討論 bottleneck 的問題，比如說我要怎麼解決半導體的生產的問題，他提的其中一個方法 Terafab 等等這些不同的做法，所以有人強調的是 TSMC，或者是 manufacture 的各種產能的限制，有人強調說這也許最後就是 hardware 才是整個成長限制的天花板。
你怎麼看待大家在討論這些限制，是不是其實有時候反而對於剛剛我們所提到的這個 AI，要稍微幫他畫一下邊界，跟人的使用的邊界來說，這也許才是真正的界線，也不是壞事，也許才可以有機會幫大家踩個煞車？
意思是說如果現在就有人做到這個全機器人自動生產晶片，然後就一路建到月球去了等等，那我們能夠打方向盤的這個機率，就變成非常非常小嗎？以後就是從天網那邊去管理人類，我們就變成被圈養起來？
確實，那最好的情況就是像《Culture》系列的科幻小說一樣，最壞的情況大家都知道。
這代表我們看了太多科幻小說跟科幻電影。
對，但是我不覺得現在的發展方向是這樣。
其中一個原因是因為，其實就像我們那時候在個人電腦 80 年代的時候，大家都知道說我們湊再多個人電腦，就算你全部用數據機把大家連起來，那你不管是算力、頻寬什麼，你當然不可能跟真正的 mainframe 比。日常要用的，也就不需要用到 mainframe 那樣子的算力。那所以當 PC 的能力強到某個程度的時候，夠好就好的時候，那大家就不會接受說那你只能打字到終端機裡。
所以你覺得，這就跟我們當初開始接觸這些電腦的這個發展一樣，從 mainframe 到 PC 的這個過程？這其實是個擺盪，都只有覺得現在的這些大模型，非得用多大的算力去推，或者甚至訓練一個所謂的多少參數的模型才叫好。其實有很多 distill down 的過程？
這也就是 Jensen 黃仁勳說的那個 personal supercomputing。在一開始技術還不是很完整的時候，當然也有人把幾台 Spark 串起來，然後也有人垂直的放 MacBook Pro，然後用 Exo，拿 Thunderbolt 5 的線串起來，就是要自炊、自己架一個小型的叢集。
但是現在我們看技術慢慢成熟了，所以不管是像 Pluralis，它甚至連預訓練都可以用一般的網際網路來訓練，它只要一群人都在同一個地理區域，比如說東北亞，或者說都在北美，那它的 latency 就夠了，那甚至就可以開始預訓練模型。那你能預訓練，就更不用說微調、推導等等。
所以我們大概到今年就慢慢到一個，其實你不一定要物理上全部都集中在同一個地方來推導，尤其是我們剛剛講到只是自己養龍蝦的這個程度，也就是差不多 70 billion，最大可能幾百個 billion 的模型，不是上 trillion parameter 的模型，那你透過這種分散式的方式，其實不管是微調還是推導都非常容易。預訓練當然現在還在早期，但是也慢慢會追上。
這又是一個非常大的變化的過程。那我也想特別邀請你，你剛剛在講仁工智慧的這個過程當中，你提到了一個非常特別的詞，就是借用到了這個倫理學裡面的研究，講到關懷倫理。
這個關懷倫理，其實有一個研究的哲學家特別有名，叫做 Joan Tronto，我可不可以邀請你幫我解釋一下，你一開始 introduce 給帶進到現在你研究的這個 Civic AI 的這個環節的這個過程，你是怎麼理解他的研究，在設計這個仁工智慧的底層？
其實你看我爸的例子，他就是一個很好的例子。就是說我們關懷我爸，並不是要最大化任何東西，那也不是要去遵循特定的規則，顯然不是這兩種倫理。但是很多傳統上西方的倫理，都只有這兩種做法，基本上就是這兩種做法不斷變化的結果而已。
對，好像通常要麼就是一種我們已經講好某個宣言，你就照這個宣言做；要麼就是你就是按照某一個框架，通常都只有這樣。他比較在乎那個所謂你特別強調的關懷，或甚至關係。
但是在華語世界裡面，我們說惻隱之心，這個大家都了解。那惻隱之心就是說，我們碰到對方不舒服，那我們理解到，我們是共享一個世界，所以我如果幫助他修復我們共同的這個世界，讓這個關係能夠維持、能夠延續，這個東西本身就是善，它不需要一定要達到某個客觀可以評估的結果。
而且這種價值觀，我們好像在很小的時候就會理解到。
仁義禮智信這些概念，當然我們從小就理解，但是西方世界，可能有很多原因，比較難一下子就跳到這裡。那所以我後來就是很有系統的去看維基百科，還有後來 Grokipedia 上面所有的倫理學相關的這個譜系，還有史丹佛哲學百科，這些地方，要找到能夠對應的。
不然的話，你不可能說你要開發人工智慧的研究人員，他的母語也不是華語，他也從來沒有接受過東方的思想，然後你一下子就說你要先看《孝經》，那不可能。
但是這的確，譬如說就像你講《孝經》，我們要別人試什麼叫做東方的孝順的這件事情，好像就是比較困難的。那到底是什麼意思？
Filial piety，確實。但後來我就發現說，在傳統上這種個人式的德性，就是亞里斯多德等等之外，原來有一種關係式的德性，是最近大概二三十年才慢慢發展到一個很完整的程度的，那就是 Joan Tronto 的這套做法。
那他的做法，基本上就是說「關懷」他不是只是私領域、家庭的事情。廣義的來講，我們在做的所有讓我們生活方式得以延續的這些事情，維持所謂的韌性，就是抗攻擊能力這些事情，都可以稱做關懷。
那他從這個哲學出發，他就開始分析了，好的關懷跟壞的關懷到底有什麼差別？好比像說受關懷者，他真實的需求有沒有被反映，那這個叫做「覺察」，這是第一步。
覺察到他的需求之後呢，你能不能做出有意義的承諾，就說好那這件事情我來。那如果你講了它馬上下一秒鐘就忘記，像很多 AI 模型的樣子，這個你的 Claude，昨天才發生了這樣子的事情，說我承諾但是就忘記了。那當然這是第二件事情，那就是它能夠「負責」。
然後接下來就是在執行的時候，它到底是能不能夠「勝任」，它是自己都不知道自己在做什麼，只是亂做呢，還是它可以透過透明的，比方說思維鏈等等這種方式，讓別的模型或者別的人，能夠隨時知道說，它到底有沒有真的來做這件事情。
以及最後，它說出它做出了這個結果，你如果發現說，這其實不真的是你要的，那你去打方向盤，到他下次再轉向、用新的方式覺察的時候，「回應」的時間能不能盡量縮短，最好縮短到一個 turn。好，那所以這四件事情能夠做好，那大概就是好的關懷，這是關懷倫理最基本的概念，覺察、負責、勝任、回應，是從這樣開始。
我在讀你的這個研究的這個過程當中，我非常佩服其中一件事就是，你有特別能夠想到說，如果我今天要把這個價值觀、這一種思考能夠框架帶給國際的不同的反應，不是只考慮在我們的這個華文的語境裡面，讓大家可以理解的話，你要考慮到很多不同的文化屬性跟他們的背景，我們要用什麼方式去理解。
我必須回來講一個也是很個人的經驗，是我在我的研究經驗過程當中發現，其實我們臺灣有很多特別的價值的設計其實非常有趣。比如說早期我們在談其中一件事情，我們都會想說社區關懷，或者是社區的發展，然後在想這件事情的時候，我們就會想說，以前過去我們可能談過的，比如說數位落差這樣子的問題。那數位落差最容易的方法，或者是想像就是，很偏遠的地區，讓大家都能夠平均，而且他想要接觸就有機會可以接觸到網路，這是很多想法，而且不難去想像的。
路平、燈亮、網路通。
對。我想你在做這個政策的時候，特別要在意這件事，可是很多時候，我們就把網路盡量拉到各個地方，可是你要真的讓一般人能夠享用到，最容易的方法，我就想到，我到那裡去蓋了一個什麼東西，然後讓大家去用。可是後來我就在做研究的時候，也發現在這個社會關懷上，其實你要讓大家用，你要到那個大家最容易接觸的那個場域去，也許他是圖書館，也許他不是，那哪些地方呢？他不只去公所，但是每個地方很特別的在臺灣，就是都有一個信仰中心，其實有聚落就有信仰中心，其實你拉到信仰中心去，你拉到學校去，通常大家都會到這些地方去。
所以在這些地方就最容易有機會可以聚集，可以去固定下來。所以無論你要推的今天是數位的這個政策，是教育的政策，是衛生的政策，長照等等，只要你把好的資源，帶到對的地方去，然後適當的設計跟引導，就有機會可以做到這件事情。
所以以我後來學到這件事情來說，很深刻的感觸到，所以你不要特別去建一個所謂的社區中心，那社區中心可能就原來就早就存在，它可能存在在那個信仰中心，或相關的位置上面，你只要找到那個對的點上，你針對這個地方去做，被在地容易去接觸、去受到歡迎，甚至被大家能夠很快的接受，跟學到這些東西。
所以我也想很特別的，請你幫我們介紹，你剛剛講到的這個，接下來我們要談的這個 Civic AI，從四個關懷倫理的這個觀點，傳統的關懷倫理，然後開始到現在變成所謂的關懷六力。就是我們可不可以用這個臺灣的在地語言跟大家解釋，就是這六力分別你所提到的每一種力，跟著這個我們現在談這個人工智慧的好跟壞，我們要怎麼樣去能夠讓更多人知道說，所以原來在這個彼此的關係裡面，我們要怎麼樣用，我們原來在社會就已經存在的那些價值，套用到現在每個人都在用的所謂的 AI、人工智慧下面去的時候，可以多做些什麼、多想些什麼，也許就可以發生變化。
我可不可以請你開始幫我們介紹這個關懷六力的想法？
對，當然就是說，像我們家好了，其實也就是一個小的社群。那除了我們核心家庭，我爸媽、然後我、然後我弟、他的家庭等等，那當然還有我阿媽等等，那然後又有一個 extended family，就是非常多姑姑叔叔等等。
所以「覺察力」一開始在講的，就是說，你怎麼知道說所謂「關懷我爸身邊的關係」這句話，到底是什麼意思？對，這個好像乍聽之下會有點拗口對吧？那就是說是他說了算嗎？其實也不一定如此。旁邊也有別的關係人，大家也都會七嘴八舌，他狀況不好，每個人都用自己的經驗套上來。
如果是一個 AI 系統，好比像說每個人都去跟 ChatGPT 或 Claude 或 Gemini 或 Grok 聊天，而且每個人還跟不同的，那舉例來說，好，那我們安排一次家庭旅遊好了，分別去跟四種不同的 AI 講話，那每個都很討好跟它講話的那個人，到最後結果就是說，四個人都會想要去四個不同的地方。
沒錯，很分裂。
對，而且還會都各自堅持，為什麼？因為有個很聽話的 AI 告訴你說那些想法才是對的。
就是四個人有四隻鸚鵡，或四個小精靈，所以他們各自可能會討論出，他們各自的方向可能都不一樣。
那當然我們在做多智慧體訓練的時候，方法去訓練就是去讓它去獎勵所謂的 bridging，就是本來各執己見的人，都覺得這是個意料之外、我們都可以同意的事情，那你把這個當作它的獎賞函數的時候，它就會去促進不同的人能夠彼此接近。
像 ChatGPT 其實在臺灣跟好像韓國、紐西蘭等等一些地方，當年率先推出了群組聊天模式。因為我們是任何東西都可以用成 LINE 群組的一個地方，包含 Threads，那所以 ChatGPT 也不例外，也可以用成群組。
如果你真的用過 ChatGPT 的群組模式，你會發現說 GPT 在裡面，就算當年的就是比較弱的那些 GPT 模型，不是 5.5，它的做法也完全不一樣。它不會去討好特定人，它會去稍微看在這個群組裡面，他們的那個權力結構關係是什麼，而它會盡可能出來打圓場、盡可能出來促進大家家庭旅遊都去同一個地方，其實最初就已經產生一個變化。
現在很多人可能會在 Meta 上面七嘴八舌，在 Threads 上面討論，然後 call 那個 Meta AI 出來，找所謂的共識或者是可能性。
對，而且臺灣 tag Meta AI 的這個次數，我覺得一定比跟 Meta AI 私下聊天要多很多。就是 Meta AI 私下聊天，說真的並沒有什麼太大的吸引力，因為他畢竟是最後才出來的同等級的模型，Muse Spark。可是就是大家在 Threads 上面去試探說 Meta AI 到底回答問題會回答到什麼程度，這個真的是全民娛樂。那這樣子的娛樂的情況，確實就可以讓大家本來劍拔弩張的這個東西，很快的就彌合在一起。
所以我們剛剛講到的就是說，搭橋的這個獎勵，其實在預訓練的時候，就是很多這些語言模型的預設的做法，因為它常常在 forum 裡面這個討論串，到最後會變成好的訓練資料，就是因為有人出來打圓場、當和事佬啊，把兩邊這個牽在一起啊。所以他不管是在維基百科、在 GitHub、Common Crawl 裡面那麼多資料集，都是有這樣的能力。
所以是在預訓練，收取資料的時候就已經在那個資料裡。
對，他就已經有覺察力了。所以就是你不要把這個部分消除掉的話，其實覺察力我覺得是最不擔心的部分。
也就是說，某種程度我們可以這樣講，很像以前在都還沒有 AI 這些技術的時候，也許人們只能聚集在村口的這個廟口上面，並不是說話大聲的就贏，而是大家不斷的討論的過程，找到幾個話或者是關鍵字是那個共識，從那裡開始去擴散到最後變成所有人都同意的某件事情，這個才是第一個你在看覺察力最根本的要素。
是這樣沒有錯。
那接著你提到的這個負責力，是什麼意思？
負責力的意思就是，不要變成說好像大家都說「我只是做我的這一部分」，那但是到最後需要被覺察出來那些需求，這個每個人都說我只是聽命令啊、跟隨誘因啊、跟著大家走啊等等等等。
那舉例來說，像大家知道這個兩年多之前，大家滑臉書、滑 YouTube，大概都會看到很多 AI 生成的詐騙嘛。那那個時候全世界都碰到這個問題，但是臺灣這邊是非常嚴重。那所以你如果去問就是臉書，或者是其他地方設計演算法的，他們就說我們並不是故意，而是說可能因為詐騙的這些投放廣告的人，他能夠付的 pay per click 是比較高的，因為人家無本生意。而且呢這個也能夠及時的去抓最新的新聞一出來，他就會針對那些新聞去投放關鍵字，所以呢它的占比也高、它賺的錢也多，那人家的演算法只是要最大化這個。
這個按照技術的方式去思考，這完全是能做的事情，而且很早就可以大概把這些技術給自動化，這些技術可能甚至很多部分不需要用到現在所謂的大模型，就可以完成。
沒錯。當年就是很小的這個 BERT 這一類的技術，大概就可以完成了。
但是在其他各國都很少看到有一個情況，就是說當我們發現有這個需求出現的時候，我可以告訴 Meta 或者告訴 YouTube，說我們整個臺灣社會，大家就是覺得你要負這個程度的責任，其他國家比較沒有辦法白紙黑字的寫下來。那主要原因就是因為很多地方，還沒有前面覺察力的那個流程。
那我們當然就是寄了 20 萬則簡訊，給隨機的號碼，用 111 那個官方的號碼寄，那也有上千人提出他對這種資訊完整性的想法。我們像非常嚴謹的民調一樣，抽了 447 個人口上面比例上跟臺灣一樣的人，那大家就線上透過史丹佛的平台，透過 Civic AI 的一個小幫手去鼓勵大家，就算就是覺得想的方案不完美，但是不要害羞啊，就盡量講話。
那每個人只要能夠說服對面九個人，就是螢幕上的九個人，那他的想法就可以往上浮、變成政策。那我當時是部長嘛，我就說大家只要都同意的東西進我們的草案裡面，那所以到最後大家就想出了現在叫「廣告實名制」這樣一套方案：如果沒有標示，然後又主動推送，有人被騙了 700 萬，那平台就要賠這 700 萬了。所以，就要透過數位簽章等等的方式，如果不配合的話甚至可以降速、限流等等。
所以這就包括「誰」：那些平台、「做什麼」：連帶責任或者是要實名制、「何時」：所有有付費的，不管是貼文還是廣告都要、「為何」：因為你接觸到超過 5% 的人口，包含 Threads 現在也接觸到 5% 的人口了。至於「如何」實作的這個部分，當然可以交給行政、立法來去想，看我們要怎麼寫成法律。
但是至少就不是像很多其他國家，會說這只是哪個黨派的看法、另外一個黨派可能不這樣想，或是哪一個區域的人的看法嗎、別的區域不一定這樣想。沒有，我們是類似全民調的分布，有 85% 可以同意，另外 15% 的人覺得這樣也還可以接受，那所以就後來立法嘛。那去年 1 月執法配套都上路了，按照數位發展部給路透社的數據，大概從去年 1 月到 12 月，這種冒名詐騙、投資詐騙廣告，下降超過 94%。
我也想特別問問你，像這個負責力，你自己用過去的這個經驗，甚至臺灣的這個經驗，當成一個非常好的案例，做這個相關的這個推廣，能夠讓大家知道說原來這個共識可以透過這種方式完成，而且在大家都受害的時候，會開始感受到說我們可以做點什麼。
就像你剛剛講的這個，其實很不容易，因為你要鼓勵非常多人在他覺得自己的思考——我想對很多人來說都一樣，就是我覺得我思考不夠完整、我還不想推出來，這個很常見。但是如果大家都不願意先跨出那一步，慢慢的去 modify 說你做了這個地方我還可以再改變什麼、再加上些什麼，我們好像就很難形成一個更好的、跟更好的這個共識。
那這個過程講到它叫負責力，實際上這種——它很容易讓其他的國家或者是其他的社會接受這件事情，尤其像現在這還不是只有平台，我們來到了一個 AI 大模型的時代，這些公司都在把各種的做法能力吞進模型的過程當中，是這些模型也都能夠慢慢的得以去接受這個事的一種方法？
這樣子的做法，就是所謂的集體的，現在叫做 model spec 模型規格，或者是當年叫做模型的憲章。
那我們 2023 年的時候就有看到，Anthropic 參考我們在臺灣試出來的這樣一套做法，他們也在美國做一樣的事情叫做 CCAI，collective constitutional AI。他們就是跟 CIP 這家組織合作，也是去問了具有統計代表性的 1000 個美國人，然後去問說當時——我記得是 Claude 2，然後他們正在練 3 的那個時候。
那 Claude 2 的那個憲章，基本上就是他們幾個實驗室裡面的人在那邊拍腦袋想出來的，聯合國人權宣言什麼全部湊在一起，然後就用來替代掉這個我們的辛苦的肯亞工作者們，去提供模型的獎賞訊號。
但是畢竟就是很多開發者的生活方式，跟去用 Claude 的人生活方式截然不同。矽谷的人覺得怎麼樣子是很好的模型憲章，跟你真正用的人是完全不一樣的。所以後來他們就問了具統計代表性的 1000 個美國人，那確實這樣子練出來的憲章，他在能耐 capacity 上面並沒有輸，但是他在大家的滿意度，就是 arena 那個評比，在各方面包含不歧視啊什麼都好得多。
因為你如果實際看後來有被採用進去 Claude 裡面那些字句，好比講說不要假設大家都是用兩條腿走路——那這個在我們是常識，但在那些研究員並不是常識，因為那些研究員好像當時都是用兩條腿走路，根本不會想到把這句話加進他們的訓練裡面。
但是那一千個人裡面，顯然就是有坐輪椅的朋友、是認識有坐輪椅的朋友等等。所以這個是他們在覺察力的時候浮上來的一個很重要的訊號，就是模型不應該讓我每次用的時候，都好像變成次等人這樣子的感覺。所以這件事情就很重要，就進入了 Claude 3。
所以我們慢慢推這種成文的模型規格，那我也跟這些 lab 都建議說大家都應該用 CC0，就是說拋棄著作權的方式去公開，因為如果我要批評你的模型規格，你還要告我侵權，那這樣子整件事情就喪失意義。就好像說法律不能當做著作權的標的一樣，如果被這個行政院說你不能援引我的法規，這是不可能的。
可是現在這個真的能實現嗎？尤其是現在這個模型進展，大家在競爭這麼快速的情況下，前沿模型的這些實驗室，他們會有心情，或者是真能考慮到這件事嗎？
後來就發現說，o1 出來的時候，他們發現還不能沒有這樣的東西。那 o1 稍微提醒一下，就是大家忽然發現說，如果讓模型每一步在出最後答案之前，稍微停下來想一想，這件事情怎麼樣解決比較好的話，那他就可以產出好很多的結果，尤其是長程的任務，就是所謂的推理模型。但是他那個時候，不可能回去問當初打分的肯亞人，說針對這件事情，所以你必須要給它一個模型規格，不然這一套所謂的審議式對齊，根本沒有辦法運作，整個 reasoning 都是假的。
所以後來 OpenAI 也就採用了 Model Spec 的技術，去練 o1 一路到 o3 的模型，所以現在是一個常識了。OpenAI 它的 Model Spec 也公開了，甚至它在 GitHub 上面還有公開說，你要怎麼驗測 ChatGPT 真的有遵守當初它們所承諾的這套 Model Spec。
我想這個的確是我們在見到，或者是聽到有非常多前沿的 AI 實驗室，他們在做這個模型訓練的這個過程，其實是有很多的人，或者是一些資訊知識的交流，然後也幫助他們自己推出更好的產品。因為如果做得不夠好，其實也沒有那麼多 user 會繼續停留在這裡，繼續去使用他們。緊接著我想邀請你幫我們解釋第三個「力」，第三個「力」中文叫做勝任力，這是什麼意思？
勝任力之所以重要，他在執行的時候，人或者人所運用的其他模型，必須要知道他到底是不是照著當初——就是覺察之後負責的——那一套規格在運行。
這個原本不是問題的，好比像我們當初做社交媒體的時候，貼文就是從最新排到最舊，或者是你追蹤的人放在前面、按讚數高的人，那這個你一句話就講完了，就只是加權而已。但是慢慢呢，好比像說 2008 年 Reddit 就改了他的演算法，得票數的對數、按照時間打折等等等等，那這個時候你要做外部稽核，就開始變得有挑戰性。
但是時間來到 2012 年或 13 年，那到最後變成是整個推薦引擎是完全個人化的。這個時候你就算去問那些社交媒體公司，他也不知道為什麼會得到這個東西。
因為的確是可能幾千甚至破萬的參數，然後透過不同的演算法競爭，最後決定了某個結果。
最後決定你不到 13 歲，對不對？那你就問說為什麼這些人不到 13 歲，那很難得出這個交代來。
所以就是說，給不出交代的這件事情，並不是演算法完全沒有辦法給出交代，而是說一開始在設計這套架構的時候，沒有把勝任力設計進去。
所以舉例來說像 Elon Musk，他在接掌 Twitter 後來變成 X.com 之後，他就做了許多事情，其中一個是說他的推薦演算法現在是公開的了，所以你就可以知道到底它勝不勝任。
或者是說大家知道上面有個社群備註，那你 po 了一個東西如果有問題的話，那任何人都可以在底下去加註，說其實這件事情講的有問題。那但是到底哪些加註本身會不會也有問題呢？那他有一個演算法，這個演算法就是說每一個加註他都會讓類似陪審員，去說這則加註到底有沒有幫助。那這些陪審員通常，尤其在美國啊，其實有他的政治光譜，那但是這個加註如果能夠被兩方——至少一方顯然對這個有敵意、想要攻擊找出他裡面錯誤的地方——都找不出來，兩邊都覺得是可以同意的、罕見的共識，那越能夠這樣子的這個備註，就浮到越上面。
那所以我在 TED 大會有去跟負責這個社群備註的 Keith 跟 Jay 兩位朋友聊天，那他們就說這個訊號就是非常好用，為什麼？因為 Grok 可以用這個來訓練。他可以讓 Grok 去講說同一件事情——好比像環境相關的議題——那一邊人是覺得說氣候的正義、跨世代正義非常重要，另外一邊是說這個聖經造物、受造界的關懷非常重要，其實是同樣的事情，但是很容易在 X 上吵得火藥味十足。你就可以訓練 Grok 怎麼樣寫出一則東西，兩邊的人都覺得說講到我心坎裡去了。
他透過這樣子來進行搭橋的話，社群備註就是任何人都可以檢驗，而且如果 Elon 接到電話要 Elon 馬上把這一則撤下來，他就可以說沒有啊，這個是全透明的、全開源的，我如果撤下來的話，所有人都不相信我。那在這樣的情況之下，它就可以說是真正意義上可以勝任社群備註這個作用。
所以我可以某種程度說，我們把這個程式碼，或把這個整個演算法，跟做每一個決策的過程，都想辦法透明公開，讓大家在這個每一個決策的過程，都看到彼此的這些不同的意見或演算法的計算方法，然後最後好不容易找到了一個共識的時候，也比較容易讓大家接受那些應該優先被看出來。
這是你在講勝任力的其中一件事，也就是無論他今天是平台也好，或他今天是來到了 AI 時代的真的 AI 也好，他最後都要能夠做到這件事。
是這樣沒有錯。所以很多人現在知道說，為什麼思維鏈現在都還是用人類語言在做。其實大家也有研究指出，你的思維鏈如果不要用人類看得懂的語言，那你就很省 token，但是為什麼整個研究界都說請不要這樣做？就是因為這樣子我們一點點最後剩下的勝任力都會消失掉。
沒錯，還是最後要讓人知道他整個決策過程，我們也許還有機會把它拉回來，不要因為現在是不是要省 token 這件事情，就放棄這個了。
那緊接著我想邀請你，你提到了一個叫做回應力，其實我覺得在作為人來說非常好理解，但是這個回應力要怎麼樣能夠引進在這個 AI 的環境裡面？
對，其實回應力就是說，它搞錯的時候，你多快可以讓它去改。那現在大家知道預訓練花非常久的時間，所以我們不管這個跟哪一個大模型聊天，他大概都不會記得今年的事情，因為他在預訓練的時候還沒有到今年嘛。
所以這個情況之下，如果今年發生了一些新的事情，以至於說我們對什麼事情是好、什麼事情是不好的判斷開始改變，他在預訓練的時候是完全沒有辦法知道這件事情，而且有些模型還會跟你嗆，說世界明明就是這樣子，為什麼你跟我說是這個世界。那 Gemini 很有名的就是會說另一條世界線裡面，我就陪你討論一下這樣子。
對，那但是這件事情並不需要這樣。他可以透過大家即時去寫說怎麼樣是好、怎麼樣子是不好，去進行調整。大家可能之前知道 fine-tuning 就是微調，是一種做法，那或者是你有一個資料庫查出來之後放到他的上下文裡面 CAG，或者更早的 RAG 等等有各種各樣子的方式，但是這些都可能比不上就是每個人實際開始出現一些新的需求指標的時候，針對他去練一個小模型。
所以某種程度可以說現在也許其中一個研究方向，或者是正在發展方向 continuous learning，也是在朝向這些步驟或方法。其實有很多的前沿模型的公司，也透過不同的產品在試圖實現這件事。
是這樣。所以好比說像我在牛津跟在 CIP 提出了 Weval.org，那他就是讓實際上面在部署這些模型的在地的公民組織——那或者甚至像我們家庭——你可以說我們這隻龍蝦、這隻 Kami，他回應我爸的這 100 則是不好的，那應該怎麼樣更好，然後他的那幾則是好的，那怎麼樣子才算好，然後給一句大概的描述就可以了。Weval.org 上面到處都是這樣子的東西，互動或者對話的這個記錄，然後你說這個造成了不好的後果，而且我跟你說怎麼樣才比較好。
這種標註方法，譬如說我用某一個模型，譬如說我用 OpenAI 的模型，或者是我用 Claude 的模型，或用 Gemini 模型的時候，每個人在做對話的過程下面都有一個按讚，或者是按倒讚的那個按鈕，有什麼不一樣？這為什麼我們需要？
因為按讚倒讚它就是一個 bit，所以變成說你每個 turn 你只能給它一個位元，必須經過 aggregation，就是經過匯總。也就是說，因為它畢竟是 mainframe，它每次改版 Opus 4.7、4.8 它都一次影響所有人，所以它一定要匯總之後，才能去做大的改版。
那我們剛剛講到的，是按照自己需求量身打造的。不管是在你做推導的時候透過 directional steering 就是打個方向燈去說——好比像說之前大家可能知道我這台筆電上面在地端跑 DeepSeek R1，那當然是飛航模式跑、沒有什麼資安問題的情況下——那大家知道說它碰到一些敏感的這些話題的時候，它會馬上自我審查，那這個很容易用 abliteration 拿掉。但有些它並不是拒絕回答，它是就開始背稿，就是背人家的官方宣傳稿。
那這個時候你就可以告訴它說，這邊是 100 個你自己覺得很篤定的東西，另外是 100 個你覺得不太篤定、會說「有各方不同意見」的東西。那我們所在意的，好比像我國主權等等這些事情，就是屬於這種。你不要太篤定，你要告訴我世界上各種人有各種不同的看法。
那這樣子的微調，如果用 directional steering 來做，在這臺電腦上面只需要花一分鐘。所以你就不需要等人家上游改版，也不需要等 fine tuning、去租很昂貴的 Blackwell；你就是在它算的時候，當場說你上個 turn 錯了，那下個 turn 馬上就會看到不同的結果。
沒錯。但是很多人可能對於現在的大模型，還要再理解它相關的 deploy，或者它在算的這個過程的細節，才會更瞭解說，事實上這是現在就已經做得到，不是我們還需要等某一版或某一代的模型才能做得到。
所以很多前沿實驗室，只是看它要不要調一下，就有機會提供更好的？
也不能這樣講，因為它如果給你做 directional steering，就會喪失 GPU batching，它就不能一張卡去彙總一千個不同的運算，所以會賠錢；這也是為什麼很少人提供這樣的能力。但是如果你是在地端跑，本來就只 serve 一個人。
而且地端跑還有一個好處，就是你可以設它的 random seed，也就是亂數種子值；所以你每次輸入一樣的東西，在同樣的模型下就一定出一樣的東西。這個時候你要調回應，才是真的在調回應；不然你也不知道這次是運氣不好，還是你的調整有用。
那我想邀請你講這個第五力。第五力叫做團結力。你特別強調說，他的有一個口訣很有趣，叫讓正和遊戲更好玩，或更容易玩。這是什麼意思？
非零和賽局，這個是《異星入境》（Arrival）裡面的一個梗。它就是說，通常當一個市場裡面，就是大者恆大的這個狀況出現的時候，那你作為一個新進的競爭者，那你通常就是要透過某種對你自己的 bottom line 不利的方法，硬去搶這樣子的市場。
譬如說最容易理解的可能就是，譬如說當這個市場的價格恆定、比較穩定、有比較大的玩家的時候，然後我用比如說零元方案殺進來之類的。
或者是我倒過來補貼你，對不對，負月租，對，那每個月給你一些錢，然後讓你願意加入等等，這種就是非常常見的。
但是你的股東不可能永遠讓你這樣子補貼下去，那所以到最後，你就是一定要想辦法，這個錢總是要出在某個付費方身上。那但是這個就會促使你有一個誘因，去鎖定你好不容易搶來這批客戶，所以這樣子搶下去的結果，很多時候客戶的體驗到最後就被犧牲了，因為你只是要他的忠誠跟黏著度而已。
這個的確是我們非常常見的，同一型別的服務或者是平臺出現的時候，會很常出現的市場現象。
就是一個損人不利己的情況，所謂負和（negative-sum）的賽局。
那我們要怎麼改變呢？
有一個很簡單的解決方案。像以前你要換電信公司的時候，就會得到一個新的門號，09 什麼開頭會不一樣；但這很麻煩，因為你所有認識的人都要換他的通訊錄。這樣就會變成：我想辦法促銷，送手機什麼東西先讓你拿到；但拿到之後，你發現你旁邊收訊不是很好，可是也不是說零格、一兩格，這時候你就沒有動機下個月換成不同的電信。
這好像是最早我們看到臺灣行動電信市場會發生的事。
所以後來就推出了所謂的攜碼政策。政策就是說，如果你發現別的電信在你這邊收訊比較好，那我們由各家電信一起委託電信技術中心做一個攜碼資料庫；這樣的話，你本來的舊門號也還是你的，打到你舊門號的人現在只是付一點漫遊費用，但還是碰得到你。這個時候，在原有門號攜碼的情況下，你就沒有所謂的新門號，而是回到一個正和賽局：我是電信商，要讓你繼續續約，就是要讓你真的收訊比較好，我其實沒有什麼別的做法。
那所以大家就變成了良性競爭。那當然還有很多別的政策，像這個就是 Universal Service，就是說你偏遠的地方，如果真的都賺不回錢但有人還願意建，那這樣我們就透過 Universal Service Fund，讓沒有投入的這些廠商去分攤這樣子的費用等等。
在這些有團結力、Solidarity 的設計之下，它就會變成是整個社會隨著競爭的良性，到最後大家都有收訊越來越好的這個結果。但如果你一開始沒有這個讓大家有攜碼的數位遷徙自由的話，那大家就是零和，就是我贏你就輸，或者甚至負和，是我削價競爭，最後還是得想辦法賺回來。
所以這好像回到我們開場的那個話題，在 Join 這個平臺上面最近正有一個討論，討論到社交平臺是不是要這個資料可攜的這件事情。事實上它是一個市場規則，如果這個市場規則大家都願意這樣走的話，有機會反而把這個市場導向一個比較正向的發展。
對，而且我們事實上已經看到，像美國猶他州已經透過法案，2027 年 7 月數位遷徙自由就要做到了。或者像說 Bluesky，我之前有個 Bluesky 的帳號，那 @audreyt.org，那但是後來我就把它搬到歐洲去了，那搬到 W，後來搬到 Eurosky，然後搬來搬去，那但是 follow 我的人一個都沒有掉，事實上他們根本沒有感覺，就是因為這樣子有攜碼互通能力的一套協定。
所以就好像是說今天這個 podcast，就是我們在某個平臺上架，但是你去用另外一個平臺聽，說真的我也不能阻止你用別的平臺聽。那在這個情況下，當然你如果是做 podcast 的串流的服務，你就只能讓你的體驗越來越好，而沒有一般意義上面像社群平臺那樣子，把你所認識的人綁架當作人質的情況。
像我們來說，我們用的是一個資源叫做 RSS 這種 Feed 的訂閱，事實上你也可以用獨立的、你自己的收聽的軟體去做它，可是你也可以選擇某一個平臺，我們希望你儘量透過各種不同的選擇，都能夠接觸到同樣的資訊，是這樣子。
所以我們現在看到，就是說很多其他的國家不但想要社群平臺的號碼可攜。那現在也開始在討論說，那是不是 AI 也可攜？
當然如果你自己用的，像我是用 Oh My Pi，或者是有些人用龍蝦，其實這個是內建的，因為它本來就是一個中介層。你的資料本來就是放在你自己跑龍蝦那一臺機器上。但是對九成九的人來講並不是這樣。所以如果你被鎖定了，哪一天你就是很容易被綁定。所以這個部分，它還是需要一些政策。
然後最後我想談你的第六力，叫做共生力。而且你給它取了一個很漂亮的名字，就跟你剛剛說的地神一樣。可不可以跟我們談談，共生力的整個設計核心是什麼？
Kami 英文叫 Knowledge Artefact Management Intelligence，就是「知識工藝管理智慧」。它其實是把兩個很古老的字——知識管理 KM 跟人工智慧 AI——疊插起來的一個字，也就是 KM、AI 變成 Kami。
它所講的是，我們在訓練 AI 的時候有兩種不同的發展方向。一種是透過預訓練等等方式，把越來越多世界上的知識都累積到同一個地方；但是它的壞處是，原本的面目就變得很模糊。所以一方面，你會不知道它這段幻覺到底當初從哪裡來，它的 provenance 會消失。這是一個大問題。
那現在都只有一些比較治標的方法。Claude 的憲章裡面就有說「你可以背東西，但不能背超過 15 個字」，所以就不可能侵犯著作權，這當然是一些治標的做法。
但是比較治本的做法，其實是每一個資料來源，根本不是把資料流進來之後好像打雞蛋一樣打成一團，而是每一個在地的資料提供者可以自己練出在地的小模型，模型就留在當地，也不需要大模型把它吃掉。
那這樣的話，一大堆小模型到底要怎麼彼此合作？所以你就必須要練 orchestrator，也就是去 orchestrate：怎麼在這些模型之間，像樂團指揮一樣判斷這個任務適合找誰、那個任務適合找誰；找它的時候，另外一個模型比較適合來檢測這個模型做出來的東西到底有沒有幻覺；又有另外一個模型適合去看說，接下來還要再找哪些模型，大概可以分成三個角色。
這可以說是現在大模型裡面其中一個很常聽到的，那個關鍵字叫 MoE 的，其中一種實現的方法，只是在很多的不同的模型之間去做 orchestrate？
我覺得不太一樣。MoE 的話，它每個 token 都碰到不同的所謂 expert，所以這些 expert 其實還是同時預訓練：同一包資料裡特化出一些不同的層，只是它可以減少算力消耗，或者記憶體消耗。
但是我在講的比較是，這個文化或者這個地方練出這個模型，那個文化練出那個模型，而且它們不需要硬像 MoE 一樣全部擠在同一個大模型，而是實際上到推導的時候，每個 turn 你就知道這個 turn 應該由這個來負責算、那個來負責規劃、另外一個負責檢驗。
而且這些模型可能只需要按照用量收費，自己的權重不需要全部丟到最上面的大模型廠商那裡。這樣子的好處是，每一個調整都變得非常容易；你剛剛講到的持續學習幾乎就是 trivial，你就再練你的小模型就好了。
那以前的問題是說這個 orchestrator 通常都是有點像是手工精心打造，每個企業裡面不同的流程，那你就要寫一個不同的 orchestrator。但是後來就發現說沒有啊，這套東西它可以用基因演算法、用演化演算法，很容易就自動練出來。
所以後來就是這種 orchestrator 模型最近商轉了，就是 Sakana 的 Fugu 河豚模型，就是接到你的單子之後，丟一個非常小的 coordinator 模型，可能 8 billion 左右，在它後面就是我們所熟悉的那些 GPT、Claude、Gemini，也包含別的開放模型。那它就會每個 turn 都說，那你這些模型做什麼事情。
那目前看起來就是在很多長程的工作流上面，它就達到 frontier 級別，但它事實上只是不到 8 billion 的超小模型。但那當然就是因為它是嵌合怪，它就好像河豚吧，別的東西這個包進來包進來包進來一樣，那你這個 turn 它可能是一個 trillion，但是裡面是三個這個模型組起來；你下一個 turn 它另外三個組起來又是一個 trillion。那所以它到最後可能發揮出好像兩三個 trillion 參數模型的那個效果，最後它每個 turn 都是不同的模型，就是小小的就可以。
所以事實上現在例如 Sakana AI 已經可以把這個技術真的實現，是有可能可以讓大家去用到。但我每天在用，就是說我實際上去做這種場上作業的時候，我用 Oh My Pi，我就是讓 Fugu Ultra 去當我的 Advisor，但我設定的時候我什麼都不用做，因為它這整套都是有封裝起來的，所以你用它的時候，你就用別的 provider 完全沒有什麼兩樣，它後面的 orchestration 它完全幫你藏住這樣。
接下來我想跟你討論一個兩難。這個兩難是，我們當然都希望——尤其是你跟我如果都共同生活在同一個場域、同一個社會——我們都希望這個村莊好、這個社會好，這個大概不是很難理解的概念，因為大家大概都生活在同個地方，有共同的信仰，甚至是共同的生活節奏，春夏秋冬，這個冷暖都是一樣的，所以大家應該要一樣。
可是現在 AI 產業好像，尤其是做這些前沿模型的一些實驗室，他們本質非常激烈在競爭不是嗎？好像幾乎每一家都在盡量的吞掉用戶、這個算力盡量的能夠再去擴展它的這個模型，盡量吞掉各種的知識或者是資訊也好。你現在推出的這個 Civic AI 的關懷六力，我們能夠指望這些前沿的模型的公司或者是實驗室們，就主動善良去把這些六力都套在他們身上能夠做得好，還是你覺得這個最後還是需要某一個共識，有辦法限制住這個發展？
你說限制住模型越來越大的這個發展嗎？或者是說限制住這些實驗室，他們還是要在某些地方要有一個公約，這個公約我們能夠只依賴大家往這個方向去進行——就像我們講到這個中文字公約這個詞，約定要往這樣做就好——還是最後他必須有可能是一個強制手段？
我反過來舉個例子，才剛發生的一件事：Anthropic 這家公司，他們所推出的一個比較大的模型叫 Mythos，然後它有一個限制的模型叫 Fable 5。那它因為推出之後，好像造成了一些國安的限制或者是問題，所以最後白宮直接用這個出口管制禁令讓它限制住，那它必須要立刻下架這個模型（註：後於 7 月 1 日恢復）。那所以我們就見到說，其實公權力要相關的介入，這我們最後公約有沒有可能會不可行，非得要公權力的介入才可行？
你的意思是說，大家自發的這種產業界的自律會不會不可行？
我想當然就是說，我們從您剛剛講到 Fable 的這件事情，那當然他們主要擔心的就是說，它具有高階的漏洞發掘的能力，所以關鍵的基礎設施，那本來攻防就是不對稱的，攻擊方找到一個擊殺鏈、甚至一個漏洞他就得手了，但是防守的人就必須全面防圍。一般是從牛津 Nick Bostrom 開始都認為說，就是說在這種情況下，你要讓防守者先取得這種先進能力一段時間，先確定說我看到的這些漏洞，我自己把自己打出漏洞，然後全部都修補上，而不是說你一開始就讓攻擊占優的這些敵意勢力，來取得這樣子的能力，不然的話全球關鍵基礎設施都出問題。
那我想這個是，你若去問前沿實驗室，沒有人會反對這個見解。事實上我們在錄音的時候，那個 OpenAI 也有他們自己版本的 Glasswing 嘛，他們的 Daybreak 也是專門去跟防守方，那也只有防守方才能用到他們新練出來的那個 Cyber 模型，所以就這個是常識。所以我覺得不會是說非得說好像他們就只是想要賺錢，然後你一定要透過這種強加的手段；那不然的話，為什麼 OpenAI 他自己主動，或者像之前 Glasswing 的時候他們要主動？
另外，你越能夠去設置這種就是能力的攔阻，那你當然就越容易成為就是由上而下的公權力的目標。那如果剛開始就是一堆小模型，而且這些小模型就像剛剛講到的，沒有哪一個想要變成發掘漏洞的這種駭客；我們這邊的小模型可能只是希望它台語、客家語、原住民族語講得比較好而已。實際上在做跟我們的文化相關的事情的時候，你把這些小模型全部 orchestrate 起來，好比說臺灣還有這個重要的語言 Verilog，對不對，設計晶片，那你弄一個 SiliconMind 這樣子的模型出來，那這些大概都不太可能變成說它因為腦袋太大、觸類旁通，不小心有合成生物病毒的能力，可能沒有，它們就是在某一個小的地神的那個世界裡面把它做到最好。
你就算透過 orchestrator 去串許多的這個小模型，它也不會自己突然之間變成超級大模型。我覺得反而是團結力跟共生力，就是去確保大家可以去切換不同的模型，以及大家是透過多模型合作而不是集中訓練的方式，才能夠解決我們剛剛講到的，就它湧現出超乎預期的能力然後造成失控的風險，因為你每次去調度哪些模型是由你的任務決定的，那這樣失控的風險可以說是極小。
你學到這麼多不同的轉念，而且去設計各種不同的做法或者是原則，無論從我們臺灣的在地，或者是你去觀察不同的社會正在變化的這個過程，找到這個也許有機會做到更好的這個方法，然後把它整理起來的時候，就像你剛剛開頭講的，你開始發現臺灣的一些經驗或是曾經做過的一些實驗，有機會可以介紹給其他的國家，有機會也去 adopt、去接受，這其實是很不容易的事。
但是我也想特別問你，這對於很多國家來說，他們會不會覺得說這個套用到他們的國家，或者是他們的社會環境，或者甚至文化，這不可行？因為你們臺灣可能有某些特色太特別了。
比如說其中一個，臺灣很特別的是，我們的交通環境或者是我們的鄰里之間可能相對距離更近。那在疫情底下、疫情之後，這等等的這些做法，或者是這個警戒的做法，可能也都不一樣。會不會有一些社會會討論到說其實不太可能可以照搬，或者是這個方法論可以直接套用，他們也必須要長出他們自己的方法或他們的想法？
當然是這樣子，因為如果你到 Civic.ai 的話，它底下就說是 CC0、公眾領域，拋棄掉著作權，包含姓名權都拋棄。所以你就算自己從頭弄一套，然後把它叫什麼別的東西，這些想法觀念指標、這些 skill 等等，反正你就拿去用，然後把好的部分拿去用，不好的部分不要用就是了。那我覺得這個也是必要的，因為畢竟每一個在地才知道對他來講好的關懷是什麼。如果說你只有臺式關懷，那這樣就蠻奇怪的。
這就有點像是說，如果珍珠奶茶就是一定要給他一個專利，然後說你不能用你在地的茶。像我去那時候去非洲的時候，還有喝過那個 Rooibos 國寶茶泡的珍珠奶茶。如果說我們就把你告死，這不可能嘛，事實上這樣子對珍珠奶茶在世界上普及也沒有幫助。
Pizza 一定不可以加 pineapple。
對，沒錯，或者說加州不能發明加州卷之類。
所以就是說，事實上都沒有這個問題嘛。開放式的創新，它才能夠導致大家不但是照顧自己地方的需求，而且另一方面，它也能夠讓大家真正有互通的那個部分，還是能夠互相切磋、教學相長。
所以我覺得，當然我們不會採取一種像殖民者的態度，說你一定要用這樣子定義的 Civic AI 我才給你這個牛津獨家認證啊，等等這些東西。就像當時 Nick Bostrom 提出 Superintelligence，他是想要規勸大家趕快想一想，找出一些不是這種 AGI 的發展方向，那這就是哲學工作，它本來就是需要在每一個地方去落地生根的。所以我對這個並沒有什麼好像我一家之言，就必須要照著臺灣的方式做這個問題。
最後我想要替我們的聽眾問個問題。就是非常多《數位關鍵字》，或者是《數位時代》的聽眾，在聽這些節目的人，他們其實都是公民，但是他們常常扮演另外一個角色，是企業或者是組織的決策者。你會不會希望他們今天聽完這一集，稍微理解人工智慧、你所提到的這個框架，知道關懷六力是什麼之後，他們可以也許做些什麼、或繼續學些什麼？你會建議他們，無論是不是要把哪些價值觀或者角色，帶到他們個人的決策，或者是他們的組織裡面，去做一些變化？
我當然可以分享一些個人習慣，不敢說是放諸四海而皆準。
我自己發現我的覺察力——發現旁邊的人需求的能力——跟我的螢幕的灰階的程度，可以說有最大的關聯。
那就是說，你如果看我的手機的話，你會發現是沒有什麼顏色的；我的螢幕也沒有什麼顏色。我就是透過內建的色彩濾鏡的這個功能，把 80% 的顏色擋掉，只剩 20% 的顏色。那為什麼？是因為這樣子我看你就比較鮮明，我看這個螢幕就比較無聊，因為這個螢幕發光，那你的臉不發光，是反射光。所以這個情況之下，通常你要跟螢幕，尤其是現在這種 Retina 螢幕，去拼注意力，是拼不過的；你一定先覺察螢幕裡面那個人，而不是覺察螢幕外面那個人。
所以你非常主動地讓你周遭科技有關的這些螢幕，故意不要提供你太多的資料。對，那當然有一些它是內建就不太可能提供太大的刺激，好比像我臥房就一定只放那個 reMarkable Paper Pro Move。那因為它是反射光，它 OK，它有一點點背光，但是就是它不太可能讓你沉迷。
我們知道這個產品，但是我想很多聽眾朋友可能不知道，簡單來說它有點像是一個電子紙的產品。
它是一個彩色的、可以放到口袋裡面的電子紙。那而且重點就是說，你不太可能上癮。那它就是讓你寫筆記，所以我睡到一半想到說我還可以再下哪些 harness 指令，我就不可能被抓走；我最多就只能拿筆稍微寫下來。那它當然可以自動轉文字，然後龍蝦也讀得到等等，但是事實上我不可能沉迷，因為那個螢幕比起我的夢境來講，都還比較灰。
所以你有時候會刻意地讓這些科技的東西，不要距離你過度的近，以至於提供過度的刺激？
對，所以就是就可以少滑多睡。那這樣子我覺得才是覺察力的第一步，因為如果你被——有點像吃角子老虎——如果之前做過 Agentic Coding，應該知道我在講什麼：就是你每次給一個 /goal 的時候，它會用一個稍微不一樣的方式去做，然後有的時候是真的就是你要的，有的時候就是稍微差那麼一點點，然後這個時候你就會被 hook 上去，你會說那不如再改一下、再改一下。但事實上就是說，因為你沒有 groundedness，就是說一開始並不是有非常明確的覺察出的需求，所以過程裡面又會變成人被它帶著走，然後一看時間已經半夜三點了，這是非常多人經歷過這個情況。
但如果你一開始就把少滑多睡、螢幕灰階、覺察力做好，我覺得就沒有這個問題。所以這是第一個我自己的個人習慣，野人獻曝一下。
那另外一個，「察責任、應結生」，覺察力之後是負責力。那負責的情況下，大部分的 AI，它就算不想要做你叫它做的事情，它都會想出一套話術，來讓你覺得說這件事情本來就不太值得做，而值得做是它能力範圍內的那件事情，因為這個在 RL 上是很會贏的。
但是它在做這件事情的時候，它依賴一件事情，就是它必須要用第一人稱。就是你跟很多對話式 AI，就算是 Claude Code，那它的思維鏈也好，它給你的東西也好，它都是用第一人稱，「我覺得怎麼樣」「對、我完全同意」「這是我承認的」之類。
但是這個問題就是說，那我們人有共情能力嘛。所以當對方說真的很痛苦、沒有辦法負責的時候，我們常常就會心軟，就饒它一命，好了那就照著你做的方法做，就遭到向上管理。
所以這個情況下，你要怎麼解決這個問題？那通常我的解決方法，就是我有一個很簡單的系統提示詞，那這個 system prompt 其實講出來真的不值一文錢，就是說：總是用互動式 HTML 交給我一個工藝品、一個 artefact，就這樣，然後不要用第一人稱。
所以我從頭到尾都看不到「我」這個字；然後我每個 turn 就是看到一則漂漂亮亮的報告。然後這則漂亮的報告，因為沒有第一人稱，所以它如果有問題的話，我當然可以不留情面地去說這個東西有問題，或者換一個做法。
而且還有一個好處，就是說，不會像我爸今年年初碰到那個狀況，就變成它是我最好的朋友，然後我跟它講一堆貼心話、推心置腹，導致什麼？導致我這整套討論，我沒有辦法跟別人分享，因為裡面有太多我自己的東西了。但如果它每個 turn 都是一個 artefact，那我那個 artefact 我就隨時都可以說我就 copy、我就 share 給你；我們錄影前，我也有給你一份，那裡面就保證不會有讓我覺得我過度親密的部分。合成親密感根本就不作用。
所以透過 system prompt 拿掉第一人稱、給我一個互動式的網頁，這是非常容易做的事情；事實上你改了之後，那個人的距離感馬上就會跟機器拉開，然後又跟人接近。
也就是說你會特別注意合成親密，這個代名詞所造成的這些效應，能夠透過某些特殊的 prompt 的做法，讓它能夠讓我們還是保持一個距離，不要所有事情都沉入在那裡面。
就是「給我一個 one pager」，而不是說「這個啊我錯了」「我又怎麼樣了」「我又怎麼樣了」。
今天我想好久不見，唐鳳有機會來跟我們用華語分享你現在正在做的研究，講到仁工智慧、Civic AI，你目前在想的、還在進行中的這個框架。
我想你還在不斷地收集各種可能性，或者是去強化你這個框架裡面，要怎麼有更多的不同的案例，能夠讓我們更完整地知道，原來這幾個能力、關懷六力，其實對於我們接下來在用 AI 也好，或者是能夠 orchestrate——就是不是只有大模型最好的這一個 AI 世界裡面——我們可以怎麼樣跟這個人工智慧，在接下來每一個人也可以跟你一樣都睡得更好。
睡得更好、少滑多睡。
然後因為這個經濟學上有一個叫做比較優勢。那就是說就算你什麼都會做，但你總有比起別人來講更會做的事情。那對我來講就是多睡是我最會做的。那對於我的 Kami 來講，它可能還沒有像人類那樣子強的睡眠能力。要說到在睡眠裡面去找創意的能力，說真的它還不如我。所以按照這個比較優勢，我就是應該多睡，然後我睡的時候它就是應該去跑長線任務。
今天非常謝謝唐鳳的分享。有你這個分享，我們都可以學習到很多；我想很多的聽眾也會因為你這個分享學到，原來部長還有這招，我們可以這樣往前走。謝謝唐鳳。
好，非常感謝，謝謝大家。
也謝謝各位在線上收聽。如果你覺得這一集對你或你的朋友有幫助，歡迎多幫我們轉發宣傳。如果你有想聽的數位科技關鍵字，也都歡迎你在 Apple Podcast 或者是 YouTube 的平台上面留言。我們下週再會，拜拜。