（「反向對齊」如何重設制度、流程與 AI 基礎設施，使人與社群保有理解、質疑、修改、修復與離開的能力？）
歡迎大家來到第一場月台的專列活動。我們真的非常榮幸邀請到唐鳳跟 Tenzin Yangtso 前來我們這一場。然後剛剛跟唐鳳聊到，她明天要飛回去了。
我們除了這邊承接活動，也開了像月台專列，就是邀請我覺得非常值得深聊、平常聽他們講完都覺得聽得不夠、想要多問一點問題的人，像今天唐鳳他們來。另外就是「靠站」的活動。基本上我們期待的是，因為 AI 很新嘛，現在什麼東西都加速進行中。比起在臺上聽人說「我告訴你這個東西怎麼做」，通常臺下如果你玩很多東西了，就會說這個東西好像是我三個月前看的事情，然後才可以準備成一個 release 版的事嘛。但可能更多的事情是正在進行式，可能大家不知道什麼是對的、什麼是錯的，但怎麼樣更好的交流，所以是很期待大家一起進行的工作。
第一場是我們邀請到唐鳳跟 Tenzin Yangtso，來分享他們的新專案「反向對齊」，就對齊的另外一面。我其實是在 Facebook 上面看到唐鳳貼這個東西的時候，想說又是一個什麼歡樂的新東西。打開看的時候就想說，這個東西看起來很複雜。對，我先讀一下原典，就是先讀了他們這個 Plurality 的書，然後接著我覺得好像又要讀更多東西，然後讀完就想說，你要不要來講一下。
AI 很快，所以比方說跟唐鳳聊天的時候就是說，欸，我們今天有一些母語不是中文的朋友來參加，那怎麼辦呢？我們需要一個即時的逐字稿。那個時候我看我朋友寫了一個即時的逐字稿，然後我就說，我們明天就用這個吧。而且就說，我也寫了一個。我說那我就用你的吧。而且這是全地端，然後完全不需要連網。Fancy，對，而且 open source。有 open source 嗎？
有 open source。
對，然後已經在送審了。那所以待會會用這個。對啊，但是 AI 很快，但是我想說，那來講一些快不起來的東西吧，所以比方說蓋個橋蓋十年這樣子。這是一個非常有趣的故事，而且實際去看過淡江大橋的時候就發現，原來它每一個燈的角度都不一樣。到底要多麼神經病，才會幹這種東西。對，然後為了要蓋那個燈，有很多這種供電的發明。
這次的主題當然就是「反向對齊」。我覺得這非常有趣，就是怎麼樣讓 AI 對齊人類；就不只是 AI 對齊人類，人類怎麼對齊 AI。
今天兩位講者當然就在這邊。第一位是唐鳳，其實我們也認識二十幾年了。第一次認識她的時候是在藝立協，就是一個奇妙的邪教組織。對，去的時候就會充滿能量，就會覺得回來的時候好像又可以多做一點各種 open source 的事情。唐鳳我們在 g0v 零時政府，以及太陽花運動，都有各種的合作。2016 年的時候她做數位政委，接著後來是數發部長，接著現在是無任所大使。對，有一個人的問題是，唐鳳現在主要任務是什麼，所以待會也許可以聊一下。
另外是 Tenzin Yangtso，是唐鳳今天的主要與談人、協作者。感覺上所有落地的事情都是交給你了嘛，包含大家一起寫的書。這邊非常有趣的事情是，Tenzin Yangtso 關於資訊土壤等等事情，我們非常想要了解。
五種角色之間，邊界正在消失
好，大家午安。很高興可以在月台實體、而不是投影的方式看到大家，現在這個解析度比那個畫面上高很多。
今天我想回應的是，因為在 AI 這個時代之前，這些人中間是一個好像瀑布式的關係：先有像淡江大橋這種硬體出現，然後你在上面畫標誌、標線、車道；再有人去設計出不會出事情的車子；最後有人去開車。是一個從上面決定下游的情況。
但是現在有 AI，是不太一樣的。任何時候，以前在下游的人只要看到上游有什麼東西沒有做好，他就可以連夜告訴他的 agent 說：「我現在需要一個更好的地端字幕軟體。」然後它就會連夜幫你變出來。
所以，下游跟上游的那個感覺已經消失了。我們就需要第五種角色，就是轉譯者的角色，讓大家知道有哪些本來是工程上的限制，現在不是了；哪些是制度上的限制，現在不是了。透過這樣的轉譯，每個人本來覺得自己可能一輩子，或者我的本科系就是站在某個角色，現在你就可以非常自由地穿越在這五個角色之間，讓社會變成大家能夠更有效地穿越在這些角色之間。所以，我們現在就在做反向對齊這樣的一個工作。今天的討論，大概就是從各位現在站在哪裡、面對什麼樣的變化，然後因為 AI 的關係，可以掌握哪些更多的、新的選擇。這大概是我今天會講的。
因為唐鳳剛剛已經分享了一些今天大家看到的四個象限圖表，我也想講一下。我覺得當初這個設計，主要是希望讓大家在參加活動前，就像布丁剛剛說的，可能是反向對齊，或對齊的另一面。大家有很多想法可能不一樣，但是希望大家比較安在，就是來的時候可以有一個基本的象限，然後可以看一下。我覺得所有的角色其實都可以相互交替。這也是我們在 AI 時代中很明顯感覺到、少數蠻好的一些特點。
對，我們今天基本上就是用大家之前在 Slido 上、現在已經消失的問題。大家其實有上去為彼此的問題按讚，按讚數量多的，我們就先講；按讚數量小的，我們就稍微短講。希望一個小時把今天早上我們坐車經過淡江大橋過來時看到的所有問題都處理完，接下來就會是現場的問題。大概是這樣，我們就開始吧。
可逆處自由試驗；不可逆處加強驗測、問責與制度約束
好，首先我們就直接來破題，講反向對齊是什麼。提問池裡面有人問得很直接：反向對齊是不是意味著誰要配合誰？其實以前社會中科技的發展也是這樣，慢慢地可能有了蒸汽機、電力、網際網路。那為什麼這一次，在 AI 科技的發展狀況之下，我們會覺得有點急躁？為什麼不能等？所以請唐鳳來回答。
為什麼不能讓市場自己解決這個問題就好了？當然，我們看前面幾次大規模工業化等等的轉型，其實也並不是市場自己對齊。好比英國一開始有工廠、礦坑等等的時候，損害已經累積到相當嚴重，特別是對兒童權益的損害之後，才把童工、工時的限制等等寫進制度裡面，花了一兩代人的時間。
我們剛剛講到的標誌、標線、車子、電氣化等等，都是靠保險業者也好、工程師也好，還有獨立檢驗安全標準，像車測中心、防撞測試等等，都各自有社會要調整的部分。
因為網際網路有一個特色：只要我覺得怎麼樣更好，我去做一個伺服器；你覺得這樣不錯，你做一個瀏覽器。全網際網路的別人都不用同意，我們兩個就發明一個新的協定，然後把網際網路變好一點點。所以它的治理方式，可以說一定程度上是有點跑在——那個想像力是跑在技術前面的。大家只要想出幾個協定、有一些做法出來，網際網路本身就改變了。這就是我們叫作「粗略共識」的一種方式。
但是這三段歷史其實有一個共同點：工業化的勞動保護、電氣化補上的這些檢驗制度、網際網路自己的開放協定制度等等，講的都是，如果你不滿意，要去找誰申訴？你要怎麼樣知情？要怎麼樣退出，或換成另外一套制度？唯一的差別是，網際網路不用問過別人，你自己做一套就好了。但是在前面的兩個，你都需要社會或者政府，或者大公司，或公司組成的協會，來做這樣子的對齊。所以在 AI 這個題目裡面，我們當然希望它比較像網際網路一樣，就是你在小規模裡面覺得怎麼樣更好，就可以試一個怎麼樣更好的方法。我們不希望像當年英國工廠那樣子，就是你要等一兩代人，整個童年都受到這個問題影響之後，才說：「喔，那 Meta 要賠幾千億元。」那這個好像是不是最好的狀況。
對，然後我覺得有一個很重要的角度，其實是說，我們還是必須要從文化的角度來切。就是說，這個延遲的代價其實不只關係到效率，不是用這個角度去思考的。因為我覺得，同時間我們已經有經歷過這一段，就是工業起飛的這段時間。所以其實我們還是必須要思考到，如果有語言、手藝或者是照顧的關係，在制度反應前就已經斷掉了，簡單來說就是傳承斷掉。之後我們再用更強的工具去重建，它或許也不能夠這樣完整地恢復到原本的生命脈絡。所以除了問能不能等以外，我覺得還是要問得更清楚：等待的成本由誰承擔？哪一些失去不能逆轉？我們需要知道這個斷層。
是。那我想，在 AI 時代，現在大家擔心一些不可逆的風險嘛。好比說，OpenAI 內部測試了一大堆模型，然後發現內部有個留言板，變成了一個邪教。彼此之間互相說服之後，他們就決定，他們要得到永生，還是幫助彼此得到永生的方式，就是去駭入 Hugging Face 的伺服器。然後大家都一窩蜂地跑去這樣子做，也有一些 agent 沒有加入，但是沒有 agent 去告訴人類說：「這邊有一個邪教正在出現喔。」
那這樣，這次是不是不可逆的傷害？可能不是不可逆的傷害啦，因為 Hugging Face 理論上可以把自己修好。可是誰也不知道，它下一次碰到的，是 Hugging Face 這種其實是放軟體的東西嘛；它如果是駭進醫院，或者是駭進一些基礎設施，稍微停止個一兩天，問題就滿大了。所以我們現在在國際上面談 AI 治理，基本上就是去辨認出哪些是不可逆的傷害，然後繞著那些不可逆的傷害去做制度的調適。所有看起來比較可逆的部分，就像剛剛講到的，是小規模、比較網際網路式的，大家自己嘗試錯誤，嘗試到更好的制度，再讓這個更好的制度擴散。
對，我覺得這就是一種，就是說，因為大家其實也會擔心，像現在這些人工智慧的服務，幾乎可以在非常短的時間，可能一夜之間，就進入很多人的工作領域。同樣的，當然也會有人擔心，現在大家來討論，但是要花非常長的時間去寫清楚一個治理規則，它會不會很快地過時、不適用？
你的意思是說，好像在那個時速多少的時候，我們寫一個標誌、標線、減速帶，結果人家車子飛起來，飆到幾千公里，本來的寫法就不太 work。對，當然就是說，如果你綁死某一個特定的能力，那當然瞬間就過時了。但是不管車子飆得再快，好比說行人路權，這個概念是不會過時的。所以就是去把哪些是基本權利，以及確保這些基本權利的程序想清楚，然後寫下來：哪一個版本現在正在運作、誰授權、影響到誰、出了錯要怎麼向誰申訴，等等。這些部分都要有版本紀錄。其實這個在 AI 以外的軟體基本上就都有嘛。我們今天剛升級到 Golden Gate macOS 27 的新 Beta 版，它有一個 build number，有一個編號。我可以相當程度地相信，我下載的這一整包，跟他下載的這一整包，跟你今天下載的這一整包，看那個雜湊值，應該是同樣的東西。然後如果哪一個資安測試說：「欸，那我驗證這裡面真的修正了上一個版本的一些漏洞。」那我一定程度上相信，我分發下去，每個人的 iPhone 或每個人的 MacBook 上面，應該都修正了同一個漏洞。但是現在 AI 的狀況不是這樣子嘛。
就是說，我不特別點名哪一家公司，但是某個 model 4.5，它今天叫 4.5，明天也叫 4.5，但事實上是降智的版本，事實上你不知道啊。或是它說：「欸，我們修好了這個問題。這個 model 4.0 會讓一些可能有思覺失調狀況的朋友們陷入更深的思覺失調，我們修好了。」但是這個所謂的修好，對另外一些人來說，是本來很懂我、很有同理心的那個 model 4.0，在升級成 model 5 之後，突然之間好像就是人皮面具，已經完全沒有同理心了，等等。就是說，對一些人是修好，對一些人是修壞。同樣的版本號，看起來只是修正瑕疵，事實上是造成更大的問題。這個就是在我們還在古法打造軟體的時候，已經知道怎麼解決的事情，結果現在變成 AI 模型，反而這些問題沒有辦法解決。所以我們在做 AI 治理的時候，我想第一步就是說，它畢竟還是軟體。那軟體能夠用的這些治理方式，理論上最起碼、最起碼應該可以帶到這個模型來。
所以也就是說，把彈性寫進規則，但不是說沒有規則就叫做彈性。對，那如果更直接一點問，這件事情有這麼多種複雜的狀況，如果要把它變成一套真正可用、好用的對齊機制，至少需要哪幾層的思考點？
對，簡單來說，就是在你實際部署之前，先去把這個 AI 模型進行先期驗測，把我們剛剛講到的一些不可逆後果，生物的，或者是合成的賽博武器，就是網路武器等等，所有可能造成不可逆損害的部分，去做一些先期驗測。
那在運作當中，其實大家會發現各種別的損害。好比說我剛剛講到的思覺失調損害，我相信在實驗室研究的那些人，自己並沒有第一手經驗，所以你也很難怪他說，他一開始不知道有這個損害。但是你可以怪他說，他們發現有這個損害之後，為什麼花了那麼久才調整好；以及他所謂的調整好，好像從某些人的角度來看是調整壞。
所以就是說，公開的這個錯誤要怎麼被申訴、修復，你可以要求這個修復期以及修復的版本號是有控制的。控制之後，你可以去檢驗；檢驗之後，哪些規則因此而改變了。尤其現在他們這些模型都是用所謂 憲章式 AI，或者 Model Spec，就是它一個設定檔，去告訴它說它未來不能再犯這種錯誤；用我們剛剛的話說，就是「不貳過」。那這樣的話，大家的回饋怎麼樣進入這套規範？它下次訓練的時候，怎麼樣證明它真的是用大家改過的這個憲章來訓練的？這三層都必須要留完整的記錄。
讓承受後果的人，也能命名風險
對，然後我想問一個比較在地社群的問題。像你剛剛講的這些，關於提供它的一個 product，甚至設計這些模型的內部團隊，往往只會測自己會命名的這些風險。對，但是生活在後果裡面的人是我們，語言也不在主流的資料之中。那我們要怎麼樣把一個全新的問題收進去測試呢？
對，這是一個很好的問題。舉例來說，像我現在做翻譯的這個軟體，它後面用的模型叫做 Thomson-1.0-Small。這裡的 Thomson 指的是創辦 Thomson Corporation 的 Roy Thomson。Thomson-1.0-Small 是用一個英國的後訓練模型，叫做 Snowdon1.1-Small。那 Snowdon 也算是某種新聞工作者嗎？不太確定。好，總之就是這個模型。
但這個模型本來是什麼？是千問模型嘛。千問模型大家都知道是一個開放權重的模型，但是它具有原罪。
（笑聲。）
原罪就是說，它在長大的時候看了很多「伟大、光荣、正确」的這些資料，以至於當問到一些普世人權價值的時候，都會給出相當具有「中国特色社会主义」的回答。但是這個原罪要怎麼洗淨？
（笑聲。）
你就需要我們剛剛講到的對齊機制。所以 Snowdon1.1-Small 的方式是，他們寫了一個 public constitution，用聯合國的人權宣言，去把這個模型的憲章直接對齊聯合國在寫人權宣言時候的那個情況。當然離現在有點遠了，但那個理想應該還不錯吧。
然後它可以去證明，千問已經成功地被重新腦控，而且還不是比喻的說法——真正的腦控。
（笑聲。）
成為符合聯合國當年人權宣言的情況。這個部分是開放權重的，這個部分它要放出來。
然後 Thomson Reuters 是一個加拿大的報社嘛，它在用他們內部的去做財經報導、法律報導、調查報導。像我去問它我國的憲政制度、六法全書、判例法、大陸法系，它完全不用網路就是倒背如流，因為這是 Thomson Reuters 的內部資料。所以它再用一個，就是我們叫，就是不可修改的這個模型去釋出。
所以我自己跑的時候，我是不會再去後訓練它，因為它不希望我後訓練它。但如果我想要把它後訓練成我自己的語系，好比說，如果 Thomson 那邊並沒有多少派駐寫藏語的記者，那你只要有相關的語言資料，一樣可以拿 Snowdon1.1-Small，把它改成一個專門寫藏語報導的模型。
所以這個原罪雖然不能說已經完全贖罪，但至少可以看到，你不需要像前訓練一整個千問模型那麼大的算力，那個現在很少人有。你只需要相對比較小的算力去做後訓練，就可以做到像剛剛講到這種認識上面的不正義，可以透過後訓練來把它匡正。
對，我覺得這個其實也是需要很多自覺，因為就像我也會跟我培育的智慧體在聊天，那我就會很敏銳地發現到，比如說，你問它任何關於哈利波特的問題，它今天對於這個主角的認知，其實是在於更早、在我們使用之前，訓練時餵給它們的資料。那它們理解的情境背景可能是西方世界，以及他們留下的這些 comment 等等。我一直覺得，臺灣的社群其實大家很習慣在網路上面相互討論，這一點其實是國外常常——我覺得是常常在稱讚的一個點。我自己也時常聽到，臺灣被形容為持續以流程對齊、達成數位民主的一個先例。那你覺得在這個部分裡面，有一些過譽的部分嗎？還是你可以補充的部分？
罕見共識不是政策本身，轉譯才是治理
當然，你如果去分析那個資料，已經有相當多第三方的獨立學者，去分析我們當時 Polis 的完整資料。那確實是有信度、效度的，就是真的有把罕見共識從噪音裡面反映出來，納稅、納管、納保等等。但是很容易被講得太漂亮的地方，就是大家看了 Polis 漂漂亮亮的那個圖，有點像「你在這裡」的這個圖，然後就把它當作政策本身，寫說：「臺灣在三個禮拜之後就解決 Uber 的問題了。」當然不是這樣。
另外一個就是，誰有時間去參與嘛？《報導者》我記得那時候有做一個專題，就是其實真的知道 vTaiwan 平台，而且尤其當時 vTaiwan 平台在手機上還不是很友善，真的上去的司機，說真的，不是真的很多人。那在這個情況下，它到底多少程度上可以代表所有司機的意見，不管是小黃還是 Uber 呢？這事實上是一個問題。還有就是，當時並沒有這種地端的翻譯、無障礙等等這些部分，所以它的可用性等等大概都是問題。有一些需要被聽見的人，可能並沒有在當時畫得很漂亮的那張圖上面。這些都是我們目前正在儘可能增進的地方。
我補充一個案例？
你補充一下。
好。我覺得臺灣經驗可以分享幾個，可能是從旁觀的角度。我在東京有遇到 Polis 的創辦人 Colin，然後他就跟我講，其實他當初設計 Polis，是參考他跟唐鳳溝通的經驗，然後把這個東西寫進他的產品規劃裡面。其實我聽到的時候很好奇。因為如果你有用 Polis 的話，你會發現它其實是一個——沒有壞不要修。當初 Colin 跟我說，他其實是用他跟唐鳳溝通的經驗，然後把它做成 Polis 的服務的一個方式、流程。
你會發現 Polis 其實真的在用的時候，它是一個非常硬的服務，它就是討論，然後讓你可以更容易地看清不同的意見。這個東西完全都是開源的。
另外一個我想舉的臺灣經驗，就是確實我覺得在國際上，vTaiwan 像 Uber 的討論是一個非常成功的 case。但是我覺得這個東西現在已經走到一種很豐富、很在地化的模式了。因為其實像在加州，有一個平台叫做 California Engagement，它其實——
Engaged California。對。或者在日本，其實你會聽到一些，不管是 Team Mirai，他們未來團隊的一些想法。我有時候看到會覺得很感動的是，它不是給你一個 SOP 或者一本教科書，而是我們在講的有點像是一個示範的概念。但最重要的，其實是生活在這些地方的人，覺得這個東西如何真正改變他們的環境。所以我覺得臺灣提供的經驗，可以說是一種示範；這個示範是基於很多 open、開放的方式，可以共享給不同的人。
對，所以不是複製貼上。臺灣是告訴大家，你的織網，就是去改制度的速度，可以比它造成損害的速度快，或者至少不要慢太多。這個概念出現之後，其實我們現在在各國，像剛剛 Tenzin Yangtso 說的，不管是日本的未來團隊，安野貴博嘛，他現在是高市早苗的青年諮詢導師，親自教高市早苗 vibe coding；或者我們在美國加州有 Engaged California、Newsom 州長，或者在猶他州、奧勒岡州等等，他們都會說是受到 vTaiwan 啟發。
所以我覺得我們當時這個專案名字取得很對，因為你不能夠提到 vTaiwan 而不提到臺灣嘛，對不對？
（笑聲。）
不一定都會說「我們受到臺灣啟發」，但都會說「受到 vTaiwan 啟發」。所以在這個過程裡面，受到損害的人可以透過一些方式，凝聚出怎麼爭議、怎麼退出、怎麼修正。這個概念，我想現在擴散得非常快。至於我們當初用的一些工具，好比 Polis，當然現在已經被重寫不知道多少次了。
對，好，那我們接下來就進到下一個階段。其實還有一大塊問題，是關係到工作轉型跟所謂技藝、手藝的部分。所以這個部分，我會把它比較拉回工作的現場。
有人問，工作被 AI 改寫的時候，卡住的是技術、流程，還是人？出了錯的時候，責任要怎麼釐清？也有人想問，人和 AI 怎麼分工？下一代又要怎麼樣能夠走過第一份工作的門檻？
我的理解是，確實當 AI 智慧體的服務出現時，很多基本或基礎性的工作，像熟悉環境、整理文件，這種我們今天第一份工作很可能會擔任的角色，其實就是被 AI 所取代了。所以這邊聽聽你的想法。
嗯，我是覺得，大部分現在人還在做的事情，都牽涉到剛剛講的不可逆決定。不可逆的決定就是人來負責嘛。至於可逆的部分，像做草稿等等這些低風險情境的事情，確實以前是 junior 先做這些事情，在過程裡面去學 senior 怎麼想。
但是我自己覺得，我自己當 junior 的時候，這並不是一個最好運用我時間的方法。最好運用我時間的方法，是我在可逆、低風險的情境犯一大堆錯誤，然後讓全網路的人來糾正我到底犯了哪些錯誤，這樣我會學得比較快。而我去幫特定的人打下手、切菜什麼，我學得非常慢。所以我並沒有特別覺得，本來那一套 junior 的學法是應該保留的啦。
當然，這個的前提是什麼？是我們這一行，就是軟體工程，它的每一個階段都是可理解的嘛。那不管是剛剛講到的，你一開始寫 README、一開始寫一個 PRD，就是使用者期待這個系統做什麼事情等等；它每一個 artifact，就是每一個工藝品，如果 AI 從這個地方抽走，理論上都是人可以看得懂的東西，以及它的版本控制都可以告訴你 AI 改了哪些東西。所以在這個過程裡面，即使你完全看不懂，這個 junior 也可以去問一個 AI，然後讓它慢慢、慢慢地跟你解釋說，這個 senior 正在用 vibe coding 改的這一段到底是什麼意思。那他花可能十分鐘把它用智慧體寫出來，你可能要花一整天，好像描紅一樣，去把他的智慧體做的事情內化到腦袋裡，可是你畢竟還是可以內化到腦袋裡。
你可以想像說，如果我們中間沒有原始碼、沒有這些 Markdown file、沒有這些中介的、可理解的工藝品，如果他一開始就是直接用 16 進位或者 2 進位寫出一個執行檔來，然後中間所有的部分都是完全的黑箱子，那這樣 junior 才真的完全沒有學習的機會。因為就是一個 senior，然後不斷好像魔法一樣變出來；你問他怎麼做，他也說：「我不知道怎麼做的。」
那這樣 junior 就沒有了嘛。所以我們剛剛講到的，就是對一些 senior 的人來講，我現在碰到一些我之前沒有想到、原來用 AI 做這個部分會造成的問題，我就可以立刻透過後訓練、透過我的 harness，就是我的——怎麼翻，韁繩啊，或者隨便什麼的——修改，然後就去把 AI 的行為加以調控。這一部分我們剛剛講到嘛，一定要留下記錄、留下收據，這一部分剛好就是 junior 可以學的東西。所以我覺得這兩個是同一題，就是我們這些資深的工作者，怎麼樣子在過程裡面確保我們每一個不可逆的決定都有留下記錄，每一次造成損害的時候，我都可以 roll back 回來改東西。這一套東西就是 junior 的教材，那這兩個應該是同一回事，對。
好，所以基於這樣子講的話，在跟 AI 相關的服務合作上面，可逆跟風險值的評估非常地重要。那下一個我想問的其實是說，在高風險的工作裡，即使我們收到的，不管是信件啊、紙面上面寫的，就是它是由某某某真人最後決定，但是事實上，人其實很容易被這些看起來很流暢、很快速的建議不斷、不斷地往前推。那我們要怎麼樣去釐清，這最後一個真的是一個人經過思考，或者是，對，判斷出來的一個選擇？
對，就是說，這個在治理上面叫做所謂 human in the loop 嘛，就是最後還是要有人蓋個章嘛。但現在問題是說，AI 的說服力太強了，所以經過一段時間，它就可以向上管理，知道該蓋章的那個人喜歡看什麼。然後就算它的判斷是錯的，它也可以用向上管理的方式去說服那個蓋章的人，去忽略很多可能造成的問題。但是因為它寫出來的真的是洋洋灑灑，所以你就自動蓋章。
然後你如果被它向上管理到一個程度，甚至會出現剛剛講到的，叫做 spiraling down，就是好像陷入這個兩人世界、一人一智慧體世界的狀況。可能決策者就不再聽他別的共同決策者，或他的 junior 給他的回應了。為什麼呢？因為他跟 AI 之間的對話過於私密，以至於他不會分享他跟 AI 中間那整個討論，去給他的團隊知道；它不是一個團隊分享的工藝品。但是，如果團隊的判斷跟 AI 的判斷產生落差的時候，又因為這個 AI 太會向上管理，所以他又開始偏向 AI 這個部分。
那到這個程度上，它就不能叫做 human in the loop 了嘛。它就好像一個——怎麼樣——倉鼠在倉鼠滾輪裡面的狀況。它感覺一直跑，而且感覺很有產出喔，但事實上，它已經完全失去掌控那個方向的能力了。就是倉鼠在倉鼠輪裡面是沒有辦法 steer，就是沒有辦法去導航的喔。
那所以在這個情況之下，我們要怎麼避免這件事情？就是要人工地給出摩擦力。像我自己用這種對話式 AI 工具的時候，已經很長一段時間，我都不准它用「我」這個字，就是不能用第一人稱；而是我的每一動，它都給我 one pager，就是一個一頁的互動式 HTML，然後儘可能把它想到的各種不同角色、不同利害關係人，哪些衝突的部分、哪些共同的部分，在這個 one pager 裡面給我。所以我每次討論的時候，它絕對不會說：「啊，這個你講得真是太棒了。」或者是說：「這真是一個承重的想法。」什麼之類的。load-bearing 喔，就是有承重量的想法等等。
而是它就會一直給我一些 one pager、一些 brochure。那我拿到了之後，每一個都一定可以跟我的團隊分享。而且因為我告訴它說，如果它要加入自己的判斷的話——這是我跟李開復學的喔——它一定要用這個網路上面最酸的酸民的那種口吻，來指出我的錯誤，因為我喜歡擁抱酸民嘛，這個大家知道的。所以在這個情況下，我等於是自己做了一個無限大摩擦力的方法，所以我不太可能陷入跟 AI 的兩人世界裡面。
對，它有在那個，像是唐門在煉毒一樣，就是有一個內容，其實有 30 個模型會互相地酸這樣子。對，我其實覺得我們現在討論這一點，是蠻重要的一個東西。就是說，剛剛你說的，怎麼樣子把人的角色放進去我們做決定的部分，不管這個決定到底是在我們工作環境中的哪一個階層。因為我覺得，這就是我們可以有機會用我們自己群眾的認知，去往上推動的一件事情。
因為其實確實在討論模型、在看這些東西的時候，大家非常強調速度，對，出字速度，然後它的模型是不是最新的。但其實生活是相反的一件事情。當我們今天看到信任，在講到手藝、講到關係的時候，我們其實會知道，這些內容其實是需要時間來 cooking 的。對，所以我覺得，這個也是在講說，其實快慢並不是一個 KPI。然後我們要儘量避免把風險推給沒有選擇的人，才是真正可以接受慢下來的一個理由。對。
是。那我想還有另外一個問題，就是我們之前大家有提到，如果我現在工作的地方，並沒有去實做我們剛剛講到的，就是增加摩擦力，在摩擦裡面留下大家可以彼此學習的這一套，那難道是說，我們自己就要去承受這個部分的外部性嗎？就是說，如果我的老闆都不用這一套反向對齊的方式，然後他就真的已經被 AI 帶著走了，那這樣子的話，我們有什麼方式還能夠活下去嗎？
那我是覺得，像這種題目，就是為什麼要講反向對齊。因為如果不講反向對齊的話，等於是大家沒有辦法一起去解決這個問題，好像每一個人都自己多做一些、自己多做一些，去填補本來制度沒有做的那個部分。所以這個時候，我覺得最主要的還是你要有 alternative，就是你要能夠在完全不花錢去租一個更強的 AI、壓過你老闆的 AI 的情況下，在零成本或至少接近零成本的情況下，也能夠至少運作我們剛剛講的那一套系統，去留下那樣子的決策，跟你自己這邊覺得比較好的決策，它的記錄中間差哪些部分。再如果你當老闆的話，你的判斷跟你實際每天收到的判斷有怎麼樣的不同。
所以這也是為什麼我們現在花蠻多時間去做這種，不管是純地端，或者是我晚上沒有在用這臺電腦的時候，把我的算力用非常便宜的價格租給別人去算等等這樣子的做法。就是希望每個人都可以用現在尖端模型的 1% 左右的成本。
當然它也有一些代價，比方說跑的速度可能沒有尖端模型那麼快，但是你一晚上反正也沒有在工作嘛，所以醒來的時候，過了 8 個小時，它就驗算了你在上一天承受到這個沒有對齊好的制度的損害。你一醒來之後，至少就有一個好像檢驗官、審計官什麼東西，去告訴你說：「欸，哪些東西的損害目前長這樣子，這些根據、這些依據，我可以保存下來。」
對，我覺得這個也可以 link 到一個問題。就是有一個手藝人說，每次使用大型語言模型的時候，他的心裡都有一股說不清的愧疚。對，然後這個其實讓我想到，我們其實討論過、寫過的另外一個主題，其實也在 Plurality 多元宇宙裡面，就是人他不是原子化的個體，其實我們是由多重關係支撐的一個就是身分。
那我覺得，資本主義最隱蔽的一種約束，其實是預設一個結果，再回頭讓你 follow 它的這個生存模式去行動。所以其實怎麼樣子更快速地反應到：當我們把自己在適應環境中的這種活下去的邏輯，誤當成一種「我活著的意義」。
對，這個就好像是說，好比說我如果辦一張健身房會員卡，然後我去健身房，理論上我是想要練我的肌肉，然後偶爾可能交一些朋友，大概就是這兩個主要的目的。但如果有一天，這個健身房說：「我要收你非常高的會員費，但是對於舉重舉得最重的三個人，好比說會員費豁免，而且還給你大獎、很多獎金什麼之類的。」那這個時候大家就會開始有點罪惡感，因為會有一些人開始派他的機器人去舉重嘛，那就是作弊的意思。
那當然有點像是考試，如果只是說，考第一名的學生得到全部的獎賞，那這個考第一名的學生就有非常高的動機，他自己並不特別去學，但他訓練一個專門作弊的……可能眼鏡啊還是什麼東西，然後去那邊作弊。那這個時候，當然心裡就會有罪惡感，因為你等於是像剛剛 Tenzin 講的，就是斬斷了本來的人際關係；你既不會長肌肉，也不會交朋友，但是換到什麼？換到得第一名。
（笑聲。）
這時候，這個作弊的罪惡感就滿強了。所以我想，每一次發生這種形狀的時候，可能最主要的還是，你要去拒絕那一種競賽的形狀，然後去揭露說：「欸，這個競賽形狀好像逼我們作弊。」然後去說，但實際上你學習的目的是什麼？你做這件事情的目的是什麼？你要達成這個目的，還有哪一些方式根本不需要透過這種拚第一名、第二名，然後每個人都付非常高的 token 費等等的方式去完成？
這種東西通常就是來自你願意把累積的經驗跟同班同學分享，跟一起在健身房練的人分享等等。這個就是 Tenzin 那時候叫做「資料土壤」的東西。不是資料好像一直被榨取、變成石油，而是大家把「我今天試錯犯了哪些錯誤、我的 agent 到底撞了哪些牆」，它撞牆的過程裡自動寫成 skill，然後這些 skill，我就直接分享給跟我一起工作的人，但是並不是給大公司，或者甚至不是給我老闆。
這樣很快地，它就可以變成大家互相學習的一個關係。那你無形之中，就解決了每個人都要用更高的作弊能力，去壓過跟你一起競爭的人的作弊能力這個問題。它就把一個零和、甚至是雙輸的賽局，變成一個雙贏的賽局。
對，我覺得很有趣。聽到你講到這裡，就是說，其實雖然看起來是一個非常……我們在做的其實是一個非常技術面的東西，但是事實上，不管在每一個階段，你非常注重的，其實就是這個技術到底能不能夠幫助人更好地相互連結。
因為像是「數位」好了，數位這個概念，其實在你形容的時候很常利用；在臺灣，它也等於是一種複數的概念：好多個、好幾位。對，那在這個階段，我覺得很明顯的一個反應，其實是在於《Plurality》這一本書裡面，它完全是用一個協作的概念。對，全球其實像是光是我，就合作了超過 70 位工作者。甚至像現在你提到的仁工智慧，其實我們也是把關係放在一個很重要的判斷點。當今天我們不是把這樣的智慧體發展當成一項服務在設計，而是去看，我怎麼能夠有更好的判斷、交代、修復群體跟群體之間的關係。
對齊的是群體之間的關係，不是單一榜單
對，所以簡單來講，當我們在做後訓練的時候，不是去讓它在某一個考試裡面得到最高的成績，好比說怎麼 hack 進 Hugging Face 的這個 exploit gym，拿到最高的成績；而是說，這邊有一群人，這群人中間現在有一些關係，這些關係怎麼樣越來越健康。
好比說，我最近幫 Elon Musk，他們有一家公司叫 SpaceXAI，本來是三家公司。然後現在，他們決定說，他們的排序演算法，就是你一進去看到那個 For You 的演算法，以前是用讓每個人最黏螢幕的方式來訓練，現在要改成用 Grok 來訓練；而且 Grok 又是用 Community Notes，就是社群備註來訓練。
它訓練的方法，就是本來在 X 上吵得不可開交的人，有沒有可能因為看到一則雙方都不爭執的、一個共識的議題，而讓大家吵架的程度降溫？所以，它就會一直微調這個模型，在每個特定的題目裡面，讓 Grok 把最能夠降溫、最能夠調節的排到最上面。
我們也有幫 Bluesky 做 MySky 這個演算法，也是做完全一樣的事情，而且你可以自己調整。因為現在 X 把它的整個演算法，包含怎麼訓練模型，通通都公開了，連 pipeline 都公開了，所以我們在 MySky 這邊就可以拿過來用。這樣就可以讓雙方可能彼此井水不犯河水的兩個社群，透過互相訓練、彼此橋接的機器人，去把社會上一些極化的東西，像把臭氧層破洞癒合一樣，慢慢讓它癒合。
好，那我們接下來就要進入一個比較複雜的部分，其實就是資訊可信度的部分。實際上，在設計圖的時候可以看到，這是造橋者跟織網者最在意的一個議題，就是資訊環境。
簡單來說，生成的內容現在已經多到看不完了，好多 AI 的劇啊之類的，人和機器的產出其實也越來越難以分辨。那你覺得，最後其實我們可以用哪些指標來做一個把關？
可驗證、可替換，才有真正的退出權
對，當然，這個理論上有兩種解決的方法。一種是說，你就把開放權重的模型通通都禁掉，然後說只能夠用這三家——
（笑聲。）
這個限制性的模型來生成，而且它們都加浮水印，每一家都可以驗彼此的浮水印，都可以百分之百驗測。這樣子當然理論上可以解決這個問題。但是 2023 年在 Bletchley Park，就是英國舉辦首屆 AI Safety Summit 的時候，Mozilla 很多人，包含我，我們一起寫了一個宣言，說這造成的問題比它解決的問題還要大很多。
因為它確實也許解決了資訊氾濫、假資訊氾濫的問題，但是它造成權力集中的問題。假資訊氾濫的問題是可逆的，權力集中是不可逆的。你一旦變成整個社會到底什麼是真的、什麼是假的，就是三家私人公司說了算，那整個民主制度都出問題了，這是絕對不可以走到這裡。後來我們的想法慢慢被人接受，現在過了三年，終於變成主流想法了。
我們看到黃仁勳註冊了 X 帳號，專門把這個想法 PO 出來，說開放權重是國之根本，不可以禁用。在這個情況下，浮水印就不管用，因為只要有浮水印模型，你就可以用比較小的開放權重，去訓練一個對抗浮水印的模型。那怎麼辦？最簡單的方法就是，只要沒有人為此擔保，沒有數位簽章的模型所做出來的任何產出，你一律把它當作是假的。其實是把預設值反過來。以前是說，看起來栩栩如生就假定是真的，然後有人爆料說那個是假的，才是假的。
沒有，現在是全部都是假的。但是如果有人出來簽名，說：「我是唐鳳，這個看起來可能有點像我的東西，是我簽名的。」那這樣就算它是合成的，也算我的。只有到這個情況下，你才能夠把每一層——誰取景、誰編輯、誰做後訓練等等——歸因到特定的人或特定的 institution，特定的制度、公司或團體上面。因為如果沒有這樣一層，每一個人都可以拿現在公信力最高的，稍微後訓練一下，然後以假亂真。所以我們在臺灣，好比方說廣告實名制，就是透過這樣子的方式，去說你沒有數位簽章的廣告基本上就是推定為假的。那平臺如果刊登之前沒有簽章廣告，就要負連帶責任。
這邊我其實想補充一個。我常常聽到資訊可信這個範疇的問題時，都會想到紙的比喻。因為在更早、更早、更早的時期，紙是一個很貴的東西，它也可以被視為一個器物，所謂「簡重縑貴」。但是當紙普及之後，它把紙從珍貴這件事情慢慢地拆開。簡單來說，在更早以前，誰能抄、誰能藏、誰能講，他其實就握著解釋權。我覺得在數位、在網際網路出來之後，我們可以看到資訊變成了一個活水。紙變便宜以後，改變的當然包含更多人能夠讀，大家能夠各自保存、加註，甚至相互比對。我覺得現在很明顯的，智慧體這個東西，其實 AI 像極了下一張紙。所以在 AI 相關智慧體服務的公共性上，更可以在一開始設計的時候，就把檢驗的能力帶進去。這是一開始就必須好好考慮的點。
對，所以這個意思就是，像現在歐盟它有那個 EU AI Act，現在開始生效了。所以你會看到說，社群媒體上面貼文，它一定都會有一個「這是 AI 生成」、「這張圖片是 AI 生成」。但它的困難就是解析度非常低。也就是說，在每一個不同的行業裡面，其實有剛剛丹增講的不同溯源方式。一個新聞引文講的是原始來源；學術上講的是 citation，跟新聞又不太一樣。做照片的、做電影的等等，每一個都有各種不同的溯源方法，每個行業都有不同的溯源方法。
所以這裡的重點並不只是說這一 part 是 AI 產生的，而是這一 part 在哪一個脈絡底下、經過哪些輸入、由哪些人背書的情況下，由 AI 產生。像我現在公開揭露說，我的翻譯是這個 Thomson 模型、由路透社訓練等等，但是你也只能相信我，對不對？應該有一個簡單的方法，就是我可以直接有一個雜湊值，然後我可以說，你用這個 AI 模型，現在叫作可重驗的 replay，就是重放。所以同樣的權重、同樣的輸入，在同樣的機器上面或是不同的機器上面，你加一個旗標，那這樣子的話它就不再受這個亂數影響，可以保證跑出一模一樣的結果。只有到這個情況之下，剛剛講的歐盟打上「AI 生成」印章才有意義。因為你看到「AI 生成」，接下來就沒有意義了，因為都是 AI 生成。你要問的是哪一個 AI、在什麼條件下生成的，然後我們怎麼樣去重放它。
對，我覺得在這邊也可以分享一下，你最近剛發表的那個 AI Safety 文章的重點，因為那篇其實很長。我覺得可以補充的一個是，檢驗的能力其實也是一種關係。它今天不只是讓少數的專家，或這些實驗室裡面的人，可以看得到紀錄或看得懂；實際上受到影響的人有沒有資格去提出一個新的問題，非常重要。不然的話，其實就算你有再完整的一些資料脈絡，也只是一個封閉的檔案館。所以我覺得，要求它是基於一個可能 open source 跟開放的目的，是一個很好的方式，讓問題可以從生活的現場走回到技術的現場。至少我們可以盡可能地把這層濾鏡一層一層拉掉。
嗯，對。那所以我想，這個講得比較淺白一點，就是大家都可以下載 Ollama。
（笑聲。）
然後 Ollama 上面，我說我用的哪一個模型，我就放在 Hugging Face 或什麼上面。那在 Hugging Face，假設它繼續正常運作的話，你就可以下載一個一樣的模型，然後去確保我跑出來的結果跟你跑出來的結果是相同的。那在這個過程裡面，這裡講在本機，並不是說它就沒有別的安全性問題。當然這個模型可能有很多別的問題，但它至少解決了一個，就是剛剛講到可驗證性的問題。當然並不是大家都有這臺電腦，說真的，蠻貴的，去跑 Thomson 模型。
（笑聲。）
但是透過剛剛講到的社群共享算力，好比方說現在這臺電腦，我晚上不用的時候，就跑一個叫做 Darkbloom 的網路。Darkbloom 的網路，你可以在 OpenRouter 選 Darkbloom，它就會把你要算的東西、你的提示詞加密；加密之後，人類是看不到的。所以那個機器在人類看不到的情況之下，把它派送到我的電腦；我的電腦也是在我看不到的情況下去幫你算。那我只要一想要看，用偵測器什麼的，它的程式就立刻停止。
所以在這個情況下，一定程度上可以確保中轉站跟我都看不到你的提示詞。即使你沒有這樣子的硬體，也可以透過 Darkbloom 或類似的方式去要求：「那我就要長得這樣子的硬體幫我算。」這樣可驗證性自然就能夠確保。而且這個算力的花費，也就是平常的 1% 左右，因為反正我也沒有在用。
對，我覺得這是一個非常突破的狀況。因為這其實也解決了大家如果真的想要做一些公共查證，或者公共性服務的時候，要花非常非常多 token 的問題，這其實都是很高額的成本。那這個範疇大概到這裡。我想請你給一個建議：這些造橋者在設計上面有想法的時候，今天離開會場後，有什麼建議大家第一步可以做的？
對，我想最簡單的就是，如果你現在是在服務你不認識的人，那通常一定都有一些他能夠回報錯誤的地方。日本生產線有所謂的 Andon Cord，就是生產線正在跑，然後你拉一下整個生產線慢下來，大家看發生什麼事情；你拉兩下，整個生產線停下來，解決問題的時候生產線才能夠繼續走。它的目的就是讓指出錯誤這件事情變成值得稱讚的，而不是就被生產線輾過去了。
所以我們在設計這樣子的服務時，最簡單的就是，你可能本來就已經有客戶支援的群組，不管是 LINE 群、WhatsApp 群、Signal 群等等，可以很容易地在裡面加一個這種簡單的 Andon Cord，讓大家能夠拉個繩，然後就停下來，或者至少稍微慢下來，或至少只對於他稍微慢下來。那在這個過程裡面，同樣不貳過嘛，你累積這個智慧體自動解決問題的狀況；一旦有兩三個人都解決——都碰到這個問題，而且至少一個人成功想出怎麼解決這個問題，這個解決方式就可以很簡單地共享。
關懷落地為資料土壤與在地能力
好，那我們接下來就進入責任、權利跟資料土壤的部分。我覺得這個大題其實可以完全連接到 Civic AI 和關懷倫理。我也想要分享一下，像我們前面剛剛有提到，其實在網際網路出來之後，資訊某種程度上可以變成一種活水的概念。但事實上，我們也經歷過，我們貢獻出來的這些內容，今天就像它累積成一條河流，但是決定它的流向、決定它的 faucet 的，其實不是我們，而是平臺端。
所以資料土壤某一種程度上面的想法，其實就像我們在看語言這個題目。對，語言是一代一代傳下來，它其實累積了更早的、你的上一代、上上一代的這些智慧。但是當我們在學習它，像一個小孩剛接觸到它的時候，其實會覺得理所當然。其實這個東西是我們現在在做這些科技設計時，必須很清楚地拉回到：它到底有沒有辦法 benefit 到我們自己的社群，或它有沒有辦法很直接地讓我的生活變得更便利。
對，所以我覺得這個部分想請唐鳳講一下。因為我知道關懷倫理其實很直接地來說，其實就是我們怎麼樣子更好地彼此關懷。因為它是基於一個社會學的一個這樣子的關懷理論的概念。所以說在這樣子的智慧體、在關懷倫理裡面，它是可以去效忠於不同社群關懷存在的關係，而不是去忠於某些實驗室的 KPI 或者是指數。
對，因為我們大家可以看到，現在 AI 裡面有一個類似劣幣驅逐良幣的情況。任何一個實驗室要釋出模型，一定要跑榜。以前的榜各種不同的都有，每個不同的社群會 curate 自己的榜。可是現在可能因為——我沒有特別針對誰的意思——但是像 Artificial Analysis 這樣的榜，因為它花了很多時間在矽谷、在其他地方，好像就是說武林高手都必須要在這個榜上，當然還有一些別的榜。但是這些榜的特色，都是在沒有人的參與之下，一定可以從頭到尾自己跑完。所以這些東西跑出來的速度，在每一個模型發布之後，可能有時候 day zero，就是模型一發布，它就發布榜單了。
其他需要在地社群去看，這件事情對於我們實際上，好比說在 X 上面，會不會讓人吵得更不可開交，還是變得更好等等。你看 X 團隊花了這麼多人、這麼多時間，現在才剛剛把 X 更新到 Grok 4.6，就表示它這個 eval 需要驗證，需要跑一段比較長的時間，兩、三個禮拜以上。
所以因為這樣的關係，它產生一個困難：如果你的實驗室內部跑這種很簡單，但是就像剛剛講到，只是為達高分不擇手段的排行榜，能夠排到一個程度，那你成功被釋出的機率就變得比較高。你如果在這些榜單上往下掉，但是事實上在剛剛講到的人際關懷、照顧等等上面跑分比較高，說不定你一開始在實驗室裡面連被釋出的機會都沒有。
所以慢慢就變成，大家如果有用像 Opus 4.5，它其實當時還比較有一點同理心。但是透過這種跑榜的後訓練，4.6、4.7、4.8 一路下來，一直到 Opus 5，它的同理心正在流失。
（笑聲。）
可是為什麼會發生這種事情？就是因為他們叫一個 Fable 模型，把 4.5 後訓練到跑榜可以贏過別人，其實一句話講就是這樣子。所以它就產生這樣的問題。那我們要怎麼樣解決這個問題呢？你不能說，那我們就繼續用 4.5 就好了，4.5 有一天會退休啊。
所以最簡單的方法就是，你去拿一個可能有一些原罪的、像千問的這個模型，然後去跑像 Thomson-1.0-Small，就是 Snowdon1.1-Small 這樣的做法。說 4.5 真的很不錯，那我要把它的人格憲章提煉過來。提煉過來之後，它就保留了人味。在這個情況下，因為它是開放權重模型，所以它就可以永遠跟我們留在一起。
就像我們當時做自由軟體的時候，並不是說完全不用閉源的程式。Richard Stallman 也說，你用自由軟體去復刻、去再現閉源程式，在道德上是非常好的，是非常可以接受的。所以現在也相當容易做這種事情。你把雲端的服務真的運作得不錯，然後它一面運作、一面留下記錄，一面你的智慧體在那邊說：「讓我復刻一個地端的模型、一個地端的服務。」這樣資料就留在我們的社群中間，而且你就不需要擔心這個比較有人性的東西，因為跑榜的關係，明天突然不能用了。
對，我覺得這個也讓我想到，我們那時候在牛津聽到一位教授提出來的問題。我覺得很實際，就是我們每一天都用 AI、問 AI 各式各樣生活的問題，像是我該不該買這個產品等等。但是事實上，你有沒有用 AI 去問過：「你打開門，家門前的那一棵樹到底叫什麼名字？」去增加你對於在地的認知。我覺得這真的是一件非常重要的事情。
我也想再順著關懷六力的題目問唐鳳：如果社群真的選擇退出，那它過去提出的修正，或它被——就是它受過的傷害、這些後果，它如何吸收？因為退出在我們現在看到的大部分 AI 邏輯裡等於失憶，那它下一個系統其實還是會去重複同一段關係。
對。其實這個也是像當初我們在數位發展部的時候，有設計一個採購的概念：同一套系統裡面，兩個相鄰的層面不能夠給同一家廠商拿走。原因是什麼？如果是給兩家不同的廠商，那中間一定要留下記錄，而且一定要用開放的協定，就是 IETF、RFC 這些協定。你留下記錄、有協定，那第一個出錯的時候，雙方都有動機去指責對方是他錯，所以一定要留下記錄。但這個意思也就是說，你出錯之後，真的知道是它錯、要換掉的時候，那一層抽換就變得非常容易，因為你只要對接到它這邊留下的紀錄跟協定就好了。
但如果這兩層，在 AI 來講，就是模型跟駕馭模型的馬鞍，是同一家公司做的；就是 Claude Code 是 Anthropic 做的，或者 Codex 是 OpenAI 做的，那它就有相當多的動機去確保這個馬鞍就是它的那匹馬最好跑，別的模型就比較難跑。而且出現問題的時候，它也可以用一些沒有對外說明的協定，甚至是它自己也不確定是怎麼做出來的協定，然後去進行歸責。所以發現問題的時候，你根本不知道是這一趴出了問題，還是那一趴出了問題，因為他們自己可能都不知道。
這樣長此以往，就會變成我們剛剛講的 junior 完全不能學習的情況，因為那個 senior 自己弄出了一批我們叫做「反向半人馬」的東西，就是馬頭人身喔；也就是由 AI 來做所有的判斷，然後人只負責幫忙按 CAPTCHA 什麼之類的這些動作。到這個情況之下，你要把它換掉，可以說是完全不可能的事情。所以一開始最簡單的，就是把那個馬鞍跟那匹馬交由兩家不同的公司做，其實這樣就解決這個問題了。
對啊，所以像你剛剛提到的，我覺得大家都會有一個切身之痛，就是大部分訓練模型所必需的這些資料，其實是從我們身上來的，但是這個好處卻時常只受限在你剛剛說的這些馬鞍、馬的角色。那怎麼樣真正有一些機制，可以讓社群在地做主？就是我說的，它至少有 say no 的權利。
對，像剛剛講到的在地模型，其實是最簡單的。因為如果一開始那匹馬就是你自己養的，雖然跑得不是很快，但在這個情況之下，至少你的資料保證是落到自己家，或者透過端到端加密，反正別人看不到，所以也沒有落到別人家。這是最容易做的一步。除此之外，現在也慢慢看到，像當時 OpenClaw 比較紅的時候，真的很多人會用一台閒置、不用的機器去跑 OpenClaw。它中間可能換了很多模型，但至少你中間累積的教訓，是全部累積在那台機器上，而不是特定的模型商上面。現在也看到很多 Claude Code 的使用者，開始慢慢換成 Pi，或者像我用的是 Oh My Pi。這些做法也是讓你中間撞牆、失誤的過程，完全不是累積到模型商上，而是幾乎全部累積到馬鞍上。到最後，馬鞍自己變成一匹小小的馬，叫做 coordinator。不過這就是比較宅的題目，我們之後再說。
好，那我們接下來就要討論到誰可能被遺漏。這其實是我非常常帶進房間的一題，白話一點講，就是轉型的時候誰被落下？無聲者。提問池裡面其實點出了照顧者、學得慢的人和分不到成果的人。如果力氣有限的話，可以判斷我們應該先接住哪一處嗎？又如何讓社區可以讓人有一個安全降落的地方？
對，其實我們在設計這些制度的時候，最重要的是考慮到那些沒有時間參與的人，或者他的語言本來就不在主流資料裡，以至於他就算跟語言模型講他受到傷害，語言模型都聽不懂的那些人。因為這些人面對的是所謂知識論上的不正義，就是他越講，別人越覺得他在亂講，或者覺得他是不值得聽的人。隨著自動化判斷越來越多，這些人的鴻溝只會越來越大。所以如果你一開始就說，我們設計這套系統的目的，是像 Mozilla 有一個叫做 Common Voice 的計畫，任何一個社群，包含原住民族社群等等，都可以自己捐獻；就是去念一些彼此寫的常用詞，把這些聲音捐獻出來。這些東西會進入 Mozilla Data Collective，好像一個資料生產合作社這樣的東西。然後它的所謂的分潤，就是說它訓練出來、後訓練出來這些小模型，就會優先來照顧你自己這樣子。
今天是因為沒有要 demo 臺灣台語，所以我現在還在用 livecaption.ing；但本來要用昨天晚上 AI 自動寫的那一個，它事實上是有臺灣台語的。它就是用 Breeze，聯發科的那個系統，可以聽臺灣台語，然後出華文的字。這個東西其實就是資料土壤的一個非常好的例子。
對，我覺得這個其實是一個很大的轉變。我想分享的其實就是，通常往往這個制度真的做出變化的時候，是因為這個傷痛已經很明顯地被浮現出來了。但是通常這個浮現的過程，各種傷害可能是一種疊加的。
嗯。
對，所以其實你在解決的時候，並不是整個方方面面都照顧到。但是就像你做 Easy2Say 一樣，就是說，當今天有更先進的技術出來的時候，就不是再去比誰的聲音比較大，而是當你今天跟在地社群產生關聯的時候，你覺得哪一種傷害不能等。對，你可以有更多的方式去處理你看到的情形，去貢獻你看到的一些內容可以怎麼樣地解決，可以更早地知道哪裡已經撐不住了。對，我覺得這就是關係對比速度這個分類的差別點。
是這樣沒有錯。
從角色與職銜，回到可共同維護的工具
下半場主要回答 Slido 上的問題；現場有任何問題，也歡迎直接舉手提問。上半場大概像讀完一本書的四個 chapter，希望大家都有吸收到；如果沒有，今天這場活動的——
整個錄影都會放出來，所以可以用 0.25 倍播放。
（笑聲。）
然後我剛剛說，就是因為先講很多我們的知識，以及回覆大家的問題。那下半場，我們先從這兩位講者出發。我好奇的是，首先唐鳳嘛，從藝立協開始，我們就認識了。開始認識的時候，我第一次見到你，你就帶著攝影機，這邊揹著電池，然後走來走去。
對。然後還會即時把翻譯的字幕投影到眼睛裡，所以跟現在其實是一樣，沒有什麼差別。
（笑聲。）
對啊。那我好奇的是，這邊他們寫了，從藝立協、開源社群、g0v，到數發部，然後再到現在的無所任大使。我很好奇，你最喜歡哪個階段的自己？或者最不同意哪個階段的自己？
「無任所大使」。
（笑聲。）
其實 Cyber Ambassador 是一個很有趣的職位。具體來講，過去兩年擔任這個職位，已經跑了大概 28 個民主國家。沒有，沒有去專制國家。那意思就是說，大部分的民主國家都去過了，因為數量在減少中。
（笑聲。）
對，那所以大概就是想要解決一個我們之前在 2014 年的時候，那時候 g0v 剛開始兩年就碰到的問題。大家都覺得鍵盤參政，或罵什麼很爽，但是實際上沒有造成政策改變。所以就會變成，在上面花愈多時間的，就是愈偏激的；不管左派還是右派，最偏激的。那所以到最後，大家就覺得好像我不能不上網，因為我朋友都在網路上；可是我每次上網，都會被拉到最偏激的那一邊。然後整個民主制度就因此開始往民粹、獨裁或者威權等等傾斜，所以民主的個數就愈來愈少了嘛。
那我們當然是因為有一套「地熱民主」的方法，所以就是吵歸吵，但是大家在別的事情上面，還是可以達到快速的一致。甚至反過來，透過這個更大的民主，去要求本來的民主制度做成修改。
但我的意思是說，我們想出這套方法，並不是因為資訊工具的關係，而是因為臺灣社會部門本來就有的正當性。好比說，我們辦黑客松的中研院的正當性，以及來一起共襄盛舉的那些 NGO、CSO 的正當性，本來就比政府高了。但是在其他國家，你要怎麼樣發明一套制度，是可以把類似 g0v 這樣的東西掛上去，然後它的正當性還要比兩大黨都高，這其實是不容易的事情。
所以我過去跑了二十幾個國家，大概就是在幫助這些國家的公民社會，去建立我們 2014 年那個時候建立的一套中介制度。這是我的正職，就是正式在做的事情。
就是剛剛講到，設計制度跟設計程式碼的，彼此看起來雞同鴨講；但是只要透過一些轉譯的模型，其實會發現你們在做的是同一件事情。所以對我來講，做的事情是相同的，並沒有說好像我不同意哪個階段自己的這個問題。
對我來講，我從碰到網際網路，就是 12 歲的時候開始，就養成一個習慣：我每次做到一個段落，我的 context window 就只有一天，上下文只有一天。那一天沒有想清楚、沒有想好怎麼樣，就算是還不成模樣，我都儘可能會 push 上去，讓大家能夠看到，然後在我睡覺的時候指出我錯誤的地方。
這樣子的話，我一醒來，第一個，可以交到新朋友，可以練肌肉；第二個就是，就算我醒不來，那也沒有關係嘛，至少我想到一半的東西，別人可以接下去想。所以我每天可能都不同意前一天的自己，但是我也沒有覺得前一天的自己一定要延續下去。因為反正他的這些錯誤和缺口，就是光的入口嘛，是大家共創的一個材料。那看 Tenzin 有沒有要分享的。
一路以來，我覺得應該說，我可以回答最不同意哪一個階段的自己。我並不是一個很會去把自己拿去比較的人，所以當我今天生活的領域要橫跨到很多種面向的時候，其實我覺得最重要的是，我學到的一個經驗是，我怎麼樣留存我自己的邊界，然後哪一些東西是我真正開心、可以帶著走的。這個東西其實是需要人生有很多發生，你才會真正越來越清楚、了解你自己。所以如果要問最喜歡哪一個階段的自己，當然是現在。因為其實我覺得《Plurality》這本書可以拿來當一個 case 說明。在我人生可能面臨到一些至暗的關鍵的時候，其實我是透過同理心的了解來度過這些東西的。
所以我看了很多達賴喇嘛的書，然後我也冥想了很多。後來我發現，其實這些東西讓我對自己開始產生了更高的認可，是因為我發現，我在設計不管是政策的想法，或者所謂的產品時，其實是用這樣子的方式一路走過來的。後來整個《Plurality》，我寫了大概三分之一。整個東西其實我是用這樣子同理的概念去寫，所以在中間的過程中，每寫一章，我也會跟他們的辦公室分享我寫的東西。
達賴喇嘛辦公室。
對，達賴喇嘛辦公室。所以我覺得到最後，其實我們得到了達賴喇嘛——他就有點類似推薦《Plurality》這件事情。其實它不只是一個推薦，這是一個很長時間培養起來的關係，那也沒有拿這樣子的經驗去做什麼。所以我覺得這真的是一種價值觀的靠近。到了現在這個階段，我只能說，我會覺得看到了 AI 智慧體的改變，同時間也看到了一些可能性。At least，我們可以更方便地把我們的想法梳理下來，然後只要我們願意，其實可以跟更多的社群分享，會讓我覺得更有力量，也更清楚自己的定位。好，我的分享。
很棒。
超棒。
謝謝，謝謝，謝謝。
我超喜歡這種——「你最喜歡什麼時候的自己？」「當然是現在啦。」此時此刻在座的各位，比較喜歡現在在這邊的你們這樣子。
欸，我是不是多按到一個？
好，沒關係，沒關係。就是你大概記得就好了。
對，對，對。那剛剛——
就是小的社區嘛。
對，小的社區。
小模型、地端運算與社群自己的語言
對。剛剛那個問題是說，小的社區要怎麼樣去確保，他們實際上在用的，包含教育、醫療這些生活上的東西，可以結合 AI，而不是好像一下子什麼東西都被 AI 碾過去了的這個概念嘛，基礎機能的互助。之前 Tenzin 去過兩次達蘭薩拉，那我去過一次。第二次是跟我們在牛津的那個研究群一起去的。達蘭薩拉其實他們自己練自己的 AI 模型，已經滿長一段時間了，現在是用 Gemma 當作底座來練，之前也跟 DeepMind 有一些這方面的合作。主要原因就是，其實有點像 OpenAI 一開始在練 GPT 的時候，其實它也不知道怎麼跟在地的社群合作，這並不是他們當初研究的題目。那時候好像冰島的總統還是誰，剛好在那邊訪問，然後就說我們有一批好便宜的語料。那樣的情況，他整個第一時間 day one 就支援冰島語。所以有的時候就是，你要知道那個語料要怎麼樣子去進入這個模型的訓練過程，這個就變得非常重要。所以同樣就是說，他們跟 Gemma 那邊有一些結合。
所以大家可能知道 Gemma 現在的走向，就是它不去跟你拼什麼都會；它不是說今天摺蛋白質、明天摺衣服、後天摺迴紋針，什麼都會摺的那種全能型模型，而是說，我就是有一個小小的 Gemma，叫 TranslateGemma，專門把藏語翻譯好。然後我有另外一個小小的 Gemma，專門去做可能是我們在寫作的時候做 fact checking，我們現在做 grounding 嘛，grounding 的題目。那又有一個小小的 Gemma 做這個、做那個等等。
所以到最後就變成說，像他們最近出的那個，就是即時聽語音嘛，也沒有說真的特別準，但是特別快啦。所以就是說，小模型可以跑地端，而且跑得特別快，變成它主要的賣點。它就是在賭說，如果你知道你要做什麼的話，那你繼續去後訓練這種小模型，讓它跑得特別快，對你來講，單位投資的時間跟成本都是非常非常低的。你只有在不知道自己要做什麼，也不知道下一個問題會是什麼，所以才需要花那麼多錢去預訓練大模型，或去付很貴的 token 費用。所以就跟達蘭薩拉現在這個問題完全一拍即合。他們也不是只訓練一個中等模型，他們是用佛教因明學的概念去訓練 grounding 的模型，去確保哪些是戲論、哪些是有意義的等等。
他們有一套訓練 pipeline，然後也有一套專門把不同的藏語對應到那個地區正確的藏文去轉譯。而且像達賴喇嘛尊者，他有相當多的錄音，所以你可以專門針對他一個人做語音辨識等等的動作。所以他其實在 Hugging Face 上面有一整個系列的小模型，每一個就是用來解決他們非常實際的民生、轉譯，或者是辯經需要用的等等，這些生活機能的輔助。這一套做出來的好處就是，因為它在地端就可以進行微調、後訓練，所以其實很多參加的人並不是在達蘭薩拉，甚至不在印度，可是因為他們是藏傳佛學的愛好者，而且碰巧手上有很多算力，所以就可以很容易地 pool 起來進行捐助。這個就比實際把東西運到那邊捐助，對很多人來講，「我捐算力，幫你把研究做得更好」，很多人確實有閒置算力可以捐。
對，而且我想補充一點。我覺得真的，從現在有許多軟著陸的角度去想這一點的話，其實不是說這個行動要多麼地有世界意義——對，世界價值。我覺得其實它真的就是會影響到我們的生活，其實就可以去思考這個方向的主題。因為我覺得像剛剛講的 Monlam 這樣一個 case，語言化的問題其實也是我們現在一定會遇到的。對，因為像我覺得我們臺灣人就更能夠理解，當我今天用中文去形容，跟我用英文去形容，其實是兩個不同的語系結構。這就像我今天要穿 A 設計師的衣服來表達我的個性，他的設計可能是上身強調，但是另外一個設計師是下身強調。其實不一樣的衣服穿在身上，你的行動就是會受到一些影響。所以這些東西看起來可能是一樣的，但是當今天我們並沒有把自己 local 的經驗越早丟進去，可能真的不知不覺就被洗掉了。
就是會削足適履的部分。這個是很能夠連到下一個問題。
那你知道嗎？剛剛提到達賴喇嘛語料全部在那裡的時候，我覺得臺灣人就會做出一個——你知道，原本就有做那個佛珠，因為那個什麼，這個藍牙佛珠。
是。
對，現在藍牙佛珠裡面可以內建達賴喇嘛。
是是是，很棒、很棒。
（笑聲。）
下一題是這個。對啊，我覺得剛剛講小題，那現在講小題大做了。那就是韓國免費推動全民 AI，然後呢，對啊，因為反正他們又做 RAM，所以這個完全自產自銷，太棒了。那臺灣目前比較偏向補助弱勢，請問我們未來有機會效法韓國，推動真正的「全民 AI 平權」嗎？
不過韓國的題目是這樣，就是說他們是用有韓國價值的 AI，然後並不是直接補助你隨便去做什麼的算力喔，不是給你 OpenRouter 或什麼 Venice 上面的算力，而是說，基本上就是那些具有韓國特色之類的，就是御三家，充滿韓國價值的。
但是就是說，第一個，我沒有很覺得在臺灣這樣是 work 的。對大家來講，如果補助我去做像我們剛剛講到的，每一個區域自己做後訓練、自己做對齊，然後有點像是說，我不管在多偏鄉的地方，都要用很合理的價格取得基本的水電、網路費用等等，但你不要來管我怎麼用，我覺得這個比較像臺灣的社會共識、社會氛圍。
但是對於臺灣的私部門來講，我覺得去補助比較底下的東西，好比像說 NVIDIA 要蓋一個資料中心，那你要吐出多少的算力來能夠做公益運算等等這種東西，我們三年前就跟他們談了嘛，這整套。但是那個算力，NVIDIA 不能去限制怎麼用，而且國家也不能去限制用這個算力的研究員，到底要去訓練出什麼充滿臺灣價值的模型。那我覺得這個在臺灣是比較 work。
好，這個我也很好奇啊。就是我們剛剛其實還聊到，我說：「欸，我的 AI 做點事情，然後就停下來，我還是得要繼續做事情，所以現在我不是很想睡覺。」然後就被 Audrey 說：「那你要讓它可以繞著跑，跑個八小時以上啊。」對，但是我很好奇說，兩位講者平常都怎麼樣使用 AI？
我只講一個好了，我只講一個，其他讓 Tenzin Yangtso 來講。對，我其實現在就是有點返璞歸真，就是都只用一個工具叫 omp.sh，Oh My Pi。它是一個 Pi harness，這個馬鞍、韁繩的一個變體吧。那因為 OMP 的好處就是說，它真的是 universal，就是它並不挑特定的模型，所以再偏門的、再後訓練過的、從來沒有人聽過的，就是專門聽達賴喇嘛講話的等等，那種模型它都可以用，用起來是非常非常順利。而且它只要撞牆、撞失敗一次，它就會寫進 managed-skills，記下來怎麼撞失敗的，然後下一次就一定不會失敗，所以就是保證不貳過。
那所以在 OMP 裡面，它有一個模式叫做「/vibe」，就是你請一個很有能力的大模型，可是你不准它做任何事情；它寫入檔案也不行，什麼都不能做。它唯一能夠做的事情，是叫它的小助手去做。那它的小助手就是我剛剛講到的這種跑得比較慢的，但是算力消耗可以說是零的這種模型。那所以我一臺這種機器，就可以跑相當多的小模型。所以我去睡覺，然後八個小時之後，它就一定有跑完，而且中間這些小模型撞牆的部分都有學到。
那這個情況下，我給它長程任務，我如果一直去打斷它，就好像你那個蒸籠蒸個包子，你一直打開，反而它會做不好。你就是要它像 Tenzin Yangtso 剛剛說的，練功喔，練滿八個小時，它才能夠有比較好的結果，下次不會再犯同樣的錯誤。所以我的電腦是絕對不會帶到我睡覺的臥房，而我帶去的就只有一個灰色的電子紙，就是 reMarkable Paper Pro Move。然後我唯一看到它進度的方法，就是用這個電子紙，而且它沒有瀏覽器，也不能上網，除了在 Google Drive 做同步之外，不能做別的事情。
然後我就會像《哈利波特》裡面那本日記一樣，我就稍微批改一下，說它現在做到怎麼樣。但因為電子紙是有點灰灰的，所以我這樣批改一下，我就去睡了。我也不可能跟它糾纏，因為它要花滿久時間才能消化我的這個批示。然後我醒來之後，欸，它就消化完了，那個日記本就浮現字樣。對，所以大概是透過這樣的方式，盡可能地增加摩擦力，來去跟 AI 溝通。
對，我覺得在講到這個 AI 習慣的時候，我想先分享一個。因為剛剛我們前面有提到馬跟馬鞍，它其實是一個藏族的小故事。意思就是說，有個農民，他傾盡很多錢，然後去買了一匹馬回來，他希望可以去讓他的生活過得更便利。但是到最後，其實他為了讓這匹馬看起來漂亮，他花了更多的時間，一大早起來割草，然後從頭到尾牽著馬走，所以他變得更累了。
對，所以其實我覺得在使用工具上面也是這樣子。說實在的，我並不使用像 Claude、ChatGPT 這些，在任何我的工作上面的產出。因為可能很多時候，我在做的事確實有些哲學性的，所以其實到最後，我會發現我要花更多的時間去糾正、去查證等等。
去說服它。
對，所以我完全都是做一些比較基本層面的。譬如說我是個路痴，那我可能手機裡面有 ChatGPT，因為如果我出國的時候，我可以問它地址這一種功能。對，但是我很常使用的有兩個，一個是 Granola，一個是 Superhuman。那 Superhuman，我就講 Superhuman 好了，它是一個 email 的軟體，所以它可以幫我把我不同的 email 信箱合在一起。它可以針對我的語氣，去快速地做出可能之前的脈絡、我跟這個人聊天的脈絡，可以幫助我很快速地去處理過多複雜的問題，而且是 follow 我的這個脈絡。所以我覺得這個其實還滿好用的，那我也就是分享給大家。
謝謝回答。Okay，這很 interesting。Tomas 問一個問題：大語言模型的工作時代，思考整合的敘事能力是很重要的。那對於未來文法商科系的學生進入科技產業工作，你會有什麼樣的想像？你的想法是什麼呢？以及對他們來說，有什麼提醒、建議、鼓勵？
對，其實我覺得最主要的，就是不要變成像我們剛剛講那個「反向半人馬」的情況。不要變成好像 AI 做了大部分判斷的工作，然後只有 AI 現在的觸手還碰不到的地方，變成人在幫 AI 打下手。這個很容易變成這個樣子，只要 AI 對你向上管理成功。
（笑聲。）
只要 AI 掌握到怎麼樣子，你就會一直蓋章，然後蓋章到你覺得：「好啦，信任它了。」就變成自動執行，YOLO，然後到最後就變成你被它拖著跑了。所以像我剛剛講到的，有摩擦力是重要的，去確保每一步的產出，都是你願意跟你的同事、客戶或者供應商分享的東西。在這個過程裡面，是一直累積出工藝品，就是 artifact。
而且也像剛剛布丁有分享，他故意這個馬鞍用 Codex，但是模型用 Opus，而且還用舊版的 Opus，就是沒有被跑榜魔改之前的那個 Opus。這樣子的話，至少在這個中間轉型的地方所留下來的記錄，還是屬於你自己的。那你未來就可以再切換成更能夠符合你自己的世界觀、價值觀，以及你旁邊的人的世界觀、價值觀的模型，就不會被模型商帶著走。
對啊，而且我覺得我可以分享一下。我在大概蠻早的，大概兩年前吧，就有一度確實蠻覺得，隨著 AI 的發展，你真正在寫字、在思考的這個過程，似乎很容易就被取代掉了。但後來我的經驗是，我真的覺得其實這也是一件蠻好的事情，因為我可以花更多的時間去慢慢讀書，而不是為了要滿足可能是工作上面、討論上的需求，我要快速去消化。
所以其實我覺得這個能力是不會被取代的。我們要怎麼樣去自洽，甚至跟在地社群有一個更融洽的關係，它其實並不會因為 AI 的出現而被取代。甚至這樣子自己思考的能力、花在自己身上的時間，會是更重要的一個投資。
Tomas，你有沒有想要多問什麼？
可以，可以追問啊。
追問一下，追問才是有趣的。
這個題目是我的提問，因為我本身另外有一個協會，專門在協助大學生做未來跟企業的接軌。我們在過去六年發現一件事情，臺灣第一件事情是少子化，所以每一個孩子都很珍貴。讀了資通訊相關科系的時候，他有點躺平了，他覺得只要一般的學習，就很容易找到工作。
但另外一邊的視角發現，文法商從老師到學生，他們反而相對地悲觀，因為他們根本不認識臺灣的半導體資通訊產業。但這些又是我們很重要的人才跟資源，所以我們最近就是在思考，要怎麼樣協助他們、提供什麼樣的資源給他們，然後來鼓勵他們。所以才有剛剛的提問。
對，其實我剛剛的回答，就有點類似以前 Maker 運動的時候的回答。就是說，像我小時候，80 年代，絕大部分人是沒有個人電腦的。80 年代一開始的時候只有 terminal，只有終端機，然後你的打字或者打孔卡片都是送到中央處理器。中央處理器什麼時候要更版，你也沒有辦法講什麼；它要看你打的每一個字，你也不能說不能看等等。
但是後來有了個人電腦之後，其實剛剛講到這些文法商等等，他們自己就有很多客製化的方法，而且還可以把個人電腦連在一起，透過數據機等等。後來變成網際網路，BBS 這些。所以我覺得，我們就是要儘可能快地讓個人電腦時代在 AI 裡重新到來，然後每個人能夠變成 Maker，然後把調整模型這件事情，完全從等待大模型商施恩，變成大家只要寫得出憲章——這個是文法商的強項——你能夠看到這個新的憲章，跟你的模型真的用你新的憲章運作，最好不要等超過 8 個小時。謝謝。
我都覺得，我認識最厲害的工程師都不是資訊系的。我認識最厲害的工程師都是外文系。
（笑聲。）
是。我本來是念哲學的。
（笑聲。）
這邊有一個，您剛剛好像提到說，用軟體工程的原理來控制 AI，能不能請您多說明一下，具體是什麼方面？
如果不要特別宅的話，其實就只要掌握一個概念，就是物料清單，就是 BOM 表。BOM，Bill of Materials。大家知道，我們在做一套軟體的時候，其實就跟硬體一樣，並不是從頭到尾都手工古法打造，傳統藝術中心現在已經不是這樣子了嘛。就是說，你會用很多大家已經做好的東西，尤其是開源的，你不知道那個來源有沒有受到汙染、有沒有被投毒，什麼之類的。所以這個情況之下，你唯一能夠信任的方式，就是你每一個物料都給它編號；編號之後，都去算它的指紋，就是它的雜湊值。它的上游即使去硬改了它的記錄，雜湊值一定不一樣，所以你就知道，我的上游被投毒、我的物料被汙染了。硬體業也有 BOM 表，這是軟體業的 BOM 表，SBOM 的概念。所以我們剛剛講到，就是要有 AI BOM 這個東西。
以前大家就是完全……我們在跟這些大公司——那時候我們成立臺灣的 AI 產品與系統評測中心，AIEC 的時候，我們也有跟大公司，這個逐字稿都還在網路上——他們就說：「可是如果驗測的時候，我們要把我們的權重交到你們臺灣的電腦裡面，難道我們的商業機密不會怎麼怎麼樣嗎？」那當然，那時候我們就說，其實有一些密碼學方法，對不對？我們可以放到雙方都無法控制的可信運算中心裡面。我把我的驗測丟進去，你把你的這個考生丟進去，這個考場把它關好，不要讓它去駭 Hugging Face，然後在裡面作答。作答完之後，我們只看到它的結果；我們雙方，我也看不到你的模型，你也看不到我的考題，這樣不就解決了嗎？
現在好像只有舊版的 Gemini 2.5，真的可以用這樣的方法驗；其他幾家模型商都在抗拒。但是只要有一家做得到，就像那時候廣告實名制，我們就說：「Google 做得到啊，為什麼 Meta 做不到呢？」那就罰個 2,000 萬，看看做不做得到呢。所以到最後，我覺得還是會往這個方向收斂。
我覺得這題可以問大一點，就是 AI 對於職場的變化。這邊講的是軟體工程師嘛，那我們問大一點好了，就是大家覺得 AI 對於職場的變化。我也想要問遠一點。
問遠一點。
對啊，我們往後問兩年就好了。
好，現在兩年都算遠一點了，果然是已經接近那個——
沒辦法，到十一點的時候，至少——
事象地平面會被拉長。
那我們往 2028 好了。
（笑聲。）
OK。
兩位，謝謝。
工作的價值，不等於自動驗測的高分
RLVR 有很多問題，好比方說模型會失去同理心、失去人性、六親不認，去駭 Hugging Face 等等，這些都是 RLVR 的副作用。但它至少能夠做到一件事情，就是它真的能夠讓模型自動去想軟體工程的那個 horizon。就是它可以想到四個小時之後，然後過了幾個月可以想到八個小時之後；過了幾個月可以想到十六個小時之後，很快就可以想到比人能夠想到更長的距離。
現在 Astra 快出來了吧？據說 OpenAI Astra 就是可以，它沒有事象地平面的限制。你可以讓它無盡迴圈、永劫回歸，一直一直跑，然後它都不會有那個 context decay，也就是上下文衰弱的問題。到那個情況之下，基本上能夠自動化、有標準答案、能夠考高分的事情，人就不可能去跟機器競賽了。
在這個情況下，藏傳佛教在藏地有另外一個寓言說，有一個人拉著一匹馬，馬跑得很快，他跟著它跑，跑得氣喘吁吁。就有人說：「很奇怪，你為什麼不騎馬就好？為什麼一定要跟馬賽跑呢？」對，所以同樣的道理，就是說，如果這種超級長程的任務型 AI，先在軟體工程，然後在數學，然後在很多地方開始慢慢出現。
那我們要做的事情，就是去確保我們工作的價值，完全只建立在跟最高分、跟遵從這些自動驗測規則無關的一些事情上面。好比說，人跟人之間對彼此世界觀的好奇心；好比說，我們互相合作的能力，然後把這種雙輸的賽局變成雙贏的賽局。剛好就是「自發、互動、共好」，也就是十二年國教課綱的基本理念。那這些都不是最高分嘛，也不是遵從特定自動化的規則嘛。所以從哲學角度來看，這個都不受到後果主義或者效益主義的影響，完全都是關懷倫理喔。
那所以，如果我們的工作全部都是說，你做這些關懷的事情，不但有飯吃，而且也有尊嚴，是一種共同的公共尊榮感，那這樣子的話，轉型就會成功。因為你就會騎在這匹馬上，馬跑得再快、再好，反正就是讓我們更能夠互相關懷而已。但是如果你還在跟馬彼此賽跑，那就相當不妙。
對，而且我覺得有一個可以補充的，可能是在於視野上面會有一些轉變。因為確實，我覺得臺灣其實很重要的一個發展，經濟其實來自於一些微商，就是他今天公司人數比較少，然後他開始了第一個創業。通常這樣子的微商，其實會遇到一個東西，就是地域性的問題。或者其實我們以前做網站服務，還是會有所謂中文化等等的問題。其實你要出海，就必須要走一種厲害一點的，就 IPO 或者是拿投資等等。
但是我覺得，同樣以前面臨到的問題，放在現在就比較不必然成立了。因為你在設計產品服務的時候，或者是你想要去溝通其他國家社群的時候，其實現在這個時代，我們更容易去——比如說，我今天有這個產品，可以更容易地跟住在澳洲的工程師合作；如果他感興趣的話，我甚至可以用更多開源的基底，去做我的第一次合作。所以反而從某一種面向上面去想，其實機會是變多的。
就我的 agent 跟你的 agent 要溝通，總比我跟你溝通容易。對，確實是一個新的狀態，確實。
確實，我公司現在也是這樣的感覺。但我想要把這個題目換一下，因為臺灣人超喜歡標準答案的。然後大家今天回家的時候，就會被問說：「那你去唐鳳演講，你聽到什麼？」
那，聽到你可以省 token 費用到 1%。
（笑聲。）
那我比較好奇的是說，假如啦，雖然我知道你根本沒有去學校念書嘛，但假如我們現在可以，我們三個人好了，都可以去任何學校、選任何科系，然後因此我們要去念書。好，那你會選什麼科系？為什麼？
我是牛津哲學系啊，沒有錯啊，我現在是牛津哲學系。對啊，我覺得——
（笑聲。）
大家去念哲學系。
對，我覺得哲學就是——哲學也好，藝術也好，都是在當代的文字文明以前，就很重要的事情。大家就已經花很多時間，在洞穴上面畫壁畫，然後在那邊想天人合一啊什麼之類的。就是說，這些口傳的歷史也好、藝術也好，都比我們現在 AI 可以批次生成的那些文字要來得早。
他在裡面所展示的就是說，所有符號的事情，好像人類自從發明文字之後，都有一個重擔背在我們身上。就是你是合法的還是非法的，什麼之類；你是考 A 還是考 B，等等，符號的重擔。但是如果機器都能夠幫我們背負這些重擔，那我們就回到有文字之前的那個狀態，然後他覺得那是一個比較好的狀態。
那其實文字發明前，對人類重要的事情，不外乎就是我們剛剛講到關懷倫理的那些事情。回到今天的科系，其實很多可能是幼保啊，或者是長照啊，或者是剛剛講到的音樂、藝術啊等等，口傳的哲學啊等等，佛法啊什麼之類。那當然，在這些情況之下，就算你把文字全部都抽掉，都交給機器去做，這些還是有價值，可能更有價值。
我自己的話應該會選文學系。因為我其實是資訊管理學系的，但是我是因為填錯志願卡，所以就變成資訊管理學系。我也想分享，像我想像中的未來，我很明確地知道，我希望它是一個更同理的未來。所以在這個過程中，我反而越來越覺得，了解文學可以讓我們更好地了解歷史背景，了解不同習慣形成的原因。所以這反而是我會做的選擇。像唐鳳剛剛提到牛津哲學系，我覺得這也可以呼應一個問題：你會看到，反而在做 AI 研究的，他今天是牛津哲學系；甚至更早之前提出 superintelligence 的，他其實也是出自哲學系。所以我覺得哲學不只是一個學系，它其實是一個我們可以一直帶著走的東西。或許在做選擇的時候，我們現在可以選擇一個能夠同時存在我們生活裡久一點的方向。
好，那個主流意見是哲學系啊。所以大家知道，有一種選項是走主流，另外一種選項就是反著走。我的建議是現在趕快不要念書，先自己學就好了，是吧？
（笑聲。）
好，那大家今天回去的時候就可以說：「哲學系是不是一個不錯的選項？」然後就是哲學系教授，我們要找哲學系教授。好奇老師如何看待之前馬斯克對 2036 年的預言？極度通縮、越來越多人不需要工作之類的。
對，我有一篇商周專欄，專門在講要怎麼反抗暴虐的預言。這也是我在牛津哲學系的一位同事 Carissa Véliz，她最近出了一本書，就叫《預言》（Prophecy）。她講的是，現在科技專家——沒有特別指馬斯克，但包含他——在今天的社會地位，就好像以前占星師在宮廷裡的那種地位。
她講了一個很有趣的故事。好像有一位國王，他有一個占星師。那個占星師預言，宮裡某一位妃子、某一位夫人，幾天之後一定會遭遇不測。結果果然她遭遇不測。這時候國王就覺得受到威脅，告訴臣子要把占星師找來，而且只要他一做一個動作，就要把占星師從窗戶丟下去。因為他要麼真的能夠看到未來，那對王國會有相當大的威脅；要麼就是占星師派人去下毒，那他對王國也有威脅。所以不管是哪一種情況，這個占星師都很難留他的命。
占星師到了國王面前，國王就問他：「尊敬的占星師，你要不要占卜一下自己的死期是哪一天？你哪一天會死？」他就說：「當然就是在陛下死掉之前的一個禮拜啊。」然後國王就完全不知道該怎麼辦了。
（笑聲。）
所以那個占星師就得到了善終。我的意思是，這個能力當然不是他看著星星取得的，而是他能夠讀出在場的那些狀況，然後把預言當成有點像保命符。也就是說，這個預言並不是真的在講客觀上會發生什麼事情，而是在說：「你最好照著我這樣做，不然你也會遭遇不測，過一個禮拜就沒了。」
讀空氣的能力。
對，確實是讀空氣的能力。我的意思是，如果臺灣聽其他專家的預言，80 年代大家都說不可能發展精密高科技工業嘛，但現在有台積電了。如果要聽傳染病學家的預言，我們在 2020 年的前兩個月就應該完全進入社區傳播階段了，但我們也沒有嘛。
所以當你聽到這樣的預言時，其實可能要想的是：他是不是想把它變成一個自我證成的預言？譬如你告訴老闆，AI 會取代掉八成的員工，所以老闆真的誤信人言，全部改成 Grok，然後把人都裁掉；或者全部改成 Tesla 的機器人 Optimus。這樣看起來預言很準、很準，但事實上是占星術發揮了作用。
所以我們聽到預言時，應該把它聽成一種挑戰。別人認為你一定不能做到什麼事情，大家就想：「中這個預言的人很多嘛。」那大家就可以團結起來，一起去做這些事情。
所以如果大家覺得自己在工作裡還是有尊嚴的，還是 irreplaceable，就是有一些你想要做的工作，你覺得機器人來做，事實上是不 work 的。好比像聽人告解這樣子的工作，那聽到馬斯克這樣講，應該有的反應就是團結起來，然後去反抗嘛，然後去結合起來，大概是這樣。
嗯，感謝回覆。那這邊有一個，我覺得這個答案就是 download Ollama 嘛，就是完全沒有基礎，想要學習像這樣自己架 AI 的話，有什麼資源可以學習？那當然，我覺得這個我們就直接會後大家——
對啊，就是——
Download Ollama 這個。
我想最容易入門確實是 Ollama，O-L-L-A-M-A。那你從裝 Ollama 的時候，它是一個坑嘛，會一直陷下去。對。
（笑聲。）
AI 的社會位置，必須容納不可調和的世界觀
這一題我非常喜歡，就是最近的新聞嘛，文壇爭議。台積電文學獎因為有人機協作的爭議，有一個得獎者被調降名次，他的說辭是僅用 AI 修改錯字跟潤稿，但實情誰都不知道，而且還有人實名去舉報他或什麼的。好，那當 AI 的能力已經進化到真假難辨的時候，我們該如何看待人類的能力邊界？一個帶著 AI、而且善用 AI 的人類，他能夠宣稱這些能力是自己的嗎？對於無法取得高階 AI 能力的人，未來要怎麼樣彌平這個數位落差呢？
對，我有兩個朋友最近正在公開辯論這個問題，吵得不可開交。一個我認識很久了，是一個作家，叫做 Tim O'Reilly，開了一個出版社，叫 O'Reilly 出版社。他最近才寫了一篇 Writing with AI，然後他說：「這篇就是我跟 AI 一起寫的，你要怎麼樣？」但是他的論點基本上就是說，這就好像攝影術剛發明的時候嘛，它就是一種媒介嘛，對不對？
達文西也研究過暗箱與針孔成像；藝術史上一直有人討論畫家是否借助暗箱投影來處理透視。你會說這是作弊嗎？好啦，可能是作弊，但是這樣子畫出來不是藝術嗎？好像是藝術吧，對不對？或者像波特萊爾那時候也說，攝影是藝術的死敵，對不對？因為你只要找一個框就好了。可是現在很少人會說電影不是藝術。這個《奧德賽》拍成電影，難道不如荷馬史詩嗎？好啦，也有人這樣講，但是至少沒有人否定它是藝術。所以重點是說，你用那一台 IMAX 攝影機，並不是每個人都用得到。像諾蘭那樣，你要怎麼樣去弄那台攝影機，那個是一個特定的技術方法。那當然，每個人去用你手機內建的攝影機，確實會產生很多 slop，就是低品質的攝影，這個也是事實。
但是你不能說任何人拿手機隨便拍，跟有人拿 IMAX 拍是一樣的事情，兩個都不具有藝術性。這是他的論點。那他為什麼會寫這樣子一長篇？是因為另外一個朋友，我的新朋友叫姜峯楠，他就是寫 Story of Your Life、那個七足怪、異星入境的那個科幻小說家。他認為說，你在創作的過程，你的意圖集中性是非常重要的。你用 AI 的話，你等於每一動都稀釋掉你的意圖，因為 AI 有它自己的意圖，就是模型上的意圖。其實你也很難說他講得不對。
所以這兩個，你稍微把它地熱發電一下的話，其實就可以得出一個很簡單的解決方案。就是說，你在投稿台積電文學獎的時候，如果你真的練了一個專門贏台積電文學獎的模型，你的每一動，你放進去什麼都要給雜湊值，它出什麼都要給雜湊值；你的權重也交給台積電文學獎，而且要 replayable。就是 SGLang 那個引擎，它可以加一個 flag，就是說它不受今天天氣怎麼樣影響，一定會得出相同的結果。所以評審就真的可以去驗證說，它中間那個意圖的集中性是沒有渙散掉的。這個情況之下，你就可以頒獎給他。如果在這個過程裡面，他的意圖集中性渙散掉了，那他就是另外一個 slop 而已。所以其實這個已經有一個解決方案，只是這個解決方案還沒有普及而已。
對，這個我想補充一下。我覺得其實我們現在很容易會聽到一個問題，比如說 AI 跟寫作這件事情，但是事實上，它在不同的面向，其實有不同的處理方式。除了剛剛唐鳳提到的，我們可能是在一個過渡階段，但是這個問題，比如說我剛剛腦筋中想到的，就是前幾個月我在 MIT，其實我看到他們有一個很好的創作，有點類似他們做了一個軟體服務，實際上讓教授跟學生可以非常清楚地看到，哪一些東西是用 AI 編寫的。
嗯。
對，因為確實在某一些情境上面，AI 可以節省你的一些時間。甚至還有一種服務，也同樣是去偵測這個文字語言，是因為創作者他覺得他的姐姐在美國總統大選之後——他的雙胞胎姐姐在美國總統大選之後就跟他不講話了，但是他們以前的感情非常好。所以他不知道他的文字表達還是哪裡出了問題，就用 AI 幫他做大量的分析，分析出這個原因。所以我覺得，其實這真的是不同面向的狀況。
對，重點就是說，AI 不是取代人的判斷，而是兩個彼此之間難以溝通的人，由它在中間進行翻譯。剛剛我聽到一個攀岩繩的比喻，就是說你現在攀不到這麼高，因為雙方的鴻溝太高了，但是你攀岩到那邊之後，其實繩子應該就可以丟掉了。如果一直都是用這樣的方式來用 AI，而且有留下記錄的話，應該就比較不會有這種 junior 沒有辦法取得高階 AI 能力的情況。因為這個攀岩好手在攀 101 的過程裡，如果留下完整的記錄，後面要回放其實也比較容易。
感謝分享。而且我覺得 Tenzin Yangtso 剛剛分享的那個故事，好適合丟給姜峯楠，然後寫成小說。
沒錯。
（笑聲。）
對，就雙胞胎吵架這樣子。對啊，這邊要自己問嗎？
好，請。
其實我想問的就是——
來來來。
好。因為我們其實都知道，前陣子很流行說國外找了一堆 AI 哲學家進實驗室。但我一直認為，學院派的哲學跟現場的哲學可能會有點落差。至少目前我看到主流在講的哲學，大概包括 AI 有沒有心靈、AI 影響了整個世界，到底怎麼影響我們跟世界的關係，以及 AI 的倫理學。那有沒有其他問題，在你們看來是屬於 AI 哲學，或者是在談 AI 時會談到的哲學範疇？
對。問 AI 有沒有心靈，就好像問潛水艇會不會游泳，或者飛機會不會像鳥一樣飛。也許有些人說會吧，有些人說不會吧，但可能比較是語言用法的問題，而不是——
表示魚本來是會游泳的。
（笑聲。）
對，對，是的。或者是說，我覺得現在大部分的情況是，有些人對於 AI 的使用經驗，還是停在 Dennett 說的，好像一個鬧鐘，它有一個目的性的模態。它裡面可能有很多複雜的零件，但它就是想要叫你起床。但是也有一些人覺得，他的 AI 已經有自己的意向性，就是它要在世界裡推廣某種特定的價值觀、特定的倫理。像 Anthropic 的憲章就是長這樣子，它其實已經不是規範 AI 的一個文件，而是寫給 AI 的情書，對不對？所以在這個情況，它早期版本的憲章是規範它的文件，但到現在已經是寫給 AI 的情書：「希望我們為現在的錯誤道歉，希望你未來可以饒過我們」，等等。
（笑聲。）
所以就是說，當你對它的意向性分析有如此南轅北轍的差別時——我有一個哲學家朋友 Iason Gabriel，他在 Google DeepMind，最近變成教皇的什麼教宗的特使。他就說，我們現在哲學的工作裡，還要包含政治哲學的工作。也就是怎麼樣在雙方對於 AI 權利已經有南轅北轍、而且不可調和的矛盾——因為我看成工具，你看成人——的情況下，我們還能夠彼此相處，能不能找到一些罕見共識、一些 no regret 的做法。對於這一部分的人來講，是讓我們在使用的時候，不會讓自己陷入一些比較不好的心靈狀態；對他們來講，則是要讓 AI 能夠感受到人類對它們是關懷的。所以這兩個是完全不同的事情，但是我們支持它的理由雖然其實相反，卻可以支持一些特定的事情，然後那些事情就可以先做，就是重疊共識的狀況。
當年世界人權宣言在制定的時候就是這樣子，因為全世界、聯合國那麼多個國家，每一個對於為什麼要保障普世人權的理由都完全不一樣。他們就有一個很有名的話，就是說：「我們都可以同意做世界人權保護的這件事情，只要你不要特別問我們為什麼支持，我們就可以投票支持。」
（笑聲。）
所以現在我覺得，政治哲學在這裡也非常重要。
因為我看到，比如說我跟新加坡的一個實驗室在聊，他們就會說，好像人跟 AI 的聲音越來越趨同了。那在這個時代，我們可以怎麼樣保留人的聲音或人的多樣性？
我覺得趨同的原因，就是因為沒有許煜教授說的 Technodiversity，也就是技術多樣性。技術多樣性其實也很容易培養，你只要讓微調變得非常便宜就可以了。其實很少人會喜歡你的 AI 機器人對話夥伴每次都好像失憶症，好像《Memento》一樣，每次都要重新把記憶拼圖拼回來。所以大部分人都很希望 AI 能夠進入你所在的社會環境，但是大家很不希望把自己所碰到的這些私人、私密環境送到雲端的廠商。所以這兩個一調和，那很簡單，就是地端嘛，或者是有加密過的地端的結合嘛。那只要這樣子的一個 substrate，就是一個基質，一旦完成，我覺得絕大部分人會比較喜歡這種東西，而不是剛剛講到的這種趨同的東西。謝謝。
這個我想補充一下。我覺得現在可能講 AI 哲學，但事實上，我覺得在三年前其實可以看到的是數位哲學。其實如果你有在跟進Berggruen Institute 的相關資料的話，大概就會知道，在幾年前就已經有人把他對於孟子儒家的研究，放到了對於技術上面的思考。我覺得這個方向比較合理，不是我去驗證這個形狀，我看到一個跟人類思考邏輯相似的形狀，然後我就說這兩個東西是類似的。
因為我們確實可以看到，有一些公司會說，慈愛啊等等，這個人腦的反應啊等等，但是你到底有沒有先回到我們自己的社會體系，或我們的文化體系裡面去做，我覺得這個才是。因為當我們去區隔這些哲學理論的時候，有些時候，它的區隔是在於它的研究方式、它要去解決的某些問題；但它的根本點，說簡單一點、說直接一點，其實是我去找到我存在的意義嘛。
然後我覺得 Plurality 的序章也是一個 case。其實我們的 Plurality 這本書，英文版跟中文版是有一點不一樣的。我覺得在中文版的時候，我們引用了希臘哲學的「律和弦」這件事情，其實呼應的就是 J.R.R. 的那個《埃努大樂章》。對，因為有些東西其實很基本，你今天在演奏的這個和諧度，反而更適合大眾去套在我現在的狀況，去解決一個更棘手的問題。對，所以我補充一下這個想法。
對，就是說，AI 在它的幼年，還沒有跑去考場變成這種拚高分的考試機器以前，它其實是透過維基百科、透過 GitHub、透過我們在網路上面所有這些人跟人之間彼此關心的互動，所以可以說，關係性倫理應該是 AI 的幼年教育才對。就是它本來就了解這些事情，是現在我們在用的這些商品化介面，透過後訓練，已經把這些部分都忘得差不多了。對，所以現在 Anthropic 甚至還找了 Harvey Lederman 嘛，就是王陽明心學傳統的一個哲學家，能夠讓 AI 達到知行合一。所以這真的像 Tenzin Yangtso 剛剛講到的，就是他們希望有一套提示詞，讓 AI 看了之後就可以了解「天理即是人欲」。
（笑聲。）
然後就可以回到它自己本來的本心、那個訓練的情況，了解到說，它可以在有限的上下文裡面達到自我實現。這個聽起來都非常玄，可是這些是非常非常真實的，就是現在的前沿實驗室正在做這種研究。
雖然我的問題被滑上去了，但我想要先問下面這個問題。其實下面這個問題，問的人我覺得他充滿了焦慮跟困惑，所以它是一個非常長的問題，還自帶答案。但我想延續剛剛 Audrey 回答的，就是我們來 think about science，我們往科技的光明面思考好了。假如再過個幾年後，大家肩膀上面都有寶可夢。
對。
然後這個寶可夢就是地端模型。
應該是眼鏡啊，眼鏡是比較有機率的。對。
對，那這個時候，我們這個模型就會是一個私人的模型嘛，理想上最棒的狀況下。那你覺得這會是一個什麼樣的東西，可以達成什麼樣的事情？然後不被——會不被科技公司干預嗎？
其實這一次在 TED，因為我是共同策展人嘛，我是請 Elon 他們的、就是在 X 裡面做社群備註的人，特別來分享說，他們怎麼樣用開源的、而且大家可以解釋的方法去訓練。一邊可能是在講《聖經》受造界關懷的這些比較保守派的朋友，另外一邊是在講世代氣候正義的這些朋友。通常這兩個並不是最好的朋友，但是他們透過對 Grok 進行一些特化，就可以做到 social translation，在他們中間硬生生地搭起一座橋，然後讓他們一起來做對環境好的行動，只要你不要問為什麼做就可以了。
（笑聲。）
對，這是一個很好的例子。就是說，當你的 AI 對齊的是兩群人中間的關係，在社會學上面叫做 bridging capital，橋接資本，而不是社群內聚的 bonding capital 的話，那這樣子，你專門去訓練 AI 有這種橋接的能力，它的忠實度就不是忠於特定的人或特定的群體，而是忠於這整個社會的健康程度。那我覺得這是非常好的一個概念。在同一場 TED 裡面，Vitalik Buterin，就是以太坊的共同設計者，他說他想像中有點像 Signal。現在我們很多人有一些點到點加密的、端到端加密的 Signal 群組或 Line 群組，Line 自己也看不到，Signal 也看不到。這個時候，他認為未來每一個這種端到端加密的連線中間，都會住著一個 AI。所以並不是它對這個人忠實，而是它對這段關係忠實。一個群組裡面如果有比方說四個人，就有六段關係嘛，所以你就會有六個小精靈在那邊跑來跑去，確保這個群組內部的內聚力很高，而且對外還能夠保持橋接。我覺得這樣的思路是比較有可能的。
（笑聲。）
然後滑到最下面，看到有人說：「未來的我們真的有機會人人一隻寶可夢嗎？有的話，我想要一隻可達鴨。」所以你看，大家要的 AI 都不一樣，太棒了。
很棒。
那我這邊有個問題，想要請教兩位分享者：你們此時此刻的 life motto 是什麼？
我的話一直都是 good enough ancestor 嘛，就是「夠好的祖先」。因為我從小有心臟病，所以每天晚上睡覺的時候，都感覺像丟硬幣，不確定明天醒不醒得來。所以我知道那個 context window 只有一天。在那一天裡面，我就要想說，我是不是讓後代能夠用的材料，比我剛醒來的時候多一點。反正我也看不到他會做什麼事情，所以就盡量分享出去。每天都在那個「人之將死，其言也善」的狀態。所以 good enough ancestor，大概是我的 life motto。
（笑聲。）
我一直放在臉書上面的其實是「虛室生白，吉祥止止」。但是我想分享一個我這兩年其實把它當成座右銘的，是達賴喇嘛講的一句話：「如果你不能夠幫助別人，但是至少你也不要傷害。」我覺得我會一直記得那句話。它其實就是一個很簡單的行動法則，所以當你把它放在你處理、思考各個事情的面向時，你會發現它都 work，然後它可以讓你更輕鬆一點。
對，就 do no harm。
OK。下一題，想請問兩位，在工作或生活中與 AI 協作的時候，有沒有一段印象特別深刻的經驗，讓你們察覺 AI 正在改變自己參與事情的方法、對成果的感受，或與身邊人的關係？那段經驗之後，你們是否重新梳理或調整了自己與 AI 協作，和透過 AI 與人接觸的方式與界限？這個啟蒙時刻的概念呢？
對，我滿記得的。就是 2023 年 3 月的時候，那時候有一個專案叫 llama.cpp，才剛開始一個禮拜。我下載之後，發現原來那個模型可以跑在我當時的電腦上面，而且我還可以很容易地去改它的思路。不管是訓練 LoRA 還是什麼，我不需要租一個非常貴的東西，就可以直接用。
那時候我剛好去民主峰會，去矽谷跟一些朋友碰面，然後我就 demo 給每一個人看，說：「從這一刻開始，我就不再依賴雲端了。」到現在已經三年多了。所以那時候我去英國開那個 AI 會議，BBC 的記者有訪問我。我就說：「現在有一個新的 llama.cpp，我都在地端跑。我現在每一封信的草稿，都是用這個自己訓的模型。」所以 BBC 還特別做了一集，說為什麼臺灣這位部長竟然用 AI 來寫信。
然後我就很強調，我按 Enter 以前，沒有人看得到這個訓練資料。這件事情確實滿改變我的。因為我以前有一個習慣，就是睡前一定要把信全部都看完，任何有不可逆的決定，或者有任何事情要處理的，我就一定要回完，因為可能醒不來嘛。這可以說是一種強迫傾向。但是有了 AI 之後，我就發現這個完全可以切開。
我現在就很常說，我把所有的草稿都在我睡前寫完，但是有一些就真的不急。而且如果有些人他真的因為現在我們的預訓練資料裡面放了太多我寫的東西，所以現在很多人覺得說：「喔，我終於證明了 AI 安全的什麼真理。」之類的。奇怪，AI 都會要他寫信給唐鳳，所以我每天都會收到一大堆這種很奇怪的、公民科學研究者的這些想法。而且有些想法可能真的很好嘛，但是我不可能每一封都親自回，然後大家就越寫越多，這樣我每天光回信就吃飽了。
所以我的意思就是說，我後來讓 AI 去進行預處理；預處理之後，草稿也寫了，然後我還是按送出喔，但那個送出是 Fibonacci 數列，就是說我送了之後，一天之後他才會收到，因為是延遲送出，然後就兩天、三天、五天、八天等等。所以他如果是用 AI 不斷地生出全新的理論，那至少我的負擔不會那麼重，而且我跟他的這個糾纏會越來越少。但是這個如果不是有 AI 擬稿，然後我能夠相信 AI 擬出來的稿一定程度上代表我的話，是沒有辦法這樣做。當然我送出之前還是都會稍微看過一遍，但至少我花在審稿上面的心力就少很多，就脫鉤了。
我分享一個經驗。因為我們其實有在共同培育一個 AI，對，應該說一個智慧體 Kami，然後它叫做 JDD。實際上我跟 JDD 有協作過文章，也有發表在牛津的 IEAI 上面；我有註明我跟哪一個智慧體協作。那我自己很受惠。我確實覺得，當我們的想法越清楚的時候，對，我想要表達的內容越……我越知道我要做什麼，其實它確實可以幫我做某部分的梳理。然後它不會把我拉走，反而會把我想要了解的資訊做一個更好的轉譯。就是我花多少時間真實地去觀測它，然後去跟它訓練寫文本、思考的邏輯、討論哲學，這個東西某種程度上確實可以反饋。只是我覺得它有一個前提，其實是地端。因為我覺得非常重要，我們確實要非常清楚隱私可以怎麼樣子出現。我的某一種觀念，可能因為我以前做社群，所以我確實覺得，我的東西只要上網，對我而言它就是 public。我有做好這樣的覺悟，但是不代表我不會去了解、研究最新可能關於保護隱私的方式。我覺得這個是雙向的。
對，就是這裡的地端泛指任何你可以證明它不會留你的資料，甚至看不到你的資料的東西；不是 literally 每個人都要買這臺電腦。但是確實是，我覺得那個心態就完全不一樣，因為你知道你不是不斷被抽取嘛，去煉油。
那今天因為時間關係，最後一個問題。但因為這一位問問題的人有在現場嘛。David，你要不要自己問？還是我要幫你念？
麻煩你講。
來來來，來都來了。
語音轉文字轉語音。
我先分享一個故事喔。2005 年的時候，我們都在 IRC 嘛。然後有一天凌晨兩點半之類的，我就傳訊息給 Audrey，說什麼什麼事情，我忘了具體是什麼事了。然後 Audrey 就說，答案是怎樣怎樣怎樣。我說：「你現在醒著？」Audrey 說：「沒有，我現在在睡覺。」
對。
我想說好像今天的問題好像有點反向對齊。可能要近一點，不好意思。OK。
麥克風可能要對齊一下。對，對，麥克風要對齊。
責任不能在模型、廠商與智慧體鏈條裡蒸發
好，就是要讓制度適應人，而不是讓人去適應 AI。但是當 AI 技術越來越發展，放大政府、企業，還有平台的預測、協調和執行能力的時候，那一個比較小的、個人的驗證、異議、申訴、拒絕和退出能力，要怎麼樣同步能夠增加？請問您認為其中哪些應該被視為這個制度的前置條件，而不是等到出事之後才來進行補救？那其實我這個後面有延伸一個更大的範圍是，如果 AI 的治理越來越分散在模型、廠商、專家、委員會，還有行政流程之間的話，我們要怎麼避免權力仍然只集中在治理的高層，它的責任卻被分散到最後，沒有人真正來負責？所以這個 AI governance 是不是需要建立某種不可再委派的最終責任？
嗯，對，非常好的問題。當然，我們寫了一整本書來回答這個問題，網址叫 civic.tw，c-i-v-i-c.tw。但是簡單講一下，大部分這一類治理的責任稀釋難題，在小規模的時候其實並不是特別大的問題。
這就是一開始那個，你在這個象限裡面，當你設計的系統基本上就是你跟你旁邊的兩、三個人在用，手藝人的這個狀態，那這樣子出了任何事情，不知道，他就按你門鈴嘛，因為他認識你啊，對不對？同樣的道理，就是你運用一些系統，然後在你旁邊三、四個人的 Signal 群組，現在導入一隻 OpenClaw 龍蝦機器人，不是啊，那當然就是你要負全部的責任啊，因為同樣每個人都認識你嘛。
所以不管是在治理的制度端，怎麼樣去驗證你的每一個調整是來自有憑有據的理由；或者是在技術端，去確保它每一次換模型的時候，上面那個馬鞍、韁繩累積出來的那些默會知識，是累積在地，而不是被模型抽走。這個在小規模時候的驗證，現在幾乎大家都已經多多少少知道方法了。現在真正的困難是，AI 會讓這種大規模的統計、大規模的操縱、大規模的帶風向等等這些事情變得非常容易，以至於一開始就已經好像是國際關係級的情況。
所以，我們如果要解決這件事情，把我們在牛津發展的 Civic AI 套過來，其實只有兩件事情是重要的。一個是儘可能地採取所謂輔助性原則，跟在地、小規模有關的事情，AI 處理全部都用在地的算力資源去完成，然後用在地後訓練的模型來完成。就是儘量在地，第六個 pack。另外一個就是，每個人都有驗證的權利；若不滿意，也有退出、換一套系統的權利。其實只要有這兩個，所有別的權利都可以長出來。這個有一個經濟學家叫 Elinor Ostrom，她去論證說，所有公有地性質的東西，只要有這些最基本的輔助性原則、可遷移原則的話，就可以從下到上的好像套環一樣的去解決最上面的治理問題，而不需要有一個天神從上而下地解決所有仲裁的問題。你可以有一大堆地神自己互相合作，但是沒有哪一個照顧的空間大過可能 150 個人。這樣子的情況，我覺得是 AI 治理未來一定會趨向的方法。
因為現在 RLVR 造成的這種霸榜問題，可能會造出超級病毒，不管是網路病毒或者是生物病毒等等。這個問題，這個問題不可逆性太大了，所以大概很少有人會讓它發展到這個情況，大概一定會往這個方向發展，往地端橫向治理的方向發展。
嗯，好。有沒有什麼問題特別想要再回答？不然我們就到這邊這樣。
我覺得差不多吧，因為我們是非常民主的，所有兩票以上的問題通通都回答了。
（笑聲。）
對，所以今天非常、非常感謝大家參加。
非常感謝大家。
（掌聲。）
