Tenzin Yangtso

OK，好，謝謝唐鳳，也謝謝月台的主持人 布丁 ，還有謝謝大家。我是 Tenzin Yangtso，這是一個藏文的名字，其實是 達賴喇嘛 賜給我的名字，所以我現在使用這個名字。今天我是一個陪跑的角色，主角其實是唐鳳。我也會把我們在一些專案工作上反覆碰到、比較深入的，可能是人文的問題、哲學的問題帶進來；也會希望盡可能把提問池裡的疑問追深，再把話交給大家。

因為唐鳳剛剛已經分享了一些今天大家看到的四個象限圖表，我也想講一下。我覺得當初這個設計，主要是希望讓大家在參加活動前，就像布丁剛剛說的，可能是反向對齊，或對齊的另一面。大家有很多想法可能不一樣，但是希望大家比較安在，就是來的時候可以有一個基本的象限，然後可以看一下。我覺得所有的角色其實都可以相互交替。這也是我們在 AI 時代中很明顯感覺到、少數蠻好的一些特點。

好，首先我們就直接來破題，講反向對齊是什麼。提問池裡面有人問得很直接：反向對齊是不是意味著誰要配合誰？其實以前社會中科技的發展也是這樣，慢慢地可能有了蒸汽機、電力、網際網路。那為什麼這一次，在 AI 科技的發展狀況之下，我們會覺得有點急躁？為什麼不能等？所以請唐鳳來回答。

對，然後我覺得有一個很重要的角度，其實是說，我們還是必須要從文化的角度來切。就是說，這個延遲的代價其實不只關係到效率，不是用這個角度去思考的。因為我覺得，同時間我們已經有經歷過這一段，就是工業起飛的這段時間。所以其實我們還是必須要思考到，如果有語言、手藝或者是照顧的關係，在制度反應前就已經斷掉了，簡單來說就是傳承斷掉。之後我們再用更強的工具去重建，它或許也不能夠這樣完整地恢復到原本的生命脈絡。所以除了問能不能等以外，我覺得還是要問得更清楚：等待的成本由誰承擔？哪一些失去不能逆轉？我們需要知道這個斷層。

對，我覺得這就是一種，就是說，因為大家其實也會擔心，像現在這些人工智慧的服務，幾乎可以在非常短的時間，可能一夜之間，就進入很多人的工作領域。同樣的，當然也會有人擔心，現在大家來討論，但是要花非常長的時間去寫清楚一個治理規則，它會不會很快地過時、不適用？

所以也就是說，把彈性寫進規則，但不是說沒有規則就叫做彈性。對，那如果更直接一點問，這件事情有這麼多種複雜的狀況，如果要把它變成一套真正可用、好用的對齊機制，至少需要哪幾層的思考點？

對，然後我想問一個比較在地社群的問題。像你剛剛講的這些，關於提供它的一個 product，甚至設計這些模型的內部團隊，往往只會測自己會命名的這些風險。對，但是生活在後果裡面的人是我們，語言也不在主流的資料之中。那我們要怎麼樣把一個全新的問題收進去測試呢？

對，我覺得這個其實也是需要很多自覺，因為就像我也會跟我培育的智慧體在聊天，那我就會很敏銳地發現到，比如說，你問它任何關於哈利波特的問題，它今天對於這個主角的認知，其實是在於更早、在我們使用之前，訓練時餵給它們的資料。那它們理解的情境背景可能是西方世界，以及他們留下的這些 comment 等等。我一直覺得，臺灣的社群其實大家很習慣在網路上面相互討論，這一點其實是國外常常——我覺得是常常在稱讚的一個點。我自己也時常聽到，臺灣被形容為持續以流程對齊、達成數位民主的一個先例。那你覺得在這個部分裡面，有一些過譽的部分嗎？還是你可以補充的部分？

我補充一個案例？

好。我覺得臺灣經驗可以分享幾個，可能是從旁觀的角度。我在東京有遇到 Polis 的創辦人 Colin ，然後他就跟我講，其實他當初設計 Polis，是參考他跟唐鳳溝通的經驗，然後把這個東西寫進他的產品規劃裡面。其實我聽到的時候很好奇。因為如果你有用 Polis 的話，你會發現它其實是一個——沒有壞不要修。當初 Colin 跟我說，他其實是用他跟唐鳳溝通的經驗，然後把它做成 Polis 的服務的一個方式、流程。

你會發現 Polis 其實真的在用的時候，它是一個非常硬的服務，它就是討論，然後讓你可以更容易地看清不同的意見。這個東西完全都是開源的。

另外一個我想舉的臺灣經驗，就是確實我覺得在國際上，vTaiwan 像 Uber 的討論是一個非常成功的 case。但是我覺得這個東西現在已經走到一種很豐富、很在地化的模式了。因為其實像在加州，有一個平台叫做 California Engagement，它其實——

Engaged California。對。或者在日本，其實你會聽到一些，不管是 Team Mirai ，他們未來團隊的一些想法。我有時候看到會覺得很感動的是，它不是給你一個 SOP 或者一本教科書，而是我們在講的有點像是一個示範的概念。但最重要的，其實是生活在這些地方的人，覺得這個東西如何真正改變他們的環境。所以我覺得臺灣提供的經驗，可以說是一種示範；這個示範是基於很多 open、開放的方式，可以共享給不同的人。

對，好，那我們接下來就進到下一個階段。其實還有一大塊問題，是關係到工作轉型跟所謂技藝、手藝的部分。所以這個部分，我會把它比較拉回工作的現場。

有人問，工作被 AI 改寫的時候，卡住的是技術、流程，還是人？出了錯的時候，責任要怎麼釐清？也有人想問，人和 AI 怎麼分工？下一代又要怎麼樣能夠走過第一份工作的門檻？

我的理解是，確實當 AI 智慧體的服務出現時，很多基本或基礎性的工作，像熟悉環境、整理文件，這種我們今天第一份工作很可能會擔任的角色，其實就是被 AI 所取代了。所以這邊聽聽你的想法。

好，所以基於這樣子講的話，在跟 AI 相關的服務合作上面，可逆跟風險值的評估非常地重要。那下一個我想問的其實是說，在高風險的工作裡，即使我們收到的，不管是信件啊、紙面上面寫的，就是它是由某某某真人最後決定，但是事實上，人其實很容易被這些看起來很流暢、很快速的建議不斷、不斷地往前推。那我們要怎麼樣去釐清，這最後一個真的是一個人經過思考，或者是，對，判斷出來的一個選擇？

對，它有在那個，像是唐門在煉毒一樣，就是有一個內容，其實有 30 個模型會互相地酸這樣子。對，我其實覺得我們現在討論這一點，是蠻重要的一個東西。就是說，剛剛你說的，怎麼樣子把人的角色放進去我們做決定的部分，不管這個決定到底是在我們工作環境中的哪一個階層。因為我覺得，這就是我們可以有機會用我們自己群眾的認知，去往上推動的一件事情。

因為其實確實在討論模型、在看這些東西的時候，大家非常強調速度，對，出字速度，然後它的模型是不是最新的。但其實生活是相反的一件事情。當我們今天看到信任，在講到手藝、講到關係的時候，我們其實會知道，這些內容其實是需要時間來 cooking 的。對，所以我覺得，這個也是在講說，其實快慢並不是一個 KPI。然後我們要儘量避免把風險推給沒有選擇的人，才是真正可以接受慢下來的一個理由。對。

對，我覺得這個也可以 link 到一個問題。就是有一個手藝人說，每次使用大型語言模型的時候，他的心裡都有一股說不清的愧疚。對，然後這個其實讓我想到，我們其實討論過、寫過的另外一個主題，其實也在 Plurality 多元宇宙裡面，就是人他不是原子化的個體，其實我們是由多重關係支撐的一個就是身分。

那我覺得，資本主義最隱蔽的一種約束，其實是預設一個結果，再回頭讓你 follow 它的這個生存模式去行動。所以其實怎麼樣子更快速地反應到：當我們把自己在適應環境中的這種活下去的邏輯，誤當成一種「我活著的意義」。

對，我覺得很有趣。聽到你講到這裡，就是說，其實雖然看起來是一個非常……我們在做的其實是一個非常技術面的東西，但是事實上，不管在每一個階段，你非常注重的，其實就是這個技術到底能不能夠幫助人更好地相互連結。

因為像是「數位」好了，數位這個概念，其實在你形容的時候很常利用；在臺灣，它也等於是一種複數的概念：好多個、好幾位。對，那在這個階段，我覺得很明顯的一個反應，其實是在於《Plurality》這一本書裡面，它完全是用一個協作的概念。對，全球其實像是光是我，就合作了超過 70 位工作者。甚至像現在你提到的 仁工智慧 ，其實我們也是把關係放在一個很重要的判斷點。當今天我們不是把這樣的智慧體發展當成一項服務在設計，而是去看，我怎麼能夠有更好的判斷、交代、修復群體跟群體之間的關係。

好，那我們接下來就要進入一個比較複雜的部分，其實就是資訊可信度的部分。實際上，在設計圖的時候可以看到，這是造橋者跟織網者最在意的一個議題，就是資訊環境。

簡單來說，生成的內容現在已經多到看不完了，好多 AI 的劇啊之類的，人和機器的產出其實也越來越難以分辨。那你覺得，最後其實我們可以用哪些指標來做一個把關？

這邊我其實想補充一個。我常常聽到資訊可信這個範疇的問題時，都會想到紙的比喻。因為在更早、更早、更早的時期，紙是一個很貴的東西，它也可以被視為一個器物，所謂「簡重縑貴」。但是當紙普及之後，它把紙從珍貴這件事情慢慢地拆開。簡單來說，在更早以前，誰能抄、誰能藏、誰能講，他其實就握著解釋權。我覺得在數位、在網際網路出來之後，我們可以看到資訊變成了一個活水。紙變便宜以後，改變的當然包含更多人能夠讀，大家能夠各自保存、加註，甚至相互比對。我覺得現在很明顯的，智慧體這個東西，其實 AI 像極了下一張紙。所以在 AI 相關智慧體服務的公共性上，更可以在一開始設計的時候，就把檢驗的能力帶進去。這是一開始就必須好好考慮的點。

對，我覺得在這邊也可以分享一下，你最近剛發表的那個 AI Safety 文章 的重點，因為那篇其實很長。我覺得可以補充的一個是，檢驗的能力其實也是一種關係。它今天不只是讓少數的專家，或這些實驗室裡面的人，可以看得到紀錄或看得懂；實際上受到影響的人有沒有資格去提出一個新的問題，非常重要。不然的話，其實就算你有再完整的一些資料脈絡，也只是一個封閉的檔案館。所以我覺得，要求它是基於一個可能 open source 跟開放的目的，是一個很好的方式，讓問題可以從生活的現場走回到技術的現場。至少我們可以盡可能地把這層濾鏡一層一層拉掉。

對，我覺得這是一個非常突破的狀況。因為這其實也解決了大家如果真的想要做一些公共查證，或者公共性服務的時候，要花非常非常多 token 的問題，這其實都是很高額的成本。那這個範疇大概到這裡。我想請你給一個建議：這些造橋者在設計上面有想法的時候，今天離開會場後，有什麼建議大家第一步可以做的？

好，那我們接下來就進入責任、權利跟資料土壤的部分。我覺得這個大題其實可以完全連接到 Civic AI 和關懷倫理。我也想要分享一下，像我們前面剛剛有提到，其實在網際網路出來之後，資訊某種程度上可以變成一種活水的概念。但事實上，我們也經歷過，我們貢獻出來的這些內容，今天就像它累積成一條河流，但是決定它的流向、決定它的 faucet 的，其實不是我們，而是平臺端。

所以資料土壤某一種程度上面的想法，其實就像我們在看語言這個題目。對，語言是一代一代傳下來，它其實累積了更早的、你的上一代、上上一代的這些智慧。但是當我們在學習它，像一個小孩剛接觸到它的時候，其實會覺得理所當然。其實這個東西是我們現在在做這些科技設計時，必須很清楚地拉回到：它到底有沒有辦法 benefit 到我們自己的社群，或它有沒有辦法很直接地讓我的生活變得更便利。

對，所以我覺得這個部分想請唐鳳講一下。因為我知道關懷倫理其實很直接地來說，其實就是我們怎麼樣子更好地彼此關懷。因為它是基於一個社會學的一個這樣子的關懷理論的概念。所以說在這樣子的智慧體、在關懷倫理裡面，它是可以去效忠於不同社群關懷存在的關係，而不是去忠於某些實驗室的 KPI 或者是指數。

對，我覺得這個也讓我想到，我們那時候在牛津聽到一位教授提出來的問題。我覺得很實際，就是我們每一天都用 AI、問 AI 各式各樣生活的問題，像是我該不該買這個產品等等。但是事實上，你有沒有用 AI 去問過：「你打開門，家門前的那一棵樹到底叫什麼名字？」去增加你對於在地的認知。我覺得這真的是一件非常重要的事情。

我也想再順著關懷六力的題目問唐鳳：如果社群真的選擇退出，那它過去提出的修正，或它被——就是它受過的傷害、這些後果，它如何吸收？因為退出在我們現在看到的大部分 AI 邏輯裡等於失憶，那它下一個系統其實還是會去重複同一段關係。

對啊，所以像你剛剛提到的，我覺得大家都會有一個切身之痛，就是大部分訓練模型所必需的這些資料，其實是從我們身上來的，但是這個好處卻時常只受限在你剛剛說的這些馬鞍、馬的角色。那怎麼樣真正有一些機制，可以讓社群在地做主？就是我說的，它至少有 say no 的權利。

好，那我們接下來就要討論到誰可能被遺漏。這其實是我非常常帶進房間的一題，白話一點講，就是轉型的時候誰被落下？無聲者。提問池裡面其實點出了照顧者、學得慢的人和分不到成果的人。如果力氣有限的話，可以判斷我們應該先接住哪一處嗎？又如何讓社區可以讓人有一個安全降落的地方？

對，我覺得這個其實是一個很大的轉變。我想分享的其實就是，通常往往這個制度真的做出變化的時候，是因為這個傷痛已經很明顯地被浮現出來了。但是通常這個浮現的過程，各種傷害可能是一種疊加的。

對，所以其實你在解決的時候，並不是整個方方面面都照顧到。但是就像你做 Easy2Say 一樣，就是說，當今天有更先進的技術出來的時候，就不是再去比誰的聲音比較大，而是當你今天跟在地社群產生關聯的時候，你覺得哪一種傷害不能等。對，你可以有更多的方式去處理你看到的情形，去貢獻你看到的一些內容可以怎麼樣地解決，可以更早地知道哪裡已經撐不住了。對，我覺得這就是關係對比速度這個分類的差別點。

好，對。我覺得應該說，我們家，我們接觸到網際網路的年齡，跟唐鳳、跟你也相仿。對，一樣。其實我之前也算一個創業家。很年輕的時候，其實也跟一些朋友們參與他們的創業，主題其實就是 無名小站 ，然後加入雅虎。離開之後，我自己開了一間公關公司，叫做 玖禾公關 。當初其實是想要把——我覺得臺灣有很多很好的廠商，但是並沒有辦法享受到很高規格的數位公關服務，可能你必須要花大錢去請 奧美 等等，所以我就做了一個這樣子的公關顧問公司，然後其實也參與了 flyingV 的創業。當然，現在其實這些我都已經離開了。

一路以來，我覺得應該說，我可以回答最不同意哪一個階段的自己。我並不是一個很會去把自己拿去比較的人，所以當我今天生活的領域要橫跨到很多種面向的時候，其實我覺得最重要的是，我學到的一個經驗是，我怎麼樣留存我自己的邊界，然後哪一些東西是我真正開心、可以帶著走的。這個東西其實是需要人生有很多發生，你才會真正越來越清楚、了解你自己。所以如果要問最喜歡哪一個階段的自己，當然是現在。因為其實我覺得《Plurality》這本書可以拿來當一個 case 說明。在我人生可能面臨到一些至暗的關鍵的時候，其實我是透過同理心的了解來度過這些東西的。

所以我看了很多達賴喇嘛的書，然後我也冥想了很多。後來我發現，其實這些東西讓我對自己開始產生了更高的認可，是因為我發現，我在設計不管是政策的想法，或者所謂的產品時，其實是用這樣子的方式一路走過來的。後來整個《Plurality》，我寫了大概三分之一。整個東西其實我是用這樣子同理的概念去寫，所以在中間的過程中，每寫一章，我也會跟他們的辦公室分享我寫的東西。

對，達賴喇嘛辦公室。所以我覺得到最後，其實我們得到了達賴喇嘛——他就有點類似推薦《Plurality》這件事情。其實它不只是一個推薦，這是一個很長時間培養起來的關係，那也沒有拿這樣子的經驗去做什麼。所以我覺得這真的是一種價值觀的靠近。到了現在這個階段，我只能說，我會覺得看到了 AI 智慧體的改變，同時間也看到了一些可能性。At least，我們可以更方便地把我們的想法梳理下來，然後只要我們願意，其實可以跟更多的社群分享，會讓我覺得更有力量，也更清楚自己的定位。好，我的分享。

謝謝，謝謝，謝謝。

對，而且我想補充一點。我覺得真的，從現在有許多軟著陸的角度去想這一點的話，其實不是說這個行動要多麼地有世界意義——對，世界價值。我覺得其實它真的就是會影響到我們的生活，其實就可以去思考這個方向的主題。因為我覺得像剛剛講的 Monlam 這樣一個 case，語言化的問題其實也是我們現在一定會遇到的。對，因為像我覺得我們臺灣人就更能夠理解，當我今天用中文去形容，跟我用英文去形容，其實是兩個不同的語系結構。這就像我今天要穿 A 設計師的衣服來表達我的個性，他的設計可能是上身強調，但是另外一個設計師是下身強調。其實不一樣的衣服穿在身上，你的行動就是會受到一些影響。所以這些東西看起來可能是一樣的，但是當今天我們並沒有把自己 local 的經驗越早丟進去，可能真的不知不覺就被洗掉了。

對，我覺得在講到這個 AI 習慣的時候，我想先分享一個。因為剛剛我們前面有提到馬跟馬鞍，它其實是一個藏族的小故事。意思就是說，有個農民，他傾盡很多錢，然後去買了一匹馬回來，他希望可以去讓他的生活過得更便利。但是到最後，其實他為了讓這匹馬看起來漂亮，他花了更多的時間，一大早起來割草，然後從頭到尾牽著馬走，所以他變得更累了。

對，所以其實我覺得在使用工具上面也是這樣子。說實在的，我並不使用像 Claude、 ChatGPT 這些，在任何我的工作上面的產出。因為可能很多時候，我在做的事確實有些哲學性的，所以其實到最後，我會發現我要花更多的時間去糾正、去查證等等。

對，所以我完全都是做一些比較基本層面的。譬如說我是個路痴，那我可能手機裡面有 ChatGPT，因為如果我出國的時候，我可以問它地址這一種功能。對，但是我很常使用的有兩個，一個是 Granola ，一個是 Superhuman 。那 Superhuman，我就講 Superhuman 好了，它是一個 email 的軟體，所以它可以幫我把我不同的 email 信箱合在一起。它可以針對我的語氣，去快速地做出可能之前的脈絡、我跟這個人聊天的脈絡，可以幫助我很快速地去處理過多複雜的問題，而且是 follow 我的這個脈絡。所以我覺得這個其實還滿好用的，那我也就是分享給大家。

對啊，而且我覺得我可以分享一下。我在大概蠻早的，大概兩年前吧，就有一度確實蠻覺得，隨著 AI 的發展，你真正在寫字、在思考的這個過程，似乎很容易就被取代掉了。但後來我的經驗是，我真的覺得其實這也是一件蠻好的事情，因為我可以花更多的時間去慢慢讀書，而不是為了要滿足可能是工作上面、討論上的需求，我要快速去消化。

所以其實我覺得這個能力是不會被取代的。我們要怎麼樣去自洽，甚至跟在地社群有一個更融洽的關係，它其實並不會因為 AI 的出現而被取代。甚至這樣子自己思考的能力、花在自己身上的時間，會是更重要的一個投資。

對，而且我覺得有一個可以補充的，可能是在於視野上面會有一些轉變。因為確實，我覺得臺灣其實很重要的一個發展，經濟其實來自於一些微商，就是他今天公司人數比較少，然後他開始了第一個創業。通常這樣子的微商，其實會遇到一個東西，就是地域性的問題。或者其實我們以前做網站服務，還是會有所謂中文化等等的問題。其實你要出海，就必須要走一種厲害一點的，就 IPO 或者是拿投資等等。

但是我覺得，同樣以前面臨到的問題，放在現在就比較不必然成立了。因為你在設計產品服務的時候，或者是你想要去溝通其他國家社群的時候，其實現在這個時代，我們更容易去——比如說，我今天有這個產品，可以更容易地跟住在澳洲的工程師合作；如果他感興趣的話，我甚至可以用更多開源的基底，去做我的第一次合作。所以反而從某一種面向上面去想，其實機會是變多的。