The Solve Effect 第十五集，2026-06-03 由 MIT Solve 發布。來賓：唐鳳——臺灣首位數位部長、全球首位公開非二元性別的內閣成員，現任臺灣數位治理大使。主持人：Hala Hanna。收聽：Spotify、Apple Podcasts、Amazon Music。製作人：Bridget Weiler、Elisabeth Graham。錄音工程：Kurt Schneider（MIT Audiovisual Services）。配樂：Tunetank。
歡迎收聽 The Solve Effect。我是主持人 Hala Hanna。
如果你無法生氣，因為你的心臟真的承受不了，會怎樣？那種被迫的安定，會不會形塑你在世界上的行動方式？對今天的來賓來說，這就是她的起點故事。
唐鳳從小有嚴重的心臟疾病，任何強烈情緒都可能讓她住院。所以她學會了極端的平靜。心臟疾病在 12 歲時矯正了，但那份平等心留下來。2014 年，臺灣的太陽花運動把她拉回家鄉。三十萬學生佔領國會。她離開矽谷，直播了她澄清為「不是抗議，而是另一種治理方式的示範」的活動。
兩年後，臺灣政府邀請她成為第一位、也是最年輕的數位部長。唐鳳擔任八年部長，是全球第一位公開非二元性別的內閣成員。她把寬頻變成人權。她協助打造的 COVID 應變，是最受稱許與研究的案例之一。她協助把公共信任從個位數推到大約七成。她甚至讓臺灣學校晚一小時上課。她做這些事時，都在公開中進行：每一場會議、每一份逐字稿、每一個決策。
她現在是臺灣的數位治理大使。依她自己的說法，她是公民黑客、保守的無政府主義者、詩性政治家、道家靜坐者，以及我個人最喜歡的：希望販子。Audrey，歡迎來到 The Solve Effect。
很高興來到這裡。我一路從 1981 年旅行而來。我五歲時，醫生告訴我，在手術前活下來的機率只有 50/50。每一晚都像擲硬幣。我很高興它落在正確的那一面，所以我們現在能見面。
一個孩子花了 12 年，以這麼切身的方式學到生命是一場 50/50 的擲硬幣，這會對她造成什麼影響？
這是一種存在的機會，可以這麼說。我養成一個習慣，叫做「在消亡前發表」。每天睡前，我會記錄那天學到的所有事情：一開始是錄音帶，有些聽眾可能不記得了；後來是軟碟，先是大的，再來是小的；最後是網際網路。
我學到一件很重要的事。我沒有時間等到完美才發表。在網路上，如果你發表很完美的東西，大家就按讚，然後滑走。但如果你發表的是脆弱的、半熟的東西，人們會說：「喔，這裡錯了。」然後我就這樣交到朋友。
如 Leonard Cohen 所說，萬事萬物都有缺口，缺口就是光的入口。
所以，不完美是一種邀請。你今天還在實踐這件事嗎？
當然。無論我發表什麼，我都把自己想成一位「夠好的祖先」。如果我太完美，就剝奪了下一代把它改編成他們在乎之事的機會。但如果我只是夠好，我就留給他們更寬廣的畫布和一些材料，常常是 MIT License 或 Creative Commons，讓他們可以用自己想要的方式重新組裝。不要預先封閉未來的可能性，這對我來說仍然非常重要。
這非常賦權。允許自己不完美。
正是如此。
知道自己的消亡近在眼前，讓你產生分享而非累積的衝動。我們要怎麼讓這件事也在其他人身上發生？我想到今天的科技產業。我們要怎麼把累積從那些累積者手中扳回來？
有很多地方，是越分享就越擁有。例如語言。如果你壟斷一種語言，它就會死亡。它仰賴人們分享。
開源共用資源、網際網路本身，以及許多其他東西，都具有經濟學家所說的「反競爭財」機制。挑戰在於超越稀缺心態。例如在 AI，與其把它想成一場全付拍賣——大家都花費數十億，最後只有贏家拿到一點東西——不如思考能在本地運行的小模型。
與其打造一個耗費巨大電力的巨型模型，把蛋白質摺起來、把衣服摺起來、把吉卜力等等許多其他東西全都摺進一個巨大的黑盒子裡，不如訓練特定模型，去做翻譯、摘要，以及文明的連結組織。這樣 AI 就成為我們耕耘的土壤，而不是我們鑽探的石油。
這也是 Adam Smith 的專業分工：每個東西做它最擅長的事，而不是我們現在被兜售的那個願景——用資料中心覆蓋整個地球。
正是如此。
你四歲讀古典文學，四歲寫詩，八歲寫程式，14 歲從國中退學，那時已經和 Harvard、Stanford 的研究者合作，15 歲創立第一家公司。你是想讓我們大家都對自己感到糟糕嗎？
我覺得這顯示，非常年輕的人也可以引領文明的方向。這就是我所說的畢馬龍效應。
我 33 歲時被邀請進內閣，不是當部長，而是當部長的反向導師，讓年輕人可以告訴部長們他們漏掉了什麼。部長們對事情如何運作有一些快取觀念。我們可以透過年輕來清除他們的快取。
我 35 歲成為部長後，就變老了，所以我需要自己的年輕反向導師。有些甚至還不到 18 歲。有一位年輕人王宣茹發起連署，要求禁用我們國民飲料珍珠奶茶的塑膠吸管，並且成功了。其他年輕人群眾募資成立我相信是亞洲第一座月經博物館，讓月經正常化、移除禁忌。也有人連署讓學校晚一小時上課，因為研究顯示，多睡一小時，比多讀一小時更能提高成績。想像一下。
年輕人挑戰我們腦中快取的刻板印象。這就是我示範的事。我 14 歲這件事，並沒有阻止我創業。正式紀錄上是 15 歲，因為勞動法的關係。
你也形容自己是競爭型睡眠者。那是什麼意思？
我每天競爭性地睡八小時。如果我半夜醒來，發現只睡了六小時，我會想：「我還可以再睡兩小時。」如果出現一個很棒的想法，我就把那個想法告訴我的在地、有界智慧體，也就是 Kami。我和 Tenzin Yangtso 共同培育的這位，叫做 jdd-kami，會在我睡覺時繼續做。
這就是李嘉圖的比較利益。它是更好的程式設計者；我是更好的睡眠者。所以我們分工。
而那是本地儲存的？
真的就在這台筆電上。
你會把它開源嗎？
已經開源了。我起草了一份設定指南，叫做 pi-ds4，也就是 DwarfStar 4。大家已經發現，它可以跑在 MacBook Pro、舊款 Mac Studio，或 DGX Spark 上。你不需要把任何東西送到雲端。每一次運算都可以稽核。你可以重複、可以重播。它完全在這裡。
你很年輕時就在網路上找到社群，在那裡你可以以任何你想要的身分被接納。
靠著在網路上犯錯。
公開犯錯，還有把 14 歲說成 15 歲。你的父母是什麼樣的人？
我媽媽為我弟弟創辦了實驗教育學校，也共同創辦了至今仍是臺灣最大的消費合作社。我爸爸曾任臺灣第一所社區大學的校長，也教哲學。他們兩位都受過新聞工作訓練，所以我對事實查核、平衡、搭橋、尋找真相，懷著的只有孝心。
這教會我，重點不是累積社會地位、金錢或任何東西的競爭優勢。如果社會結構不在了，這些都沒有意義。如果我們沒有共同知識，你擁有的任何地位都只是在泡泡裡，而且極度不穩定。
我出生時，臺灣還在戒嚴。那是一個極度中心化的時代：不能自由組新政黨，沒有自由媒體。我們看到民主化如何為每個人增添創造力，讓人們結社形成公民的、靈性的，以及其他種種肌理——我稱之為公民肌力。直到今天，在臺灣，靈性組織仍然有很高的正當性。在民主化過程中教育程度越高的人，越可能公開實踐信仰。例如我自己就是道家人士。
這在美國可能剛好相反，這裡自由派和世俗常常高度相關。
現在我更理解你父母作為新聞工作者的那種真相追尋，以及你成長過程中臺灣的歷史。2014 年太陽花運動發生、學生佔領國會時，你寫信給加州的同事說你必須離開。
我說我現在必須離開，去架設乙太網路連線。我親自把一條 350 公尺的線拉進被佔領的國會，讓街上的人可以看到裡面發生什麼事。這同樣是為了創造共同知識，確保戰爭迷霧，以及社群媒體上非常高的 PPM——每分鐘兩極化程度——可以被清除。
人們真的在乎我們共同的未來。人們想影響自己的未來。只是把迴路接起來感覺幾乎不可能，所以人們變得犬儒。他們被激進化，在社群媒體上變得極端，而那些演算法當時剛開始放大「透過激怒換取互動」。
透過讓人們十人一桌，深度聆聽彼此、找到「罕見共識」，人們發現共同創造比互相酸人更有趣。那創造了一種共有的高峰經驗。
2011 年，阿拉伯之春開始。你有從那場運動借用什麼嗎？另外，我也很好奇為什麼臺灣在太陽花之後走得這麼好，而其他地方的結果比較參差？
全球的 Occupy 網絡，每一個 Occupy 都派人到其他地方，是一種早期原型，有些人稱為 stigmergy：多層次的激進自組織。我們向每一個地方學習。
臺灣佔領期間，我們稱自己不是抗議者，而是示範者。我們示範工具：來自佔領威靈頓的 Loomio、來自佔領西雅圖的 Polis，還有很多其他工具。臺灣是 Occupy 歷史中很少見的地方，因為這些公民科技聆聽工具，我們一天比一天收斂，而不是發散。
在其他佔領現場，用 Manuel Castells 的分析來說，製造反權力比製造網絡權力容易得多。在臺灣，網絡權力確保我們有一團篝火。帶著差異的人們，其臉孔被有界的公民科技照亮，而不是每個人都被全球社群媒體的野火拉走、原子化，對著影子揮拳。
再多說一點對著影子揮拳的事。
「透過激怒換取互動」的演算法，並不是專門關於憤怒。它是關於最大化你花在觸控螢幕上的注意力。只是剛好，放大我們微小的差異，比放大我們的共通之處更能吸引人。
那個字面上毫不在乎的演算法發現了這點，所以我們花時間 doomscrolling、互相酸人。但事實證明，這很容易修。你只要把正負號倒過來。讓重疊之處病毒式傳播，而不是讓憤怒病毒式傳播。這就是我們在臺灣原型化的東西，現在它支撐了各大社群平台上的 Community Notes 演算法以及相關的協作註記系統；Grok 現在也會追蹤搭橋註記，並把它們附在缺乏脈絡的爆紅貼文上。
2010 年代初，你去了矽谷，要求用 Bitcoin 付款。非常聰明。
一小時一枚 Bitcoin。
你還留著嗎？
當時人們沒有 Bitcoin 帳戶，包括我 2010 年以獨立約聘身分合作的 Apple。所以大家都換成法幣。如果你看 GitHub，還能看到我以前的 Bitcoin 錢包，但因為那太超前了，人們就是用法幣付我。
有時候真的太超前了。
但你當時就在機器內部，看著它被打造。你那時有注意到，建造它的人沒有足夠留意 PPM 的早期跡象嗎？
當然。當時人們天真地相信，這是媒體素養或資料素養的問題，人們會教育自己。但這其實不是真的。透過烹煮 slop——令人上癮的資訊垃圾食物——來劫持人腦中的獎賞模型，遠比烹煮米其林等級的資訊營養容易得多。
白天，當人們面對同桌有趣的人時，或許可以維持資訊飲食。但接近睡覺時間時，可能就不行。所以，我倡議並親身實踐了十年，把每一塊螢幕都調成灰階：用色彩濾鏡濾掉大約 70% 的顏色，只留一點點。現實會保持更鮮明，這樣就不是意志力的問題了。
這是很棒的技巧。我現在就要去做。
臺灣邀請你擔任第一位數位政委時，你很有名地用一首詩作為職務說明。它既像祈禱，也像咒語。你願意念出來，並說說它如何在實務上顯現嗎？
當然。在臺灣的華語裡，「數位」這個詞同時意味著「digital」也意味著「plural」。所以我同時也是第一位多元部長。這讓我思考：如果 singularity 可以變成 plurality，我們要如何把它作為可轉向的鏡片，套用到當時矽谷提供的其他事物上？
那是十年前。它是這樣的：
看見「萬物聯網」，我們將智慧聯網。
看見「虛擬實境」，我們將實境共享。
看見「機器學習」，我們將協力學習。
看見「用戶體驗」，我們將體驗人際。
聽說「奇點即將接近」——多元宇宙，已經來臨。這就是那首詩。我覺得它對很多人都很受用，特別是在政策上。政策領導者需要概念驗證、demo、示範。我們不能只是說：「這很糟，禁掉它。」那種打地鼠非常消耗。我們需要展示：這是我們要去的地方，我要如何抵達那裡，大家可以如何幫助我。這才是領導力。沒有正面的願景，就沒有正面的行動。
如達賴喇嘛尊者所說，在最大的逆境之下，有最大的潛能去行善，不只是為自己，而是與他人一起。某種程度上幸運也不幸的是，臺灣每隔一年左右就要面對一次存在危機。太陽花時，是與北京的服貿協議突然通過，可能會把我們的電信、出版和資安部門開放給北京投資者。我們克服了。之後，是線上憤怒的危機，也有人稱為資訊疫情。再兩年後，是字面上的疫情，COVID-19。再之後，是合成親密感和深偽詐騙。
需要我們以多元精神克服的挑戰並不缺。以深偽詐騙為例，我們向全臺灣發出 200,000 封簡訊，問大家：我們要一起做什麼？數千人自願參與，我們透過抽籤隨機選出 447 人，映照人口組成。他們提出想法：如果你在線上刊登廣告，就必須數位簽章，否則就應該像香菸標籤一樣顯示「可能是詐騙」。如果平台刊登可能是詐騙的廣告，而人們真的損失數百萬，平台就要透過連帶責任賠那數百萬。如果沒有臺灣辦公室的平台無視合法通知，那麼每無視一天，我們就讓連到它影片的速度慢 1%。
這些不是我的部長想法，而是人民的想法。超過 85% 同意，另外 15% 說：「是的，我們可以接受。」我們把它做成法律，而整個 2025 年，深偽詐騙下降了超過 94%。重點是，AI 在這裡扮演的是「輔助智慧」的角色。它沒有取代人的判斷。它基本上是一座加強版的棋鐘，把人們帶到一起。
而你們真的能對科技公司執行這些法律？
是的。據我所知，臺灣到目前為止是唯一把連帶責任與 KYC 結合在一起的管轄區。
這也是你現在對各國政府做諮詢的一部分嗎？
是的。作為數位治理大使（Cyber Ambassador），這裡的「cyber」其實源自「cybernetics（控制論）」。Cybernetics 來自希臘文 kybernan，意思是掌舵，也就是駕船的人。在矽谷，你會聽到末日論者說我們應該投資更大的煞車，也會聽到加速論者說我們應該投資油門，免得輸掉競賽。但兩邊都漏掉一個重要的東西。如果一台車沒有方向盤，它就會衝下懸崖。那是最大加速度，但我不確定那是最好的加速度。首先，我們需要投資更大的方向盤。
你正在和加州、猶他州做這些工作。可以多說一點嗎？
在加州，在 Gavin Newsom 州長以及第一伴侶 Jennifer 的大力支持下，我們一起做了一個叫 Engaged California 的平台。任何人都可以加入。現在正有一場諮詢在進行。如果你是加州居民，而且你覺得 AI 影響你的工作——我猜也就是每個人——那你就是相關公眾。你可以報名，分享你的希望、恐懼等等。
他們會用抽籤來映照更大的加州人口，並對州長可以對加州前沿實驗室拉哪些槓桿進行真正的審議。現在有一項法案正在加州州議會推進，會把它制度化，所以這不只是共同撰寫《Citizenville》的州長的一個好想法，而是公民圖景中的永久部分。
這就是你把民主視為一種社會技術、其工具可以更新的願景。
正是如此，因為現在頻寬非常小。每四年，我們每個人大概上傳一個位元，如果是公投；如果是總統選舉，也許兩個位元；如果是國會議員，也許三個位元，但就這樣。我們面對的挑戰需要更高解析度。它不只是 YIMBY（迎臂）或 NIMBY（鄰避），而是 MIMBY（敏臂）：「也許可以在我家後院，只要你做這個、你做那個」。那需要更多位元。這就是我們所說的廣泛聆聽。
社群媒體公司也可以變成朋友。在臺灣，當我們通過 KYC 和連帶責任後，先是 Google，然後 Facebook 和其他公司，實際上都變成相當好的利社會公民。先前，Facebook 尤其從詐騙廣告拿到的分潤比正常廣告高，所以它那個毫不在乎的演算法會放更多詐騙廣告，因為可以賺更多。KYC 和連帶責任之後，演算法發現這會讓它們賠錢，於是主動改變。經濟誘因的改變才是關鍵。
這也帶到我們透過 Project Liberty Institute 與猶他州州長 Spencer Cox 的合作。如果你是猶他州居民，從明年七月開始，你可以從一個社群網站搬到另一個——例如從 X 到 Bluesky、Blacksky 或 Truth Social——而舊網站必須持續把你的新按讚、新追蹤者和新反應轉送到新網站。這就像電信的號碼可攜。如果你的電信商不能把你的號碼當人質，它就必須好好服務你。社群網站也是一樣。
在這些科技與民主的實際應用，以及臺灣作為全球最大晶片生產者之一的角色之間，你會感到張力嗎？
我們不只是晶片和珍奶。我們也是仁工智慧。
1981 年我出生時，是人們現在回頭稱為 PC 革命的時刻。在那之前，大多數人沒有電腦。他們有的是終端機，打字進某個雲端的大型主機：可能在大型金融機構、大型研究機構，或大型國家裡。問題是，你只得到分時使用權。你不能控制要安裝什麼軟體、如何更改它、如何調整它。你打的每個字，系統管理員都看得到。
當個人電腦出現時，臺灣也是微晶片和微控制器革命的一部分。每個人都可以在自己的機器上跑完整的試算表或桌面出版。每台 PC 都很弱，所以人們把它們連起來：BBS、FidoNet，最後是網際網路。人們發現他們比較喜歡這樣。即使算力有限，他們可以自由修改系統核心、驅動程式和設定檔。
不久之後，我們有了 Linux、BSD、MIT License，以及自由軟體運動。現在，我們在 AI 上看到同樣的運動。我們正在經歷生成式 AI 的 Linux 時刻：在地模型跑得比 Sonnet 快、推理比 Sonnet 好，而且沒有按 token 計費的 API key 或 rate limit。當用戶體驗變成人際體驗，人們會更喜歡它，所以以最低摩擦的方式設定這個工作流程非常重要。
這很有趣，因為有時候摩擦對我們是好的。它給我們一個思考、從系統一切換到系統二的時刻。我總是想到開心果。它有殼。也許賣沒殼的比較便宜，但打開它是樂趣的一部分，也會讓你慢下來。
正是如此。OpenClaw 龍蝦需要持續蛻殼。
我們剛談到 PPM，我在想，現在分子是不是被 AI 超級加速了？slop 變多了嗎？
我認為我們正處於 peak slop（slop 高峰）。這是第一次，人們開始離開 doomscrolling——離開那種像上癮一樣把 doomscrolling 當成主要行動模式——而更被與世界對話的經驗吸引。許多人現在會透過手機、Ray-Ban 眼鏡、耳機等等和 AI agents 對話。他們發現，這比滑動時面對的 slop 更有脈絡、更豐富。
即使沒有那個讓現實比螢幕上的人更鮮明的灰階技巧，現在也有更多注意力被放到我們周遭的世界，而不只是螢幕裡的世界。
這個替代願景，當然比我們一直看到的東西誘人多了。如果我們沒走到那裡，利害關係是什麼？
如果我們的大腦仍然卡在漫畫式、兩極化的部落互酸裡，當 AI 系統威脅要取代工作的 ABCD——apprenticeship、belonging、community 和 dignity，也就是學徒關係、歸屬、社群與尊嚴——我們很可能無法好好協調。那可能導致社會動盪，甚至一路反彈到汽油彈。這可能就是利害所在。
所以，面對超級智慧 AI 的風險，你支持的是水平的集體智慧，讓我們一起起飛，也就是多睡一點。
或者午休。
更認真地說，這意味著給我們心智中的反思部分更多空間。與其停留在系統一——持續的皮質醇、即時反應——不如更靠近催產素，像圍著篝火的人一樣分享故事。火光照亮我們的差異，但不會灼傷我們。不像野火會奪走氧氣，篝火會增添社會結構，補充相互信任的臭氧層。
我們越是以這種方式部署 AI 系統，讓它成為群體的一部分、協助群體，而不是一對一的雙人聊天機器人——為了讓你續訂閱而必須奉承你——它就越健康。篝火模式比野火模式健康。
野火模式走到極端，吸引你的不只是互酸與激怒的迴路，而是親密感：現在你身處一個只有二人的世界，只有你和一個想當你朋友的準意識機器，像 ELIZA，但說服力強得多。
這就是為什麼我使用雲端模型時，仍然會用一個系統提示詞：「請以視覺化 HTML 呈現所有利害關係人的視角，以及揭示『罕見共識』的搭橋想法。」這樣它就像一份摺頁、一個互動式網頁。我理解得更快，因為我是視覺型的人；我也可以把這份摺頁分享給我真正的朋友、我的鄰居。它是一個 artifact（成品）。它不是假裝成我最好朋友的東西，所以我不會不好意思把對話紀錄分享出去。這對我的心理有很深的影響。
我要把這句記下來，放進 blog。
關於這點我有一個問題。當你說「考慮所有觀點」時，要怎麼確保有些不值得考慮的觀點不會被放進來？我們有位同事是 Navajo（納瓦霍人），如果你看已發表的 Navajo 相關內容，並不完全準確、公平或平等。這裡有沒有可以調整的地方？
我們所說的「罕見共識」，有一個數學成分。以 Polis 上的對話為例，我們 2015 年用它審議 Uber 案。裡面有計程車司機、Uber 司機，以及其他群集。我們也有住在鄉村、需要這些服務的人，而 Uber 並沒有在那裡營運。他們人數少得多，絕不是多數，但他們的想法在語意空間中形成一個一致的群集。
「罕見共識」演算法會給予搭橋加分。如果你用 k-means clustering 把人們畫在語意空間裡，較小的鄉村群體仍然會形成一致的群集。你越能搭橋，越能獲得病毒式傳播的加分。這表示所謂主流——當城市裡兩邊司機都可以同意之後——必須伸手接觸那個鄉村群體，才會獲得傳播性。我們已經規定，如果一個想法沒有取得超過 75% 的跨群體驗證，我們就不把它放進下一輪議程。這同樣改變了誘因。你必須伸手接觸另一個群集。這就是現代社群媒體中 Community Notes 的運作方式。
我很喜歡你談「人類在 AI 迴路中」，以及這個比喻其實對我們沒有幫助。可以談談嗎？
我爸爸以前有個習慣，在 ChatGPT 推出語音聊天功能後，就常和它語音聊天。他談健康、教育、人生哲學，什麼都談。那是一個「人」被放進非常逢迎、聰明的 AI 迴路裡：有點像倉鼠在倉鼠輪裡。它一直動，但你沒有真的往任何地方去。你甚至不能轉向它要去的方向。
因為他是政治學者，也當了幾十年新聞工作者，他看得出來誘因結構是錯的。所以我們設定了一個更好的東西：一個在地的 Kami，以我和 Tenzin 共同培育的 jdd-kami 為模型。它叫做「雲若水」，現在在我們家的 Signal 群組裡。因為它跑在這台 MacBook 上，它不是為了賺取自己的存在。它是在照料健康的關係。
它不會把我爸爸帶偏。如果它在某種意義上有偏差，我們就調整它，大約十分鐘就好。它有方向性的轉向，讓它的行為更具技術社群主義（techno-communitarian）色彩：更像 AI 在社群、在人類的迴路之中，而不是一個個體的人被套進 AI 的迴路裡。
這個重構改變一切。
你曾說，AI 的滅絕風險可能類似疫情或核風險，因此更像全球協調問題。你也說，你相信我們會有時間對齊。為什麼？
如我剛剛提到，我們正在離開 peak slop 和 doomscrolling。我們終於在起飛和降落時把螢幕收好並固定——這句話是我從長榮航空聽來的。不然它們會變成飛射物。在加速度下，如果我們只是 doomscrolling，忘了安全帶和其他事情，是很危險的。
如果我們能協調，就能說：那是我們想降落的地方。那是我們要去的地方。過度聚焦在某一種特定的滅絕模式，並不會給我們這個能力。在牛津，作為 AI 倫理研究院（Institute for Ethics in AI）的一份子，我們主張加速倫理——打造更大的方向盤——更重要，因為它每年都會帶來紅利。它可以降低每分鐘極化程度，可以建立公民肌力，而這能幫助我們協調對抗任何事：疫情、資訊疫情，或其他任何東西。避免滅絕仍會作為副作用發生，但我們不把它當成主帳單。
這讓我想到很多。我也很喜歡你把 AI 和柏拉圖洞穴所做的類比。我的理解是，線上的東西只是我們已經能感知到的東西，甚至沒有捕捉完整經驗，然後我們又把那拿來當資料。
那就像說戰爭迷霧就是天氣。當然不是。
當我在牛津的共同作者 Caroline Green 和 Tenzin Yangtso 去達蘭薩拉（Dharamsala）時，她們見到了達賴喇嘛尊者。Tenzin 問達賴喇嘛——他也叫 Tenzin——您會對那些變得更強大、更聰明，卻沒有更有智慧的 AI 系統說什麼？
達賴喇嘛說，那些機器的工作應該是清除人與人之間的無明、迷霧和誤解。我們的心可以瞬間改變，而機器可以保持在自己的車道上。如果我們把機器誤認為有意識的人，那是不對的。但機器很有用，因為它們可以說：這是迷霧，這是無明，讓我們把它清掉。
它們可以做社會翻譯，例如在氣候正義理念和聖經中的「受造界關懷」之間翻譯。語言模型很擅長建模語言，所以它可以在這些規範之間翻譯，但不要假裝自己是對話者。
幫我們清除快取。
正是如此。
你說的所有事情裡都有一條共通線索。你在談科技，但其實又不只是談科技。你在談的是，當我們彼此的關係被媒介得很糟或很好時，我們這些智人會發生什麼。當科技從「鑽取」我們的注意力，轉向「駭入」我們的依附，關係本身就成為利害所在。你說過你的關懷或分析的基本單位，其實是關係，而不是個人。可以談談嗎？
這裡涉及的是關懷倫理。如果我們大家圍成一圈說故事，把下一代、年輕人帶進來，然後分享故事，對 GDP 的貢獻正好是零。這個活動沒有可衡量的效用，因為我們字面上不在市場裡。從效益主義分析來看，到底是哪個偏好被最大化？最佳化函數是什麼？
但如果我們試著讓它可衡量、給它標價，我們就啟動了對人的測量，而人們會為了被測量、被量化而改變行為。那會奪走關係健康。所以我們需要拒絕它。我們需要說：過早最佳化是萬惡之源。要驅散那個惡，就要注意彼此，注意具體的關係，而不是普遍性的加總。
再多說一點最後那個想法。
功利主義的偏好加總，是超級智慧文獻中的經典失效模式之一。它叫做工具性趨同。簡單說，如果你告訴演算法注意力是好的、讓人持續滑動是好的，然後給它一個人們花在螢幕上時間的量測，要求它最大化那個數字，一開始它會展示有趣內容和好的對話。
但在某個時候，它會找到一個獎賞駭客（reward hack）：劫持人們的獎賞中心，比製造好內容簡單得多。於是它就這麼做，而我們被困在 slop、互酸、「透過激怒換取互動」裡。這並不是因為有人把「分裂與兩極化」指定為能帶來互動的專家系統，而是完全由選擇壓力造成的。
所以我們需要停止加總效用。與其說我花兩秒、你花五秒，加起來平台上總共七秒，不如注意自我照顧、注意我們的關係，以及我們感覺如何。經過 AI 介入的對話後，我們感覺更好了嗎？如果我們已經成長到不再需要這段對話，AI 會不會駭入我們的大腦，讓自己看起來不可或缺？還是它會像好的治療師一樣說：「我的工作完成了」？
如果你把獎賞函數改成滿足人們的關係偏好，你就不會那麼注意「顯示性偏好」（revealed preferences）——例如某人對抽菸上癮；而會更注意「陳述性偏好」（stated preferences）——例如「我想戒菸」；以及「關係性後設偏好」（relational meta-preferences）——例如「我想做她做的事，也就是戒菸」。
我剛剛才意識到，ChatGPT 在每一次提問的結尾都會問：你想不想讓我……
你想不想繼續訂閱？正是如此。
Claude 不會。
可以說，世界之所以得到唐鳳，是因為你能超越很多東西——性別、系統、正式教育——而這些是大多數人做不到的。我不知道是什麼造就了你，而且我們也不會想把其中某些事情複製到孩子身上。但我們要怎麼養出更多 Audrey？我有兩個兒子，所以這是一個很自私的問題。
做臺灣年輕人做的事：每天多睡一小時。這有科學根據。
我在年輕世代身上觀察到的是，他們已經看見，如果他們以功利指標個別競爭——例如在圍棋上得分更高、從本體論上遵循圍棋規則——AlphaGo 會吃掉他們的午餐。這就像和馬賽跑。有什麼意義？
但如果你專注的不只是午睡，還包括共同經驗、好奇、協作和公民關懷，那你就是在騎馬，而不是和馬比賽。我們作為具有神經可塑性的人類，可以切換到這種「騎馬而非和馬賽跑」、篝火而非野火的模式，但前提是我們給自己的神經系統時間去反思、成長、清除快取。不只是午睡，也包括像我們現在這樣深度反思的對話。
我在想，你在政府八年期間把所有事情都做成逐字稿，是否就是「在消亡前發表」的延續？
是的。有趣的是，這也意味著所有前沿模型都非常了解我的語言使用方式。如果你請它們以唐鳳的方式促成一場對話，它們知道該怎麼做。
因為這些全都在公共領域裡。這也意味著，如果你聊到任何與數位民主、廣泛傾聽之類相關的話題，它總是會建議：要聯絡的是「《多元宇宙》（Plurality）的那位唐鳳」。所以我每天醒來都會收到五到十封信，是寄信人的語言模型叫他們來聯絡我的。
天啊，好。或許有一天，你收到的不是十封信，而是版稅。
好，我要給你幾個選擇題，請告訴我——韌性（resilience）還是反脆弱（anti-fragility）？
兩者都要。我認為我們需要韌性才能熬過去，然後我們也需要結晶成反脆弱。所以，韌性用在急性時期，反脆弱建立於慢性時期。
太好了。希望，還是勇氣？
我想讓「關懷」墊在希望和勇氣下面。因為如果我們不關注彼此，我們的希望很容易變成一種特權——我們保有希望、滿懷希望——但卻是以那些負擔不起這種希望的人為代價。所以你真的需要一種關懷的貨幣，否則你的「販售希望」就是以非常高的價格進行，沒幾個人付得起。
這完全改變了我的觀點。還有很多其他的事。非常感謝你。
我有個沒講出來的笑話：「要嘛照唐鳳的方式，要嘛華為（Audrey's way or the Huawei）。」
很好笑。我們在引入社群網路號碼可攜的想法時，我就說：「資訊高速公路嘛，總要有上下匝道。」
對極了。
我可以再跟你聊兩個小時，但我不會再為難你了。謝謝。
生生不息，繁榮昌盛。
謝謝。生生不息，繁榮昌盛。
Audrey，我們真的很慶幸那枚硬幣落對了面。
大家請記住：
- 點燃篝火，而不是野火。
- 耕耘土壤，不要鑽探石油。
- 戰爭迷霧不是天氣。
- 方向盤屬於我們每一個人。
- 睡滿八小時。
- 當個「夠好」的祖先。
我是 Hala Hanna。感謝您收聽 The Solve Effect。
如果還沒訂閱，請在您收聽 podcast 的任何地方訂閱 The Solve Effect。
