一、近期 AI 突破
我的第一個問題關於 AI 的進展。我是說，Mythos 的表現，真的震驚了全世界，我們也看到生成式 AI 的快速進展，不只來自美國，也來自中國。在日本，我也用 Sakana Fugu。
它有些地方比 Mythos 好。
真的嗎？
Fugu Ultra 1.1 在許多基準測試上，表現略勝 Fable 5 一籌，所以你可以有信心。
那你怎麼看這些近期的 AI 突破？你認為這會對企業與社會帶來什麼樣的影響？這是我的第一個問題。
好。其實已經很明顯，任何有固定規則、又容易驗證分數的領域，AI 都會快速進步——這對我們大多數研究者而言不是新聞。事實上早在 2016 年、十年前就已經很清楚了：AlphaGo 對戰李世乭，臺灣籍電腦科學家黃士傑，用人手下出了那手第 37 手棋。但黃士傑當然只是設計了這個程式，他其實不知道 AlphaGo 是怎麼思考的，因為那是靠學習、深度學習得來的。後來 AlphaGo 最終開始自我對弈，不再向人類棋譜學習，變成了 AlphaZero，下得比之前更好，對吧。所以從 AlphaGo 到 AlphaZero，自監督式學習其實已經讓人類的圍棋能力達到飽和。從那之後，方向就反過來了，對吧——變成人類向電腦學習好的下法、圍棋的開局，這也帶動了圍棋定式、圍棋策略等等的快速演進，比過去圍棋演進得更快，過去的圍棋容易固定在少數幾種開局。所以圍棋的可能性空間變得非常廣、非常寬。我想這是件很好的事，讓大家能更享受這個遊戲；即使沒有受過太多圍棋訓練的人，現在也能更懂得欣賞這個遊戲，因為電腦可以把每一手棋轉譯成一段好的敘事，讓人們真正投入其中。這對普及這個遊戲非常有幫助。
當然，唯一的問題是，如果有人覺得自己的身分認同、自己人生的價值就在於遵循圍棋規則、把分數最大化，那他們可能會覺得非常失望。因為如果你跟一匹馬賽跑，馬會跑得比你快。但我們不需要跟馬賽跑，我們可以騎上那匹馬。一旦你騎上馬，你仍然掌控方向，仍然是你在為這場遊戲賦予意義，只是引擎跑得更快了，然後你就享受這段旅程。
那我想請問，你對 AI 的未來是樂觀的，但同時很多人是悲觀的——我是說，這有很多風險，AI 未來可能會摧毀、我是說擾亂這個世界，因為它們會演化成，比如說，AGI。很電影感。那你怎麼看這種悲觀的想法？
二、樂觀態度、把 AGI 理解為「增強群體智慧」，以及輔助型眼鏡
對，嗯，對我來說，AGI 指的是「增強群體智慧」（Augmented Group Intelligence）。我們三個人在對話，這本身就比我們任何一個人單獨思考更聰明。大部分的創造力都發生在群體之中——集體智慧遠遠高於個人經驗的總和。這是真的，因為我們有語言、有文化、有協調的方式，讓每個人都能想到另一個人的不足之處並互補。但問題當然是，語言與文化同時也會製造隔閡。所以對不會這個語言、不屬於這個文化的人來說，即使我們很聰明，他們也可能會覺得我們非常遙遠——也許把我們當成敵人，或至少當成外星人。而我們也可能太陷在自己的文化裡，把外人當成敵人。這就是「語言」這個原初技術、也就是文字的危險之處。
對。
但語言這項技術，現在已經深深嵌入人類的生物性之中，很難分辨它究竟是技術還是生物本能——介於兩者之間，對吧。我想 AI 現在對很多人來說也開始變成這樣。他們已經無法想像沒有 AI 輔助的情況。比如說，我在跟日本人對話時，就會依賴自動翻譯。像昨天在這裡，福田先生在我之前先做了一場主題演講。我在聽他演講時，跟著他的論點、點頭、對他微笑。但我戴著眼鏡，所以他當下說的每一句話，我都能即時看到英文字幕，馬上就知道他在說什麼。
真的嗎？
對。所以對我來說——這算生物本能，還是技術？現在真的很難分辨，因為在我腦中已經是同一件事了。我真的無法想像回到過去要翻字典的日子，因為那樣我就沒辦法眼神交流了。福田先生說話時，我唯一能保持眼神交流的方式就是透過 AI，別無他法，對吧。所以我的重點是，這也反過來成立。我在台上講話時，你在讀日文字幕。想像一下，如果你必須停下來聽逐步口譯，那整個節奏就會不一樣，你就沒辦法跟上我的手勢、我的非語言表達。你在腦中會一邊記住我的動作，一邊聽口譯，然後才理解——這就像分批進行的對話。但昨天，多虧了那面字幕牆，跟著我的表情理解我的論點變得非常容易，對吧。所以對我來說，這樣使用的 AI 叫做「輔助式智慧」（assistive intelligence）。
輔助式。
對，這也是為什麼我這麼樂觀，因為它讓群體更緊密，因此帶來更多增強群體智慧，也能連結原本彼此聽不懂的群體。現在多虧了這種翻譯，他們能透明地感覺到自己身處一個更大的群體之中。而對我來說，過去要聽日文、覺得自己跟講者站在一起，是很困難的、幾乎不可能，對吧。所以我覺得這帶給我樂觀。
所以科技，包括 AI，也在其他很多方面幫助人們溝通。
對。
不好意思，你戴的是哪種眼鏡？是 Meta 的嗎，還是哪一種？你剛提到你用眼鏡。
喔，你是說字幕的部分。
字幕，對，那個是——
Even Realities——E-V-E-N。對。不是 Meta，因為它沒有相機，對，也不會播放聲音，所以它不會分散我的注意力，也不會讓你分心，因為我沒辦法用它偷拍照片。
對，這跟 Google 眼鏡不一樣。
完全不一樣，對——它不是想要隱藏，那個英文怎麼說——它不是想要透過一個針孔，那種英文叫做「gotcha」（抓包）。gotcha 的意思是，比如身為記者，我們不是在聊天，你是好奇的，你想問問題；gotcha 的意思是，你也許想在那一瞬間抓到我表情很怪、看起來不一樣，或者說錯話的那一刻，然後把那一秒截下來，在社群媒體上放大——這叫做「抓包新聞學」（gotcha journalism），對吧。你當然不是在做這件事。但我想說的是，一直開著的相機眼鏡會製造出這種攻擊性的氛圍，因為大家會覺得，你是不是想抓到我沒防備的時刻？你是不是想製造一個「gotcha」？
對，就像七龍珠那樣的戰鬥力偵測器。
對，沒錯，沒錯，對——「你的戰鬥力超過 7000」，對吧。但這副眼鏡不是那樣，因為它沒有相機，也不是耳機，不會播放任何音樂，所以它不是想要分散我的注意力，事實上它是想把我的注意力還給我。
三、AI 驅動的網路攻擊
我下一個問題是關於資安，或者說 AI 在其中扮演的角色。最近日本大型企業遭受攻擊——我是說，也許是網路恐怖分子，像我們知名的啤酒公司就遭到網路攻擊，很長一段時間無法釀造啤酒。因為 AI，網路攻擊變得越來越先進，最近可能造成更大的傷害。那你怎麼看 AI 驅動的網路攻擊？
嗯，我認為今年最主要的差異之一，是 AI 系統以前——比如去年或更早——在長期規劃上不太行，你總是需要遠端操控網路攻擊，所以總會有一條指揮鏈連回人類，你就能做歸因追蹤。但現在已經不是這樣了。我和人共同撰寫的一篇論文，叫做〈How Malicious AI Swarms Can Threaten Democracy〉，我們在裡面提到，今年，很快，AI 智慧體就能扮演遠端操控的角色。所以當它規劃攻擊時，從防守方的角度看，每一步都像是不同的動作、不同的智慧體。如果你回溯追蹤，會發現已經沒有人在協調了，一切都是用完即丟——連線來自一個普通的端點。所以不像過去的殭屍網路，每個殭屍節點看起來都很像，你可以推測背後有一個主謀；現在不是這樣，每個節點都非常動態。而這些 AI 智慧體甚至不知道自己是不是被操控——對它們來說，只是彼此在協調，而它們的協調者是另一個 AI 智慧體，那個 AI 智慧體可能又被另一個 AI 智慧體協調，讓歸因幾乎變得不可能，對吧。這就是主要的問題。
所以我認為，從防守方的角度來看，這代表我們應該假設自己已經被入侵——任何有弱點的地方，你不能說「喔我只是刻意保持低調，攻擊者也許不會把我當成高價值目標，他們的時間有限，所以會把注意力放在高價值目標上，我只是個中小企業，他們會放過我，因為在這裡沒什麼好撈的，就算要勒索，我也只付得起這麼多，所以他們的注意力有限」——不對，因為對 AI 主導的攻擊而言，注意力是無限的，它們可以同時攻擊所有地方，不需要像人類那樣做取捨，例如「今天我必須專注在這裡，這代表我會忽略那裡」。對 AI 智慧體來說，沒關係，我就派兩個智慧體同時入侵兩邊。所以首先，「靠隱蔽求安全」已經不再有效了。你必須假設，只要存在弱點，它就會被發現。所以真正的辦法，就是自己先發現這些弱點——做紅隊演練，先發制人找出這些漏洞。修補之後，也不要以為就永遠修好了，除非你能用數學方式證明這個不變性成立。你必須永遠假設，當下一代 AI 模型出現時，它會找到新的弱點。所以如果你想一勞永逸地解決這個問題，唯一的辦法就是回到數學，證明程式碼的性質。所以我們現在看到，在風險最高的系統裡——比如加密貨幣——正在進行大規模重構，它們現在都在做形式化驗證（formal verification），也就是用 AI 來證明程式沒有錯誤，而不是用 AI 去找更多錯誤。
四、企業管理層該做什麼
好，所以也許我們可以克服這類 AI 攻擊，因為要防範這種攻擊，我們也可以使用 AI。但我認為企業執行長應該對這類網路攻擊更謹慎，因為日本企業有一種傾向，就是延續傳統模式，不太關心新科技。那對經營管理層來說，要應對這種網路攻擊，需要什麼？
嗯，我認為對管理者來說，現在其實可能是最好的時機，因為以前你沒辦法直接用資安防禦者、工程師的語言溝通——你總是需要一個翻譯者，也許是資深副總，也許是你的技術長，也許是你的資料長，總是需要有人扮演這個角色，把你的問題翻譯給機器的世界，再把工程師要說的話翻譯回來給你。一般來說，問題在於這種翻譯損耗很大——細節常常會流失，所以你在做決策時，以為自己掌握了所有資訊，但其實有些細微差異、某些細節在翻譯過程中就遺失了，結果你做出了錯誤的決定。
但現在這已經不再是問題了。你可以直接請語言模型把一份資安事件報告翻譯成俳句，或任何形式的詩，這樣你就不會遺失細節——事實上，它反而會把細節凸顯出來給你看。所以身為管理者，我認為最重要的一點是，日常語言與技術語言之間幾乎無損的翻譯，現在幾乎是免費的，你到處都能取得。過去這非常、非常困難，因為日文有敬語，同一個詞根據雙方的社會地位不同，意思也不同，而傳統的翻譯模型並沒有這種社群脈絡，所以總是翻錯——比如翻成日文時，總是聽起來很生硬之類的。但現在的語言模型，因為它們是在維基百科、網路論壇、Reddit、4chan 等等的資料上訓練出來的，所以這種「察言觀色」（讀空氣）的能力，已經內建在它們的預訓練裡了。所以現在，如果你是管理者，用語言模型要求一份報告，你永遠可以自訂格式。
所以我的主要建議是，不要把語言模型當成對話夥伴。很多管理者使用聊天機器人時，機器人總會說「喔我覺得這樣、我認為那樣，你說得完全正確，這個想法太棒了」——像個真人一樣。然後如果它說「喔我真的做不到這個」，你就會覺得對這個聊天機器人感到抱歉。但那是一種幻覺，只是在演戲。所以你可以直接加一條自訂指令：「以後不要給我一句話或一段話，永遠給我一份文宣、一頁式頁面、HTML、一個網頁。不管我問什麼，不要說『我覺得這樣、我認為那樣、好問題』之類的，直接給我一頁式的東西。」這樣我就能把它交給我的副手、我的員工、我的董事會。而機器永遠不會假裝是我最好的朋友，所以我可以把那份文宣分享給我真正的好朋友。所以，改變你跟聊天機器人互動的模式，這就是我的主要建議。
五、如何說服人們採用科技
我明白了，謝謝。你曾在臺灣政府任職，我覺得你很擅長讓人們——包括年長者與年輕人——使用更多數位新科技。但我覺得要說服人，尤其是年長者，並不總是容易，很多人仍在使用非常傳統的工具與傳統的思考方式。你會怎麼跟臺灣人說明數位科技的優勢？如果他們使用這些科技，我們的生活、我們的溝通、我們的決策會不會比以前好很多？說服人們使用更多數位科技、讓世界變得更好的關鍵是什麼？
我的訣竅是：我從來不會去說服人們走向科技，我是去說服科技人走向人們。因為資訊科技（IT／ICT）連結的是機器對機器，而數位（digital）連結的是人對人。而不論長輩或年輕人，都喜歡與彼此連結。所以在疫情期間，如果他們沒辦法輕易跟國外的人連結，那對他們來說就是個問題。而如果有方法能讓他們重新恢復人與人的連結，他們當然會很樂意去學。很多人在疫情期間學會了視訊，因為他們的朋友或家人在國外、沒辦法輕易回到臺灣，對吧。所以即使在臺灣我們從來沒有封城，其他很多地方都封城了，所以我們沒辦法輕鬆對話，因此人們學會了使用視訊。所以我的重點是：我不是在說視訊本身有多好，我是在說人與人的連結很寶貴，一旦你感覺到它因為疫情而動搖，就要找方法把它恢復。所以重點永遠是恢復、強化連結，而不是把人從他們想對話的人身邊拉走——科技只是這種連結的漏斗、通道。
六、Palantir／Karp《科技共和國》的問題——賽跑 vs. 任務
好，我下一個問題有點不一樣。最近 Palantir 執行長 Alex Karp 出版了一本書，叫做《科技共和國》（The Technological Republic），書中他主張科技公司應該比以前更支持政府。我的理解是，傳統上科技公司的想法比較偏自由主義，跟這個方向相反。但我覺得最近有一種不同的風潮——不只是 Karp，Palantir 的董事長 Peter Thiel 也有類似的看法。我想他們在討論的是，如果你不支持美國政府——那種立場——也許中國會擁有更先進的 AI 技術，中國的 AI 會變成更領先的一方。
對，那你就會輸掉這場賽跑。
對，對，就是這樣。那你怎麼看最近這類的風潮？
嗯，對我來說，這從來就不是一場賽跑。
從來不是賽跑。
對，因為賽跑是件很奇怪的事——在一場賽跑中，好，你可能暫時是第一名，如果是馬拉松，你不會全程都是第一名，有時候你會變成第三名、第四名，然後你加速衝刺，又變回第一名，對吧。但這是零和的——如果你多前進一名，就代表有人少了一名。所以這永遠是個不穩定的狀態。那如果是賽跑，終點線是什麼？如果是馬拉松，終點線總會有個東西在等著，對吧。但這對我來說非常奇怪，因為大家都知道——牛津那邊就講過——這條終點線叫做「奇點」（singularity），對吧。一旦 AI 變得夠聰明，聰明到能打造下一代的 AI，我們就會出現「起飛」，接著是智慧爆炸，然後今天的人類將永遠無法理解接下來會發生什麼——這就是為什麼它被稱為「技術奇點」。所以根據定義，那就是這場 AI 賽跑的終點線。而根據定義，你不可能贏——你要怎麼贏得一件你連想都想不到的事情？所以這就像賽車，終點線是一道懸崖，所以你會摔下去。好，你是第一個摔下懸崖的人，你達到了最高速度，非常快——但根據定義，方向盤這時候就不再運作了。今天我們能想到的任何東西，一旦你摔下懸崖、掉進奇點，方向盤就會失靈——被拉進黑洞裡。
對。
對，而這是根據定義成立的。所以對我來說，這其實沒什麼意義，對吧——好，你可能暫時第一名，暫時第二名，暫時又是第一名，結果最後掉進黑洞。那有什麼意義？所以對我來說，這不像是太空競賽，比較像是一場太空任務（space mission）。
太空任務。
任務是不一樣的，對吧？舉例來說，今年也許的任務是解決幻覺（hallucination）問題——我們必須讓 AI 不可能產生幻覺，永遠能被解釋。好，這是非常困難的挑戰，但這裡沒有第一名或第二名。如果你發現了讓 AI 可解釋、不會產生幻覺的科學方法，大家都贏了，對吧。如果你發現了這件事，沒有人會甘願繼續使用一個會出錯的 AI，大家都會使用可解釋的 AI，所以大家都贏了。所以賽跑只會問「誰是贏家」，但任務問的是「還缺少什麼」、「還有誰被排除在外」、「我們能不能納入更多人」。所以我認為「任務」是好得多的框架，因為在任務裡，我們是一起贏的；而在賽跑裡，只有一個人贏一時，而大家一起輸。何必玩那種遊戲？
七、軍事 AI 與防禦優勢框架
對，我想，就像你提到的，未來可能會更理想化——如果我們能善用科技，那會很棒——
當然是集體性地善用。
對，但我覺得有很多困難，因為中國那種、俄羅斯那種政府，會用 AI 來控制人民，也許在軍事領域也是如此——當然美國和它的盟友也在做同樣的事。AI 強大到，美國在一月攻擊委內瑞拉時，就使用了 AI、Palantir 的技術。所以 AI 可能讓戰爭比以前更危險，而我們沒辦法阻止這件事——這是我的看法，因為如果回顧漫長的歷史，各國政府總是想利用新科技來——我是說贏得戰爭。所以我的重點是，該怎麼——
我是說，我以為日本在憲法上是不想攻擊別人的。
喔對，你剛剛講的是「各國政府」。但我們現在在日本——
但如果日本已經決定不再發動戰爭——
但也可能有人來攻擊，像烏克蘭的例子——
但那樣的話，你就可以把力氣放在如何防禦上——如何永遠不失守、不被併吞，對吧。如果有人想攻擊日本，你可以專注在防禦科技上，確保攻擊方即使發動非常大規模的攻擊，也永遠無法壓垮你——你可以用無人機來吸收那樣的攻擊，這同樣也是 AI，事實上也是 AI 級的智慧，所以同樣一套用於進攻的協調技術，也能用在防禦上。而人們現在已經看到，在無人機戰爭中，這種不對稱性其實對防禦方有利。如果一支使用無人機防禦的軍隊不想輸，即使他們的人類士兵數量只是進攻方的一小部分——這在過去是決定性的因素——現在幾乎已經不重要了，因為你擁有的無人機比對方的士兵還多。所以我的重點是：AI 也有防禦優勢的用法，如果你不打算併吞別的國家，只專注在防禦上，你就可以放心投資這類軍事科技。
我明白了，這是個很好的觀點。實際上真的有這種風潮嗎？我想關鍵在於，那些專注於防禦、而非進攻的國家之間的合作、協作。
沒錯。就像我昨天在台上說的，如果每個國家都分享如何快速、分散式地製作口罩——你可以在自家廚房做出來，達到 N95 等級，能阻擋任何病毒——很難想像那能被當成武器來用。口罩絕對不是武器，你沒辦法用口罩來進攻，那是什麼意思？所以這當然是一種防禦優勢的技術，我們應該把它做成開源、簡單、便宜，並集中資源，讓大家能一起製作口罩。所以，如果你已經知道一項技術沒有進攻用途，那大家當然就應該把資源集中在一起。
八、憲法式 AI
我想請問你對 Anthropic，或者說 Dario Amodei 的「憲法式 AI」（constitutional AI）的看法。延續我剛才提到的脈絡，很多政府要求頂尖 AI 公司協助它們的——我是說軍事力量，但 Amodei 說的是「憲法式」，並專注在那個政策上。那你怎麼看？這對 AI 公司來說真的很重要嗎？
嗯，現在每家公司多多少少都在用某種形式的憲法式 AI，對吧。Amodei 的團隊——我其實在 2019 年拜訪過他們，那時候他們還在 OpenAI。
2019 年？
對，跟 Jack Clark 還有很多其他人。後來我認識的那些人都變成了 Anthropic 的人。我也認識後來加入 OpenAI 的人，所以兩邊實驗室我都有朋友，我在 xAI 和 Gemini 那邊也有朋友。所以我想說的重點是，雖然 Dario 和他的團隊可能是最早做「憲法式訓練」AI 系統的——也就是用一份人類文件來指導整個 AI 訓練過程，像一份規格書，一份你可以檢查的 Google 文件——這現在已經是業界標準了。在 OpenAI，他們不叫它「憲法」，而是叫「模型規格」（model specification），其實是同一件事。OpenAI 也有公開的評估機制，所以你真的可以測試 GPT 是不是照著模型規格訓練出來的。而其他所有公司，因為他們現在都在訓練所謂的「推理模型」——一旦你在訓練思考、推理，什麼是好的推理、什麼是壞的推理，你也需要一份規格、一份評分準則。所以現在大家多少都在用某種形式的憲法式 AI。
在 2023 年，我也曾跟一個叫做「集體智慧計畫」（Collective Intelligence Project，CIP）的團隊合作，我們跟 OpenAI 和 Anthropic 兩邊都合作過。當時 Anthropic 在做「集體憲章」（collective constitution）——他們對美國的隨機民眾發送大量調查、民調，約 1,000 人，人口結構大致對應美國的政治光譜分布，結果他們找出了一些當時 Claude 2 憲章中所缺少的好想法。所以在訓練 Claude 3 時，就多了像是「優先考慮無障礙」這樣的條目——Claude 2 原本假設每個人都用兩條腿走路。但那顯然是因為 Anthropic 的研究人員裡，也許輪椅使用者不多；但這裡的民眾說，「其實不是每個人都能走路，你必須讓輪椅使用者等等也能無障礙使用」，這就變成了 Claude 3 憲章的一部分。所以「憲章」的好處在於，它是用日常語言寫成的，任何人都能閱讀、檢查，也能修改。所以現在我們看到，越來越多不同的社群在訓練自己的社群模型，用他們自己的社群規格書或社群憲章。所以這現在是一種非常民主化的訓練方式。
九、對 AI 的依賴、決策，以及民主
我下一個問題有點跟民主有關。人們現在對 AI 的依賴非常深，且無時無刻——
也許小孩子沒有機器翻譯，根本不知道該怎麼辦。
對，他們什麼都問 AI，現在很多人思考得越來越少。如果你回顧人類漫長的歷史，過去大家會自己思考、然後決定該怎麼做。但現在 AI 直接告訴你什麼是好的、什麼是壞的、你該做什麼。所以這是一種很——我是說危險的處境。如果談到民主，人們應該自己思考，決定要投給誰，或者說決定——對，那種判斷力對每個人來說都是必要的。但因為 AI 的關係，人們現在也許變得越來越同質化。你怎麼看這件事？我們該怎麼做，才能克服這種困境？
抱歉，我不太確定我完全理解你的意思——你是說，人們去投票時，過去會思考自己該投給誰，但現在他們只是問 AI 該投給誰，然後 AI 說什麼，他們就投什麼？是這個意思嗎？這真的在發生嗎？我不確定。
我也不確定，但我——
對，我不認為這正在發生。
也許他們會問 AI——我是說，你很了解我的意思，也許你可以告訴我，理想上應該投給誰。
我是說，我不認為很多人會這樣做。我想大多數人是把 AI 當成一個超級搜尋引擎在用。
超級搜尋引擎？
對，如果他們想搜尋什麼、想問問題，如果他們好奇，如果他們想做一個專案，他們會請 AI 幫忙規劃。但我認為，目標仍然掌握在人的手上——我想大多數人都是這樣使用 AI 的。你講的這種情況，是我認識的 Cory Doctorow 所說的「逆向半人馬」（reverse centaur）。他的意思是，你知道，以前有一種系統叫做「機械土耳其人」（Mechanical Turk），你可以透過網路請一個真人去做某件事。也許有一種 captcha 驗證碼是 AI 還解不開的，於是這個 AI 想進入某個系統，就雇用一個人來幫它解 captcha。而這個人不知道自己為什麼在解這個 captcha——「我在解這個驗證碼，是不是犯罪活動，我不知道，但反正 AI 付我錢，所以我就照著做」。所以這跟半人馬（centaur）不一樣——半人馬是人類的頭、馬的身體；「逆向半人馬」變成馬的頭、人類的身體。也就是人類做著沒有意義的工作，AI 把所有的工作都分配給人類，對吧。所以也許你講的是類似這樣的情況——AI 做所有的決定、所有的判斷——
對。
而人類只是跟著 AI 的操縱走。首先，我不認為這正在發生。
好。
對，我認為這是一種危險——幾乎像在看《黑鏡》（Black Mirror）的某一集。我認為藝術最重要的作用——我相信這是最重要的一門專業——就是警告人們：如果你再往前踏幾步，前面就是懸崖，你會摔下去。所以如果你在看《黑鏡》，它想表達的不是「喔這是個好主意」，不是的，它是在說「不要走到那一步」，對吧。所以我認為，當然，對日經以及新聞業整體而言，說「我們不想走到那個地步」是件好事。但我認為，「我們不想走到那裡」跟「我們已經走到那裡了」是兩回事。我不認為我們已經走到那裡了。我認為大多數人使用 AI 系統，並不是說「我放棄自己決定、放棄投票，告訴我該投給誰」——我不認為這正在發生。
好。對，所以我想表達的是，人們應該——人們應該更多地思考，因為如果他們太依賴 AI，這種同質化可能會很危險，因為他們不知道什麼是好、什麼是壞，只是「AI 這麼說，所以我就這麼做」。我是說，AI 是某種天才，所以我們只需要照著它的建議做。我認為那樣的世界非常危險。
對，這確實非常值得提防。
你應該提醒大家避免那種處境。我們該怎麼做？需要什麼樣的教育——也許是人文素養那種，就像希臘哲學家問的「什麼是光」「什麼是正義」——需要什麼樣的教育？
十、教育、健身房寓言，以及 AI 不該自動化的事
對，我想，還是回到「上健身房」這個比喻：通常我去健身房，是想運動練肌肉，也想交到跟我有相同興趣的朋友——這是上健身房最重要的兩件事。我對於「比賽誰舉的重量最多」比較沒興趣——對我來說，那不是很有意義的競爭，我不是為了競爭去的。我想大多數上健身房的人，都不是為了拿奧運金牌，那是職業運動員的事，大多數人去健身房不是為了那個，對吧。
但想像一下，如果現在有一間健身房把每個人都隔開，每個人都在自己的小格子、自己的小天地裡，然後只公布你舉了多重的排行榜，每週的冠軍拿走所有好處，對吧。那這間健身房就改變了它的規則——這有點像教育系統。如果你在班上考第一名，你會得到所有的掌聲，得到社會地位，能進最好的大學；但即使你只差一點點分數，你是第二名、第三名、第四名，只會得到一小部分的掌聲，即使你只差了一分而已，對吧。所以這不是很有意義。但如果你把人放在這種處境裡，加上 AI，他們就會作弊——像是，在那種情境下，對我來說最理性的做法就是派我的機器人去健身房。機器人拿著我的健身房卡，能舉起很重的重量，好，然後我就變成第一名。然後一旦大家知道「喔，他用機器人做到的」，那我就得雇用一個更厲害的機器人，舉更重的重量。但這樣一來，我們全部人都會失去肌肉，因為機器人取代了我們；我們也會失去朋友，我們再也沒有朋友了。這就是《黑鏡》，這就是這個主題。
但這其實取決於健身房的設計方式。如果健身房拿掉這些隔間，如果人們重新一起運動，如果你不獎勵名次地位，只獎勵真正練出來的肌肉——如果學校獎勵那些擅長團隊合作、能對社會做出良好貢獻的學生，如果我們獎勵好奇心、協作、公民關懷——那麼這些事情沒有一件可以被自動化。這時候 AI 就只是幫我們訓練得更好的鷹架而已，對吧。以前，也許我們講不同的語言，沒辦法組成一個團隊，但現在有了 AI 翻譯，喔，我們又可以組成團隊了，於是我們一起鍛鍊肌肉，對吧。所以重點是：教育系統可以獎勵人們表現得像機器人，那學生就會作弊，直接派機器人代打。或者我們可以獎勵人們表現得像人，那我們就永遠不會作弊，因為 AI 只是用來幫助我們溝通的工具。
十一、就業、逐字稿、翻譯，以及照護經濟
好，謝謝。其實我下一個問題是你對就業的看法。很多人說 AI 會搶走人類的工作——對，這個問題已經被重複問過很多次了，但很多人還是會問。但最近因為 AI 智慧體、還有 Mythos 這類技術，尤其是顧問公司，也許還有銀行從業人員會消失——很多人這樣說。那你怎麼看 AI 與就業？
我是說，確實有這種情況——就像我剛才講話時，你看到那面自動校正字幕的牆，那就代表少了一個人類口譯員的工作，對吧。所以很明顯，昨天就少了一份工作，對吧，我不否認在某些情況下這真的在發生。另一個很好的例子是逐字稿——以前如果要做逐字稿，你需要一位速記員，快速聽打；但現在不是這樣了，你只需要一位編輯——AI 負責打字，你只需要修正一些筆記，對吧。對新聞業來說，以前你得自己做逐字稿，但現在 AI 逐字稿已經做得很完美了，對吧，你只需要修正幾個字就完成了。所以，這又是一份可能被取代的工作。
事實上，如果你回顧歷史，「computer」這個字以前是用來指人的，因為做計算的人就被稱為 computer。再往回看，「printer」這個字以前也是指人——古騰堡就是一位 printer（排版印刷者），不是印表機，你得有活字，對吧，把它排進版面，再放進一個框架，一個木框，對吧。但現在的 printer 當然就只是機器了，對吧。所以我不是說這不會發生，這很可能會發生。以前被稱為「逐字稿員」或「口譯員」的職稱，可能會越來越多地用來指機器，而不是人。這當然也釋放了人類的心力，去做更多人與人之間的工作，因為有一些工作，就算機器能做，我們也永遠不會交給機器去做。舉例來說，如果我要向某個宗教信仰體系裡的神職人員告解——
對。
——大部分的工作其實就只是同理我、聆聽我的故事，然後根據經文告訴我，如果我做了這個、做了那個，上帝會赦免我，對吧。這個工作本身，你今天大概真的可以訓練一個 AI 來做，但人們不會去找機器人告解，因為那從根本上就是一份「人」的工作。所以我想表達的重點是，這件事帶有某種關係性，而不是交易性。
口譯員也是一樣——我以前也當過口譯員。很少有講者會跟自己的口譯員建立真正的關係。通常講者會去不同的場合，配上不同的口譯員，而口譯員通常也會覺得，反正這場工作結束後，我大概不會再見到這位講者了，是一種沒有關係基礎的處境。但機器反而可能更有「關係性」，因為我可以把我自己的語言模型帶到那面字幕牆前。所以在某種意義上，那個語言模型比我素未謀面的人類口譯員更貼近我，對吧，感覺更親近。但在告解、神職人員那種情境裡，經過多年，我們自然會越來越了解彼此，而機器人在靈性層面上永遠無法達到那種親近，對吧。所以我認為，會有越來越多人轉向這種以「關係式財貨」為優先的關懷經濟（care economy）。
