唐鳳

我是說，我以為日本在憲法上是不想攻擊別人的。

但如果日本已經決定不再發動戰爭——

但那樣的話，你就可以把力氣放在如何防禦上——如何永遠不失守、不被併吞，對吧。如果有人想攻擊日本，你可以專注在防禦科技上，確保攻擊方即使發動非常大規模的攻擊，也永遠無法壓垮你——你可以用無人機來吸收那樣的攻擊，這同樣也是 AI，事實上也是 AI 級的智慧，所以同樣一套用於進攻的協調技術，也能用在防禦上。而人們現在已經看到，在無人機戰爭中，這種不對稱性其實對防禦方有利。如果一支使用無人機防禦的軍隊不想輸，即使他們的人類士兵數量只是進攻方的一小部分——這在過去是決定性的因素——現在幾乎已經不重要了，因為你擁有的無人機比對方的士兵還多。所以我的重點是：AI 也有防禦優勢的用法，如果你不打算併吞別的國家，只專注在防禦上，你就可以放心投資這類軍事科技。

沒錯。就像我昨天在台上說的，如果每個國家都分享如何快速、分散式地製作口罩——你可以在自家廚房做出來，達到 N95 等級，能阻擋任何病毒——很難想像那能被當成武器來用。口罩絕對不是武器，你沒辦法用口罩來進攻，那是什麼意思？所以這當然是一種防禦優勢的技術，我們應該把它做成開源、簡單、便宜，並集中資源，讓大家能一起製作口罩。所以，如果你已經知道一項技術沒有進攻用途，那大家當然就應該把資源集中在一起。

嗯，現在每家公司多多少少都在用某種形式的憲法式 AI，對吧。Amodei 的團隊——我其實在 2019 年拜訪過他們，那時候他們還在 OpenAI。

對，跟 Jack Clark 還有很多其他人。後來我認識的那些人都變成了 Anthropic 的人。我也認識後來加入 OpenAI 的人，所以兩邊實驗室我都有朋友，我在 xAI 和 Gemini 那邊也有朋友。所以我想說的重點是，雖然 Dario 和他的團隊可能是最早做「憲法式訓練」AI 系統的——也就是用一份人類文件來指導整個 AI 訓練過程，像一份規格書，一份你可以檢查的 Google 文件——這現在已經是業界標準了。在 OpenAI，他們不叫它「憲法」，而是叫「模型規格」（model specification），其實是同一件事。OpenAI 也有公開的評估機制，所以你真的可以測試 GPT 是不是照著模型規格訓練出來的。而其他所有公司，因為他們現在都在訓練所謂的「推理模型」——一旦你在訓練思考、推理，什麼是好的推理、什麼是壞的推理，你也需要一份規格、一份評分準則。所以現在大家多少都在用某種形式的憲法式 AI。

在 2023 年，我也曾跟一個叫做「集體智慧計畫」（Collective Intelligence Project，CIP）的團隊合作，我們跟 OpenAI 和 Anthropic 兩邊都合作過。當時 Anthropic 在做「集體憲章」（collective constitution）——他們對美國的隨機民眾發送大量調查、民調，約 1,000 人，人口結構大致對應美國的政治光譜分布，結果他們找出了一些當時 Claude 2 憲章中所缺少的好想法。所以在訓練 Claude 3 時，就多了像是「優先考慮無障礙」這樣的條目——Claude 2 原本假設每個人都用兩條腿走路。但那顯然是因為 Anthropic 的研究人員裡，也許輪椅使用者不多；但這裡的民眾說，「其實不是每個人都能走路，你必須讓輪椅使用者等等也能無障礙使用」，這就變成了 Claude 3 憲章的一部分。所以「憲章」的好處在於，它是用日常語言寫成的，任何人都能閱讀、檢查，也能修改。所以現在我們看到，越來越多不同的社群在訓練自己的社群模型，用他們自己的社群規格書或社群憲章。所以這現在是一種非常民主化的訓練方式。

也許小孩子沒有機器翻譯，根本不知道該怎麼辦。

抱歉，我不太確定我完全理解你的意思——你是說，人們去投票時，過去會思考自己該投給誰，但現在他們只是問 AI 該投給誰，然後 AI 說什麼，他們就投什麼？是這個意思嗎？這真的在發生嗎？我不確定。

對，我不認為這正在發生。

我是說，我不認為很多人會這樣做。我想大多數人是把 AI 當成一個超級搜尋引擎在用。

對，如果他們想搜尋什麼、想問問題，如果他們好奇，如果他們想做一個專案，他們會請 AI 幫忙規劃。但我認為，目標仍然掌握在人的手上——我想大多數人都是這樣使用 AI 的。你講的這種情況，是我認識的 Cory Doctorow 所說的「逆向半人馬」（reverse centaur）。他的意思是，你知道，以前有一種系統叫做「機械土耳其人」（Mechanical Turk），你可以透過網路請一個真人去做某件事。也許有一種 captcha 驗證碼是 AI 還解不開的，於是這個 AI 想進入某個系統，就雇用一個人來幫它解 captcha。而這個人不知道自己為什麼在解這個 captcha——「我在解這個驗證碼，是不是犯罪活動，我不知道，但反正 AI 付我錢，所以我就照著做」。所以這跟半人馬（centaur）不一樣——半人馬是人類的頭、馬的身體；「逆向半人馬」變成馬的頭、人類的身體。也就是人類做著沒有意義的工作，AI 把所有的工作都分配給人類，對吧。所以也許你講的是類似這樣的情況——AI 做所有的決定、所有的判斷——

而人類只是跟著 AI 的操縱走。首先，我不認為這正在發生。

對，我認為這是一種危險——幾乎像在看《黑鏡》（Black Mirror）的某一集。我認為藝術最重要的作用——我相信這是最重要的一門專業——就是警告人們：如果你再往前踏幾步，前面就是懸崖，你會摔下去。所以如果你在看《黑鏡》，它想表達的不是「喔這是個好主意」，不是的，它是在說「不要走到那一步」，對吧。所以我認為，當然，對日經以及新聞業整體而言，說「我們不想走到那個地步」是件好事。但我認為，「我們不想走到那裡」跟「我們已經走到那裡了」是兩回事。我不認為我們已經走到那裡了。我認為大多數人使用 AI 系統，並不是說「我放棄自己決定、放棄投票，告訴我該投給誰」——我不認為這正在發生。

對，這確實非常值得提防。

對，我想，還是回到「上健身房」這個比喻：通常我去健身房，是想運動練肌肉，也想交到跟我有相同興趣的朋友——這是上健身房最重要的兩件事。我對於「比賽誰舉的重量最多」比較沒興趣——對我來說，那不是很有意義的競爭，我不是為了競爭去的。我想大多數上健身房的人，都不是為了拿奧運金牌，那是職業運動員的事，大多數人去健身房不是為了那個，對吧。

但想像一下，如果現在有一間健身房把每個人都隔開，每個人都在自己的小格子、自己的小天地裡，然後只公布你舉了多重的排行榜，每週的冠軍拿走所有好處，對吧。那這間健身房就改變了它的規則——這有點像教育系統。如果你在班上考第一名，你會得到所有的掌聲，得到社會地位，能進最好的大學；但即使你只差一點點分數，你是第二名、第三名、第四名，只會得到一小部分的掌聲，即使你只差了一分而已，對吧。所以這不是很有意義。但如果你把人放在這種處境裡，加上 AI，他們就會作弊——像是，在那種情境下，對我來說最理性的做法就是派我的機器人去健身房。機器人拿著我的健身房卡，能舉起很重的重量，好，然後我就變成第一名。然後一旦大家知道「喔，他用機器人做到的」，那我就得雇用一個更厲害的機器人，舉更重的重量。但這樣一來，我們全部人都會失去肌肉，因為機器人取代了我們；我們也會失去朋友，我們再也沒有朋友了。這就是《黑鏡》，這就是這個主題。

但這其實取決於健身房的設計方式。如果健身房拿掉這些隔間，如果人們重新一起運動，如果你不獎勵名次地位，只獎勵真正練出來的肌肉——如果學校獎勵那些擅長團隊合作、能對社會做出良好貢獻的學生，如果我們獎勵好奇心、協作、公民關懷——那麼這些事情沒有一件可以被自動化。這時候 AI 就只是幫我們訓練得更好的鷹架而已，對吧。以前，也許我們講不同的語言，沒辦法組成一個團隊，但現在有了 AI 翻譯，喔，我們又可以組成團隊了，於是我們一起鍛鍊肌肉，對吧。所以重點是：教育系統可以獎勵人們表現得像機器人，那學生就會作弊，直接派機器人代打。或者我們可以獎勵人們表現得像人，那我們就永遠不會作弊，因為 AI 只是用來幫助我們溝通的工具。

我是說，確實有這種情況——就像我剛才講話時，你看到那面自動校正字幕的牆，那就代表少了一個人類口譯員的工作，對吧。所以很明顯，昨天就少了一份工作，對吧，我不否認在某些情況下這真的在發生。另一個很好的例子是逐字稿——以前如果要做逐字稿，你需要一位速記員，快速聽打；但現在不是這樣了，你只需要一位編輯——AI 負責打字，你只需要修正一些筆記，對吧。對新聞業來說，以前你得自己做逐字稿，但現在 AI 逐字稿已經做得很完美了，對吧，你只需要修正幾個字就完成了。所以，這又是一份可能被取代的工作。

事實上，如果你回顧歷史，「computer」這個字以前是用來指人的，因為做計算的人就被稱為 computer。再往回看，「printer」這個字以前也是指人——古騰堡就是一位 printer（排版印刷者），不是印表機，你得有活字，對吧，把它排進版面，再放進一個框架，一個木框，對吧。但現在的 printer 當然就只是機器了，對吧。所以我不是說這不會發生，這很可能會發生。以前被稱為「逐字稿員」或「口譯員」的職稱，可能會越來越多地用來指機器，而不是人。這當然也釋放了人類的心力，去做更多人與人之間的工作，因為有一些工作，就算機器能做，我們也永遠不會交給機器去做。舉例來說，如果我要向某個宗教信仰體系裡的神職人員告解——

——大部分的工作其實就只是同理我、聆聽我的故事，然後根據經文告訴我，如果我做了這個、做了那個，上帝會赦免我，對吧。這個工作本身，你今天大概真的可以訓練一個 AI 來做，但人們不會去找機器人告解，因為那從根本上就是一份「人」的工作。所以我想表達的重點是，這件事帶有某種關係性，而不是交易性。

口譯員也是一樣——我以前也當過口譯員。很少有講者會跟自己的口譯員建立真正的關係。通常講者會去不同的場合，配上不同的口譯員，而口譯員通常也會覺得，反正這場工作結束後，我大概不會再見到這位講者了，是一種沒有關係基礎的處境。但機器反而可能更有「關係性」，因為我可以把我自己的語言模型帶到那面字幕牆前。所以在某種意義上，那個語言模型比我素未謀面的人類口譯員更貼近我，對吧，感覺更親近。但在告解、神職人員那種情境裡，經過多年，我們自然會越來越了解彼此，而機器人在靈性層面上永遠無法達到那種親近，對吧。所以我認為，會有越來越多人轉向這種以「關係式財貨」為優先的關懷經濟（care economy）。

我認為網際網路最初設計時，大多數使用網際網路的人是研究人員、程式設計師和工程師，大家非常重視創新。這叫做端對端原則。當有人有更好的想法——比如「我想做一個網頁瀏覽器」——而其他各方認同這個想法時，他們可以就一個協定達成共識，這個協定又可以分享給許多其他人。所以它會非常快速地擴散開來。

在早期的網際網路上有句話說：「Worse is better（較差反而更好）。」如果你花很多時間把安全性、隱私等等做到完美，等你完成設計時——可能三個月、六個月——那個較差的協定可能已經擴散開來了。大家都在使用它、複製它。

有些不幸的是，最早期的網際網路協定在設計時並沒有考慮到很好的安全性或隱私。也許這個節目的部分觀眾還記得我們第一次上網的時候。當時用的是 HTTP，你可以瀏覽網頁，但你不會想把信用卡號碼輸入進去，因為所有人——你的鄰居、你的網際網路服務供應商——都可能攔截到你的信用卡號碼。

直到後來，人們才加入了安全的 HTTPS。然後瀏覽器會顯示一個鎖頭圖示，表示「傳輸現在是安全的」。只有接收端的網頁伺服器會取得你的信用卡號碼，中間的任何人都無法取得。但我們花了好幾年才讓所有人升級到 HTTPS。即使到今天，一些較舊的網頁伺服器仍然不接受安全連線。

所以如果這算是一個例子的話，今天的網際網路充滿了以便利性或快速普及為考量而設計的協定，卻不是以安全為考量。

那是我 14 歲時最初的研究主題——所以，透露一下我的年齡，那是 30 年前的事了。

當時，人們所謂的網路空間——或者今天所說的線上空間——非常難以理解，因為在線上你甚至不知道你是在跟人還是機器人交談。正如我提到的，早期的網際網路沒有安全的數位簽章元素。所以你永遠無法確定對方是不是人。

弔詭的是，這對很多人來說也是一種解放。以前，當我們說話時，對方總會根據我使用語言的熟練程度、我的外表或我的文化背景，抱持某種刻板印象、貼上某種標籤。即使我表達了某個意思，讀者或聽眾也會僅僅根據我是誰而做出不同的詮釋。但因為當時的網際網路幾乎是匿名的，你只能就想法本身來評判想法。這其實帶來了非常快速的信任。

我從中學習的一個早期例子是預印本伺服器 arXiv，它至今仍然存在——發音是「archive」。在期刊發表文章之前，許多研究人員會把草稿——稱為預印本——發表在 arXiv 上，請大家提出意見，然後才將其轉化為學術期刊文章。學術期刊通常經過同儕審查，品質非常高，錯誤非常少。它就像是完美。但沒有多少人知道如何與完美互動。

如果你只發表一份草稿，你會非常脆弱——它有很多問題——但你是在歡迎大家給你建設性的回饋。透過在網路上發表我的草稿，我交到了很多朋友，因為人們會說：「你這裡錯了，你這裡錯了，你這裡錯了。」但我的想法是：「好啊，這只是草稿。」不管他們給我什麼意見，我都會很快做成下一個版本，並用電子郵件回覆。

這種快速回應——從人們看到我的錯誤到我修正錯誤——非常快速地增進了信任，成為「迅速信任」。而在學術機構裡，每一輪修訂都要花一個月甚至更長時間，所以更難迅速建立信任。

噢，我很愛那些留言。

嗯，我從來沒有克服它。我與它互動。我擁抱酸民。這是我長久以來的習慣——是我的一個嗜好。我喜愛擁抱酸民。

每當我看到大概 4,000 字惡毒攻擊我的內容，我會試著在其中找出那四個或十個字，是我可以重新建構並詮釋為建設性意見的。我只與那一部分互動，其他一律忽略。所以我不是在克服它。我把它看作非常真誠的表達，並真誠地與之互動。

對很多人來說，這並不容易，因為處理這種惡毒攻擊需要時間和精力。幸運的是，現在有語言模型了。如果你把 4,000 字放進語言模型，加上一個非常簡單的提示詞，寫著「顯示我們的差異和我們的非共識之處，以跨越差異搭起橋樑」，語言模型會很快找到值得你全神貫注的那句話。你甚至不需要看其他部分。

以前這是一個需要動用很多肌肉來練習的嗜好——你必須真的鍛鍊。現在有了語言模型就非常容易。但我仍然會互動。在 Threads.net 上和 Mu Social 上，我仍然收到很多惡意和惡毒的留言。我總是會互動並追蹤發文者，有時傳私訊，有時寄電子郵件，有時公開回覆。

再說一次，差異或衝突不是一座你必須撤離、必須遠離的火山。如果你保持距離，那就是所謂的迴避反應。那麼下次遇到類似的事情，你可能會醒來並感到被觸發。

對我來說，它始終是正面的：我會採取行動去接近它。所以它不是火山爆發。對我來說，它像是地熱能源。我感受到熱能，然後想：「噢，我可以用它發電。我可以用這股能量創造動力。」他們發文是因為他們在乎。因為人們在乎，我們可以把那份在乎轉化為公民關懷，這樣我們就能一起在乎同一件事。

如果你看到惡意留言而感到不舒服，我通常就是喝點東西。我把兩個茶包放進一個杯子裡，這個組合是一個新的組合。當我喝下去時，那是一種新的感受。在我的記憶裡，等我睡滿八小時醒來之後，它就會帶有正面的情感色彩。如果你看過迪士尼那部關於你腦中各種角色的電影，它總會把它，如你所說，轉化為明亮的記憶——一個喜悅的記憶。

我讀過三所幼稚園、六所小學和一年的國中——十年裡讀了十所學校。我在國中二年級時輟學。這不是因為霸凌，也不是因為老師或校長不喜歡我。事實上，他們非常喜歡我。

而是因為校長覺得我在做研究，而她的學校讓我無法做研究。我跟她分享說，我已經在寫電子郵件給國際學術界的頂尖實驗室。因為那些研究人員不知道我只有 14 歲，他們把我當作同行研究者看待。我們像真正的研究人員一樣通信。

我說：「妳可以強迫我在妳的學校待八小時，再花八小時做研究，因為我需要睡八小時。或者我可以做 16 小時的研究，真正為科學做出貢獻。」她說：「好。那你不用再來學校了，因為你已經在做研究了。學校本來是要為你的研究做準備，但你已經在做研究了，所以你不需要輔助輪了」，可以這麼說。

我說：「好，但這是義務教育，所以我的家人會被罰款。如果我不到校會有罰則。」校長說：「沒關係。我就把紀錄造假。」嗯，已經過了 20 多年，追訴時效已過，所以我可以分享這個故事。

我認為最重要的是信任人民。國家需要讓自己對人民透明。那才是包容。如果你讓人民對國家透明，那就不是包容；那是排除。那麼只有國家，「國家的視角」，能做決策，而人民沒有任何能動性，因為他們的下一步已經被國家預測了。那非常危險。

我們需要確保沒有人在看到危害時被拋在後面。當國家做錯事——或者國家沒做錯事，但某個大公司做錯事時——人民必須始終握有方向盤，並說：「其實還有另一條路可走。我們走另一條路吧。」這需要非常快速的回饋迴路。

對我來說，數位包容首先意味著不讓任何人掉隊，確保每個人都能取得共同的知識和資訊。國家級的廣播機構可以在這方面提供協助。但接著你還需要全國性的廣泛傾聽，這樣無論人們覺得國家應該走向什麼方向，他們都可以聚集成小組，一起想清楚。

目前，廣播擁有大量頻寬，但傾聽只能偶爾透過民調進行。大多數人不會接到民調機構的電話，所以他們無法那麼容易地發聲，而每個人都可以收看 NHK。這顯然存在很大的不對稱。我們需要開啟廣泛傾聽，讓它與廣播對稱。

對我來說，AI 是輔助式智慧，所以它永遠不會取代另一個人。那是準則；那是規則。但它非常有用。