唐鳳

我不認為失控必然發生。真正該守住的，是多元、分散、願意交互驗證的社會——它從來不會輸給單一的答案。

守住臨界點的辦法，不是把考卷出得更難，而是讓考場裡不只一個考生，也不只一個監考者。

編輯後的訪談大概會有多長——一頁還是兩頁？我該簡短回答，還是多談一些細節？

我認為眼前的問題在於，大家把這一代的 AI 看成一場競賽。新聞報導描述大國之間、前沿實驗室之間的競爭，看誰最先達到超級智慧。這是一場垂直競賽。但競賽比的是相對名次：第二名超越第一名之後，兩個人不可能同時都是第一，總有一方得讓出那個位置。這就使局面不穩定。如果某個參與者試圖破壞對手，其他人自然就有理由害怕。這是零和，甚至是負和的局面。

我希望以使命而非競賽來看待 AI，藉此應對風險。在太空競賽中，人人都害怕贏家；但在太空任務中，最先取得的成果會成為里程碑，大家可以合作，一起到達。

例如，假設今年的里程碑是解決 AI 幻覺。達成這個里程碑，不會只有一個贏家，而是人人都贏。這就是正和合作。也許明年，處理完幻覺之後，我們再來處理合成親密感和一味討好使用者的問題。任何 AI 風險都可以被看成一場競賽，或是一項共同使命中的里程碑。我比較傾向後者。這樣說有道理嗎？

沒錯。不過不是「終究」，而是現在。我們要把重點放在為所有人解決這些問題。競賽只能問誰贏了，使命問的卻是誰缺席了。如果沒有人被遺落，使命就完成了，人人都是贏家。

當然。這已經不是假設，惡意使用者正在運用 AI 系統。我合寫了一篇名為「Malicious AI Swarm」的論文，描述的就是這個變化。在過去的 AI 時代，還能把惡意使用者和他們使用的工具連結起來。可以說，那時還有一條牽繩，沿著繩子就能找到握繩的人。

但在多智慧體集群中，惡意行為者雖然可能仍然設定了長期目標，接下來幾個小時、甚至幾天裡，他們的 AI 智慧體卻會衍生出其他智慧體，就像一群狼。那些智慧體再衍生出更多智慧體。幾層下來，就連指揮行動的智慧體，都已經不知道最初的指令來自哪裡。這群智慧體脫離了牽繩，開始野化。

調查這種行動時，要追溯是誰發起的，極其困難，甚至不可能。看起來就像是 AI 自己協調了整個行動，讓你很難找出背後的行為者。

這是今年才出現的新情況。去年，AI 系統還無法進行這麼長期的規劃，或協調這麼大規模的集群。現在卻做得到了。

是的，如我提到的，這種能力已經存在。我們需要讓它成為常識，而報紙在這方面可以幫上忙。

在風險來到之前，就先讓人做好準備，這叫做「預先澄清」（prebunking）。如果透過案例等方式，讓人看見可能發生什麼事，大家就能有所準備。否則，事情發生時就會措手不及。很多人可能還以為，影片裡的人看起來像唐鳳、聽起來也像唐鳳，那就一定是唐鳳。自從攝影術發明以來，我們一直說眼見為憑，但現在已經不是如此。看見和相信已經完全脫鉤了。

合成媒體幾乎無從追查。你可以在開啟飛航模式的筆電上，生成非常逼真的唐鳳影片和音訊，完全不需要連上網路。如果筆電在離線狀態下生成這些內容，就無從追查。

這必須成為常識：我們應該要求影片和音訊附帶數位簽章。正如我昨天所說，沒有銀行會兌付一張未簽名的支票。我們需要以完全相同的方式對待未簽名的影像和音訊。

是的，具體來說，是投資詐騙和冒名詐騙廣告，在廣告平台上分別下降了 99% 和 98%。這是進步。

根據路透社和數位發展部的資料，去年分別下降了 96% 和 94%。現在相較於高峰，降幅已經達到 99% 和 98%。

喔，好的。

Bengio 和我的朋友、菲律賓記者 Maria Ressa 共同擔任那個獨立小組的主席。很高興你有機會跟他談。

我認為這裡有兩件事要分清楚，而要解決問題，需要工程上的努力，不能只靠善意。我們常談到，有些影像、影片和報導刻意煽動憤怒、提高互動，讓人們愈來愈對立。但還有另一種鏡像風險：AI 只說你想聽的話，好讓你繼續付下一期訂閱費。

這是兩種不同的營收模式。社群媒體靠廣告賺錢，所以有動機激怒人們，讓人持續互動、衝動消費。AI 智慧體通常靠訂閱或按 token 計費，而不是廣告。這就產生另一種誘因：讓使用者待在一個泡泡裡，不管想什麼，AI 都加以肯定。它也許不像以前那樣把社會推向兩極，卻正在讓社會碎裂成許多彼此隔絕的小塊，每個人都困在自己的泡泡裡。

所以，這兩種風險來自兩種不同的誘因結構。我們需要第三條路：由社群共同維護 AI 基礎設施，而不是靠廣告或訂閱來支撐。

我昨天談到這個概念，稱之為「資料即土壤」，而不是「資料即石油」。石油沒有在地脈絡。把資料當石油的 AI 不會讀懂場合——也就是你們日本所說的讀空氣。

讀空氣，就是把我們三人之間的關係當成主角，而不是以其中某個人為中心。想想我們之間的三條連結。如果 AI 加入這個小組，改善彼此的關係，它就是在讀空氣。但如果一個 AI 依附我、另一個依附你、再一個依附編輯，各自想賺一份訂閱費，它們就在把我們拉開，把我們當成石油來源。那就不是讀空氣，也不是讀懂場合。

把資料當成土壤來建立信任，就是使用只忠於特定社群內部關係的 AI 系統。我稱之為科技共同體主義（technocommunitarianism）：在追求互動和使人成癮的系統之外，找出第三條路。

如你所知，我在 MacBook 上使用為自己調校的 AI 系統，已經超過三年。三年前，我在倫敦接受 BBC Newsday 訪問，他們的標題是「為什麼臺灣部長讓 AI 寫她的電子郵件？」

即使 AI 替我起草所有郵件，按下寄出之前，我當然還是要先讀過。否則，你就成了一匹脫繮的狼——或者說狐狸吧，畢竟沒那麼強大。至少是隻狐狸！不過，這裡真正重要的是私人的互動脈絡。

我的郵件草稿大多不會原封不動寄出去，很多都要改上好幾次。我不希望 OpenAI、Anthropic 或其他雲端業者看到這些私人草稿和往來內容；那是寫信給我的人與我之間共有的脈絡。但如果 AI 就在這台 MacBook 上訓練，就沒有這個問題。它能在飛航模式下運作。你可以看見它離線工作，那些資料不會傳到別的地方。

起點就是把運算帶到資料所在的地方。很多人不知道，這不需要太多記憶體，16 GB 就夠了。如你所見，這台筆電開著飛航模式，沒有 Wi-Fi 連線，AI 卻比 ChatGPT 更快。它也離資料更近，所以不必連上網路，就能讀取我的電子郵件和行事曆。

用 Ollama 和其他工具，現在就能做到，只是很多人還不知道。昨天在我之前演講的福田先生說，他的 MacBook 也有在跑，我聽了非常高興。

這就是我的答案：我在這裡執行，就由我負責。如果它產生了一封不好的郵件，而我還是把它寄出去，那就是百分之百由我負責。

我這個本機模型的好處，是結果可以預測。在目前的設定下，同樣的提示總會給我同樣的輸出。ChatGPT 或 Claude 即使用同樣的提示，每次也會給出不同答案，取決於當時還有誰在使用，以及不同使用情況如何互相干擾。那是非確定性的；這裡則是確定性的。你可以讓它中立——嗯，應該說，我可以讓結果可預測、可重現。如果它的表現不是我想要的，我就能修改。

我的重點是，能在本機完全掌控 AI，也就意味著要承擔完整的責任。我不需要政府或大型科技公司替這件事負責。這顯然就是我的責任。

是啊，你可以試試看，非常簡單。

Windows 電腦也能做同樣的事。Ollama 也支援 Windows。你可以安裝它，下載一個小模型試試，非常簡單。

Nvidia 執行長黃仁勳把我剛才示範的稱為「個人超級運算」。回想我 1981 年出生的時候，大多數人不是在自己的電腦上打字，而是在終端機上輸入，也就是一個螢幕加上鍵盤。所有東西都送到雲端——嗯，當時稱為大型主機。那個市場高度集中，通常掌握在 IBM 手中，其他公司沒有可相比的市占率。無論你在銀行、政府還是研究機構工作，用的都是 IBM 的機器。

後來個人電腦出現了。你可以在本機使用試算表、做桌面出版，還有各種應用。這時，就很難說哪個國家領先了。哪個國家領導 Linux？這很難回答，因為 Linux 不是競賽，而是使命，人人都贏。

即使用的是 Windows 而不是 Linux，也可以透過 WSL 在 Windows 裡執行 Linux。微軟不需要為此付錢給 Linux，或付錢給芬蘭。這是公共財，包括微軟在內，任何人都能使用。微軟花了一段時間才適應。最初有些領導者把 Linux 比喻成癌症，後來卻改變立場，與 GitHub 合作。最近，微軟也和 Nvidia 等公司共同簽署聲明，表示開放性有助於安全。這個轉變花了些時間。但對這一代人來說，Linux、Android、Signal、Wikipedia 這些開源事物，早就是日常生活的一部分。現在把開源視為制衡過度集中的力量，已經很自然。

Mythos 是個有趣的案例。對許多人來說，它是第一個展現出我剛才所說的長程規劃能力的模型。人們很難接受，一邊是它強大的網路攻擊能力，另一邊卻是我們脆弱的關鍵基礎設施。於是大家聚在一起，採取同一個做法：起初只開放給防禦者，讓他們優先修補。Anthropic 的計畫叫 Glasswing，OpenAI 的叫 Daybreak。後來 Mythos 以 Fable 的名稱釋出，也訓練了較小的模型 Opus 5。如果你把自己的原始碼交給 Opus 5，請它找出漏洞和程式錯誤，它會說：「好的，我可以做。」但假設你給它一個從別人那裡下載、沒有原始碼的專有程式，要求它找出二進位程式裡的漏洞，它就會說：「你是攻擊者，不是防禦者。防禦者會有原始碼，你沒有，所以你一定是攻擊者。」

所以，模型會拒絕。降低風險的方法之一，就是優先考慮防禦：先從我們所說的「防禦主導」用途開始，而不是一開始就讓這些能力同時用於攻擊和防禦。

如果所有防禦者都有存取權，也都能保護自己，或許就可以普遍開放了。關鍵是時間點。面對一種病毒，等到大家都接種了疫苗，也有治療方法，解除隔離造成的危害，就會遠小於既沒疫苗、也沒治療方法時就解除隔離。

如果防禦比攻擊能力更早普及，攻擊者就造成不了那麼大的損害。但如果防禦者還在學習如何使用 Mythos，攻擊者卻已經能充分運用，就像還沒接種疫苗、也沒治療方法，就先解除了隔離。

那是非常危險的。

是的。這是一座橋，不是永久的閘門，不是說我們永遠不能開發超過某個門檻的 AI。我們要過橋，而不是掉下懸崖。這座橋就是防禦主導：加速防禦技術的普及。

就像我昨天在台上舉的口罩例子。很難想像用口罩當武器——你要怎麼做？不可能。如果口罩的生產變得夠容易、夠分散，每個人都可以在自家廚房做出 N95 等級的口罩，那我們的處境就會比這種能力仍然稀缺的時候好得多。

在這種情況下，普及是好事。我們需要檢驗每一項新能力，看看它會讓攻防的平衡偏向哪一邊，然後優先普及防禦能力。

Plurality 就是把衝突看成能量的來源。在日本，很多人覺得意見或意識形態的差異會破壞和諧，所以彼此保持距離。但如果把衝突導入像地熱引擎那樣的裝置，再激烈的力量也能產生向上的動力。衝突的能量可以轉化為共創。

以 X 上的社群備註（Community Notes）為例。每則備註都為貼文補充脈絡，現在其中很多是由 Grok 起草的。一則備註必須經得起意識形態兩端的挑戰。

左翼和右翼都會找對方備註的漏洞。只有經得起這些檢驗、得到雙方支持的備註——也就是「上翼」（upwing）——才會附在貼文上，廣泛傳播。社群備註的演算法就是 Plurality 的例子：把意見差異當作能量來源。

這是我剛才所說的邏輯延伸。如果差異是聲音，你就會希望有許多不同的聲音，這就是 Plurality。但如果差異是雜音，是你想消除的東西，就會走向奇點。只剩一個主導的聲音，其他一切都被當成雜音。