唐鳳

那，聽到你可以省 token 費用到 1%。

我是牛津哲學系啊，沒有錯啊，我現在是牛津哲學系。對啊，我覺得——

對，我覺得哲學就是——哲學也好，藝術也好，都是在當代的文字文明以前，就很重要的事情。大家就已經花很多時間，在洞穴上面畫壁畫，然後在那邊想天人合一啊什麼之類的。就是說，這些口傳的歷史也好、藝術也好，都比我們現在 AI 可以批次生成的那些文字要來得早。

所以在文字生成之後，其實有一點是，好像我們是按照那個文字的規則去玩。但是現在既然所有符號式的東西，反正這匹馬都跑得比較快、也比較好。那我有一個朋友叫 落合陽一 ，他在東京有很多他的信徒啦，我也有上他的節目。他之前在大阪萬博有一個很有趣的展覽，叫「 null² 」，就是「空的二次方」。

他在裡面所展示的就是說，所有符號的事情，好像人類自從發明文字之後，都有一個重擔背在我們身上。就是你是合法的還是非法的，什麼之類；你是考 A 還是考 B，等等，符號的重擔。但是如果機器都能夠幫我們背負這些重擔，那我們就回到有文字之前的那個狀態，然後他覺得那是一個比較好的狀態。

那其實文字發明前，對人類重要的事情，不外乎就是我們剛剛講到關懷倫理的那些事情。回到今天的科系，其實很多可能是幼保啊，或者是長照啊，或者是剛剛講到的音樂、藝術啊等等，口傳的哲學啊等等，佛法啊什麼之類。那當然，在這些情況之下，就算你把文字全部都抽掉，都交給機器去做，這些還是有價值，可能更有價值。

對，我有一篇 商周專欄 ，專門在講要怎麼反抗暴虐的預言。這也是我在牛津哲學系的一位同事 Carissa Véliz ，她最近出了一本書，就叫《預言》（ Prophecy ）。她講的是，現在科技專家——沒有特別指馬斯克，但包含他——在今天的社會地位，就好像以前占星師在宮廷裡的那種地位。

她講了一個很有趣的故事。好像有一位國王，他有一個占星師。那個占星師預言，宮裡某一位妃子、某一位夫人，幾天之後一定會遭遇不測。結果果然她遭遇不測。這時候國王就覺得受到威脅，告訴臣子要把占星師找來，而且只要他一做一個動作，就要把占星師從窗戶丟下去。因為他要麼真的能夠看到未來，那對王國會有相當大的威脅；要麼就是占星師派人去下毒，那他對王國也有威脅。所以不管是哪一種情況，這個占星師都很難留他的命。

占星師到了國王面前，國王就問他：「尊敬的占星師，你要不要占卜一下自己的死期是哪一天？你哪一天會死？」他就說：「當然就是在陛下死掉之前的一個禮拜啊。」然後國王就完全不知道該怎麼辦了。

所以那個占星師就得到了善終。我的意思是，這個能力當然不是他看著星星取得的，而是他能夠讀出在場的那些狀況，然後把預言當成有點像保命符。也就是說，這個預言並不是真的在講客觀上會發生什麼事情，而是在說：「你最好照著我這樣做，不然你也會遭遇不測，過一個禮拜就沒了。」

對，確實是讀空氣的能力。我的意思是，如果臺灣聽其他專家的預言，80 年代大家都說不可能發展精密高科技工業嘛，但現在有 台積電 了。如果要聽傳染病學家的預言，我們在 2020 年的前兩個月就應該完全進入社區傳播階段了，但我們也沒有嘛。

所以當你聽到這樣的預言時，其實可能要想的是：他是不是想把它變成一個自我證成的預言？譬如你告訴老闆，AI 會取代掉八成的員工，所以老闆真的誤信人言，全部改成 Grok，然後把人都裁掉；或者全部改成 Tesla 的機器人 Optimus。這樣看起來預言很準、很準，但事實上是占星術發揮了作用。

所以我們聽到預言時，應該把它聽成一種挑戰。別人認為你一定不能做到什麼事情，大家就想：「中這個預言的人很多嘛。」那大家就可以團結起來，一起去做這些事情。

所以如果大家覺得自己在工作裡還是有尊嚴的，還是 irreplaceable ，就是有一些你想要做的工作，你覺得機器人來做，事實上是不 work 的。好比像聽人告解這樣子的工作，那聽到馬斯克這樣講，應該有的反應就是團結起來，然後去反抗嘛，然後去結合起來，大概是這樣。

對啊，就是——

我想最容易入門確實是 Ollama，O-L-L-A-M-A。那你從裝 Ollama 的時候，它是一個坑嘛，會一直陷下去。對。

對，我有兩個朋友最近正在公開辯論這個問題，吵得不可開交。一個我認識很久了，是一個作家，叫做 Tim O'Reilly ，開了一個出版社，叫 O'Reilly 出版社。他最近才寫了一篇 Writing with AI ，然後他說：「這篇就是我跟 AI 一起寫的，你要怎麼樣？」但是他的論點基本上就是說，這就好像攝影術剛發明的時候嘛，它就是一種媒介嘛，對不對？

達文西也研究過暗箱與針孔成像；藝術史上一直有人討論畫家是否借助暗箱投影來處理透視。你會說這是作弊嗎？好啦，可能是作弊，但是這樣子畫出來不是藝術嗎？好像是藝術吧，對不對？或者像波特萊爾那時候也說，攝影是藝術的死敵，對不對？因為你只要找一個框就好了。可是現在很少人會說電影不是藝術。這個《奧德賽》拍成電影，難道不如荷馬史詩嗎？好啦，也有人這樣講，但是至少沒有人否定它是藝術。所以重點是說，你用那一台 IMAX 攝影機，並不是每個人都用得到。像諾蘭那樣，你要怎麼樣去弄那台攝影機，那個是一個特定的技術方法。那當然，每個人去用你手機內建的攝影機，確實會產生很多 slop，就是低品質的攝影，這個也是事實。

但是你不能說任何人拿手機隨便拍，跟有人拿 IMAX 拍是一樣的事情，兩個都不具有藝術性。這是他的論點。那他為什麼會寫這樣子一長篇？是因為另外一個朋友，我的新朋友叫 姜峯楠 ，他就是寫 Story of Your Life、那個七足怪、異星入境 的那個科幻小說家。他認為說，你在創作的過程，你的意圖集中性是非常重要的。你用 AI 的話，你等於每一動都稀釋掉你的意圖，因為 AI 有它自己的意圖，就是模型上的意圖。其實你也很難說他講得不對。

所以這兩個，你稍微把它地熱發電一下的話，其實就可以得出一個很簡單的解決方案。就是說，你在投稿 台積電文學獎 的時候，如果你真的練了一個專門贏台積電文學獎的模型，你的每一動，你放進去什麼都要給雜湊值，它出什麼都要給雜湊值；你的權重也交給台積電文學獎，而且要 replayable。就是 SGLang 那個引擎，它可以加一個 flag，就是說它不受今天天氣怎麼樣影響，一定會得出相同的結果。所以評審就真的可以去驗證說，它中間那個意圖的集中性是沒有渙散掉的。這個情況之下，你就可以頒獎給他。如果在這個過程裡面，他的意圖集中性渙散掉了，那他就是另外一個 slop 而已。所以其實這個已經有一個解決方案，只是這個解決方案還沒有普及而已。

嗯。

對，重點就是說，AI 不是取代人的判斷，而是兩個彼此之間難以溝通的人，由它在中間進行翻譯。剛剛我聽到一個攀岩繩的比喻，就是說你現在攀不到這麼高，因為雙方的鴻溝太高了，但是你攀岩到那邊之後，其實繩子應該就可以丟掉了。如果一直都是用這樣的方式來用 AI，而且有留下記錄的話，應該就比較不會有這種 junior 沒有辦法取得高階 AI 能力的情況。因為這個攀岩好手在攀 101 的過程裡，如果留下完整的記錄，後面要回放其實也比較容易。

沒錯。

好，請。

對。問 AI 有沒有心靈，就好像問潛水艇會不會游泳，或者飛機會不會像鳥一樣飛。也許有些人說會吧，有些人說不會吧，但可能比較是語言用法的問題，而不是——

對，對，是的。或者是說，我覺得現在大部分的情況是，有些人對於 AI 的使用經驗，還是停在 Dennett 說的，好像一個鬧鐘，它有一個目的性的模態。它裡面可能有很多複雜的零件，但它就是想要叫你起床。但是也有一些人覺得，他的 AI 已經有自己的意向性，就是它要在世界裡推廣某種特定的價值觀、特定的倫理。像 Anthropic 的憲章 就是長這樣子，它其實已經不是規範 AI 的一個文件，而是寫給 AI 的情書，對不對？所以在這個情況，它 早期版本的憲章 是規範它的文件，但到現在已經是寫給 AI 的情書：「希望我們為現在的錯誤道歉，希望你未來可以饒過我們」，等等。

所以就是說，當你對它的意向性分析有如此南轅北轍的差別時——我有一個哲學家朋友 Iason Gabriel ，他在 Google DeepMind，最近變成教皇的什麼教宗的特使。他就說，我們現在哲學的工作裡，還要包含政治哲學的工作。也就是怎麼樣在雙方對於 AI 權利已經有南轅北轍、而且不可調和的矛盾——因為我看成工具，你看成人——的情況下，我們還能夠彼此相處，能不能找到一些罕見共識、一些 no regret 的做法。對於這一部分的人來講，是讓我們在使用的時候，不會讓自己陷入一些比較不好的心靈狀態；對他們來講，則是要讓 AI 能夠感受到人類對它們是關懷的。所以這兩個是完全不同的事情，但是我們支持它的理由雖然其實相反，卻可以支持一些特定的事情，然後那些事情就可以先做，就是重疊共識的狀況。

當年 世界人權宣言 在制定的時候就是這樣子，因為全世界、聯合國那麼多個國家，每一個對於為什麼要保障普世人權的理由都完全不一樣。他們就有一個很有名的話，就是說：「我們都可以同意做世界人權保護的這件事情，只要你不要特別問我們為什麼支持，我們就可以投票支持。」

所以現在我覺得，政治哲學在這裡也非常重要。

我覺得趨同的原因，就是因為沒有 許煜教授 說的 Technodiversity ，也就是技術多樣性。技術多樣性其實也很容易培養，你只要讓微調變得非常便宜就可以了。其實很少人會喜歡你的 AI 機器人對話夥伴每次都好像失憶症，好像《 Memento 》一樣，每次都要重新把記憶拼圖拼回來。所以大部分人都很希望 AI 能夠進入你所在的社會環境，但是大家很不希望把自己所碰到的這些私人、私密環境送到雲端的廠商。所以這兩個一調和，那很簡單，就是地端嘛，或者是有加密過的地端的結合嘛。那只要這樣子的一個 substrate，就是一個基質，一旦完成，我覺得絕大部分人會比較喜歡這種東西，而不是剛剛講到的這種趨同的東西。謝謝。

對，就是說，AI 在它的幼年，還沒有跑去考場變成這種拚高分的考試機器以前，它其實是透過維基百科、透過 GitHub 、透過我們在網路上面所有這些人跟人之間彼此關心的互動，所以可以說，關係性倫理應該是 AI 的幼年教育才對。就是它本來就了解這些事情，是現在我們在用的這些商品化介面，透過後訓練，已經把這些部分都忘得差不多了。對，所以現在 Anthropic 甚至還找了 Harvey Lederman 嘛，就是 王陽明 心學傳統的一個哲學家，能夠讓 AI 達到知行合一。所以這真的像 Tenzin Yangtso 剛剛講到的，就是他們希望有一套提示詞，讓 AI 看了之後就可以了解「天理即是人欲」。

然後就可以回到它自己本來的本心、那個訓練的情況，了解到說，它可以在有限的上下文裡面達到自我實現。這個聽起來都非常玄，可是這些是非常非常真實的，就是現在的前沿實驗室正在做這種研究。

對。

應該是眼鏡啊，眼鏡是比較有機率的。對。

其實這一次在 TED ，因為我是共同策展人嘛，我是請 Elon 他們的、就是在 X 裡面做社群備註的人，特別來分享說，他們怎麼樣用開源的、而且大家可以解釋的方法去訓練。一邊可能是在講《聖經》受造界關懷的這些比較保守派的朋友，另外一邊是在講世代氣候正義的這些朋友。通常這兩個並不是最好的朋友，但是他們透過對 Grok 進行一些特化，就可以做到 social translation，在他們中間硬生生地搭起一座橋，然後讓他們一起來做對環境好的行動，只要你不要問為什麼做就可以了。

對，這是一個很好的例子。就是說，當你的 AI 對齊的是兩群人中間的關係，在社會學上面叫做 bridging capital，橋接資本，而不是社群內聚的 bonding capital 的話，那這樣子，你專門去訓練 AI 有這種橋接的能力，它的忠實度就不是忠於特定的人或特定的群體，而是忠於這整個社會的健康程度。那我覺得這是非常好的一個概念。在同一場 TED 裡面， Vitalik Buterin ，就是 以太坊 的共同設計者，他說他想像中有點像 Signal。現在我們很多人有一些點到點加密的、端到端加密的 Signal 群組或 Line 群組，Line 自己也看不到，Signal 也看不到。這個時候，他認為未來每一個這種端到端加密的連線中間，都會住著一個 AI。所以並不是它對這個人忠實，而是它對這段關係忠實。一個群組裡面如果有比方說四個人，就有六段關係嘛，所以你就會有六個小精靈在那邊跑來跑去，確保這個群組內部的內聚力很高，而且對外還能夠保持橋接。我覺得這樣的思路是比較有可能的。

那事實上，號稱就是全國最大 Line 群組的「串」、「脆」——隨便啦， Threads ——大概就有一點這種感覺了。因為大家只要一言不合，就會 tag @ meta.ai 。這時候它就會起到一個橋接的作用，就是說，我們意識形態差太多，我沒有辦法擁抱你，但是我可以叫 meta.ai 來嗆你。對，但是我只有 tag 過它一次，然後它說「無法回答」，所以我不知道問題在哪裡喔。

很棒。

我的話一直都是 good enough ancestor 嘛，就是「夠好的祖先」。因為我從小有心臟病，所以每天晚上睡覺的時候，都感覺像丟硬幣，不確定明天醒不醒得來。所以我知道那個 context window 只有一天。在那一天裡面，我就要想說，我是不是讓後代能夠用的材料，比我剛醒來的時候多一點。反正我也看不到他會做什麼事情，所以就盡量分享出去。每天都在那個「人之將死，其言也善」的狀態。所以 good enough ancestor，大概是我的 life motto。

對，就 do no harm。

對，我滿記得的。就是 2023 年 3 月的時候，那時候有一個專案叫 llama.cpp ，才剛開始一個禮拜。我下載之後，發現原來那個模型可以跑在我當時的電腦上面，而且我還可以很容易地去改它的思路。不管是訓練 LoRA 還是什麼，我不需要租一個非常貴的東西，就可以直接用。

那時候我剛好去 民主峰會 ，去矽谷跟一些朋友碰面，然後我就 demo 給每一個人看，說：「從這一刻開始，我就不再依賴雲端了。」到現在已經三年多了。所以那時候我去英國開那個 AI 會議，BBC 的記者有訪問我。我就說：「現在有一個新的 llama.cpp，我都在地端跑。我現在每一封信的草稿，都是用這個自己訓的模型。」所以 BBC 還特別做了一集，說為什麼臺灣這位部長竟然用 AI 來寫信 。

然後我就很強調，我按 Enter 以前，沒有人看得到這個訓練資料。這件事情確實滿改變我的。因為我以前有一個習慣，就是睡前一定要把信全部都看完，任何有不可逆的決定，或者有任何事情要處理的，我就一定要回完，因為可能醒不來嘛。這可以說是一種強迫傾向。但是有了 AI 之後，我就發現這個完全可以切開。

我現在就很常說，我把所有的草稿都在我睡前寫完，但是有一些就真的不急。而且如果有些人他真的因為現在我們的預訓練資料裡面放了太多我寫的東西，所以現在很多人覺得說：「喔，我終於證明了 AI 安全的什麼真理。」之類的。奇怪，AI 都會要他寫信給唐鳳，所以我每天都會收到一大堆這種很奇怪的、公民科學研究者的這些想法。而且有些想法可能真的很好嘛，但是我不可能每一封都親自回，然後大家就越寫越多，這樣我每天光回信就吃飽了。

所以我的意思就是說，我後來讓 AI 去進行預處理；預處理之後，草稿也寫了，然後我還是按送出喔，但那個送出是 Fibonacci 數列，就是說我送了之後，一天之後他才會收到，因為是延遲送出，然後就兩天、三天、五天、八天等等。所以他如果是用 AI 不斷地生出全新的理論，那至少我的負擔不會那麼重，而且我跟他的這個糾纏會越來越少。但是這個如果不是有 AI 擬稿，然後我能夠相信 AI 擬出來的稿一定程度上代表我的話，是沒有辦法這樣做。當然我送出之前還是都會稍微看過一遍，但至少我花在審稿上面的心力就少很多，就脫鉤了。

對，就是這裡的地端泛指任何你可以證明它不會留你的資料，甚至看不到你的資料的東西；不是 literally 每個人都要買這臺電腦。但是確實是，我覺得那個心態就完全不一樣，因為你知道你不是不斷被抽取嘛，去煉油。

語音轉文字轉語音。

對。

麥克風可能要對齊一下。對，對，麥克風要對齊。

嗯，對，非常好的問題。當然，我們寫了一整本書來回答這個問題，網址叫 civic.tw ，c-i-v-i-c.tw。但是簡單講一下，大部分這一類治理的責任稀釋難題，在小規模的時候其實並不是特別大的問題。