為了人類。
對我來說,這源於一種深切的憂慮:我們帶著人工智慧正走上的那條路——尤其是美國的前沿模型——正把我們帶往一個感覺不對的地方,可以這麼說。我們正為 NRC 與三位思想家一起探索,你也是其中之一:首先,看人工智慧當前的發展,到底正在發生什麼;其次,我們該拿它怎麼辦。我們希望能從你這裡得到一些啟發和慰藉。而 Dirma Janse 正在把這些未來畫出來,因為我們強烈感覺到,直視正在發生的事,並把另一種可能視覺化,或許能幫我們找到新的路。
沒錯。我最近讀了你在 Noema 上那篇非常有趣的文章,也看了你在 牛津研究所 的精彩 演講 ——tending to AI,照料 AI。當然,我也很好奇你今天在會上要講什麼。
太好了。我們直接開始吧,因為我們大概有一小時,對嗎?或許最好的起頭問題是:看人工智慧當前的發展——它前進的速度、它前進的方向——我們到底在看什麼?
幸好。
一種外部性。
如果你望向這裡的窗外,或阿姆斯特丹的窗外,會看到這種思維方式相當深厚的歷史根源,對吧?當然,不是只怪荷蘭人——
——不過我們的確算是 發明了資本主義和殖民主義 。
你似乎也在暗示更深層的結構:當前的 AI 模型和 AI 商業模式,都建立在某種特定的思維方式之上——
所以它是在最佳化?
在當今 AI 的部署裡,我們在哪裡最清楚地看到這種最大化、這種最佳化?
用 Polis 。
你在台灣開創的,是一種公民導向的科技觀。這一章講到 2020 年為止——而那正是疫情爆發的時候。
確實。而且台灣的表現比很多國家好得多。
你們當然是座島,這有幫助;但這似乎也跟一種完全不同的看法密切相關:公民在數位上可以怎麼彼此對話。
這種多元的做法,在今天顯得更加迫切——矽谷有人說技術奇點已經逼近,甚至說我們已經身在其中。談到 AI,你會怎麼對比 奇點 與 多元 ?
而除了權力集中,奇點似乎還給「AI 是什麼、AI 能成為什麼」套上一套僵硬的結構。
所以重點是把 AI 留在——
把 AI 留在「人類迴路裡」,跟讓它「受人類控制」是一回事嗎?還是比較像跳一支舞——比方說探戈——而人類仍然得帶舞?
你是有實修的道家人士,對吧?
AI 也有?
我知道吉卜力,但遺憾的是這部我還沒看過。
但同時,奇點的思維出自一種相當特定的唯物論本體論——絕對不是泛心論。這些正在全球推出的 AI 產品,要在完全不同的哲學基礎上重建,有多現實?
這也呼應你在牛津演講裡拿 單一文化 對比 樸門 。如果這些實驗室在訓練裡帶進更多樣的哲學與指令,就可能長出很不一樣的東西。
執迷於迴紋針。
這似乎也意味著,用這種方式訓練智慧體,我們是在把「他者化」主動訓練進去。
即便如此,整體的速度和商業動能,不還是把我們推向一種單一文化的奇點嗎?
LawZero 是什麼?
你真的這麼樂觀?那競賽動態呢——那種探底競賽?
那存在風險的爭論呢——要對失控的 AI「拔插頭」時,開放權重模型和封閉的前沿模型,哪一種比較安全?
而且把算力分散到個人和社群的裝置上,大概也能緩解各地對大型集中式資料中心及其用電需求的強烈反彈。
這不只是韌性,更是 反脆弱 ——衝擊反而讓多元的系統更強。你在台灣具體實踐這些想法的時候,最讓你驚訝的是什麼?
我也很喜歡你在著述裡談 愛 的方式——這在大多數政策和科技辯論裡幾乎完全缺席。
但這不需要社會至少有個基本的互信嗎?在荷蘭,相對來說我們還撐得住,不過走在街上就看得出信任正在流失——在法國或德國更是艱難。有沒有一個門檻,信任破損到低於它,這種公民「針灸」就做不成了?
真的嗎?我沒聽過這件事。
是的,而且是健康的土壤——真的就是「社會土壤」。我兩週前在畢爾包,巴斯克的合作文化非常強,我在街上看到一群群青少年聚在一起, 視線裡沒有一支智慧型手機 。這在荷蘭,我五年沒見過了。
有一點我還是想不通:你連對大型前沿 AI 實驗室都這麼樂觀。看看它們跟——對,我就直說了——法西斯主義的交織,看看眼下從那裡出來的一切都衝著奇點、而不是多元去,你怎麼還能對這些實驗室抱著希望?我過幾週要跟 Naomi Klein 吃午飯,她大概會悲觀得多。
如果中心化的實驗室和中心化的國家不是這種多元未來的合適引擎, 城市 會不會是自然的起點?
《願祢受讚頌》(Laudato si') ?
所以與其說是 塔 ,不如說是 廣場 ——就像 Niall Ferguson 的那個比喻。你覺得哪些城市走在前面?
除了台灣和雷克雅維克,記者現在還能去哪裡親眼看看這套東西怎麼運作?
這種可攜性,對 AI 伴侶和助理同樣關鍵——人們把自己的病史、對職涯的焦慮都倒給了它們。
那硬碰硬的地緣政治呢——特別是台灣跟中國的關係?地緣政治的對抗,不會把各國直接推回奇點、而不是多元的那條路嗎?
這對網路衝突是個非常樂觀的解讀——不過戰爭對社會土壤大概從來不是好事吧。還是說,只要夠反脆弱,它也可能是?
Dirma Janse,我們談了這麼多——從你的草圖看,視覺上最突出的是什麼?
要把「愛」和道家的泛心論寫進荷蘭的報紙文章,會是相當大的挑戰——
那就放在體育版吧。最後,講一件每位讀者明天早上就能做的事:在我們每天使用螢幕和 AI 的習慣裡, 耕耘土壤 ——而不是鑽取石油——是什麼樣子?
我們十月底還要訪談社會學家 Hartmut Rosa ,也要跟哲學家 Yuk Hui 談。
非常謝謝你,Audrey——也祝你今天接下來的訪談順利。
太好了。漣漪越多越好。