今天能來到這裡,我非常高興。
剛才在後台我和唐鳳聊天,她說她已經用 LLM 讀過我的《平和與愚蠢》,甚至還根據那本書做了投影片。她準備得非常充分,我真的很感動。
關於民主與技術的關係,我在書裡提出過一個關鍵詞,我稱之為「可修正性」。
但我想,這裡說的可修正性,其實不只是技術問題。
我在書裡舉過一個例子,聽起來也許有點跳。十九世紀俄國作家杜斯妥也夫斯基,在《地下室手記》裡塑造了一個角色。那是社會主義崛起的時代,大家都相信理性可以讓世界變得更好。但那個角色卻說:
「大家都說二加二等於四,但我偏要說二加二等於五。」
如果所有人都相信技術能讓一切順利運作,那他就是那個會站出來說「我要摧毀這個夢」的人。
我認為,人真正的活力就在這裡。就算 AI 告訴你「二加二就是四,而且這是絕對正確的」,即使很多人也都同意,但那種窒息感本身,就足以讓某些人想要改變它。
政治必須容得下這樣的人。
所以,當異議、抗議、反抗,從技術系統之外出現時,真正的問題就在於:民主到底能不能把這些聲音納進來。現在很多技術支撐民主的做法,某種程度上仍然是在賦權那些願意接受「二加二等於四」的人。
那麼,對那些不想相信、甚至根本不想進入這個框架的人,我們到底能伸出多遠的手?
我想,這會是接下來最重要的課題。
您怎麼看?
很精彩。唐鳳剛才提到,最佳化本身可能就是問題,這一點我非常有共鳴。因為一旦什麼都追求最佳化,人往往就不會幸福。
技術說到底,應該是用來讓人過得更好的。
但問題是,一旦用效率和最佳化去建立標準,人反而會被那些標準反過來奴役。十九世紀的馬克思主義用「異化」這個詞談過這件事,人被自己創造出來的系統支配了。
所以我現在對 AI 最擔心的一點是,人們反而開始試著把自己調整成 AI 更容易處理的樣子。為了更好地使用 AI,人扭曲了自己的表達方式。我覺得這件事,現實裡其實已經在發生。
聽您這樣說,我一直在想,技術大概有兩種用法。一種是擴張自己的能力,另一種則是智慧體,也就是讓它替你做。
像您剛剛說,在飛機上讓 LLM 讀我的書,那是在擴張您的理解能力,這當然是好的。可是如果變成 AI 替你讀,你自己根本不讀,那就完全不是同一回事了。
但問題在於,現在 AI 的發展方向,越來越偏向智慧體。替你畫圖、替你作曲、替你剪影片、替你做投影片。不是你變得更有能力,而是 AI 直接代替你做。
而且這個趨勢正在加速。
唐鳳的回答,跟我原本準備的內容非常接近,幾乎有種命運般的巧合。
確實,安野先生原本被期待成為「日本的唐鳳」。但如同唐鳳剛才說的,她是被任命的,而安野先生是經由選舉產生的,而且現在又成了一個規模不小的政黨領袖。
也正因為如此,他原本想做的事,例如推動多元宇宙式的數位轉型、推進日本的數位化、把多元宇宙的理念與技術帶進政治,反而變得更困難了。
所以 Team Mirai 接下來到底會走向哪裡?它會成為一個真正實踐多元宇宙理念與技術的政黨,還是會變成一個一般意義上的國政政黨,讓多元宇宙的問題逐漸退到後面?
我認為,他們現在正站在一個很重要的十字路口。
唐鳳也認識安野先生。如果現在要給他一句建議,您會怎麼說?
我想補充一個角度。我認為,多元宇宙在原理上和政治之間,本來就有一種張力。
大約一百年前,德國法哲學家 Carl Schmitt 在《政治的概念》裡說,政治的本質就是區分敵我。我覺得到今天,這句話依然成立。
政治的一個重要功能,就是區分敵我。選舉也是這樣。人們會想:「那個黨跟我的黨不一樣,所以我要支持我的黨。」力量就是這樣被擴張的。
但這種敵我區分的思考方式,和多元宇宙的邏輯幾乎是相反的。多元宇宙恰恰是在避免把世界收斂成兩邊對立。
所以我當然支持多元宇宙。只是問題在於,一旦進入政治領域,你似乎又不得不去做敵我區分。
我認為,這正是 Team Mirai,或者說安野先生,現在面臨的困境。
您怎麼看這個困境?
我再補一句。量子力學最難的地方,就在於人很難同時理解一個東西既是粒子又是波。
唐鳳剛才講的,其實也是同樣的意思。在政治裡,確實需要某種量子力學式的思考。一方面有粒子式的敵我區分,一方面又有波動式的多元宇宙,兩者必須同時成立。
但這真的很難,因為人總是傾向只選其中一邊來看。
不過她剛才的說法,我覺得表達得非常好。
那我們進入下一個題目。
這一點我完全同意。不過,我不認為我們真的能阻止奇點敘事。
因為多元宇宙和奇點,某種程度上根本不在同一個層次。也就是說,不管多元宇宙的技術再怎麼進步,奇點這個故事還是會自己擴散、自己繁殖。
我甚至會覺得,奇點敘事其實就是馬克思主義的另一個版本。這聽起來也許有點突然,但馬克思主義本來也是一種歷史終結的敘事。它說,人類歷史會在某一點走到終局,然後工人的天堂會降臨。家庭會改變,私有制會改變,整個社會都會發生巨大轉變。
1989 年冷戰結束的時候,這套故事曾經崩潰過一次。但現在,它又用工程師和科學的語言重新復活了,而那個名字就叫做奇點。
所以我們正在面對一套巨大、近乎無敵的神學式敘事,它正在塑造世界。作為哲學家,我一直在想,我們到底該怎麼抵抗它。
您會怎麼建議?
那我換個角度問。我們兩個都是亞洲人,這跟剛才的討論有關嗎?也就是說,奇點本質上是一神教式的敘事,而我們可能來自不同的文明與文化傳統。這樣的出身,和多元宇宙的思想、仁工智慧的討論,彼此之間有關聯嗎?
那我是不是可以把它總結成:這是一種東方式的 AI 使用,或者說亞洲式的 AI 使用?
在您長年從事 IT 相關工作的經驗裡,您怎麼感受自己作為一個亞洲人這件事?