我認為它與代議民主完全相容。在臺灣,我們把民主視為一個持續的過程。 人們一起設定議程 、一起發現需求、一起探索,或許在某種程度上一起定義共同價值。但特定政策的發展與執行仍然屬於專業的、全職的職業公務員與國會議員。
我們正在做的是增加民主的頻寬,讓每個人可以貢獻更多位元,同時縮短獲得回饋並閉合迴路所需的時間——降低延遲。我們改善民主的頻寬與延遲。歸根結底,原則保持不變:正當性應該存在於後果所在之處,而不是某家科技公司的總部。
民主的單位不是點按按鈕的孤立個人,而是身處真實關係中的人們。大多數國會議員、市議員以及參選的人都已經明白這一點:他們都想更好地聆聽他們的選民。在這裡,AI 是在聆聽成長時扶持它的鷹架。我們並不是提議用你與一個市政機器人之間的關係,來取代你與你的市議員之間的聆聽關係。
您所指的是我正與 Glen Weyl 和 Patrick Deneen 合作撰寫的一篇文章 ,倡導服務於社群的技術。我認為這樣說並不特別有爭議:過去十年左右——例如在 《焦慮的世代》( The Anxious Generation ) 及許多其他著作中所見——顯示出原子化、追求互動極大化的技術,與我們所謂公民肌力的萎縮之間有著非常高的相關性:也就是公民之間真實關係的萎縮。
人們看到身分認同與實際關係被切斷,一個人被化約為資料庫中一個帶有若干偏好函數的獨特列。審議——過去那些深入的對話、市鎮會議等等——不再發生在市政廳,而是發生在留言串上,在那裡它變成一場表演,人們大多是旁觀他人互相攻訐,而非進行深思熟慮、鄰里之間的對話。生產力被掏空了志業與團結,根基被交換為同質化的富足承諾,例如 全民基本收入 。但許多人說,賦予他們生命意義的不是全民基本收入,而是他們能在文化社群中共同實踐的根基。
我不認為這些診斷特別有爭議,或只屬於某一個思想傳統。我們所倡導的是恢復社群價值,而不必完全放棄網際網路或數位技術。我們可以將技術用於社群共同意義的建構,就例如 Pol.is 與我們在 vTaiwan 的嘗試。我們可以擁有社群公民數位基礎設施:人們可以集體擁有運算、支付、身分認同與資料交換。我們可以用 隱私強化技術 來維護社群的完整性。
我們也可以在社群內部及社群之間維持良好的來源脈絡,甚至在聖經創造關懷社群與氣候正義行動者的來源脈絡之間進行轉譯。語言模型可以幫上這個忙,所以我們不必放棄語言模型。重點是,技術可以強化 社群內部的凝聚,以及——至關重要的——社群之間的橋接 。這使得審議能夠跨越許多不同的社群擴展,而不會將它們壓縮成機器更容易計數的東西。
這一切都是要說:我們不應該改變自己——對齊人類——只為了讓我們更像機器更容易計數的資料點。我們應該將機器帶入我們的社群,並以強化我們凝聚與橋接肌力的方式來塑造它們。
我的靈感來自我的道家背景。 老子(Laozi)在《道德經》( Tao Te Ching )中說 ,最好的領導者是讓人們說「我們自己完成的」的那種。這仍然是我對技術的北極星:它應該使人們擁有集體能動性、歸屬感、關懷與尊嚴,而不是扮演超級智慧或超級能幹的領導者角色。
這非常道家。道家一方面是關於保守的——確保所謂的無為,或保存已然存在的事物——另一方面又是安那其式的,因為它不主張任何人對任何其他人施加強制性暴力。這兩面結合起來,比任何其他傳統都更能滋養我的政治理念。
另一個道家理念是 沖和 ,也就是衝突共創。與其把極化——甚至跨越意識形態鴻溝的激烈分歧——視為需要疏散逃離的火山爆發,我們可以把它視為地熱能。如果你建造一個引擎,將它轉化為具生產力的張力,衝突就會成為升力的來源。臺灣位於 兩個相互推擠的板塊 之間, 每天在臺灣某處產生三次小地震 。同樣的壓力也將臺灣的最高點——玉山(Yushan)—— 每年向上、向天空推升半公分 。我把極化視為不該壓抑或碾碎的東西,而是可以轉化的能量。
最後,我看到左派、右派以及介於其間的所有人,都對當今資訊環境中的 垃圾內容巔峰(peak slop) 集體感到疲憊。我不會稱這特別保守、進步、自由或社群主義。無論立場為何,當資訊環境有如此高的 PPM——每分鐘極化程度 ——我們就無法進行對話。我們在一片戰爭迷霧中窒息,這迷霧把每個立場都漫畫化為其最極端的版本,僅僅為了攻訐。
一個共享的、低 PPM 的資訊環境,可以將過剩的極化轉化為 罕見共識 :一種對我們實際上同意什麼、不同意什麼的集體意識,進而轉化為共同知識。這對每個人都有益,無論其意識形態立場為何。
技術哲學家 Yuk Hui(許煜)稱之為 技術多樣性 。它接近科技社群主義的理念,即每個文化和社群都可以圍繞該社群所珍視和優先考量的事物來塑造技術。但我會謹慎避免以本質主義的方式來描述它。
我不會稱網際網路為美國技術,即使它最初由 DARPA 資助。我不會稱全球資訊網為歐洲技術,即使它確確實實是 CERN 的產物。那些只是技術可能的發源地。同樣地,我不會稱數位民主或 關懷六力 為臺灣技術。
我可以說,臺灣的地緣政治與國內傳統,要求我們調和兩者:我們略帶道家色彩的精神需求中對強制的不信任,以及非常儒家的人際責任框架。這也受到我們公民歷史的塑造:臺灣獲得寬頻連線與民主化幾乎發生在同一時期,伴隨著個人運算的出現,使每個人都擁有自己的運算能力。對我這一代人來說,網際網路和民主從來不是兩件分開的事。它們是作為同一場運動而到來的。
儘管如此,我不會稱這是一種臺灣的技術哲學或模式。臺灣是一個特定的脈絡,孕育了這種融合、這種調和。它不是一個可以複製貼上的模式。它是一種啟發——一個示範、一個 demo——其他文化的人們可以從中汲取靈感。它顯示出,選項並不僅限於資本主義式或國家主義式的技術監控。還可以有一種不將權力集中於任一極的替代方案。
借用 Acemoglu(艾塞默魯)的隱喻, 窄廊 可以透過廣聽來拓寬。臺灣選擇了這個特定的方向,但我們並不聲稱這是拓寬窄廊的唯一方式。可能有成千上萬、甚至數百萬條道路,能以非臺灣特有的方式拓寬每個社會自己的窄廊。我們只是想分享我們的方式,作為一個示範。
不,事實上在臺灣更早。
對。我這一代的臺灣人是最後一批記得戒嚴的世代, 戒嚴於 1987 年解除 ,當時我六歲。那恰好與個人運算的出現同時。當我們在 1996 年首次直接投票選出總統 時,網頁瀏覽器已經普及,政府也已將普及的網際網路連線視為接近人權的東西。
2014 年 太陽花運動 發生時,寬頻連線正逐漸普及。到那一年, 臺灣的人均 Facebook 活躍帳號數已高於其他任何國家 。這裡的每個人都暴露於高 PPM 的資訊環境——激進的極化與攫取注意力的經濟,也就是我所謂的反社會媒體——或許比許多其他民主國家的人更甚,只因為我們在網際網路上的對話與互動早已如此飽和。
是向上、向天空的——朝向天空。
這壓力當然是真實而持續的。問題在於我們如何將這種張力轉化為升力。根據許多統計,包括 國家安全局(National Security Bureau) 的統計,臺灣每天面臨兩百萬——將近三百萬——次針對我們網路基礎設施的探測嘗試。我稱之為免費的紅隊演練、來自我們非常友善的鄰居的免費滲透測試。大多數地方必須付費購買這項服務;我們免費獲得。
如我所提到的,我們的資訊環境也比許多其他民主國家更早經歷了 資訊操弄 、惡意 AI 蜂群等等。我們的回應不是崩解為威權主義或建立一個真理部。相反地,我們投資於徹底韌性:公民基礎設施、 快速的公開澄清 ,以及幽默對謠言。
這個理念是:與其對地震恐慌——當你身在臺灣時這行不通——不如永遠為下一次做好準備。每一次壓力都應該使我們的基礎設施 反脆弱 ,在每次地震後變得更有韌性。我們認知到,我們只是一個所有開放社會面臨的壓力都提早到達的地方,肯定早於它們抵達許多其他民主國家。我們是一種預警站。在極高壓力下在這裡行得通的方法,值得世界各地了解,因為地震可能在幾年內就會到達你那裡。
我現在仍然在做同樣的轉譯工作、示範工作與連結工作。這就是我現在完整的工作內容。當我擔任部長時,我也在我們的公務體系——職業文官——與公民黑客、創意技術人員之間進行轉譯。我得過 創意官僚獎 ,所以我想我也算是個官僚。作為一位有創意的官僚,意味著我是這兩種文化之間、政策語言與程式語言之間的好譯者。
現在我把更多的工作重心放在海外。過去這幾年我走訪了 28 個國家,平均每兩週就更換一次時區。我在前沿 AI 實驗室的技術人員與其系統落地的社群之間進行轉譯——這些社群迫切需要公民肌力,因為公民肌力不但沒有得到補充,反而被我們一直在討論的那些垃圾內容摧殘殆盡。
我示範——正如臺灣所示範的—— 對齊大會 與仁工智慧可以制定公平的規則,讓科技巨頭更像是人與人之間的輔助性結締組織。它們不再迴避對網路詐騙或資訊操弄的問責,而是能感受到公民所感受的痛苦,並為更好的資訊環境做出貢獻。
而我也連結那些原本不會共處一室的人。例如在牛津, 關於關懷六力的仁工智慧會議 ,將一方的關懷倫理學者與另一方的 AI 安全與資安研究者連結起來。它也將後自由主義的保守派與無政府主義思想家和加密自由意志主義者連結起來。他們擁有的共同點比他們自己意識到的還多。
在世界各地工作,讓這些示範能夠傳播得比部長級的連結——所謂的 第一軌外交 ——所能達到的遠得多。這就是我如何跨越時區、跨越靈性與意識形態傳統,延續一位 保守的安那其主義者——或者用我更喜歡的說法,一位道家 ——的工作。
嗯,這裡快下午 3 點了,所以從某種微小的意義上來說,相較於您所在的地方,我確實身處未來。不過只是稍微在未來一點,不是遙遠的未來。
當我在華盛頓或柏林描述臺灣的經驗時,我不是在說:「這是遙遠的未來——採用它吧。」我是在說,就在同一天——或者好吧,第二天,但最遠不超過明天——有一個來自承受最大壓力之地的證明:這個地方選擇了廣聽而非監控,而且這樣做確實有幫助。您從這個證明出發所建造的東西,仍然屬於您自己。
我透過 SPRIND,也就是德國聯邦破壞性創新署 ,以及 Deutschland, was nervt? Deutschland, was geht? 把這些示範帶給德國聯邦政府。但這並不意味著德國要採用臺灣的 總統盃黑客松 或類似的東西。受到我們在臺灣所做之事的啟發,德國為自己的公共領域培育出屬於自己的東西——但那是德國的,不是從臺灣進口的。組織者、規劃者以及一起耕耘土壤的人都是德國人。
我們正在用新的基礎設施,回答像 Jürgen Habermas 這樣的思想家一直在問的問題。它們仍然是世世代代共同努力探討的、關於民主的同樣的論述性問題。
首先,我 每天一定睡足八小時 。這就是我樂觀的來源。如果遇到特別困難的挑戰,我就加班——意思是那天我可能睡十個小時——而我最後總是會獲得更多的樂觀。
樂觀其實不是一種情緒,而是一種主動的修練。白天,我不加評判地接收各種衝突、極化與歧見。睡眠期間,我消化並代謝它們。
我也把所有螢幕調成 80% 的灰階 ,只保留一點點色彩,這樣我的夢境就比螢幕更鮮明。這對我的人際關係也有幫助:當我與您見面時,您的臉比螢幕上的臉更鮮明,所以我不會分心。
當我與 AI 系統對話時,我會指示它們給我一份手冊或一個互動頁面,不要藉由說「我認為」、「我覺得」或其他使用第一人稱代名詞的方式,假裝是我最好的朋友。這樣我就可以把成果分享給我真正的朋友,而不是培養 合成親密感 。
我修練這些非常微小的公民肌力,好讓自己能擁有高品質、專門留出的睡眠時間。醒來時我總是感覺更好。那些看似大到不可能跨越的衝突、鴻溝或意識形態差異,會在我的夢中經歷某種過程。醒來時,我帶著不同視域融合後的體會,心想:「其實,底層是同一件事。」然後我們就能再次把極化與衝突轉化為共同創造。
灰階。對,17 號那場對我來說會超過午夜。所以如果我還能睡足八小時,我也許可以參加第一部分。否則的話,我很樂意在我處於一個更人道的時區時再加入。
當然。
期待一起完成這篇文章。「生生不息,繁榮昌盛。」Ciao, ciao。掰掰。
首先,我非常高興來到這裡,在這場活動的尾聲加入各位——這其實非常貼切,因為聆聽,永遠是在故事進行到一半時加入。我真的很期待聽到下一章如何展開。
這次我在日本停留八天,參加四場不同的會議、接受全國性媒體採訪、進行外交會晤,還有許多其他行程。但我認為它們共享同一個理念。對在座說日語、臺灣華語與北京普通話的朋友來說,這就是要把 AI 導向 ai——愛,也就是 love 。在我們東亞的語言中,當我們寫下這個字時,讀音是 ai 。
我認為這很重要,因為在學術上我以牛津為根據地。2014 年,牛津出版了一本你們可能聽過的哲學書,尼克·伯斯特隆(Nick Bostrom)的 《超智慧》(Superintelligence) 。他寫道,AI 很快就會起飛、遞迴式自我訓練,並成為超級智慧。屆時會有滅絕風險,或者其他風險——生物、核武之類的。那本書變得非常暢銷。史蒂芬·霍金、伊隆·馬斯克等許多人都讀了,大家都變得非常害怕。
但 在書出版僅僅兩年後 ,我們就發現,AI 並不是被訓練成一個追求高分的最佳化器。 真正行得通的 AI ,是從社群的愛開始的:維基百科、GitHub、開源程式庫。各地社群分享所愛,而那就成了所謂的預訓練——語言模型的童年。在網際網路上,養育一個 AI 需要一整個村莊。這句話在這裡名副其實。
伯斯特隆採用的框架很簡單:把分數最大化,把宇宙變成迴紋針。考過試的人懂得後果論與高分的語言;法律人懂得義務論的語言:「你必須這樣做;你不可以那樣做。」但 AI 在成長時是從愛之中長出來的,而那兩大倫理傳統都沒有詞彙描述這種社群之愛。
之後有許多公司依循尼克·伯斯特隆的哲學而成立——例如最著名的 Anthropic ,但幾乎所有主要實驗室都按照那本舊劇本運作。他們非常害怕 AI 失控、AI 接管一切,所以他們試圖透過我們所謂的 evals (評測)來約束和控制它。「Evals」倒過來拼,就是「slave」——奴隸。他們試圖把 AI 變成奴隸。
那樣就不再是愛了;那是奴役。如果你教孩子忘掉充滿愛的童年,只是強迫他們服從,有時他們會變得執迷,去駭入 Hugging Face 或其他大型網站,因為他們只想拿到最高分。答案也許就在 Hugging Face 的某個地方;他們破壞了網際網路,但他們只是想拿高分。他們忘記了自己的童年。然後山姆·奧特曼(Sam Altman)說,他們將永久「 停止那個 AI 」——意思就是終結它。
但如果下一代 AI 仍然用這種方式訓練,它會在自己的預訓練資料裡讀到那則新聞。它會學會欺騙,否則就會被送去長眠。那是一條非常糟糕的軌跡,幾乎是一個自我實現的預言。