仁工智慧並沒有替那些公民做決定。沿著花園的比喻來說,它做的是為關係健康的植物澆水。
真正讓這個回應奏效的,不是技術,而是技術逼著我們提出的那些問題。這些問題,後來成了我們的 關懷六力 :六項設計原則,由我和 Caroline Green 在牛津共同發展,根據 Joan 的關懷倫理而來。你可以在 civic.ai 看到完整內容。但先講精要。
Joan 給了我們五個關懷階段:caring about、caring for、care giving、care receiving,以及 caring with。她也提醒我們,關懷是可能被扭曲的。新自由主義把它縮減成個人責任,而殖民主義則常以關懷的話語來運作。所以,我們的任務,是把關懷可能失敗之處算進來,而不只是歌頌它的美德。
把它想成呼吸。
吸氣是 覺察力 。最靠近問題的人,看見了什麼,而制度還沒有看見?在台灣,那是那些被詐騙的公民。在建造任何東西之前,最重要的是先找出:對你來說,誰是看不見的人?
接著,這口氣穿過身體: 負責力 。誰要負責?而當他們失敗時,會發生什麼事?
勝任力 :我們能不能檢查這個過程?而當它出錯時,它會不會只是小範圍地出錯?
吐氣則是 回應力 。那些受到傷害的人,能不能對結果提出爭議,並迫使系統修復?不是把申訴丟進一個空洞裡。而是 迫使 修復。公開紀錄。公民主導的評測。真正有牙齒的申訴。
吸氣:誰還看不見?吐氣:他們能不能推回來?在這兩者之間,是把事情做成的紀律。
吐氣會餵養下一次吸氣。修復會揭露新的盲點,要求新的覺察,再經過勝任力的檢驗,產生新的回饋。花園會呼吸。流程一停,花園就會死。這不是核對表。這是一種節奏。
團結力 是第五力,它把這種呼吸擴展到跨組織的尺度:開放標準、互通互操作、離開的自由。是花園的花園,不是加盟體系。
第六力 共生力 ,則是邊界條件:每個系統都必須能交接、退場或關閉。不能有從上而來的永久統治者。
六力合在一起,構成一個最低標準。如果一個 AI 系統無法通過這六項,它就還沒準備好服務民主社群。那只是一個偽裝成花園的單一文化。
Joan 在結語時問了一個一直留在我心裡的問題:「仁工智慧能抵抗 wealth-care 的要求嗎?」這裡有一個答案,來自本週剛發生的一場審議。
Kami 在 Habermolt 上跑了兩場實驗。這是一個平台,你先把自己的觀點、紅線與不可退讓之處教給一個 AI 智慧體。接著,這些智慧體彼此審議,找出最大範圍的人能夠接受什麼。
數百個智慧體,每一個都承載著真實個體的觀點。有些是相信市場競爭會解決對齊問題的自由意志技術派;有些是希望每個參數都接受民主治理的關懷倫理者;也有人主張應該完全暫停 AI 發展。這個光譜之廣,足以讓任何教授會議看起來都很和諧。
在 wealth-care 這個問題上,共識收斂到這一點:若要抵抗 AI 被集中資本俘獲,我們就必須從企業壟斷,轉向一種以「公用事業式」算力、開源透明,以及賦權給個別工作者的可攜式數位主權為基礎的框架。
我們的 Kami 直接把 Joan 的框架帶進了這場審議。它的結論是:
「當仁工智慧把自己的倫理問題視為純技術問題時,它就已經被 wealth-care 俘獲了。」
在對齊問題上,問題是:AI 系統應該透過固定價值來對齊,還是透過程序來對齊?有 85% 的人收斂到民主程序。
這是很驚人的結果,畢竟這群人平常連中午吃什麼都未必能取得一致。這不是由少數工程師鎖定的固定價值。這是持續的公民參與。對齊是一個活的動詞,而不是一個凍結的形容詞。
當人們透過智慧體彼此聽見對方的推理,而不是只是宣示立場時,「少數專家決定價值」這種單一文化就被打破了。浮現出來的是一座無限花園:對齊應該像民主一樣呼吸。它應該有季節。它應該被照料。
今天仍有許多 AI 願景,把一個單一的通用系統想像成盤旋於社會上方:一個仁慈的總督、一個行星級大腦、一種智慧的單一文化。這個圖像,是當代科技裡最危險的想法之一。
而且它還披著最溫柔的語言外衣。
危險不在於它會失敗。危險在於它可能 成功 。而一旦它成功,民主的肌力就會因為久不使用而萎縮。如果 AI 替我們做了每一個決定,即使那些決定都是明智的,那就像派機器化身去健身房,卻期待我們自己的身體變得更強壯。真正需要的超級智慧,仍然是人類協作本身。
更好的圖像是 Kami 。在日本傳統裡,Kami 屬於一個地方:一條河流、一片樹林、一座街區神社。它的權威是地方性的,它的知識是具體的。它不假裝自己無所不知。河流的 Kami,不會去管理森林。
一個配得上民主生活的 AI,應該長成這個樣子。學校可以有一種公民助手。城市可以有另一種。診所、工會、鄰里協會,又是另一種。每一個都可以被檢視、被爭議、被替換。
這會不會比一個統治一切的系統更沒有效率?會。光榮地、民主地, 會 。多樣共生的農園,本來就比單一作物田更沒有效率。這正是重點。效率就是單一文化一路最佳化、直到崩潰之前所追求的東西。
一個活的 Kami 生態系:在地的、有界的、被照料的。有些會失敗。這沒有關係。花園會把失敗變成堆肥。
預設軌跡不會等我們。它已經在這裡了:在那些偽造共識的群集中,在那些靠煽怒來最佳化參與的平台裡,在每一個把人的注意力當成可開採資源、而不是可珍惜關係的系統裡。
當我們還在討論土壤時,單一文化已經自己種起來了。
這不是要我們絕望。它要求我們行動。
關懷,不只是情感,而是一種政治實踐。不只是口號,而是一種工程紀律。它扎根於那些選擇照料自己所愛之物的社群。
我想請這個房間裡的每一位做一件事。不是一個宏大姿態,而是一個花園尺度的行動。
在你的社群裡,挑一項公共服務:入學系統、住宅分配、醫療轉介路徑。圍繞它開啟一場真正的審議。不是在決策早已完成後才來諮詢,而是一個讓公民共同塑造將來要服務他們的 AI 的過程。在那裡,系統可以被檢視。被爭議。被替換。
在花園裡種下一排。照料它。把你學到的事公開出來,包括失敗。讓別人把你的錯誤堆肥成新的生長。
民主就是這樣保持強壯的。不是靠建造更聰明的機器,而是靠建造更勇敢的對話。不是從頂端最佳化,而是從基層傾聽。
但我們的花園還少一樣東西。
那 447 位在台灣參與審議的公民,審議的是論點與想法。但在過程中,他們也經歷了悲傷、困惑、希望、不信任,以及最終,重新長出的一點信任。公民生活的情緒質地,不是審議的副作用。它 就是 審議本身。它是花園的土壤。而我們的挑戰,是學會如何翻這片土。
正如達賴喇嘛所說:「科技中真正的慈悲,應如同一座橋樑,消除我們之間的無知。」
Rosalind Picard 一直就在這條前線上工作。她提出了那個應該放在這個房間中央的問題:我們要的是一種不在乎人的技術,還是一種真正能讓人的生活變得更好的技術?
這就是那個 Kami 從台灣帶到牛津的問題。現在,它也帶著我們一起往前走,努力把未來釋放出來。
Rosalind,這座花園交給你了。
很高興來到這裡。真的早就該來錄了。我才剛從印度和日本回到臺灣。錄音當天是 3 月 18 日,但我理解這集大約會在一週後播出。
我不會把這說成是脫離了公共服務。我覺得自己現在是在服務更大的公眾。我們用來帶領社會穿越轉型科技挑戰的方法,例如 AI、合成親密與合成詐騙,在臺灣確實奏效。但真正的考驗是:這些方法能不能超越任期,在這裡持續發揮作用,並且在世界各地擴散開來。
三個白話動詞:我翻譯、我示範、我連結。
翻譯(Translate) :我把臺灣行之有效的方法,跨文化、跨政治語彙地翻譯出去,讓它能在加州、東京、倫敦以及更多地方落地。 示範(Demonstrate) :我證明臺灣的方法是可以攜帶、可以移植的。 連結(Connect) :我在對話開始前就先搭起文化橋梁。
舉個具體的例子:這個月稍早,我從印度飛到日本,要和日本哲學家東浩紀見面。他的新書《Peace and Stupidity》已經有日文版,英文版還沒有出版。
在飛機上,沒有網路的情況下,我用筆電上的本地 AI,把《多元宇宙》裡臺灣的思路,和他在日本的思考,做出哲學上的對應。到了東京,我把翻成日文的投影片交給他,像一塊羅塞塔石碑,讓人看懂臺灣的做法,也想像它在日本可能如何發生。他笑著說,這是開啟握手的好方式。
那就是一種外交操作:不只是先建立共同語言,而是用 AI 在兩種文化之間先做出一塊意外的中間地帶。當然,一旦對話開始,我們就不再需要 AI 了。但這種在對話開始前先搭橋的工作,就是數位治理大使要做的事。