本集是 全球人權學園(Global Campus of Human Rights)Podcast《To the Righthouse》第六季 《Our Human Future with AI》 的第一集,由 Thérèse Murphy 主持。本集完整標題為〈「人民才是超級智慧」:AI 如何影響政治審議與民主〉。逐字稿依全球人權學園發布的版本翻譯(PDF);文中連結為編輯時所加。
大家好,歡迎收聽。這是全球人權學園製作的 Podcast 系列。我們的主題是人工智慧,簡稱 AI。更具體地說,這個 Podcast 談的是我們與 AI 共處的人類未來。我是主持人,我叫 Thérèse Murphy。這一集,我要問的是:AI 與民主有什麼關係?更廣泛地說,我想問:AI 與社會、與人有什麼關係?很高興今天的來賓是唐鳳。唐鳳的經歷非常精彩,包括公民科技的背景、擔任臺灣的網路大使,也曾是臺灣首任數位發展部長。目前,唐鳳正投入多項計畫,其中包括在牛津大學擔任研究員,發展新的思考方式,探討如何讓 AI 與社會對齊。唐鳳,很高興你能來,非常歡迎。
謝謝 Thérèse。我想先說,很高興能在這裡和全球人權學園對談,因為你們開設的課程——〈以權利為本的 AI 取徑〉(A Rights-Based Approach to AI)——正是我自己也會選擇的框架。
很高興知道這一點,唐鳳。那我們就來看看,今天這一集能探索多少,幫助聽眾更了解:以權利為本的取徑——有人會說是以倫理為本的取徑——來看待 AI,究竟是什麼意思;無論如何,這肯定是以價值為本的 AI 取徑。我們開始提問吧,唐鳳。我知道你相信數位科技能夠賦權於人、彌合分歧、更新民主。這些主張很有力量,也非常宏大;我想聽眾一定會很感興趣,甚至十分好奇。但同時,我想至少有些聽眾會有點懷疑。所以,唐鳳,請告訴我們,你為什麼相信科技能夠更新民主、賦權於人。交給你了,唐鳳。
嗯,人們想像科技遇上政治時,通常會想到最糟的那一面。大家馬上想到同溫層、讓我們一直「末日狂刷」停不下來的憤怒,還有在我們最憤怒時獲利最多的平台。當然,他們說得沒錯,這些確實存在於世界上。但我逐漸相信,這種高 PPM——每分鐘極化程度(polarisation per minute)——的有毒環境,是設計上的選擇,而不是數位時代無法避免的特徵。所以,我們可以打造出相反的東西。
我學到這一點的地方,非常具體,也很個人:2015 年,叫車公司 Uber 進入臺灣,整個國家分裂了——司機憤怒、乘客意見分歧,政府承受巨大壓力,要乾脆禁止共乘服務。但我們沒有安排一場讓人互相叫罵的辯論,而是在一套叫做 Polis 的開源工具上展開對話。Polis 有一條不尋常的規則:沒有回覆按鈕,你不能為了嗆人、攻擊人而引用別人的話;你只能寫下自己的簡短陳述,或對別人寫的內容表示同意或不同意。大約 900 人投下了約 3 萬票,另有將近 2,000 人加入直播場次。
這套系統不是要選出贏家——我們一起畫出一張地圖,找出立場完全不同的陣營——司機、乘客、工程師——都同意的句子。我們稱之為「罕見共識」(uncommon ground)——那種很少被發掘的共同點——從乘客安全,到可以動態加價、但不得削價低於計程車跳表,公務員把這些共識點直接寫進了法規。
所以,更具體地說,我的主張是:參與公共生活的權利,幾乎在世界各地的法律中都已受到保障——事實上,《世界人權宣言》 第 21 條就寫明了這一點,具有拘束力的 《公民與政治權利國際公約》 也在第 25 條這樣規定。所以,欠缺的從來不是抽象的權利,而是讓人能持續行使參與權的基礎設施——不只是每四年投一次票。廣泛傾聽就是這樣的基礎設施;對我來說,這不是科技解決主義——這就是人權,一種集體權利,終於有辦法在兩次選舉之間實踐。
太精彩了,唐鳳。你說的話讓我非常有共鳴——每當話題、甚至我們自己的思緒轉向科技,我們通常就往最壞處想。就像你說的,我們會想像最糟的情況。但你告訴了我們,也給了我們一個具體例子——Uber 進入臺灣——說明我們可以從設計著手,可以打造出相反的東西。我們可以用符合人們利益的方式,運用科技建構未來。我也很喜歡你談到找出罕見共識,也就是找出往往難以捉摸的共同點。而且同樣地,你給了我們一個具體例子,說明如何運用科技,真正找到了那種感覺起來、看起來都很罕見的共同點。而從權利的角度來看,權利已經在那裡——我們有條文。我們需要做的,是建構結構。唐鳳,我知道這正是你在做的事:你在臺灣做到了,也正在、或已經在世界各地許多地方這麼做。所以這就是我接下來想問你的。
因為你在世界上這些不同的地方、也在不同的領域工作,而你的許多想法最初是在你的家鄉臺灣發展出來的,或者說起源於臺灣——你在臺灣參與開源運動,然後,就像我們剛才聽到的,你是臺灣首任數位發展部長,也是臺灣的網路大使——所以我的問題是這樣。當然,我是從人權的角度對此感興趣,也就是想法如何在世界各地流動。所以,唐鳳,我的問題是:你在一個地方、一個國家——臺灣——開始發展你的思考與想法,而今天,你和你的想法在世界各地流動。這怎麼可能?在一個地方萌生、起源於一個地方的想法,如何在世界各地流動,並在其他地方發揮價值?請跟我們談談,唐鳳。
確實,開源與自由軟體社群本質上就是全球性的。我們從不把任何東西鎖在一道叫做「智慧財產」的牆後面——這正是重點所在。所以,我們在臺灣打造公民科技時,當然也公開發布了程式碼。Polis 是從西雅圖發布的,採用一種叫做著佐權(copyleft)的授權,意思是每當我們修改它,也必須公開我們的修改,然後任何地方的任何人都可以拿去分叉(fork)——分叉的意思是做出調整、帶往不同方向,但保留與上游合併回去的可能。所以,我們不是在輸出成品,而是交出種子,讓每個社群決定要種出什麼。
我想在這裡說得謹慎一點,因為對關心人權的聽眾來說,這很重要:這套方法並不是誕生在一個舒適、高度互信的民主國家。有時候人們想到臺灣,就會說:「喔,你們在東亞,當然大家意見都一致。」——當然不是。2014 年,我們民選領導人的支持率只有 9%,所以在一個 2,400 萬人的國家,總統說什麼,都有 2,000 萬人反對他。所以那根本不是高度互信——這套方法是在一個低信任、剛民主化不久的社會中鍛造出來的;這個社會過去如此、至今依然,飽受我們友善的鄰居大量的資訊操弄與網路攻擊企圖。所以,我們正是因為社會破碎,才打造了這套系統,這也是它能夠流傳的原因:它當初所針對的處境——深刻的分裂、極高的每分鐘極化程度,也就是這種高 PPM 的處境——正是世界上許多人現在的經歷。脆弱的民主,已經不再是例外。
所以,這些例子是調適,不是移植。例如,加州推出了「Engaged California」,並公開表示是受到臺灣數位民主經驗的啟發,採用同一系列的共識地圖方法,由州政府與 Carnegie California、博古睿研究院(Berggruen Institute),以及 Project Liberty Institute 一起推動,詢問民眾:AI 如何影響你的工作、你的歸屬感、你的關懷與尊嚴——而前沿 AI 實驗室營運所需的社會授權,可以與人民共同創造,而不只是為人民創造。在肯塔基州的波林格林,一個叫做「What Could BG Be?」的計畫,把同樣以搭橋為本的傾聽政策用於社區規劃,觸及將近 8,000 名居民——幾乎是總人口的 10%——累積超過一百萬票。
而且這種交流是雙向的。在日本,安野貴博——現任參議院議員,也是 Team Mirai(未來黨)的創黨人——吸收了這些想法,針對日本的脈絡打造出全新而且更快的做法;現在換我們向日本學習。
所以,這些想法之所以擴散,更深層的原因不在技術——而是人們渴望被聽見、渴望參與形塑自己生活的地方、渴望一起握住方向盤。這是最具人性的渴望之一。所以,我們並不是在給人們這種渴望——渴望早已存在;我們只是終於讓它有了去處。
很激勵人心,唐鳳。知道這一點真的很精彩——我很喜歡你用的動詞——這些想法、這個願景,是在一個民主脆弱、民主才剛誕生的地方鍛造出來的。而任何形式的民主,無論脆弱與否,都需要不斷地被創造、再創造。所以,這些想法在這個新的民主、這個剛誕生的民主中鍛造出來,然後,就像你說的,被世界各地的人拾起。它們不是移植,也不是被輸出——你稱之為種子。我很喜歡這個描述。而在世界各地,人們想要這些種子。他們想要有機會聚在一起,播下種子,看看能長出什麼。
如果我可以從這裡跳到一個關於你個人經歷的問題,唐鳳——是想像你像一顆種子在成長,讓我想到了這個問題——在開場介紹中,我提到了許多人會稱為你至今職涯亮點的一些事:公民黑客、技術專家、臺灣網路大使、前任數位發展部長。我知道你得過許多獎項——你獲得了常被稱為「另類諾貝爾獎」的獎項,也就是 正命獎 得主。恭喜你!我知道你和各種行動者、組織合作。我想請你跟我們談談,你到目前為止的人生旅程。而我真正想知道的是:你最引以為傲的是什麼?交給你了,唐鳳。
嗯,我希望成為一位夠好的祖先,為下一代留下一塊比我出生時更寬廣的畫布。我的旅程,其實始於一個幸運的決定。我還在一般學校就讀時,14 歲那年——不是出於叛逆,我只是非常好奇——我想追尋的問題,跑得比任何一間教室都快。在我的校長杜惠平的祝福下,她基本上說:好,你可以改從網路上學習。於是我開始在家自學,接觸到自由軟體,然後是開源社群——一種建立在相互尊重與徹底透明之上的文化。我也體會到,這套行為準則(code of conduct)從來不只關乎軟體那種程式碼(code);它關乎人與人溝通的準則,也關乎以不同方式自我治理的準則。
所以,我認為我最引以為傲的,是這套體制:它不只讓 14 歲的孩子,也讓幾乎每一個人——包括原本沒有投票權的人——都能自我教育,也能對與自己相關的議題做出有影響力的決定。根據 國際公民教育與素養調查研究(ICCS),到 2022 年,臺灣 14 歲青少年的公民知識已是世界第一。這不只是我們接收資訊的素養(literacy),而是能力(competency),是公民肌力;所以臺灣的年輕人現在知道,自己在滿 18 歲之前就能形塑這個國家。我認為,這種開放政府工作留下的長遠遺產,就是強化跨世代的連結——17 歲和 70 歲的人終於把彼此看成互補的夥伴,看成推動更公平、更包容、更平等未來的最佳拍檔,因為這兩群人最在乎的是未來,而不只是下一季。
至於你的問題,我認為不是哪一部法律,也不是哪一個 App——而是我們改變了世代之間的關係。我們從一個只信任自己的政府,走向一個信任人民的政府;從為不同世代打造東西,走向與不同世代一起打造。對我來說,正命獎屬於每一位協助證明這件事的臺灣人。而我現在專注的工作,是把這一切帶進 AI 時代——我稱之為 仁工智慧(Civic AI)。我和共同作者、牛津大學 AI 倫理研究院 的 Caroline Green,把 AI 扎根於 Joan Tronto 開創的關懷倫理。這個想法非常簡單:我們需要對齊、引導 AI 系統,靠的不是一次性的安全修補,而是持續的關係健康——像花園一樣,需要我們用心照料。
謝謝你,唐鳳。我對今天貫穿我們對話的主題很感興趣。你剛才提到照顧人、照顧我們的民主、我們的社會——有點像照顧花園一樣。而在稍早的對話中,你提到了種子。我發現,這是一種非常發人深省、也很有洞見的思考方式。聽你談自己的教育經歷、談接受教育的轉化力量,也非常重要——特別是建立你所說的這種公民知識、這種公民肌力。而且這不只關乎 14 歲、17 歲的年輕人,也關乎 70 歲、74 歲、77 歲等等的長者,以及建立這種公民肌力,如何讓他們能夠一起合作。透過改變關係,我們賦權於人。聽你這麼說,非常、非常有力量;我們腦中也有了這幅園藝、成長、照料、關懷的願景。
所以,唐鳳,在這片激勵人心的氛圍中,我想我現在有責任問一句:難道沒有什麼讓你憂心的事嗎?那會是——那是什麼,唐鳳?是什麼讓你憂心?然後,因為我感覺你是那種——你知道——相信要建立基礎設施、建立新思考方式的人——所以即使此刻有讓你憂心的事,是否也有什麼正讓你非常興奮?也許是你在牛津大學和共同作者關於關懷的工作,也許是別的事。交給你了。
嗯,我最憂心的,是走向極度集中化的那股拉力。在不確定的時代,總會有一種想要集中、想要團結在國旗下的反射,想像全世界的資訊都應該匯入一朵巨大的雲、一個超級模型、一個能看見一切、保護我們抵禦各種風險的地方。現在很多人都以大型主機的心態看待 AI——大型主機,就是我出生的 1980 年代的雲端——這會集中風險,因為它造成單點故障,也造成單點控制。
多年來,科技業有些人一直告訴我們,資料是新的石油——某種惰性的東西,可以開採、用管線輸送到中央煉油廠、可以當成塑膠之類的東西來賣。所以,我希望我們徹底拋棄這幅圖像。資料不像石油那樣被鑽探,也不像塑膠那樣被販售,資料是土壤。資料建立在關係的生命力之上。土壤是活的,也是關係性的:不同的土壤種出不同的作物,因為它們承載著不同的歷史、不同的氣候、不同的照料方式。如果你把資料從產生它的地方與社群中抽離出來,它的許多意義就會流失殆盡。
隨之而來的人權問題是:誰擁有土壤?誰照料土壤?我的答案是,資料必須由社群來形塑——不是把人類拉進 AI 的迴圈,而是讓 AI 照料社群的關係健康,成為人類迴圈中的 AI(AI in the loop of humanity),由社群訂定條件,而不是平台。
所以,讓我興奮的是,人們正在開拓新的軌跡。大家競相在某個遙遠資料中心打造的超級智慧,不是我押注的對象。真正的超級智慧,就是我們——是人們在獲得彼此傾聽的工具時,所展現的集體智慧。我們看到世界各地的公民科技人與社群,正在採用開放工具,因應自己的挑戰加以調整。此刻,我們正經歷一場 AI 的文藝復興,就像當年的個人電腦革命。人們終於意識到,我們早已擁有重建公民信任的藍圖。在離線模式下,不用連網,你就已經能在自己的筆電上執行前沿模型。所以,我感到興奮,不是因為危險很小——而是因為這種極度集中之外的替代方案是真實的;它已經同時在一百個地方被打造出來。
這是一個很有力量的願景:它已經在被打造——你說在一百個地方,大概還更多,我想你只是隨口挑了這個數字——同時進行。而且我再次聽到你繼續描繪這幅圖像,圍繞著照料花園、照料大地的想法。資料不像石油,不像鑽探石油——資料是土壤。唐鳳,這真是非常有力量的意象。
在今天對話的尾聲,唐鳳,我想問你:你想留給聽眾什麼訊息?在這場對話中,你已經給了許多激勵人心的訊息;但當聽眾想為你今天描述的願景——打造一個與 AI 共處、以人為本的未來——盡一份力時,你特別想留給他們什麼訊息?你想對聽眾說什麼?
訊息很簡單:不要等政府和大型科技公司替我們決定 AI。AI 不是自然的力量——它是工具,是我們每個人做出來的產物,也必須由我們每個人來引導。所以,以人為本的 AI 未來會是什麼樣貌,取決於我們是否現身參與、親手形塑。
我說的不只是工程師——藝術家、公務員、教育工作者、歷史工作者、店家,都不是我們大方邀請進來當顧客的客人;我們早就在做這份工作了。歷史工作者早已保存著公民記憶,店家早已比任何儀表板都更了解在地的供應與在地的人際關係。所以,我們的工作是讓這些知識變得清晰可讀,而不只是發放某種全民基本收入。
所以,我認為可以付諸行動的訊息是:去認識個人智慧(personal intelligence,PI)。你可以到 civic.ai 了解我自己的個人智慧配置——我稱之為地神(Kami),也就是知識工藝管理智慧(knowledge artefact management intelligence)。它很容易架設。民主就像任何技術、任何社會技術一樣,是一種肌肉——而就像任何肌肉一樣,它需要每天鍛鍊,而不是每四年才運動一次。所以,透過地神,你和朋友可以打造、拆解、再重建這些工具;你可以為那套你終有一天會治理的系統除錯。而《多元宇宙》(Plurality)這本書可以在 plurality.net 免費取得,正是基於這個理由而屬於公共領域。所以,一旦你有了一些使用地神系統的經驗,就去讀《多元宇宙》吧——拿去用、分叉它、教給別人;把它當成一份禮物。
謝謝你送上這些禮物,唐鳳,也謝謝你的訊息:我們需要鍛鍊、保持並發展我們的公民肌力。而要做到這一點,就像人體其他種類的肌肉一樣,特定的肌肉需要鍛鍊。也非常感謝你和聽眾分享了許多資源,幫助他們開始、或精進自己的公民肌力鍛鍊。就像你說的,要形塑以人為本的 AI 未來,我們需要現身參與——我們每一個人都需要現身,帶著公民知識,而這需要公民肌力。唐鳳,今天和你對談非常激勵人心。非常感謝你撥冗來到全球人權學園。
謝謝這場對談。願全球人權學園生生不息……繁榮昌盛。

