反向對齊 的想法是，與其把一切投注在讓 AI 更強大，或控制 AI 使它服從一兩位主事者的指令，我們應該確保我們的體制能夠使用 AI，而不會屈服於集中式超級智慧的起飛。
那意味著重新設計我們在體制中的角色、我們既有的技能，以及我們治理自身的方式。 與其盲目追逐生產力，我們可以共享繁榮。 與其僅僅確保 AI 能合成愈來愈逼真的影像，我們可以讓驗證比以往更加可問責：不只是「眼見為憑」，而是確保，例如，一切事物都有不損害隱私的數位簽章。
而且，與其只允許既有的權力中心——包括大型科技公司與國家——使用這項技術，我們希望申訴與請願的途徑，以及人們在線上結社的能力，能夠同步成長，讓治理變得可擴展。反向對齊包含所有這些。我們有 十二個不同的支柱 ，但想法保持不變：我們科技的野心不應該支配我們社會能力與社會系統的野心。兩者應該同步演化。
我認為我們要尋找的形態 更接近網際網路本身，或者類神經網路運作的方式 。來自香港的李小龍有一句話：「 Be water（若水） 。」所以這不是一個新的超級部會，而是一組更可攜帶的肌肉——我稱之為 關懷六力 ——既有體制可以在自身之內、也可以跨體制彼此培養這些肌肉。
以任何社群為例：一個學區、一間醫院、一座城市等等。社群可以聚在一起，自行撰寫評測，讓 AI 系統依照那個地方實際的需要來接受檢驗，而不是依照一個通用的基準。有一條常設的申訴途徑，所以當系統做出行為時，那裡有人被授權為它負責。還有集體的暫停與回退的權力，掌握在地方而非海外總部，並且永遠有轉向第二來源的權利，讓任何單一供應商都不會成為地主。
這一切都不需要把權力集中在資料中心。大多數都可以在社群已經擁有的硬體上運行。這些是古老的民主能力—— 考核、申訴、罷免與結社 ——以網絡的形態重新實作。
當然。關懷六力是一組關懷倫理原則，是我與 Caroline Green 以及牛津的許多人共同發展出來的。你可以在 civic.ai 上看到它，附有 精美的插圖 。非常簡單地說，這個想法是我們需要在社群的流動之中對齊 AI 系統。
從 Carol Gilligan 與 Joan Tronto 開始的關懷倫理學者，建立了一整個倫理學分支，有別於單純追逐最高分——後果論——或遵循成文規則——義務論。它關乎實際關係中的互動。Tronto 說良好的關懷有四個要素。
第一是 覺察力 。你從需求實際所在之處開始，從人們的位置而非科技製造者的位置去聆聽。我們需要關注人們實際的需求——不只是有權有勢、已被聽見者的需求，尤其是無聲者的需求。
第二是 負責力 ：承諾去關懷。如果你開始聆聽那些花了大量時間對你說話的人，你不能只是說：「這是摘要，謝謝你的意見。」那不是負責的。我們需要預先承諾，讓人們確切知道他們的話語、想法或意見將如何影響誰、在哪裡、以何種方式、影響什麼。那是一份參與契約。
第三是 勝任力 。當我們提供關懷時，接受關懷的人應該知道發生了什麼事。在開放原始碼領域，我們對智慧體程式設計並不那麼害怕，正是因為原始碼就在那裡：人們可以看到 AI 改了什麼，而 AI 也可以對它如何進行工作、以及背後的思考鏈保持透明。相對地，在許多政策制定領域，人們感到壓力，被迫引入 AI 黑盒子，整個導入歷程卻沒有原始碼可查。這造成緊張，因為如果你只是 盲目地委託工作 ，那就不是勝任的關懷。這就像派你的機器人去健身房：機器人可以舉起很重的重量，但接著我們失去了肌肉，也失去了朋友。透明是勝任關懷的一部分。
第四是 回應力 。如果需求改變了，在某個時刻我們可能不再需要 AI 原本提供的同一項服務。有時我們只是需要改變並放手。當需求改變時，關懷也應該隨之改變，所以系統必須保持回應。當付出關懷的人培養出肌肉時，我們就能成為自己的照顧者。知道何時放手，而不是製造依賴，需要人們自行撰寫自己的成功評測，而不是繼承那些傾向於優先考慮鎖定與依賴的舊評測。
覺察力、負責力、勝任力與回應力構成核心的關懷迴路。如果你每次都把它運行得好，接受關懷的人們就會在彼此關懷上變得更強。Joan Tronto 後來加入了第五個要素， 共同關懷 ：關懷不是只來自單一提供者。整個社會可以共同安排關懷，讓人們可以長期指望關懷的存在，並且以對每個人都公正平等的條件。我們稱之為 團結力 ，第五力。可攜性與互通性應該是正和的。如果你更換提供者，你應該總體上獲得更多關懷，而不是遭到舊提供者拒絕放手的報復。
最後是 共生力 。如我所提到的，AI 系統應該盡可能在地化。任何人都應該能夠運行本地推論，並且日益能夠進行本地微調，讓系統可以是共生的而非寄生的：不是違背人們的意願，把資料當作石油持續榨取，而是在我們妥善照料時，讓資料如土壤般再生。共生力加上 Tronto 的五個要素，就給了我們關懷六力。
是的，還有——或者說——人的迴路。有許多種說法。但與其讓 AI 只服務於最大化分數或遵循少數人設定的規則，它應該對我們既有的社群與關係保持覺察、承擔責任、具備勝任力，並回應它們。
我認為它與代議民主完全相容。在臺灣，我們把民主視為一個持續的過程。 人們一起設定議程 、一起發現需求、一起探索，或許在某種程度上一起定義共同價值。但特定政策的發展與執行仍然屬於專業的、全職的職業公務員與國會議員。
我們正在做的是增加民主的頻寬，讓每個人可以貢獻更多位元，同時縮短獲得回饋並閉合迴路所需的時間——降低延遲。我們改善民主的頻寬與延遲。歸根結底，原則保持不變：正當性應該存在於後果所在之處，而不是某家科技公司的總部。
民主的單位不是點按按鈕的孤立個人，而是身處真實關係中的人們。大多數國會議員、市議員以及參選的人都已經明白這一點：他們都想更好地聆聽他們的選民。在這裡，AI 是在聆聽成長時扶持它的鷹架。我們並不是提議用你與一個市政機器人之間的關係，來取代你與你的市議員之間的聆聽關係。
您所指的是我正與 Glen Weyl 和 Patrick Deneen 合作撰寫的一篇文章 ，倡導服務於社群的技術。我認為這樣說並不特別有爭議：過去十年左右——例如在 《焦慮的世代》（ The Anxious Generation ） 及許多其他著作中所見——顯示出原子化、追求互動極大化的技術，與我們所謂公民肌力的萎縮之間有著非常高的相關性：也就是公民之間真實關係的萎縮。
人們看到身分認同與實際關係被切斷，一個人被化約為資料庫中一個帶有若干偏好函數的獨特列。審議——過去那些深入的對話、市鎮會議等等——不再發生在市政廳，而是發生在留言串上，在那裡它變成一場表演，人們大多是旁觀他人互相攻訐，而非進行深思熟慮、鄰里之間的對話。生產力被掏空了志業與團結，根基被交換為同質化的富足承諾，例如 全民基本收入 。但許多人說，賦予他們生命意義的不是全民基本收入，而是他們能在文化社群中共同實踐的根基。
我不認為這些診斷特別有爭議，或只屬於某一個思想傳統。我們所倡導的是恢復社群價值，而不必完全放棄網際網路或數位技術。我們可以將技術用於社群共同意義的建構，就例如 Pol.is 與我們在 vTaiwan 的嘗試。我們可以擁有社群公民數位基礎設施：人們可以集體擁有運算、支付、身分認同與資料交換。我們可以用 隱私強化技術 來維護社群的完整性。
我們也可以在社群內部及社群之間維持良好的來源脈絡，甚至在聖經創造關懷社群與氣候正義行動者的來源脈絡之間進行轉譯。語言模型可以幫上這個忙，所以我們不必放棄語言模型。重點是，技術可以強化 社群內部的凝聚，以及——至關重要的——社群之間的橋接 。這使得審議能夠跨越許多不同的社群擴展，而不會將它們壓縮成機器更容易計數的東西。
這一切都是要說：我們不應該改變自己——對齊人類——只為了讓我們更像機器更容易計數的資料點。我們應該將機器帶入我們的社群，並以強化我們凝聚與橋接肌力的方式來塑造它們。
我的靈感來自我的道家背景。 老子（Laozi）在《道德經》（ Tao Te Ching ）中說 ，最好的領導者是讓人們說「我們自己完成的」的那種。這仍然是我對技術的北極星：它應該使人們擁有集體能動性、歸屬感、關懷與尊嚴，而不是扮演超級智慧或超級能幹的領導者角色。
這非常道家。道家一方面是關於保守的——確保所謂的無為，或保存已然存在的事物——另一方面又是安那其式的，因為它不主張任何人對任何其他人施加強制性暴力。這兩面結合起來，比任何其他傳統都更能滋養我的政治理念。
另一個道家理念是 沖和 ，也就是衝突共創。與其把極化——甚至跨越意識形態鴻溝的激烈分歧——視為需要疏散逃離的火山爆發，我們可以把它視為地熱能。如果你建造一個引擎，將它轉化為具生產力的張力，衝突就會成為升力的來源。臺灣位於 兩個相互推擠的板塊 之間， 每天在臺灣某處產生三次小地震 。同樣的壓力也將臺灣的最高點——玉山（Yushan）—— 每年向上、向天空推升半公分 。我把極化視為不該壓抑或碾碎的東西，而是可以轉化的能量。
最後，我看到左派、右派以及介於其間的所有人，都對當今資訊環境中的 垃圾內容巔峰（peak slop） 集體感到疲憊。我不會稱這特別保守、進步、自由或社群主義。無論立場為何，當資訊環境有如此高的 PPM——每分鐘極化程度 ——我們就無法進行對話。我們在一片戰爭迷霧中窒息，這迷霧把每個立場都漫畫化為其最極端的版本，僅僅為了攻訐。
一個共享的、低 PPM 的資訊環境，可以將過剩的極化轉化為 罕見共識 ：一種對我們實際上同意什麼、不同意什麼的集體意識，進而轉化為共同知識。這對每個人都有益，無論其意識形態立場為何。
技術哲學家 Yuk Hui（許煜）稱之為 技術多樣性 。它接近科技社群主義的理念，即每個文化和社群都可以圍繞該社群所珍視和優先考量的事物來塑造技術。但我會謹慎避免以本質主義的方式來描述它。
我不會稱網際網路為美國技術，即使它最初由 DARPA 資助。我不會稱全球資訊網為歐洲技術，即使它確確實實是 CERN 的產物。那些只是技術可能的發源地。同樣地，我不會稱數位民主或 關懷六力 為臺灣技術。
我可以說，臺灣的地緣政治與國內傳統，要求我們調和兩者：我們略帶道家色彩的精神需求中對強制的不信任，以及非常儒家的人際責任框架。這也受到我們公民歷史的塑造：臺灣獲得寬頻連線與民主化幾乎發生在同一時期，伴隨著個人運算的出現，使每個人都擁有自己的運算能力。對我這一代人來說，網際網路和民主從來不是兩件分開的事。它們是作為同一場運動而到來的。
儘管如此，我不會稱這是一種臺灣的技術哲學或模式。臺灣是一個特定的脈絡，孕育了這種融合、這種調和。它不是一個可以複製貼上的模式。它是一種啟發——一個示範、一個 demo——其他文化的人們可以從中汲取靈感。它顯示出，選項並不僅限於資本主義式或國家主義式的技術監控。還可以有一種不將權力集中於任一極的替代方案。
借用 Acemoglu（艾塞默魯）的隱喻， 窄廊 可以透過廣聽來拓寬。臺灣選擇了這個特定的方向，但我們並不聲稱這是拓寬窄廊的唯一方式。可能有成千上萬、甚至數百萬條道路，能以非臺灣特有的方式拓寬每個社會自己的窄廊。我們只是想分享我們的方式，作為一個示範。
不，事實上在臺灣更早。
對。我這一代的臺灣人是最後一批記得戒嚴的世代， 戒嚴於 1987 年解除 ，當時我六歲。那恰好與個人運算的出現同時。當我們在 1996 年首次直接投票選出總統 時，網頁瀏覽器已經普及，政府也已將普及的網際網路連線視為接近人權的東西。
2014 年 太陽花運動 發生時，寬頻連線正逐漸普及。到那一年， 臺灣的人均 Facebook 活躍帳號數已高於其他任何國家 。這裡的每個人都暴露於高 PPM 的資訊環境——激進的極化與攫取注意力的經濟，也就是我所謂的反社會媒體——或許比許多其他民主國家的人更甚，只因為我們在網際網路上的對話與互動早已如此飽和。
是向上、向天空的——朝向天空。
這壓力當然是真實而持續的。問題在於我們如何將這種張力轉化為升力。根據許多統計，包括 國家安全局（National Security Bureau） 的統計，臺灣每天面臨兩百萬——將近三百萬——次針對我們網路基礎設施的探測嘗試。我稱之為免費的紅隊演練、來自我們非常友善的鄰居的免費滲透測試。大多數地方必須付費購買這項服務；我們免費獲得。
如我所提到的，我們的資訊環境也比許多其他民主國家更早經歷了 資訊操弄 、惡意 AI 蜂群等等。我們的回應不是崩解為威權主義或建立一個真理部。相反地，我們投資於徹底韌性：公民基礎設施、 快速的公開澄清 ，以及幽默對謠言。
這個理念是：與其對地震恐慌——當你身在臺灣時這行不通——不如永遠為下一次做好準備。每一次壓力都應該使我們的基礎設施 反脆弱 ，在每次地震後變得更有韌性。我們認知到，我們只是一個所有開放社會面臨的壓力都提早到達的地方，肯定早於它們抵達許多其他民主國家。我們是一種預警站。在極高壓力下在這裡行得通的方法，值得世界各地了解，因為地震可能在幾年內就會到達你那裡。
我現在仍然在做同樣的轉譯工作、示範工作與連結工作。這就是我現在完整的工作內容。當我擔任部長時，我也在我們的公務體系——職業文官——與公民黑客、創意技術人員之間進行轉譯。我得過 創意官僚獎 ，所以我想我也算是個官僚。作為一位有創意的官僚，意味著我是這兩種文化之間、政策語言與程式語言之間的好譯者。
現在我把更多的工作重心放在海外。過去這幾年我走訪了 28 個國家，平均每兩週就更換一次時區。我在前沿 AI 實驗室的技術人員與其系統落地的社群之間進行轉譯——這些社群迫切需要公民肌力，因為公民肌力不但沒有得到補充，反而被我們一直在討論的那些垃圾內容摧殘殆盡。
我示範——正如臺灣所示範的—— 對齊大會 與仁工智慧可以制定公平的規則，讓科技巨頭更像是人與人之間的輔助性結締組織。它們不再迴避對網路詐騙或資訊操弄的問責，而是能感受到公民所感受的痛苦，並為更好的資訊環境做出貢獻。
而我也連結那些原本不會共處一室的人。例如在牛津， 關於關懷六力的仁工智慧會議 ，將一方的關懷倫理學者與另一方的 AI 安全與資安研究者連結起來。它也將後自由主義的保守派與無政府主義思想家和加密自由意志主義者連結起來。他們擁有的共同點比他們自己意識到的還多。
在世界各地工作，讓這些示範能夠傳播得比部長級的連結——所謂的 第一軌外交 ——所能達到的遠得多。這就是我如何跨越時區、跨越靈性與意識形態傳統，延續一位 保守的安那其主義者——或者用我更喜歡的說法，一位道家 ——的工作。
嗯，這裡快下午 3 點了，所以從某種微小的意義上來說，相較於您所在的地方，我確實身處未來。不過只是稍微在未來一點，不是遙遠的未來。
當我在華盛頓或柏林描述臺灣的經驗時，我不是在說：「這是遙遠的未來——採用它吧。」我是在說，就在同一天——或者好吧，第二天，但最遠不超過明天——有一個來自承受最大壓力之地的證明：這個地方選擇了廣聽而非監控，而且這樣做確實有幫助。您從這個證明出發所建造的東西，仍然屬於您自己。
我透過 SPRIND，也就是德國聯邦破壞性創新署 ，以及 Deutschland, was nervt? Deutschland, was geht? 把這些示範帶給德國聯邦政府。但這並不意味著德國要採用臺灣的 總統盃黑客松 或類似的東西。受到我們在臺灣所做之事的啟發，德國為自己的公共領域培育出屬於自己的東西——但那是德國的，不是從臺灣進口的。組織者、規劃者以及一起耕耘土壤的人都是德國人。
我們正在用新的基礎設施，回答像 Jürgen Habermas 這樣的思想家一直在問的問題。它們仍然是世世代代共同努力探討的、關於民主的同樣的論述性問題。
首先，我 每天一定睡足八小時 。這就是我樂觀的來源。如果遇到特別困難的挑戰，我就加班——意思是那天我可能睡十個小時——而我最後總是會獲得更多的樂觀。
