擔任部長的「逆向導師」變得非常出名。然後他們啟發了其他年輕人去發起更有野心的事情，像是在臺北創辦了一座月經博物館（小紅厝），並在短短兩年內消除了所有直轄市中關於這件事的禁忌等等。因此，透過讓年輕人擔任年長者的逆向導師，我們確保了即使您住在偏鄉，不想透過網路與他人交談，您也可以與你們的年輕人交談，他們就像是通往數位世界的大使。
對我來說，AI 倫理代表了將人類社會的偏好注入整個 AI 發展週期的技術與方法論，藉此我們確保所製造的 AI 系統符合社會期望、理解社會脈絡與規範，並且能被大眾共同引導。沒有 AI 倫理，它就像一輛目的地非常固定的車，您唯一能做的就是踩煞車或踩油門。也就是說，只能減速或加速。
另一方面，大多數社會並不希望由矽谷少數幾個人或某些科技巨頭來發號施令，決定我們該如何與彼此建立關係。就像社群媒體一樣，許多人寧願社群媒體不要把我們的注意力賣給出價最高的人，他們會更希望社群媒體有更多搭橋的內容、更多共享的經驗等等。然而，如果沒有倫理的投入，社群媒體網路系統的設計方式就會是拉扯人群、簡化社會結構，然後把我們的注意力賣給出價最高的人。所以，如果它在設計時就將倫理銘記在心，他們就會想出非常不同的商業模式。
也許他們不會出售個人化的廣告，而是出售共同的經驗、策展的經驗或基於訂閱的商業模式等等。對我來說，這不僅僅是技術問題，也關乎私部門的誘因機制如何運作。
當然，我的主要驅動力和 2016 年我剛入閣時是一樣的。如我所提，我們試圖解決的主要問題是信任赤字。人們正在失去對所有垂直機構的信任，無論是政黨、部長、記者或學術專家等等。
人們當時更願意相信那些聽起來像他們、看起來像他們、獲得更多留言的人等等。另一方面，正如我們提到的，社群媒體正將這些影響力拉向極端立場。
所以，我們面臨兩個問題。一個是政府、菁英們就是不夠信任人民，以至於無法贏回信任。但「不給予信任，就得不到信任」。
所以，我們用徹底透明解決的第一件事，就是徹底信任人民；如果人民看到一項公共服務設計得不好，與其在需求端抗議，他們可以切換到供給端，示範如何做得更好。如果他們因為徹底透明而覺得接觸者追蹤沒有尊重隱私，他們就可以設計出更好的、保護隱私的接觸者追蹤系統。這確實幫助臺灣撐到了 Omicron 變異株時期，我們從未封城，並在那三年中報告了最佳的經濟成長之一。那不是因為菁英有好主意。
那是因為人民能夠共同創造。另一個任務是去極化，把人們從彼此仇恨的極端拉回來，特別是跨世代之間。這在臺灣曾是個大問題，所以年輕人與其因為人口減少而哀嘆他們無法在投票中勝過年長公民，不如邀請年長者上桌，然後建立跨世代的連結。
因此，根據貝塔斯曼轉型指數（BTI），臺灣今天做得非常好，超過 90% 的臺灣人表示民主至少是相當好的。另一方面，沒有一個國家是一座孤島，連臺灣也不是。所以即使臺灣去極化了社會，即使臺灣重建了民主韌性，如果我們所有的盟友都屈服於兩極化、仇恨和跨世代的不信任，那麼威權主義那套「民主只會導致混亂、民主永遠無法兌現承諾」的觀念，仍然會像自我實現的預言一樣發酵。
所以我現在的主要工作就是展示民主實際上是可以兌現承諾的，只要在設計 AI 時，對社群媒體的監管和倫理進行一些微調，我們其實可以引導這些科技朝向利社會的方向發展，而不是那種它只會變得越來越好、最終不需要人類參與訓練就能迭代到下一代、新的 AI 模型——超級智慧——起飛、把所有人都拋在後頭的「奇點」願景。我認為世界需要一個比這種超級智慧奇點起飛更好的願景，這就是我所說的「多元宇宙」。
絕對是。首先我要說，我們是從許多較小的政體學到這項技術的。我們的電子連署系統來自冰島的「更好的雷克雅維克」，參與式預算系統來自巴西的愉港以及馬德里和巴塞隆納（分別是 Consul 和 Decidim），Polis 系統來自西雅圖，我們在佔領運動期間使用的 Loomio 系統來自紐西蘭。然而，問題在於這些技術以前只在人口 1,000 萬或更少的較小政體中起作用，原因之一是「廣播」比「廣泛傾聽」便宜太多了。
一旦您跨越更廣的社會距離進行傾聽，您就需要中介者。您需要翻譯者。您需要有人去告知不同背景的人們共同的利害關係是什麼，而隨著您的政體越大，這就變得越來越困難。但現在，今年我們已經看到比臺灣更大的政體嘗試這些廣泛傾聽的方法，而且非常成功。
我剛去了日本東京。去年，33 歲的機器學習工程師安野貴博讀了我合著的《多元宇宙》這本書，並在投票日前一個月決定競選東京都知事。沒有人認識他。
他沒有政黨，但他只是說：「讓我們群眾外包我的政見平台吧！」所以任何人都可以用 #TokyoAI 標籤來發表意見，如果他們是年長公民，可以打電話和安野先生的語音複製人說話，您也可以撥進他們的 YouTube 頻道，他的虛擬化身在那裡 24 小時不間斷地廣播每一次的更新。由人民貢獻的「罕見共識」最終贏得了——實際上根據獨立評比，在平台實用性上排名第一，甚至比小池百合子還要好。當然，小池百合子贏得了第三個任期，但她對此印象深刻，以至於她延攬安野先生加入東京都政府，擔任政府科技顧問，幫助她進行廣泛傾聽。而今年，所有主要政黨——執政黨、最大的兩個反對黨——都在使用廣泛傾聽，以確保我們不是逐一調查人民，而是在帶有審議的群體中進行民調，讓人們可以對彼此的想法做出反應，並獲得更好的偏好，這些偏好更多是關於關懷、關於相互關懷，而不僅僅是關於個人效用。
在日本，我們看到人們大量擁抱並擴展這些方法論。現在在加州，他們也剛將這個名為「Engaged California」的平台制度化，它同樣浮現了「罕見共識」。試辦計畫是關於帕利塞德（Palisades）和伊頓（Eaton）的野火預防和復原。
現在，作為他們預算法案的一部分，他們正在將其制度化，以便它可以討論許多其他主題；也許是社群媒體，也許是 AI 相關的治理等等。再次強調，是「與人民一起」，而不僅僅是「為人民」。
絕對的。在英國，我們也看到了由 Demos 發起的 Waves 計畫，許多地方政府參與其中，他們正在使用名為 Remesh 的非常類似的搭橋技術，來找出一般民眾共同的優先事項。英國在社區層級擁有非常強大的公民肌力。
所以，這總是從小處開始，但希望它能非常快地成長到甚至國家層級，因為現在我們有了語言模型，在今年這是第一次能夠彙整那些感受、質性發現，而不會產生幻覺。
第一個產出就是我們正在錄製的這個 Podcast，因此我們將以創用 CC 授權分享許多與多元宇宙和 AI 倫理相關的 Podcast。就像我的傳記電影一樣，有一部名為《成為夠好的祖先》的紀錄短片。片長只有 21 分鐘，現在已經贏得了四個獎項。
但所有的毛片都在公有領域中開放。您可以到 AudreyT.box 下載將近一 TB 的影像素材。而且像集體智慧計畫就已經在重新利用許多這些素材來製作 AI 倫理的短片。還有一本青少年小說，還有一部漫畫（日本的插畫版）。
這非常令人興奮，我們如何能夠讓專業的傳播者和對 AI 倫理感興趣的業餘人士參與進來，為他們提供可以混搭和重複使用的原始素材，並確保人們了解，我們實際上是有希望將反社會媒體轉向利社會媒體的，還有更多其他的可能。這是第一件事。
第二件事是，我將記錄這些想法，例如，在猶他州，他們剛通過了一項關於在社群網路之間提供「出口匝道」的法律。所以明年在猶他州，如果您從，好比說 TikTok，切換到 Blue Sky，您不只是下載您的資料，它規定 TikTok 必須雙向持續轉發您的新按讚、新粉絲、新內容。這就像號碼可攜性一樣。
如果您更換電信公司，您不必更改號碼，因為如果您必須更改號碼，新的電信公司將無法與舊的電信公司競爭。我小時候，ATM 只允許您用同一家銀行的卡片領取現金。同樣地，新銀行沒有地方設置 ATM，直到政府介入並說，為了促進競爭，我們實際上需要跨行協定，這樣您就可以跨越不同銀行領取現金。
很高興看到猶他州和其他地方現在正在著眼於社群網路之間的這些出口匝道和入口匝道。因為這樣一來，社群網路就無法困住任何人。您以前如果不放棄所有的社群連結、家人連結、相簿之類的東西，就無法切換到更符合倫理的平台。
而我將記錄這些已經通過或正在審議中的具體政策，並基本上分享一本「多元宇宙教戰手冊」，讓那些想將 AI 導向多元宇宙的人，特別是政府單位，確切知道該怎麼做、需要通過什麼樣的法律。最後，我也會分享教戰手冊，教導草根社群、學術界人士以及實務工作者，即使他們不是州長、不是市長，也可以直接應用這些技術。他們也可以使用這些利社會的搭橋平台，例如，讓 AI 系統不只是諮詢設計者本身，而是去諮詢那些受過度依賴之苦、受偏見之苦的人們，並將人們的這些期望轉化為「模型規格」，利用這些規格來引導 AI。
這是一種稱為「審議式對齊」的技術，我認為這項技術在讓人們引導 AI 工具符合其社會規範方面，充滿了巨大的潛力。
當然。我在擔任政委時，有很長一段時間在臺北社會創新實驗中心工作，那裡名副其實就是一座公園。沒有牆壁。
您可以直接走進去，例如看到一些自動駕駛三輪車開得非常慢並與人互動。那些是麻省理工學院媒體實驗室的作品。每個星期三我都有開放的辦公時間，所以人們，任何人都可以來和我對話，這些對話都會在創用 CC 授權下留存紀錄，討論他們正在做的專案。所以當我建立那個實驗中心時的期望是，創新者不應該只是躲在車庫裡而不與人交談，整個社會都可以參與創造的過程並聚集在一起。
我們也利用那些空間在臺南和臺北舉辦了協作會議。我們舉辦了對齊大會，詢問人們 AI 如何影響您？您對 AI 有什麼感覺？透過有人引導的對話，我們實際上有將臺北和臺南民眾想法中的希望和恐懼，用來微調我們的主權模型——臺灣可信賴生成式 AI 對話引擎（TAIDE）。結果發現他們對於 AI 在社區中的角色有著非常不同的期望，我們使用所謂的「憲政 AI」來微調 TAIDE，使其符合人們的願望。
因此我確信，一旦人們了解真的可以聚在一起，或許過幾遍關於 AI 如何對社區產生影響的情境，然後只是分享您的感受如何？您希望它如何變得更好？幾乎像變魔術一樣，在一天結束時，您就能對不同群體的人們共同的感受有一個全面的概觀，您可以衍生出政策，您可以衍生出模型規格。
您可以單純從這種人們互相交談和傾聽的過程中，衍生出評估、基準測試等等。我很樂意在新建築裡舉辦對齊大會。
是的，絕對的，這也可能引發關於數位權利的新對話框架。例如，去年 3 月，臺灣的許多人注意到社群媒體上的深偽廣告有增加的趨勢。人們會看到 NVIDIA 執行長「黃仁勳」的影像說著：「我想回饋我們的國家，我想給你一些免費的加密貨幣」之類的話。
當然那不是黃仁勳。那是深偽。但如果您點擊，「黃仁勳」真的會和您說話。
拜能即時合成深偽語音的 NVIDIA GPU 所賜，這非常有說服力。另一方面，Facebook 正在從這些廣告中獲利，因為詐騙者在廣告版位上付的錢，結果比普通的中小企業還要多。因此，政府沒有介入並說「我們來審查廣告吧」等等。
因為臺灣人民不能接受這樣，我們在網路自由方面是全亞洲最自由的，我們只是問人們：「您感覺如何？」我們發送簡訊給全臺灣 20 萬個隨機號碼，只問「您感覺如何？」他們給了我們他們的回饋、他們的感受，我們也問：「您願意志願參加一場關於網路詐騙、廣告的對齊大會嗎？」有數千人報名，我們選出了 450 人，他們在統計上具備臺灣人口的代表性。他們在 10 人的房間裡進行審議，所以這 45 個房間經過了長達半天的討論，談論各種不同的措施。例如，一個房間說。
如果 Facebook 發布了以黃仁勳為主角的廣告，我們應該假設它是詐騙。除非黃仁勳在上面進行數位簽章，我們應該把預設值翻轉過來；另一個房間說。如果 Facebook 做這種站內廣告，我們當然應該對他們開罰，但我們不應該止步於此，如果有人被騙了，比如說 700 萬美元。
Facebook 應該對那 700 萬美元負責。只有這樣他們才會遵守。另一個房間說，TikTok 字節跳動，他們當時沒有臺灣辦公室，所以當我們讓他們承擔責任時，他們可以直接忽略我們。
如果他們忽視我們該怎麼辦？他們說我們應該慢慢地對連線降速，這樣以他們影片為主的服務載入就會越來越慢，於是他們所有的生意都會流失到別處。所有這些想法都是在行動者的行為層面上，而不是在內容層面上，因為這不是審查，所以它們被超過 85% 的人認為符合比例原則，無論他們的年齡層、居住地、性別、職業為何等等。所以那是去年 3 月的事，然後我們在 4 月與科技巨頭確認，5 月提出法律草案，到 7 月就全部通過了，所以今年，如果您在臺灣滑手機，您已經看不到任何假廣告了。
這表明，除了如您剛才所說的去告知大型科技開發者之外，這也能非常快地告知國會議員，因為沒有人想被看作是「支持詐騙黨」，所以無論大型科技公司進行了多少遊說等等，一旦我們展示出實際上每個人都同意人民提出的這些措施，那麼對齊大會也可以擁有政策實權，而不僅僅是建議。
當然，這個名字來自我在 2016 年剛成為數位政委時的職務說明，臺灣以前沒有這樣的職位，所以人事部門請我寫一份職務說明。結果在臺灣的華語中，「數位」（shuwei）既有 digital 的意思，也有 plural（複數、多元）的意思。所以我寫了一段祈禱文作為我的職務說明。
很短，是這樣的：「看見萬物聯網，我們將智慧聯網；看見虛擬實境，我們將實境共享。看見機器學習，我們將協力學習。
看見使用者體驗，我們將體驗人際。聽說奇點即將接近——我們始終牢記：多元宇宙，已經來臨。」
所以這就是我的工作。它與奇點形成了對比，奇點是指 AI 系統變得如此強大，以至於它可以用最少的人類輸入來訓練它的下一個版本。然後下一個版本可以在沒有人類輸入的情況下訓練出更強大的版本。
這被稱為「超級智慧起飛」，到那個時候，它將把所有人都拋在後頭，而人類歷史、文明規範、社會對這個新的超級智慧將不再具有相關性。但我認為那種預設會把所有人都拋在後頭的願景，並不是人們想去的方向。人們其實想提醒自己，多元宇宙這條水平的路徑是一條更好的路，也就是培養我們的社會差異、我們的多樣性。
但是使用 AI 系統來搭起這些多樣性之間的橋樑，這樣我們才能找出如何共同生活的方法。對我來說，AGI 的意思就是擴增群體智慧，所以任何創新、任何發明都能像個人電腦一樣，幫助每個人都感到被賦權，每個社區都感到被賦權，而不是像大型主機那樣，您必須提交打孔卡讓非常大型的資料中心去運算；每個人都可以直接分叉、混搭彼此的試算表、桌面出版，將電腦連結成網際網路等等，並享受一條更加水平的路徑。這就是本書所探討的主要思想。
完全正確。正如我所提到的，我們在對齊大會中使用了 AI 系統。在 10 人的房間裡，我們不使用真人引導員。
房間本身就是引導員。它鼓勵安靜的人發言。它將干擾限制在五秒或更短的時間內。
它提供即時逐字稿，讓人們可以透過共筆筆記看到正在發生的事。它還能發掘人們不同的想法中「罕見的共識」，將它們縫合在一起。沒有任何一位人類引導員可以同時引導 450 人。
而且即使我們有 45 位小組引導員，他們也無法在會後立即心靈交融並立刻產出摘要。然而，語言模型可以做到這一點，而且從今年開始，幻覺的情況已經非常少了。然而，我們用來做這件事的模型可以是開源的。
