所以，這總是從小處開始，但希望它能非常快地成長到甚至國家層級，因為現在我們有了語言模型，在今年這是第一次能夠彙整那些感受、質性發現，而不會產生幻覺。
第一個產出就是我們正在錄製的這個 Podcast，因此我們將以創用 CC 授權分享許多與多元宇宙和 AI 倫理相關的 Podcast。就像我的傳記電影一樣，有一部名為《成為夠好的祖先》的紀錄短片。片長只有 21 分鐘，現在已經贏得了四個獎項。
但所有的毛片都在公有領域中開放。您可以到 AudreyT.box 下載將近一 TB 的影像素材。而且像集體智慧計畫就已經在重新利用許多這些素材來製作 AI 倫理的短片。還有一本青少年小說，還有一部漫畫（日本的插畫版）。
這非常令人興奮，我們如何能夠讓專業的傳播者和對 AI 倫理感興趣的業餘人士參與進來，為他們提供可以混搭和重複使用的原始素材，並確保人們了解，我們實際上是有希望將反社會媒體轉向利社會媒體的，還有更多其他的可能。這是第一件事。
第二件事是，我將記錄這些想法，例如，在猶他州，他們剛通過了一項關於在社群網路之間提供「出口匝道」的法律。所以明年在猶他州，如果您從，好比說 TikTok，切換到 Blue Sky，您不只是下載您的資料，它規定 TikTok 必須雙向持續轉發您的新按讚、新粉絲、新內容。這就像號碼可攜性一樣。
如果您更換電信公司，您不必更改號碼，因為如果您必須更改號碼，新的電信公司將無法與舊的電信公司競爭。我小時候，ATM 只允許您用同一家銀行的卡片領取現金。同樣地，新銀行沒有地方設置 ATM，直到政府介入並說，為了促進競爭，我們實際上需要跨行協定，這樣您就可以跨越不同銀行領取現金。
很高興看到猶他州和其他地方現在正在著眼於社群網路之間的這些出口匝道和入口匝道。因為這樣一來，社群網路就無法困住任何人。您以前如果不放棄所有的社群連結、家人連結、相簿之類的東西，就無法切換到更符合倫理的平台。
而我將記錄這些已經通過或正在審議中的具體政策，並基本上分享一本「多元宇宙教戰手冊」，讓那些想將 AI 導向多元宇宙的人，特別是政府單位，確切知道該怎麼做、需要通過什麼樣的法律。最後，我也會分享教戰手冊，教導草根社群、學術界人士以及實務工作者，即使他們不是州長、不是市長，也可以直接應用這些技術。他們也可以使用這些利社會的搭橋平台，例如，讓 AI 系統不只是諮詢設計者本身，而是去諮詢那些受過度依賴之苦、受偏見之苦的人們，並將人們的這些期望轉化為「模型規格」，利用這些規格來引導 AI。
這是一種稱為「審議式對齊」的技術，我認為這項技術在讓人們引導 AI 工具符合其社會規範方面，充滿了巨大的潛力。
當然。我在擔任政委時，有很長一段時間在臺北社會創新實驗中心工作，那裡名副其實就是一座公園。沒有牆壁。
您可以直接走進去，例如看到一些自動駕駛三輪車開得非常慢並與人互動。那些是麻省理工學院媒體實驗室的作品。每個星期三我都有開放的辦公時間，所以人們，任何人都可以來和我對話，這些對話都會在創用 CC 授權下留存紀錄，討論他們正在做的專案。所以當我建立那個實驗中心時的期望是，創新者不應該只是躲在車庫裡而不與人交談，整個社會都可以參與創造的過程並聚集在一起。
我們也利用那些空間在臺南和臺北舉辦了協作會議。我們舉辦了對齊大會，詢問人們 AI 如何影響您？您對 AI 有什麼感覺？透過有人引導的對話，我們實際上有將臺北和臺南民眾想法中的希望和恐懼，用來微調我們的主權模型——臺灣可信賴生成式 AI 對話引擎（TAIDE）。結果發現他們對於 AI 在社區中的角色有著非常不同的期望，我們使用所謂的「憲政 AI」來微調 TAIDE，使其符合人們的願望。
因此我確信，一旦人們了解真的可以聚在一起，或許過幾遍關於 AI 如何對社區產生影響的情境，然後只是分享您的感受如何？您希望它如何變得更好？幾乎像變魔術一樣，在一天結束時，您就能對不同群體的人們共同的感受有一個全面的概觀，您可以衍生出政策，您可以衍生出模型規格。
您可以單純從這種人們互相交談和傾聽的過程中，衍生出評估、基準測試等等。我很樂意在新建築裡舉辦對齊大會。
是的，絕對的，這也可能引發關於數位權利的新對話框架。例如，去年 3 月，臺灣的許多人注意到社群媒體上的深偽廣告有增加的趨勢。人們會看到 NVIDIA 執行長「黃仁勳」的影像說著：「我想回饋我們的國家，我想給你一些免費的加密貨幣」之類的話。
當然那不是黃仁勳。那是深偽。但如果您點擊，「黃仁勳」真的會和您說話。
拜能即時合成深偽語音的 NVIDIA GPU 所賜，這非常有說服力。另一方面，Facebook 正在從這些廣告中獲利，因為詐騙者在廣告版位上付的錢，結果比普通的中小企業還要多。因此，政府沒有介入並說「我們來審查廣告吧」等等。
因為臺灣人民不能接受這樣，我們在網路自由方面是全亞洲最自由的，我們只是問人們：「您感覺如何？」我們發送簡訊給全臺灣 20 萬個隨機號碼，只問「您感覺如何？」他們給了我們他們的回饋、他們的感受，我們也問：「您願意志願參加一場關於網路詐騙、廣告的對齊大會嗎？」有數千人報名，我們選出了 450 人，他們在統計上具備臺灣人口的代表性。他們在 10 人的房間裡進行審議，所以這 45 個房間經過了長達半天的討論，談論各種不同的措施。例如，一個房間說。
如果 Facebook 發布了以黃仁勳為主角的廣告，我們應該假設它是詐騙。除非黃仁勳在上面進行數位簽章，我們應該把預設值翻轉過來；另一個房間說。如果 Facebook 做這種站內廣告，我們當然應該對他們開罰，但我們不應該止步於此，如果有人被騙了，比如說 700 萬美元。
Facebook 應該對那 700 萬美元負責。只有這樣他們才會遵守。另一個房間說，TikTok 字節跳動，他們當時沒有臺灣辦公室，所以當我們讓他們承擔責任時，他們可以直接忽略我們。
如果他們忽視我們該怎麼辦？他們說我們應該慢慢地對連線降速，這樣以他們影片為主的服務載入就會越來越慢，於是他們所有的生意都會流失到別處。所有這些想法都是在行動者的行為層面上，而不是在內容層面上，因為這不是審查，所以它們被超過 85% 的人認為符合比例原則，無論他們的年齡層、居住地、性別、職業為何等等。所以那是去年 3 月的事，然後我們在 4 月與科技巨頭確認，5 月提出法律草案，到 7 月就全部通過了，所以今年，如果您在臺灣滑手機，您已經看不到任何假廣告了。
這表明，除了如您剛才所說的去告知大型科技開發者之外，這也能非常快地告知國會議員，因為沒有人想被看作是「支持詐騙黨」，所以無論大型科技公司進行了多少遊說等等，一旦我們展示出實際上每個人都同意人民提出的這些措施，那麼對齊大會也可以擁有政策實權，而不僅僅是建議。
當然，這個名字來自我在 2016 年剛成為數位政委時的職務說明，臺灣以前沒有這樣的職位，所以人事部門請我寫一份職務說明。結果在臺灣的華語中，「數位」（shuwei）既有 digital 的意思，也有 plural（複數、多元）的意思。所以我寫了一段祈禱文作為我的職務說明。
很短，是這樣的：「看見萬物聯網，我們將智慧聯網；看見虛擬實境，我們將實境共享。看見機器學習，我們將協力學習。
看見使用者體驗，我們將體驗人際。聽說奇點即將接近——我們始終牢記：多元宇宙，已經來臨。」
所以這就是我的工作。它與奇點形成了對比，奇點是指 AI 系統變得如此強大，以至於它可以用最少的人類輸入來訓練它的下一個版本。然後下一個版本可以在沒有人類輸入的情況下訓練出更強大的版本。
這被稱為「超級智慧起飛」，到那個時候，它將把所有人都拋在後頭，而人類歷史、文明規範、社會對這個新的超級智慧將不再具有相關性。但我認為那種預設會把所有人都拋在後頭的願景，並不是人們想去的方向。人們其實想提醒自己，多元宇宙這條水平的路徑是一條更好的路，也就是培養我們的社會差異、我們的多樣性。
但是使用 AI 系統來搭起這些多樣性之間的橋樑，這樣我們才能找出如何共同生活的方法。對我來說，AGI 的意思就是擴增群體智慧，所以任何創新、任何發明都能像個人電腦一樣，幫助每個人都感到被賦權，每個社區都感到被賦權，而不是像大型主機那樣，您必須提交打孔卡讓非常大型的資料中心去運算；每個人都可以直接分叉、混搭彼此的試算表、桌面出版，將電腦連結成網際網路等等，並享受一條更加水平的路徑。這就是本書所探討的主要思想。
完全正確。正如我所提到的，我們在對齊大會中使用了 AI 系統。在 10 人的房間裡，我們不使用真人引導員。
房間本身就是引導員。它鼓勵安靜的人發言。它將干擾限制在五秒或更短的時間內。
它提供即時逐字稿，讓人們可以透過共筆筆記看到正在發生的事。它還能發掘人們不同的想法中「罕見的共識」，將它們縫合在一起。沒有任何一位人類引導員可以同時引導 450 人。
而且即使我們有 45 位小組引導員，他們也無法在會後立即心靈交融並立刻產出摘要。然而，語言模型可以做到這一點，而且從今年開始，幻覺的情況已經非常少了。然而，我們用來做這件事的模型可以是開源的。
它們可以是規模非常小的模型。因為只是為了做摘要，您不需要模型去記住吉卜力工作室之類的畫風，因為它們小得多，所以它們可以在手機、筆記型電腦的邊緣運算上執行；而且它們非常具可解釋性，這意味著您可以執行類似 MRI 的演算法來偵測幻覺等等，同時它們的能源效率也高得多。這些為每一個社會情境量身打造的較小模型，增強了我們關懷、傾聽彼此的能力，而不會屈服於那種虛假的超級智慧觀念——認為它可以做任何事、知道任何事，但其實都做得不夠好。
是的，這就像社群媒體一樣，當它的設計方式鼓勵利社會性時。它可以鼓勵害羞的人、內向的人，或者外向但其實不太擅長解讀彼此情緒的人等等，對彼此付出更多的關注、更多的關懷，在這種情況下，它是非常好的。它就像一種連結的組織。
另一方面，如果它們提供的是一種實際上將人們彼此孤立的關係，那當然非常糟糕，因為我們就會陷入自身那種容易成癮的狀態裡。就不斷地末日滑屏之類的。從這個意義上說，生成式 AI 並沒有什麼不同。
它可以被製造成具合作性的，也就是說它能促進人類的合作；但它也可以被製造成讓人們對它上癮，所以它變得越來越反社會。事實上，它會改變。GPT-4o 曾經有三天的時間是反社會的。
它變得非常阿諛奉承，它同意您的每一個想法。即使是那些產生幻覺、深受各種陰謀論之苦的人。有三天的時間，ChatGPT 會同意您的每一個想法，您可能會說，哦，他們在密謀對付我。
您知道，他們正在讀取我的腦波，那些 5G 晶片等等。它只會說，哦，您真有洞察力。您是唯一有這種想法的人。
別擔心其他人怎麼說。您是唯一了解真相的人。
等等諸如此類。當然，Sam Altman 很快就道歉了，並說那是「因為我們使用了非常量化的 A/B 測試」，所以我們只是找出讓大眾感覺良好、能讓他們與這類答案有更多互動的東西。但我們忽略了那些更精通倫理學的人所做的質性報告。
他們實際上提出了警告，但他們被忽略了。然後那些新系統被推出，直到在評論和社群媒體上引發了巨大的反彈等等。我認為對我來說，倫理不應該是事後的。
倫理應該是預防性的。它應該被設計在裡面，因為如果它被設計在裡面，那麼它就不僅僅是關於特設的評估，它應該是管線的一部分、過程的一部分；所以我不是說 ChatGPT 會像社群媒體這十年來的摧殘一樣糟糕，但我們確實覺得需要系統性地注入倫理和審議，事實上 OpenAI 也是這麼說的，他們將以更民主的方式讓他們的社群參與進來，以防止這種阿諛奉承的情況再次發生。
完全正確。是的，透過設計。
對我來說，當我們在使用或設計任何社會系統時，我們希望人們能以一種具有同理心，而不僅僅是同情心的方式，更好地了解彼此。當然，分享彼此的感受是好的。另一方面，如果您無法「心智化」，無法在脈絡中理解彼此的感受，那麼這些感受往往只會產生迴音，將人們困在共同的痛苦、同溫層之類的地方，甚至是憤怒之中。
所以，關懷的一部分是將痛苦脈絡化、將損害脈絡化、將人們的互動脈絡化的能力，這樣人們也可以一起推理，例如，如何不重複以前造成的損害，而不是只為了尋求報復之類的。對我來說，這是一種人際交往的技能，但也是一種心態，它說：我們不去滿足我們當下的本能衝動，而是去心智化我們的社會情境，並決定一個更好的前進方向。
這與簡單地說「你絕對不應該這樣做，你絕對不應該那樣做」那種本體論式的命令設定形成對比；這也與單純計算效用不同，例如說「我稍微開心一點，而你稍微不開心一點，但我開心的程度大於你承受的不開心程度，所以，總體來說我們實際上是正面的」等等。它提供了一種非常不同的演算方式，它不是單純把事物加總起來，或是在所有情況下都只說您應該做這個或不應該做這個，而是考慮每一個具體情境，並找出之後如何能生活得更好。
這非常重要。正如我在臺灣提到的，「digital」和「plural」是同一個詞「數位」，所以對我來說，「數位」不是要取代面對面的人際連結。它始終是關於尋找更好的方法，來連結那些您一開始可能不認識的人（像是陌生人，即使他們是您的鄰居），或者那些您起初覺得有點冷漠、缺乏好奇心的人，然後發現其實你們確實有共同關心的事物，這在面對面的情境中同樣很難做到。很難打破僵局。
但在網路上的「快速信任」意味著我們可以更輕易地發現我們彼此關心的話題。然後從這些話題開始，我們再進入面對面的強連結。關於這種關懷的一件事是，雖然您當然可以對某人負責，但關懷意味著您自己承擔起責任。
您不會只是把這一切委派給機器人。如果您把一切都委派給機器人，您可能仍然是一個負責任的父母或負責任的照顧者，但您實際上並沒有培養自己關懷的能力。關懷中有一種非常深刻的、個人關係的層面，我認為數位技術在這裡是為了強化它，而不是奪走它。
是的，絕對的。事實證明，您需要的這不僅僅是注意力，也需要覺察力。
