嗯，其實有一些協議。例如，擁核國家大致上已經同意，他們不會將這些人工智慧系統與發射核武的決策系統連結起來，我想，這算是一個開始。當然，這不是很全面。
它並沒有阻止任何形式的擴散，但至少人們確實看到了這是一個危險。這是一個風險。如今，正如我們所提到的，人們擔心過度依賴、擔心上癮，特別是對於年輕人，我們看到世界各地有許多人倡議使用「年齡訊號」，這樣就不需要政府監控每個使用社群媒體的人，有一種方法可以保持隱私，但讓每個人發出信號表明他們是否年滿 16 或 17 歲，透過這種方式，我們可以圍繞著適齡的回應來設計系統。
同樣地，這也有一些治理機制。另一方面，我認為公民社會和研究人員能做的，遠不僅是向國家和政府倡議這些政策。我們能做的是，再次採取水平的路徑來展示，對於特定的任務、特定的用途，實際上一個通用智慧系統的能源效率較低、實際上較不可預測，而且幻覺遠多於較小的系統——這些小系統可能是從大型系統中蒸餾出來的，但它們是為特定目的而製造的，也更容易監控，從而展示一條可行的水平路徑。例如，在巴黎 AI 峰會上，我與 Yann LeCun 等開源領域的人士，以及 Eric Schmidt 等安全領域的人士，共同發起了「強健開放線上安全工具」（ROOST）的理念。ROOST 的理念是，每個人都可以團結起來，而不是等待像微軟這樣非常龐大的科技巨頭來偵測線上兒少性剝削內容等等——那種方式根本無法擴展。現在隨著開源深偽模型的擴散，我們實際上應該像網路安全社群一樣團結起來，廣泛地偵測並分享我們的威脅指標。
我們可以在合法範圍內將那些圖片轉化為文字（像是誘拐文字），持有這些文字是合法的，並使用聯邦式學習和其他方法，來確保我們保護相關人員的隱私。然後在即時狀態下，以去中心化和開放的方式訓練模型，偵測如何阻止這類線上傷害。這將原本「指定一個防護組織，然後祈禱它不會變壞或腐敗」的模式，轉變為一種更基於韌性的防禦姿態。與其只是被動防禦，我們每一個人都可以為監控、解決方案以及威脅指標做出貢獻，這種韌性思維讓每個人都參與其中，不遺落任何人，並分散了權力。
這被稱為差分加速；我們加速 AI 的非軍民兩用、防禦性用途，以一種民主、去中心化且具防禦性的方式。
是的。而且一旦安全社群和開源社群確實對這些措施達成共識，政策制定者的工作就會變得簡單許多。當我是部長時，如果頂尖專家們互相爭論，我的直覺會是，好吧，我們再等六個月，對吧？
但如果他們確實同意，好，這是我們現在應該共同進行的投資，那麼對於政策制定者來說，開這張支票就非常容易了。
謝謝您。讓我們攜手共創無限未來。
嗯，我也有用 Granola，它確實非常方便。
它是輔助型智慧（Assistive Intelligence）。
有些人會說，這其實是同一個危機，他們稱之為「元危機」（metacrisis）。
或是「複合式危機」（polycrisis）。
我是唐鳳。我的工作一直是致力於推動持守的安那其（conservative anarchism），也就是尊重既有的傳統和體制，並以非強制的方式來改變它們——將垂直、由上而下的控制，轉變為水平、自願的合作。
這和任何涉及暴力、破壞或脅迫的無政府主義分支都非常不同。我們不用脅迫來對抗脅迫。我從小深受道家影響。所以，「持守的安那其」換個說法，其實就是 道家思想 。
我小時候，臺灣還不是民主國家，仍在戒嚴時期。我的父母都是新聞工作者。我父親 1989 年 5 月 12 日到北京，隔天北京學生就絕食發動民主學運，他待在天安門直到六月一日才回來，對我們家來說非常幸運。
那年十一月柏林圍牆倒塌，隔年一月他就到德國攻讀政治學博士，也有到柏林採訪民運人士年會。他在薩爾蘭（Saarland）——靠近法國邊境的地方——攻讀博士，論文主題就是天安門運動中的民間自主組織。
我曾跟著他去德國住了一年，當時我們家的客廳，也有來自北京、上海或其他地方的留學生來訪——二十出頭、在天安門事件後持續關心民主的年輕人。
在臺灣，與此同時正發生著野百合學運和其他運動，它們以完全非暴力的方式呼籲民主化。親身經歷這一切，對我的形塑至關重要。
對我來說，接觸早期網際網路，和與民主運動者一起工作，根本是同一件事。
我不會說哪個是單一的轉捩點。我投入網際網路治理、網路自由的歷程，和我走向民主化的軌跡，是兩條平行的路，最終匯流在一起。
完全正確。在臺灣，借助網際網路的力量來解除戒嚴、推動民主化的過程中，社會運動、政治和科技是密不可分的。
網際網路治理的先驅們很多都還在。我到現在還每隔幾週就和 David D. Clark 一起工作。他提出了「粗略的共識與進擊的程式」（rough consensus and running code）這個概念。
早期的網路工程先驅們設計了一個平權的系統。任何有電子郵件地址的人都可以參與，任何人都可以自我提名進入治理委員會，選舉人甚至是抽籤決定的。這是一個非常精密的制度。我在 14、15 歲時就參與其中——比我能投票還早了五年——沉浸在一個叫做「網際網路治理」的先進政治體系裡。
當我滿 20 歲，第一次投票是投里長選舉。我支持的候選人，就以一票之差險勝。
我的第一票，真的就起了關鍵作用。
在太陽花學運之前，g0v（零時政府）就已經在各種抗議活動中提供網路連線支援了。2014 年，正好是 YouTube Live、Facebook Live、Twitch 這些平台達到商業級穩定度的第一年。也就是「直播元年」。
我翻譯了曼威・柯司特（Manuel Castells）《憤怒與希望的網絡》（ Networks of Outrage and Hope ）的部分內容，並深入研究他的網絡力量理論。我們深受當時西班牙等地由網路促成的社運浪潮影響。我們處在那波浪潮的尾聲，並從對「佔領運動」的研究中獲益——像是各地的佔領運動會互派兩名代表到其他佔領區的國際連結模式。
那感覺就像是將理論付諸實踐。我們開發了新的應用，但柯司特的理論早已在我腦中成形。它影響了我們對 基進透明 （radical transparency）的堅持，以及我們不僅是抗議，更要 展示革新後的民主制度 的承諾。這些理念都是直接來自他的著作。
公民基礎建設（civic infrastructure）。
會有很多波浪，但不知道哪一波會正好遇上那個緊急時刻。在一個「開放創新」的文化中，一旦你撞到牆，某些先進的浪潮就會「穿隧」過這道牆——就像量子穿隧（quantum tunneling）。這是相當不同的變革理論，不同於傳統社會運動那種累積公眾訴求、攀升支持度曲線，然後推動體制內改革者的模式。
當情況變糟——私人損害、混亂、極化——這些都可以成為觸發點。人們會受夠了，然後集結起來。公民基礎建設就像內燃機：如果你能在那個時刻駕馭衝突所產生的社會燃料，它就能創造出美麗且共創的成果。如果你沒有，就像許多佔領運動所顯示的，它最終只會消散。
是的，公民肌力（civic muscle）。我在 Medialab-Prado 2015–2016 的活動中也感受到這點。在 15M 運動之前，已經累積了大量的公民肌力。15M 運動只是既有連結的前緣展現。
在臺灣，我們經歷過 SARS。
是的。SARS 期間，我們的死亡人數比任何國家都多。疫情之所以被控制住，是因為它毒性太強——具有自我限制性。它沒有大規模傳播，因為人們很快就病倒了，但它本來可能非常糟糕。
我們當時已有國家健保系統，但用的是紙本卡。只有澎湖在試辦 IC 卡。沒有電子系統來提供模控論式的回饋（cybernetic feedback），當時一片混亂——電話佔線，每個人都在打給每個人。
當時負責協調 SARS 的衛生署長陳建仁，後來在 COVID 期間擔任副總統，他是約翰霍普金斯大學訓練出來的流行病學家。SARS 剛結束，他就設計了中央流行疫情指揮中心（CECC）。這個系統將所有部會集中在一個地方，由衛福部長擔任指揮官。溝通不再是大家打電話給彼此，而是有共享的儀表板、情報中心、加入政府的醫師（薪水甚至比次長還高）、個人防護裝備（PPE）的庫存等等。
我的角色是確保公民科技專家能充分利用這個基礎設施，讓它能觸及每一個人，並減少認知上的傷害和混亂——做到 快速、公平、有趣 （fast, fair, fun）——這些都是人們會投票支持的價值。如果沒有電子化的健保基礎設施，g0v 就沒有原料去設計接觸者追蹤、口罩地圖、疫苗預約等系統。
是的，但具體的設計需要考量隱私。舊的接觸者追蹤方式是讓人們手寫電話號碼，下一個人可以看到前一個人的號碼——這有隱私風險。Google 表單和其他場館層級的資料匯集，也造成了吸引駭客入侵的標的。
公民科技專家們批評了舊系統。我便和他們合作：我說，這是驅動舊系統的 API。如果你們能設計出保護隱私、零知識證明（zero-knowledge）的方法——讓場館不知道你的資訊、電信商不知道場館的資訊、政府也不知道任何事，但通知功能依然有效——那麼我承諾在三天內將它整合，讓這個公民的發明成為新的公共基礎設施。先 分岔 （fork），再 合併 （merge）——從一個原本不受歡迎的堅實基礎上進行創新。
我會被臺灣在世界各地的館處「召喚」。例如，二月在巴黎的 AI 行動峰會，我就分享了臺灣的經驗，之後我也去了慕尼黑分享。有趣的是，我聆聽了 J. D. Vance 的第一和第二次國際演說。那真是個特別的經驗。
上個月我本來要去特拉維夫參加「資安週」（Cyber Week）——匯集各國網路大使和資安官員的會議，不過現在延到 12 月了。我已經去過 20 多個國家了，平均每四天就要換一個時區。我所有的家當都裝在一個登機箱裡。
我的成果是分享臺灣的經驗，也就是如何建立能 抵抗極化、激進化和威權主義敘事 （「民主只會導致混亂與分裂」），促進 橫向信任 （horizontal trust）的公民基礎設施，傳播在資訊、網路和社會各領域中跨越分歧的同理心訊息。
一群人聚在一起，用大家普遍能接受的方式，為攸關他們自身的事務做出決定。
語言模型——能夠跨文化、跨學科理解質化人類表達中細微差異的人類等級認知引擎。電力催生了網際網路；網際網路催生了語言模型；而語言模型則包含了大部分的公開網路內容。網際網路的縮影，現在就在語言模型裡。
在臺灣 2019 年的課綱改革中，我們假設：任何可以自動化的事，終將被自動化。任何有標準答案、靠死記硬背學來的知識，都將不再重要。那些知識曾是基本教育的核心。當認知和多數運動功能都可由機器驅動時，什麼才重要？
我們決定， 好奇心、協作能力和對公共利益的關懷 才是重要的。這些不只是「識讀」（literacies），而是「素養」（competencies）。培養自發探索的好奇心、互動的協同合作能力、關懷社群共好的內在動機。這就成了我們的新課綱。
民主是人們可以接受的參與式決策和過程。這需要人人保持 敏銳 ——對實際需求和新興的共同挑戰抱持一種特別的好奇心，並有好奇心想一同解決這些需求。
記者就有這種好奇心——例如調查報導——而這正是獨裁政權不喜歡的。你還需要 當責 ：每個人都承擔一部分責任來解決部分需求，建立信心，鍛鍊 肌力 ，交付成果，並檢視 回饋 ——對實際發生的事情做出回應。
威權體制以命令方式思考：如果某個解決方案推行後，有些人不滿意，那些人仍然必須配合，因為這是國家政策。在民主制度中，如果不合適，我們會想出分岔方案——就像保護隱私的接觸者追蹤——讓更多人滿意。理想情況是，每個人都比以前更滿意一點，沒有人非常不滿意。威權體制旨在讓掌權者非常滿意；如果有人非常不滿意，那是他們的命運。
是的。保證任何約 10% 的聯盟都能否決對他們來說最糟糕的 10% 的提案。這是一個動態的聯盟。我們要求的是粗略同意（consent），而非絕對共識（consensus）——保護我們免於不想要的事物，而不是強制推行我們想要的事物。
