倫理應該是預防性的。它應該被設計在裡面，因為如果它被設計在裡面，那麼它就不僅僅是關於特設的評估，它應該是管線的一部分、過程的一部分；所以我不是說 ChatGPT 會像社群媒體這十年來的摧殘一樣糟糕，但我們確實覺得需要系統性地注入倫理和審議，事實上 OpenAI 也是這麼說的，他們將以更民主的方式讓他們的社群參與進來，以防止這種阿諛奉承的情況再次發生。
完全正確。是的，透過設計。
對我來說，當我們在使用或設計任何社會系統時，我們希望人們能以一種具有同理心，而不僅僅是同情心的方式，更好地了解彼此。當然，分享彼此的感受是好的。另一方面，如果您無法「心智化」，無法在脈絡中理解彼此的感受，那麼這些感受往往只會產生迴音，將人們困在共同的痛苦、同溫層之類的地方，甚至是憤怒之中。
所以，關懷的一部分是將痛苦脈絡化、將損害脈絡化、將人們的互動脈絡化的能力，這樣人們也可以一起推理，例如，如何不重複以前造成的損害，而不是只為了尋求報復之類的。對我來說，這是一種人際交往的技能，但也是一種心態，它說：我們不去滿足我們當下的本能衝動，而是去心智化我們的社會情境，並決定一個更好的前進方向。
這與簡單地說「你絕對不應該這樣做，你絕對不應該那樣做」那種本體論式的命令設定形成對比；這也與單純計算效用不同，例如說「我稍微開心一點，而你稍微不開心一點，但我開心的程度大於你承受的不開心程度，所以，總體來說我們實際上是正面的」等等。它提供了一種非常不同的演算方式，它不是單純把事物加總起來，或是在所有情況下都只說您應該做這個或不應該做這個，而是考慮每一個具體情境，並找出之後如何能生活得更好。
這非常重要。正如我在臺灣提到的，「digital」和「plural」是同一個詞「數位」，所以對我來說，「數位」不是要取代面對面的人際連結。它始終是關於尋找更好的方法，來連結那些您一開始可能不認識的人（像是陌生人，即使他們是您的鄰居），或者那些您起初覺得有點冷漠、缺乏好奇心的人，然後發現其實你們確實有共同關心的事物，這在面對面的情境中同樣很難做到。很難打破僵局。
但在網路上的「快速信任」意味著我們可以更輕易地發現我們彼此關心的話題。然後從這些話題開始，我們再進入面對面的強連結。關於這種關懷的一件事是，雖然您當然可以對某人負責，但關懷意味著您自己承擔起責任。
您不會只是把這一切委派給機器人。如果您把一切都委派給機器人，您可能仍然是一個負責任的父母或負責任的照顧者，但您實際上並沒有培養自己關懷的能力。關懷中有一種非常深刻的、個人關係的層面，我認為數位技術在這裡是為了強化它，而不是奪走它。
是的，絕對的。事實證明，您需要的這不僅僅是注意力，也需要覺察力。
嗯，其實有一些協議。例如，擁核國家大致上已經同意，他們不會將這些人工智慧系統與發射核武的決策系統連結起來，我想，這算是一個開始。當然，這不是很全面。
它並沒有阻止任何形式的擴散，但至少人們確實看到了這是一個危險。這是一個風險。如今，正如我們所提到的，人們擔心過度依賴、擔心上癮，特別是對於年輕人，我們看到世界各地有許多人倡議使用「年齡訊號」，這樣就不需要政府監控每個使用社群媒體的人，有一種方法可以保持隱私，但讓每個人發出信號表明他們是否年滿 16 或 17 歲，透過這種方式，我們可以圍繞著適齡的回應來設計系統。
同樣地，這也有一些治理機制。另一方面，我認為公民社會和研究人員能做的，遠不僅是向國家和政府倡議這些政策。我們能做的是，再次採取水平的路徑來展示，對於特定的任務、特定的用途，實際上一個通用智慧系統的能源效率較低、實際上較不可預測，而且幻覺遠多於較小的系統——這些小系統可能是從大型系統中蒸餾出來的，但它們是為特定目的而製造的，也更容易監控，從而展示一條可行的水平路徑。例如，在巴黎 AI 峰會上，我與 Yann LeCun 等開源領域的人士，以及 Eric Schmidt 等安全領域的人士，共同發起了「強健開放線上安全工具」（ROOST）的理念。ROOST 的理念是，每個人都可以團結起來，而不是等待像微軟這樣非常龐大的科技巨頭來偵測線上兒少性剝削內容等等——那種方式根本無法擴展。現在隨著開源深偽模型的擴散，我們實際上應該像網路安全社群一樣團結起來，廣泛地偵測並分享我們的威脅指標。
我們可以在合法範圍內將那些圖片轉化為文字（像是誘拐文字），持有這些文字是合法的，並使用聯邦式學習和其他方法，來確保我們保護相關人員的隱私。然後在即時狀態下，以去中心化和開放的方式訓練模型，偵測如何阻止這類線上傷害。這將原本「指定一個防護組織，然後祈禱它不會變壞或腐敗」的模式，轉變為一種更基於韌性的防禦姿態。與其只是被動防禦，我們每一個人都可以為監控、解決方案以及威脅指標做出貢獻，這種韌性思維讓每個人都參與其中，不遺落任何人，並分散了權力。
這被稱為差分加速；我們加速 AI 的非軍民兩用、防禦性用途，以一種民主、去中心化且具防禦性的方式。
是的。而且一旦安全社群和開源社群確實對這些措施達成共識，政策制定者的工作就會變得簡單許多。當我是部長時，如果頂尖專家們互相爭論，我的直覺會是，好吧，我們再等六個月，對吧？
但如果他們確實同意，好，這是我們現在應該共同進行的投資，那麼對於政策制定者來說，開這張支票就非常容易了。
謝謝您。讓我們攜手共創無限未來。
嗯，我也有用 Granola，它確實非常方便。
它是輔助型智慧（Assistive Intelligence）。
有些人會說，這其實是同一個危機，他們稱之為「元危機」（metacrisis）。
或是「複合式危機」（polycrisis）。
我是唐鳳。我的工作一直是致力於推動持守的安那其（conservative anarchism），也就是尊重既有的傳統和體制，並以非強制的方式來改變它們——將垂直、由上而下的控制，轉變為水平、自願的合作。
這和任何涉及暴力、破壞或脅迫的無政府主義分支都非常不同。我們不用脅迫來對抗脅迫。我從小深受道家影響。所以，「持守的安那其」換個說法，其實就是 道家思想 。
我小時候，臺灣還不是民主國家，仍在戒嚴時期。我的父母都是新聞工作者。我父親 1989 年 5 月 12 日到北京，隔天北京學生就絕食發動民主學運，他待在天安門直到六月一日才回來，對我們家來說非常幸運。
那年十一月柏林圍牆倒塌，隔年一月他就到德國攻讀政治學博士，也有到柏林採訪民運人士年會。他在薩爾蘭（Saarland）——靠近法國邊境的地方——攻讀博士，論文主題就是天安門運動中的民間自主組織。
我曾跟著他去德國住了一年，當時我們家的客廳，也有來自北京、上海或其他地方的留學生來訪——二十出頭、在天安門事件後持續關心民主的年輕人。
在臺灣，與此同時正發生著野百合學運和其他運動，它們以完全非暴力的方式呼籲民主化。親身經歷這一切，對我的形塑至關重要。
對我來說，接觸早期網際網路，和與民主運動者一起工作，根本是同一件事。
我不會說哪個是單一的轉捩點。我投入網際網路治理、網路自由的歷程，和我走向民主化的軌跡，是兩條平行的路，最終匯流在一起。
完全正確。在臺灣，借助網際網路的力量來解除戒嚴、推動民主化的過程中，社會運動、政治和科技是密不可分的。
網際網路治理的先驅們很多都還在。我到現在還每隔幾週就和 David D. Clark 一起工作。他提出了「粗略的共識與進擊的程式」（rough consensus and running code）這個概念。
早期的網路工程先驅們設計了一個平權的系統。任何有電子郵件地址的人都可以參與，任何人都可以自我提名進入治理委員會，選舉人甚至是抽籤決定的。這是一個非常精密的制度。我在 14、15 歲時就參與其中——比我能投票還早了五年——沉浸在一個叫做「網際網路治理」的先進政治體系裡。
當我滿 20 歲，第一次投票是投里長選舉。我支持的候選人，就以一票之差險勝。
我的第一票，真的就起了關鍵作用。
在太陽花學運之前，g0v（零時政府）就已經在各種抗議活動中提供網路連線支援了。2014 年，正好是 YouTube Live、Facebook Live、Twitch 這些平台達到商業級穩定度的第一年。也就是「直播元年」。
我翻譯了曼威・柯司特（Manuel Castells）《憤怒與希望的網絡》（ Networks of Outrage and Hope ）的部分內容，並深入研究他的網絡力量理論。我們深受當時西班牙等地由網路促成的社運浪潮影響。我們處在那波浪潮的尾聲，並從對「佔領運動」的研究中獲益——像是各地的佔領運動會互派兩名代表到其他佔領區的國際連結模式。
那感覺就像是將理論付諸實踐。我們開發了新的應用，但柯司特的理論早已在我腦中成形。它影響了我們對 基進透明 （radical transparency）的堅持，以及我們不僅是抗議，更要 展示革新後的民主制度 的承諾。這些理念都是直接來自他的著作。
公民基礎建設（civic infrastructure）。
會有很多波浪，但不知道哪一波會正好遇上那個緊急時刻。在一個「開放創新」的文化中，一旦你撞到牆，某些先進的浪潮就會「穿隧」過這道牆——就像量子穿隧（quantum tunneling）。這是相當不同的變革理論，不同於傳統社會運動那種累積公眾訴求、攀升支持度曲線，然後推動體制內改革者的模式。
當情況變糟——私人損害、混亂、極化——這些都可以成為觸發點。人們會受夠了，然後集結起來。公民基礎建設就像內燃機：如果你能在那個時刻駕馭衝突所產生的社會燃料，它就能創造出美麗且共創的成果。如果你沒有，就像許多佔領運動所顯示的，它最終只會消散。
是的，公民肌力（civic muscle）。我在 Medialab-Prado 2015–2016 的活動中也感受到這點。在 15M 運動之前，已經累積了大量的公民肌力。15M 運動只是既有連結的前緣展現。
在臺灣，我們經歷過 SARS。
是的。SARS 期間，我們的死亡人數比任何國家都多。疫情之所以被控制住，是因為它毒性太強——具有自我限制性。它沒有大規模傳播，因為人們很快就病倒了，但它本來可能非常糟糕。
我們當時已有國家健保系統，但用的是紙本卡。只有澎湖在試辦 IC 卡。沒有電子系統來提供模控論式的回饋（cybernetic feedback），當時一片混亂——電話佔線，每個人都在打給每個人。
當時負責協調 SARS 的衛生署長陳建仁，後來在 COVID 期間擔任副總統，他是約翰霍普金斯大學訓練出來的流行病學家。SARS 剛結束，他就設計了中央流行疫情指揮中心（CECC）。這個系統將所有部會集中在一個地方，由衛福部長擔任指揮官。溝通不再是大家打電話給彼此，而是有共享的儀表板、情報中心、加入政府的醫師（薪水甚至比次長還高）、個人防護裝備（PPE）的庫存等等。
我的角色是確保公民科技專家能充分利用這個基礎設施，讓它能觸及每一個人，並減少認知上的傷害和混亂——做到 快速、公平、有趣 （fast, fair, fun）——這些都是人們會投票支持的價值。如果沒有電子化的健保基礎設施，g0v 就沒有原料去設計接觸者追蹤、口罩地圖、疫苗預約等系統。
是的，但具體的設計需要考量隱私。舊的接觸者追蹤方式是讓人們手寫電話號碼，下一個人可以看到前一個人的號碼——這有隱私風險。Google 表單和其他場館層級的資料匯集，也造成了吸引駭客入侵的標的。
公民科技專家們批評了舊系統。我便和他們合作：我說，這是驅動舊系統的 API。如果你們能設計出保護隱私、零知識證明（zero-knowledge）的方法——讓場館不知道你的資訊、電信商不知道場館的資訊、政府也不知道任何事，但通知功能依然有效——那麼我承諾在三天內將它整合，讓這個公民的發明成為新的公共基礎設施。先 分岔 （fork），再 合併 （merge）——從一個原本不受歡迎的堅實基礎上進行創新。
我會被臺灣在世界各地的館處「召喚」。例如，二月在巴黎的 AI 行動峰會，我就分享了臺灣的經驗，之後我也去了慕尼黑分享。有趣的是，我聆聽了 J. D. Vance 的第一和第二次國際演說。那真是個特別的經驗。
上個月我本來要去特拉維夫參加「資安週」（Cyber Week）——匯集各國網路大使和資安官員的會議，不過現在延到 12 月了。我已經去過 20 多個國家了，平均每四天就要換一個時區。我所有的家當都裝在一個登機箱裡。
