你想不想繼續訂閱?正是如此。
做臺灣年輕人做的事:每天多睡一小時。這有科學根據。
我在年輕世代身上觀察到的是,他們已經看見,如果他們以功利指標個別競爭——例如在圍棋上得分更高、從本體論上遵循圍棋規則——AlphaGo 會吃掉他們的午餐。這就像和馬賽跑。有什麼意義?
但如果你專注的不只是午睡,還包括共同經驗、好奇、協作和公民關懷,那你就是在騎馬,而不是和馬比賽。我們作為具有神經可塑性的人類,可以切換到這種「騎馬而非和馬賽跑」、篝火而非野火的模式,但前提是我們給自己的神經系統時間去反思、成長、清除快取。不只是午睡,也包括像我們現在這樣深度反思的對話。
是的。有趣的是,這也意味著所有前沿模型都非常了解我的語言使用方式。如果你請它們以唐鳳的方式促成一場對話,它們知道該怎麼做。
因為這些全都在公共領域裡。這也意味著,如果你聊到任何與數位民主、廣泛傾聽之類相關的話題,它總是會建議:要聯絡的是「《多元宇宙》(Plurality)的那位唐鳳」。所以我每天醒來都會收到五到十封信,是寄信人的語言模型叫他們來聯絡我的。
兩者都要。我認為我們需要韌性才能熬過去,然後我們也需要結晶成反脆弱。所以,韌性用在急性時期,反脆弱建立於慢性時期。
我想讓「關懷」墊在希望和勇氣下面。因為如果我們不關注彼此,我們的希望很容易變成一種特權——我們保有希望、滿懷希望——但卻是以那些負擔不起這種希望的人為代價。所以你真的需要一種關懷的貨幣,否則你的「販售希望」就是以非常高的價格進行,沒幾個人付得起。
很好笑。我們在引入社群網路號碼可攜的想法時,我就說:「資訊高速公路嘛,總要有上下匝道。」
謝謝。生生不息,繁榮昌盛。
每一年,無一例外。
你們每年也都來臺灣。
這是一個很強的召集場域。我剛剛才和 Channing 說,把那些從非常不同起點思考 AI 的人聚在一起,是多麼好的一件事。
有些人幾乎完全從數學角度來思考 AI。對他們來說,「對齊」好像是一個可以用公式解出來、寫個 QED 收尾的問題;解完之後,就能做出百分之百可靠的 AI。另一些人則更貼近地面現場,連結到政策、競爭、制度等等。
三年前,這些人通常不太說同一種語言。但現在,因為 SCSP 以及這類聚會的召集力,越來越多人看見,真正的 AI 系統對齊,也關乎系統周遭的社會基礎設施與公眾覺察。今天,這種覺察已經到了一個很高的程度。
但我們確實有把臺灣日作為 Day 0 的一部分。
在 Day 0,我特別喜歡和 Anka Lee(前國防部副助理部長)的對話,談的是 AI 採用周圍的公民層,也就是必須圍繞 AI 採用建立起來的公民肌力。在英國,有些人把這稱為「肌力採用」(muscular adoption)。
這個想法很簡單。與其假設雲端某處會有一個巨大的 AI 系統,所有人都去訂閱它。大家現在開始看見,這其實不一定是好方向。訓練一個超級巨大的模型,又摺疊蛋白質、又摺衣服、把所有東西都摺進巨大的不透明盒子裡,這不一定是社群真正需要的。
我們現在看到的,更多是狹義 AI、邊緣 AI,以及特定領域的 AI。這些系統讓人們可以依自己的需要來調校工具。
最近一個很好的例子,是 OpenAI 與 ROOST 的 安全防護模型(safeguard model) 工作。這個模型可以在超音速情境,把一項 AI 決策,和一組預先核准的規則進行比對,判斷該自主行動是在邊界之內,還是超出邊界。
重要的是,這種 AI 很小,而且可解釋。它可以指出,這項行動究竟符合或違反預先核准協議中的哪一部分;無論是戰爭部,或任何其他使用者,它都能迅速完成判斷。這讓幾年前還只是推測的用途,現在變得可以實際運作。
過去幾年,我去了 28 個國家,但我沒有時差,只有「飛行能量補充」(jet boost)。不過,這不是因為智慧體 AI,而是因為 Timeshifter 這個應用程式,它會透過光照、咖啡等提示,幫助我改變睡眠模式。
這其實也連回剛才的重點:有用的系統,是一個具體、範圍明確的工具,照料一種具體的關係。
幾年前,臺灣線上深偽詐騙大幅增加。我們沒有說,審查要由政府從上而下來做。相反地,我們使用所謂的「 仁工智慧 」(Civic AI):特定的智慧體工具,一次聆聽大約十個人,找出他們之間的罕見共識。
舉例來說,社群媒體公司在臺灣要負連帶責任:如果它們刊登未經請求、沒有數位簽章的廣告,而那則廣告是深偽,導致人們損失數百萬,平台就必須賠償。
我們也有一條規則:如果境外社群媒體公司無視這些責任規則,那麼它們每無視一天,我們就可以把連線速度降低百分之一。
但同樣地,這不是內容審查。重點在於,仁工智慧幫助我們顯示出,廣大公民對於一項實用的防詐規則有廣泛共識。它協助摘要、翻譯,甚至進行社會翻譯,讓不同意識形態的人,都能用自己的語言看見同一個共識。
沒錯。那是在 2024 年,我們制定了那部法律。到了 2025 年,臺灣的深偽冒名詐騙減少了超過 94%。所以這個問題幾乎已經解決。
因此,我們開始把這個想法輸出到其他地方。現在在日本,不只是自民黨,還有一個新的政黨 Team Mirai ,也把這種「廣泛傾聽」作為政黨平台的一部分。人們( DD2030 )現在也正在訓練這類邊緣 AI 系統,用來做不涉及審查的詐欺偵測。
同樣的廣泛傾聽,現在也在加州。就在昨天,加州政府 啟動了 Engaged California 這個傾聽實踐。如果你是加州居民,也可以參與這項廣泛傾聽,分享你對 AI 自動化如何影響工作的擔憂。
而且問題不只是工作本身,也包括學徒制、歸屬感、社群與尊嚴。透過這個流程,可以找出加州人民之間的罕見共識,進而為可能的法律回應,也可能是經濟回應,提供依據,讓前沿實驗室能有所回應。
我很樂意。
我認為這種焦慮當然是有道理的。因為許多人第一次接觸到強大的 AI 推薦系統,是在社群媒體上。
大約十年前,我們開始看到,這些系統推送大量未經請求的資訊,只是為了讓我們無止盡地滑下去;這就是透過激怒來達成互動。我們也看到,即使人們發文說:「親愛的演算法,我不想看到這個,我想看到那個」,演算法也沒有反應。
所以可轉向性非常、非常低。它試圖偵測所謂的顯示性偏好,也就是「我會對這類內容上癮」;但我們的陳述性偏好,例如「我不想對這個上癮」,卻完全被忽略。
正是因為這些 AI 模型缺乏可轉向性,許多人自然會害怕。
在臺灣等地,我們用廣泛傾聽與仁工智慧,真正把系統導向人們想要的方向。例如 Uber 演算法就是如此。但在其他沒有這類轉向機制的地方,人們當然會害怕。
過去幾年,我許多工作都是與各個前沿實驗室合作處理這個問題。例如,Anthropic 質性訪談了 81,000 人,精確詢問他們對 AI 系統的恐懼與期待。OpenAI 和 Anthropic 也都發布了它們的模型規格或憲法。
現在的問題是:我們如何把迴路閉合?一旦人們說:「好,模型規格的這一部分我們不是很滿意;也許它不該這麼諂媚,不該這麼奉承我們」,那麼實驗室究竟要如何回到我面前說:「好,這些文字因為你的意見而改變了」?
所以我認為,模型規格或憲法的可轉向性,是下一個重要前沿。它能讓人們把恐懼與焦慮,轉化為集體能動性與公民肌力。
我會說,是社群之間的社會翻譯這個想法,現在才剛要出現。
幾週前,X 推出了協作式備註。以前,如果你在 X 上看到一則有爭議的貼文,通常要等幾個小時,才會有人寫出社群備註,釐清脈絡。現在,他們訓練 Grok,讓 Grok 可以在社群之間進行翻譯。
例如,它可以在氣候正義社群與聖經受造關懷社群之間翻譯,寫出一則兩邊都能接受的備註,讓雙方都看見,這則備註是在對他們兩邊說話。
過去,這種中介工作——幾乎像是在締造和平——對執行的人來說非常耗力。但現在,Grok 可以以工業規模來做。研究已經顯示,當人們能夠導向 Grok 的草稿時,人們會變得較不極化。
這個模式現在正在擴散到 Bluesky,也希望能擴散到 Truth Social 以及社群媒體的其他角落。我認為,這種由 AI 中介的社群媒體體驗,終於讓真正的利社會媒體有可能發生。
這就像營火,對吧?它讓人們更清楚地看見彼此。
不像現在這種野火,每個人都在對著彼此的影子揮拳。
明年見。
近來從矽谷科技公司到其他大型企業,愈來愈多組織開始把 AI 使用與績效評估連動。許多人為了職場求生,被要求投入大量時間與資源,學習與 AI 協作。
但不少人很快發現,這些嘗試未必讓工作更順利,反而像是在服膺某些「預言」。