當然這個是我們剛剛講到的一些比較現有的，就是之前的這種推薦系統，或者是生成式的 AI。當然我們在未來，我們現在就看到說，大家都在說 AI agents。這個字不知道怎麼翻：代理人、智慧體之類的。
大概就是說，你會授權這個 AI 在現實世界中去產生一些活動。這些活動它一定程度上可以代表你，或者甚至是就變成你。這樣的情況。所以各地都在想說，關於 AI agent 這件事情，我們要怎麼樣子來去做治理。
今天因為不是學術研討，所以我不特別在這邊講細節的部分。我在牛津有一個網站，叫做 「關懷六力」，6pack.care。
他講的就是說，我們要怎麼樣子去訓練 AI，不要變成說好像他只服務這個個人、或那個個人。我這個 AI 當你的代理人，別的 AI 當他的代理人。但是我把你的想法最大化，然後他的代理人把他的想法最大化。事實上兩個中間如果有衝突的話，就等於把這兩個的衝突最大化。社會的撕裂就越大，衝突的程度就越多。這個顯然不是一個好下場。
所以我們現在要訓練代理人，他要能夠像日本有個講法，叫做「讀空氣」（空気を読む）。就是去看到在一個房間、一個社群裡面，人跟人之間的哪些關係是重要的，必須要去保存，甚至必須要去促進的。這個叫做覺察力。
他在這樣子有覺察能力的時候，他就可以好像是一整個團隊的教練，而不是一個個人的導師那樣子，去協助整個團隊能夠彼此之間協作變得更加容易。這個就是大概的想法。
後來我在日本，這個演講本來是在日本同志社大學做的。因為是在京都。京都大家可能知道，就是神道教的一個很重要的城市。
所以我在那邊就提出一個想法說：如果要訓練一個非常大型的這種超級人工智慧，那個就有點像全知全能的天神。但是在日本他們有一個概念叫做「地神」。就是跟我們這邊土地公、土地婆是類似的概念，雖然不能說完全一樣。叫做 Kami（神）。
他們那邊的 Kami，就不是好像變成全部全知全能。而是說它就是關心可能是一條河流、一個樹林。甚至他們雷電也有 Kami，什麼都有 Kami，萬物都有 Kami。所以它是在促進某一個特定的社群，可能一個村莊有一個 Ujigami（氏神），就是照顧那個村莊的一個族人。讓這些人中間的關係變好。但它不特別去管外面的別的事情。
如果每一個小的社群，都能夠去把 AI 的代理人，訓練成他們那個社群裡面覺得很好的智慧體的話，那就可以看到說，他們能夠很好的分工合作。
就好像之前花蓮救災的時候，有很多支援的在地力量。就是沙包、鏟子，或者是機具的開挖等等，是在地特定的情境之下，按照花蓮實際受災的情況，解決當地當下的問題。
沒有哪一個 agent 在這個情況下，是很抽象地想要說，我們要 GDP 增加 3%、4%，那種最大化一個數字。而是說在地有哪些需求，我就盡我自己的力，在我的專長裡面去說，那我可以解決這一小部分的問題。
那這樣子的做法，就是所謂的有特定的界限（Bounded）的這個想法。那我們現在認為是設定 AI 智慧體，以及幫 AI 智慧體做訓練的時候，這樣才能夠去促進他跟人，以及人跟人中間協作的這些力量。
如果不是這樣做的話，會造成一個結果。就是我們之前在 400 多個人討論的時候，確實當時也有同事問說：「我們為什麼要花那麼多時間，讓人跟人之間彼此討論？為什麼不是你叫一個 AI 去跟個人對話，討論這個題目。只要講一個小時，你就知道他的偏好。然後這 400 多個人，就有 400 多個 AI 代理人。你讓那 400 多個 AI 代理人、400 多個機器人討論就好了。」
這樣子產生出來的政策，在國際上研究證明說，這樣產生出來的政策，絕對不會比人討論的差。而且你還不需要花那麼多的時間。
但是這樣的問題就很像說：我想要健身，但是我派我的機器人去健身房幫我練舉重。這樣機器人一定很厲害，可以舉很重。但是到最後就是我肌肉也沒有長。
所以就是說，我們剛剛講到這些審議式的、生成式的調查，它當然會產生出很好的政策。這是一回事。用 AI 來做像剛剛講到，在討論裡面去即時的做綜整、即時的去讀空氣，看那個意見是怎麼樣，然後去把它共鳴的地方能夠傳播出來。甚至是翻譯不同的想法、不同的語言、不同的文化中間。這些都是我們 agent 可以做的。
但是如果你從頭到尾就是 agent 一手包辦的話，那就會像剛剛講，就是送機器人到健身房舉重的那個情況。我們的 Civic Muscle，就是我們公民的肌肉的力量，很快就會萎縮了。所以這兩個部分還是要兼顧的，還是要有一些人際的參與。
好，我們回到我一開始講到的，就是社群媒體治理的題目來。
我們如果要把剛剛講到的這種比較是關懷的倫理，而不是我們叫效益主義或功利主義——就是最大化什麼東西的那個倫理——去放回我們現在的社群媒體的治理上的話，那有一些很具體的做法。
像我之前有跟猶他州（Utah），在美國的猶他州。當然就是 Governor Cox，Cox 州長。前一陣子在媒體上常常看到他，因為就是 Charlie Kirk 遇刺的關係。那他就率先通過了一個法案，那這個法案叫做「數位選擇法案」。它就是給我們在社群媒體中間搬家的那個遷徙自由。
意思是什麼呢？就是從明年 7 月開始，如果你是猶他州的居民，你想要從某一個社群媒體，Tiktok、X.com，你想要轉台到可能 Truth Social 或者是 Bluesky 的話。以前是你到這邊的話，你就歸零了。就是本來你的追蹤者、你的朋友、你的社群通通都不見了。所以基本上很少有人會這樣搬家的。通常都是一群人一起搬家。但是一個人搬家，他需要付出的成本是非常非常高。
所以這個法案就是說，你一旦搬家之後，就像你從遠傳改到臺灣大，你本來的門號還是可以留著。就是所謂攜碼的概念。
所以你若是猶他州的居民的話，你證明你是猶他州的居民。那這樣你舊的那個平台，就必須要一直把你新的交友、新的回文、新的按讚什麼，一直都 forward（轉寄）到你的新平台。所以你雖然在新平台才剛開一個帳號，但是你本來的朋友跟本來社群，通通都還是算你的。
當然在臺灣如果大家有在玩「脆」（Threads）的話，其實脆的選單裡面有一個，就是「開啟聯邦宇宙」（Fediverse）。如果你打開那個選單的選項的話，其實脆現在就有這樣的功能。就是你可以跟不是脆的別的網絡中間彼此之間互相按讚、互相回文等等。
但是猶他州基本上就是說，所有的社群媒體，只要它服務猶他州的居民，他都必須要提供這樣的功能。不然的話要罰非常非常多錢。
所以這個就是一個很好的概念。就是他有透過一個開放的架構，讓每個人都可以自由地轉台。所以他在競爭的時候，他就只能競爭他的服務比較好。而不是說我一開始就佔有市場的大部分，然後就把人鎖在裡面，然後就賭說你是會不轉台的這個情況。
就像一條資訊高速公路，但是就有一個法規說，你一定要有交流道、一定要有匝道。不能說你開到終點，沒有辦法下交流道。所以像這樣子的，就是開放式的 API、開放式的橋接式的可攜性，我覺得現在是蠻重要的一點。現在我們在歐盟、在其他地方，都開始有提出同樣的法案。應該是很快可能應該就會通過。
當然另外一個就是，剛才已經講的，X 上面或其他地方，它的排序以前是完全不透明的，也完全不開放。就是一個黑箱。你也不知道為什麼你現在看到這樣的東西。
現在我們也有在推動，可能會有一個透明性的法律。第一個是說你主動推送的這些，如果不是使用者設定它的偏好——就像剛剛講到的，你可以跟 Grok 說我現在想看到什麼東西，然後它再給你。
如果平台沒有辦法證明是使用者提出需求才推給他，而是平台為了刺激使用者留在平台上面，主動推給他的話，平台主動推的這一則，要算平台的言論責任。
這個就跟以前的狀況不一樣。以前是說，只要是平台的使用者發的，平台就不負責任。尤其在美國，Section 230（通訊端正法第 230 條）法案就講這個。
但我們現在基本上就是在改變對這個法案的見解。就是說，如果我既沒有追蹤他，也沒有告訴我的偏好系統說我想看到這種內容——然後我們在脆上常看到一個梗：「我辦中華電信的時候，沒有想要看到這一個」——如果它主動這樣推過來，然後它是有害的、或者違法的訊息的話，那平台就要開始負連帶責任。
同樣的，它是透過一個開放的、可審計的這樣一個架構，然後去確保說，平台如果又回去用最大化的功利主義的 AI 的話，它必須要付出它的責任來。
當然講到這邊，那大家可能會有一個很合理的懷疑。就是說在這個競爭非常激烈的這種世界裡面，我們就是已經過了十年之後，再來做這些政策上面的改變，那真的是有用嗎？還是說其實那些就是矽谷的大公司，就是又再發明下一代的 AI，然後我們剛剛的這些又好像不太管用了？
那所以其實重點還是說，我們多快的速度裡面，可以讓大家看到說一個創新出現，它到底是擾亂這個社會，擾亂的程度到多少？還是說它是對這個社會有幫助的？
舉例來說，像我小時候，當時大家發現說，在冰箱的冷媒，就是 Freon（氟利昂），它會破壞臭氧層。大家可能都記得，如果年紀大一點的話，看報紙都會看到臭氧層破一個洞的照片。
所以當然當時（氟利昂）是便宜又好用的化學物質。替代品在當時實驗室裡面才剛剛開始研究，還沒有辦法產品化。但是因為大家在報紙上都看到了臭氧層破洞的那種照片。所以他們就很快就簽了一個蒙特婁議定書。然後說在幾年之內，就算它替代品不成熟，但是你現有的破壞臭氧層的這種化學物質，就不能夠再用了。
所以重點就是說，我們要怎麼樣去確保說，我們把那個霧霾降下來之後，大家可以很快地看到說，全球有一個共識。就是你這樣子一種新的演算法，它很快的我們去量測，它造成全世界激化的程度馬上有變多。變多的話，我們就讓它好像那個臭氧層破洞的照片，讓大家都看到。
那在這個情況之下，那這些大廠合作就要比不合作，在經濟上面更有利。因為它如果不合作的話，很快就變成是，就像 Facebook 在臺灣被當作是詐騙的從犯。這樣子的這個做法。
而我們多快能夠達到這個目標？不是去 read the air，去讀空氣，去猜說其他人怎麼看。而是我們要 write the air，就是去寫入這個空氣。讓大家都看到說，現在大家有共同的證據，可以說這樣對社會是好的，或對社會是不好的。那這樣我們才會有這樣足夠的公民肌肉，去處理接踵而來的 AI 對社會的挑戰。
我想我們現在在一個蠻關鍵的轉捩點上。矽谷一直在講 super intelligence，超級智慧。但是我想要提一個概念，就是說我們需要的這種 super intelligence，其實就是我們自己，我們全民。
只要大家有彼此之間協調的能力，只要有彼此快速形成共識的能力。在這樣子的情況下，我們其實不需要一個外部的 super intelligence，去幫我們去好像健身房幫我們舉重一樣。
我們可以透過這樣子的方式去確保所有的民主國家都可以升級它的民主制度。到來的時候，我們就會像剛剛講的廣泛傾聽等等這樣的方式，能夠快速凝聚到大家雖然不太滿意，但是每個人都可以接受，也沒有誰非常不滿的這些解決方案。
所以大概今天就先講到這邊。我剛剛已經看到 Slido 上有非常多問題。所以接下來我們是不是就請老師上台，然後我們就大家在 Slido 上面的問題，或現場的問題進行問答。謝謝大家。
（掌聲）
雲端封建主義，是。
要怎麼達到「耕者有其田」的狀況？我想剛剛講到的數位遷徙自由（Freedom of Movement），這個是最基本的。因為如果你連搬家、攜碼的自由都沒有的話，你可以想像，像我小的時候，我記得當時的提款機，當時還叫提款卡，還不叫金融卡。
那為什麼不叫金融卡？金融卡的意思就是它可以跨行提款，那個是稍微後面才有的事情。如果是你都不能跨行提款，一開始所有好的位置，都已經被大的銀行已經設定住了。這樣你家新的銀行如果要競爭的話，是不可能競爭的。更不要說數位銀行，像將來銀行、Line Bank 這些。你所有提款機都不給你用，那到底辦個銀行卡還有什麼意義？
所以後來很快地，財金公司的前身（金資中心），就建立了金融卡制度。就強制說你可以收一點點手續費，但是你不能不提供跨行轉帳、跨行提款。
