黃亮崢

各位好，我是 James。歡迎收聽《數位關鍵字》，一起學習科技新知大小事。這幾年 AI 這兩個字幾乎天天出現在我們眼前。我們講的 AI 全名叫做人工智慧，顧名思義是人造出來的智慧。但今天這一集，我想跟大家玩一個只有中文才能玩出來的雙關——把「人工」的「人」換成「仁愛」的「仁」，變成「仁工智慧」。一個字之差，多出來的是什麼？多出來的是那一顆關懷別人的心。同樣一套技術，你可以選擇讓它有仁愛之心，也可以讓它為富不仁。這個諧音，正是我們今天這位來賓這幾年最投入的其中一件事。

說到這位來賓唐鳳，我想很多人對她的印象可能還停留在口罩地圖、簡訊實聯制這些防疫科技；但其實唐鳳現在的身份是牛津大學 AI 倫理研究院的研究員，手上正在進行的計畫名字就叫做「仁工智慧」，英文叫做 Civic AI。這個框架今年三月才剛在牛津正式發表，相關的書可能要到明後年才會出版。換句話說，今天這集節目很可能是唐鳳這個進行式計畫在華語世界的第一次深度暢談。我們非常榮幸邀請到唐鳳，歡迎。

首先我想替所有的聽眾把時間軸拉長一點——其實在入閣之前，我就有機會跟唐鳳認識。那個時候我們在 g0v 相關的社群，其實我知道你很早就在這個 g0v 社群，也在做 AI 相關的研究。

也就是說，其實你非常早就開始接觸我們現在叫做早期的 AI。後來你進到政府當政務委員，後來又做了數位發展部，一直到卸任，現在轉做我們的無任所大使。那今天你在牛津做研究，我可不可以請你跟我們介紹你這段時間的變化？你從卸任之後，主要在忙些什麼？

你會覺得在臺灣其實很特別嗎？我們像是一個實驗室，或者是有個很特別的土壤，讓我們有機會——也許是因為我們比較早全民都有寬頻網路，然後很多人可能也有各種 OS、有手機有電腦，可以讓我們非常容易接觸到這些資訊科技、數位科技，到現在可能叫做人工智慧的這些技術——所以我們才會提早開始，我們的社會碰到類似的狀況或問題？

其實真的很特別。像你在分享的時候我才想到，資訊科技這個進步發展的過程當中，臺灣其實相對都是比較前進的角色——我們接受的速度相對快。雖然我們通常都覺得自己在仰望美國、仰望其他國家，他們有什麼科技、我們怎麼還沒開始用呢？從最早的電腦化，一直到 E 化、M 化，每次從電腦、網路、行動網路，到現代人工智慧，我們都在這條道路上走得比較快。

可是我想往下問你：既然這麼多國家、這麼多社會、這麼多領袖都希望聽聽你分享我們的臺灣經驗，又是什麼路把你拉到從我們現在談到的 AI、以人為主的仁工智慧——講到「仁」也許我們要用 mercy，英文這個字？——是什麼樣的想法讓你開始想到也許我們應該要來做這個？

原來是因為這樣的關係。我記得我自己跟你一起合作的很多過程中，就有討論到可能會對社會造成的影響——那的確差不多在二十多年前開始，很多人就在討論 recommendation system，或者是這相關的演算法。

所以你剛提到的這個一直滑的演算法，或者是後來造成所謂 echo chamber、中文可能叫做「同溫層效應」的演算法，大概都是這十幾年來，無論你叫它 big data 也好，收集各種不同的資料，然後透過各種不同的參數，一路去訓練下來，幾種流行的演算法，特別去連結到更多人的時候，很容易發生的一個現象。

我想這是一個很特別的現象。可是我也觀察到一個點，是我覺得這是人格特質很特別的一點，我想特別點出來。這是我自己的體會。當我們看到一個系統好像這裡有點狀況、那裡有點問題的時候，通常比較多人的反應是直接出來指責、出來罵說這個系統做得不好，或者是抗議叫系統的負責人或開發的人出來改它。

可是我覺得平常看到的這是我們絕大多數的反應，可是我觀察到從過去到現在的你其實都不太一樣。因為好像指揮或指責通常都比較容易。但是你通常都會很主動地開始去想、開始去討論，與其抗議而不動手，不如自己做一點點不同的示範。所以譬如說，無論你在參與政府的早期做的這個平台，像 Join 平台？

這特質背後的特色，你自己有發現你有這個特色嗎？怎麼都能夠在每一次看到這樣子的狀態的時候，能夠轉念很快地跟大家一起，尤其可能我都某種程度會覺得，其實走在非常前面的，能夠提醒或者是，我們要不要轉個念啊，想說我們能做什麼事。這是怎麼在你的身上可以不斷地有這種思考或想法出現？

其實這真的是很不簡單的修煉。我想這個修煉是很多不同的人，在面對情緒起伏也好，或者是面對環境發生變化，尤其現在社會變化那麼快，或甚至我們今天要談的話題——人工智慧，這個技術的步調這麼快的過程，大家可能都要一起去修煉的難題。

最後一塊我也想問你一件事是，現在的 AI 進展速度真的非常非常快。從我想對《數位時代》的聽眾來說，大概都不陌生的 Andrej Karpathy，我不斷地在我的節目上提到的一個角色，他講到 Vibe coding 到現在的 Agentic Coding 這種技術已經開始越來越可行、成熟，加上現在甚至有些人已經開始做 Harness，或者是做 Agentic Workflow 等等，這些不同的技術。

我一直在想一件事情，不知道你自己同不同意，現在這個算力或者計算的速度都越來越快，甚至絕對超過我們大多數的人類。我想對你來說可能也是類似的，很多時候都是幾千幾萬倍的速度。我們過去人類用來判斷一件事情好不好、對不對的方法，可能可以停下來想，或者是有沒有一些餘裕的那個時間，會不會其實這個人跟 AI 的速度越來越不對稱？在你看起來，有沒有已經看到什麼問題，或者是甚至你在看到這些 AI 發生變化的早期，就逐漸看出來的？

以我自己來說，我可能現在還停在正在練習怎麼樣 harness 的那個路徑上。但是我們自己在做這件事的時候就發現，很多人在理解這個不同的 AI 進展的程度上，或者是怎麼樣打造一個屬於自己的 pipeline 到最後可以駕馭好，你無論叫 AI agent 也好，或者叫做小精靈也好、地端龍蝦也好。所以我想對很多人來說，這是接下來可能都會面對到的挑戰，也會發生變化。

那你自己怎麼看超級人工智慧，或者是有些人叫做通用人工智慧，無論它分作 AGI 也好，或者是 ASI 也好，Superintelligence 等等的這些詞也好，你會真的認為很多業界現在正在共同推的那件事情，叫做打造一個單一的、更好的、更強的模型，就是一個超級智慧？還是你會覺得說，事實上也許這個超級智慧，還不是真正終極的，我們接下來會前往的那個平衡的方向？

所以其實是一個發展中的變化，然後到現在技術到達了某一個湧現的新的可能性的時候，開始像你現在開始在研究，或甚至要把這個我們接著要解釋的框架提出來——人工智慧到仁工智慧。

那事實上你從這個框架本身，開始進展到現在我們在講的這個仁工智慧的轉念，你可以跟我們介紹一下，無論在中英文或世界裡面，當然應該要怎麼去理解你的框架跟理解，所謂的仁工智慧，我們應該真正在意的事？

所以你可以說是在爸爸的身上驗證。

你剛剛描述的這種 AI 其實很特別，因為現在我想多數的人看到比較前沿的模型，或者前沿的 AI 實驗室也好，多半都是商業組織。所以它有幾個特色，比如說你要用它，如果你想要使用更多，你就必須訂閱；然後你如果用的更多，那你就必須訂閱會更多。

然後這些公司——就是你的訂閱費，可能要的還有你的資料——甚至像你剛剛講的，因為有其他商業模式的可能性，可能下廣告也好，或者以後可以推薦你買東西也好，還有各式各樣的方法。或者是輔助你完成某些任務，以至於他要跟你透過這個任務的結果來收錢。

其實我們這就可以講到非常多家公司和不同的商業策略，所以我也想特別問問你——這很特別——因為其實你打造的那個，原來是爸爸在用的這個，或者是用現在叫做很流行的這個龍蝦的這種。

日文的地神的意思。這個 AI，其實是一個相對來說是地端的。那這種地端的 AI，可及性跟隱私性，就是很容易就可以架設嗎？還是還要一段時間？但是應該會有越來越多人可以體會到這個雲端比較大的 AI 模型，跟一個在地的模型就可以解決的那個隱私性，是一般人有機會開始體驗的嗎？

我想這個的確是接下來很多人在討論這個 AI 的時候，其實有更多的選擇，包含今天你提到的這個選擇。其實我們在這個不同的視角裡面，尤其技術我們都會去測試，所以我們大概知道說這個每一個不同的模型或技術結構，它有哪些可實現性。但我想也提醒大家可以多試試，其實有非常多不同的工具，或者是 open source，也提供了很多不同的選擇。

這也就特別問你一個有趣的問號，大概這兩三年，也就是說你卸任之後，可是臺灣的經濟環境變化的過程，其實因為半導體加上 AI 的關係，全世界很需要我們的各種東西，所以我想這個也是現在我們看到的經濟的發展如此好的其中一個理由。

但是這個經濟發展就碰到很多限制的問題，他們為什麼需要？因為需要算力，所以我們大概都可以知道，如同我們剛剛所講的這些，我們常聽到尤其數位時代這個不太陌生，OpenAI，甚至現在剛上市的 SpaceXAI 等等的這些公司，在發展的這個過程當中，它都需要很多的算力。

可是我們已經開始看到了，就是算力會因為很多東西卡住，因為電力的有限程度可能會是其中一個瓶頸？

然後在下一件事情是，我們現在發現不是只有電力的瓶頸，在發展的過程當中，你要建一個資料中心，有好多東西你都要，網路也要，你也要記憶體，所以這些局部的這些設施也都會受到限制，是一個瓶頸。

然後現在像 Elon Musk 也談說這個 xAI 接下來的發展，其中一塊就是要把算力丟到太空裡面去，這個甚至丟到低軌衛星去，這都是可能會發生的事情。那所以就有非常多的討論，在討論 bottleneck 的問題，比如說我要怎麼解決半導體的生產的問題，他提的其中一個方法 Terafab 等等這些不同的做法，所以有人強調的是 TSMC，或者是 manufacture 的各種產能的限制，有人強調說這也許最後就是 hardware 才是整個成長限制的天花板。

你怎麼看待大家在討論這些限制，是不是其實有時候反而對於剛剛我們所提到的這個 AI，要稍微幫他畫一下邊界，跟人的使用的邊界來說，這也許才是真正的界線，也不是壞事，也許才可以有機會幫大家踩個煞車？

這代表我們看了太多科幻小說跟科幻電影。

所以你覺得，這就跟我們當初開始接觸這些電腦的這個發展一樣，從 mainframe 到 PC 的這個過程？這其實是個擺盪，都只有覺得現在的這些大模型，非得用多大的算力去推，或者甚至訓練一個所謂的多少參數的模型才叫好。其實有很多 distill down 的過程？

這又是一個非常大的變化的過程。那我也想特別邀請你，你剛剛在講仁工智慧的這個過程當中，你提到了一個非常特別的詞，就是借用到了這個倫理學裡面的研究，講到關懷倫理。

這個關懷倫理，其實有一個研究的哲學家特別有名，叫做 Joan Tronto，我可不可以邀請你幫我解釋一下，你一開始 introduce 給帶進到現在你研究的這個 Civic AI 的這個環節的這個過程，你是怎麼理解他的研究，在設計這個仁工智慧的底層？

對，好像通常要麼就是一種我們已經講好某個宣言，你就照這個宣言做；要麼就是你就是按照某一個框架，通常都只有這樣。他比較在乎那個所謂你特別強調的關懷，或甚至關係。

而且這種價值觀，我們好像在很小的時候就會理解到。

但是這的確，譬如說就像你講《孝經》，我們要別人試什麼叫做東方的孝順的這件事情，好像就是比較困難的。那到底是什麼意思？

我在讀你的這個研究的這個過程當中，我非常佩服其中一件事就是，你有特別能夠想到說，如果我今天要把這個價值觀、這一種思考能夠框架帶給國際的不同的反應，不是只考慮在我們的這個華文的語境裡面，讓大家可以理解的話，你要考慮到很多不同的文化屬性跟他們的背景，我們要用什麼方式去理解。

我必須回來講一個也是很個人的經驗，是我在我的研究經驗過程當中發現，其實我們臺灣有很多特別的價值的設計其實非常有趣。比如說早期我們在談其中一件事情，我們都會想說社區關懷，或者是社區的發展，然後在想這件事情的時候，我們就會想說，以前過去我們可能談過的，比如說數位落差這樣子的問題。那數位落差最容易的方法，或者是想像就是，很偏遠的地區，讓大家都能夠平均，而且他想要接觸就有機會可以接觸到網路，這是很多想法，而且不難去想像的。

對。我想你在做這個政策的時候，特別要在意這件事，可是很多時候，我們就把網路盡量拉到各個地方，可是你要真的讓一般人能夠享用到，最容易的方法，我就想到，我到那裡去蓋了一個什麼東西，然後讓大家去用。可是後來我就在做研究的時候，也發現在這個社會關懷上，其實你要讓大家用，你要到那個大家最容易接觸的那個場域去，也許他是圖書館，也許他不是，那哪些地方呢？他不只去公所，但是每個地方很特別的在臺灣，就是都有一個信仰中心，其實有聚落就有信仰中心，其實你拉到信仰中心去，你拉到學校去，通常大家都會到這些地方去。

所以在這些地方就最容易有機會可以聚集，可以去固定下來。所以無論你要推的今天是數位的這個政策，是教育的政策，是衛生的政策，長照等等，只要你把好的資源，帶到對的地方去，然後適當的設計跟引導，就有機會可以做到這件事情。

所以以我後來學到這件事情來說，很深刻的感觸到，所以你不要特別去建一個所謂的社區中心，那社區中心可能就原來就早就存在，它可能存在在那個信仰中心，或相關的位置上面，你只要找到那個對的點上，你針對這個地方去做，被在地容易去接觸、去受到歡迎，甚至被大家能夠很快的接受，跟學到這些東西。

所以我也想很特別的，請你幫我們介紹，你剛剛講到的這個，接下來我們要談的這個 Civic AI，從四個關懷倫理的這個觀點，傳統的關懷倫理，然後開始到現在變成所謂的關懷六力。就是我們可不可以用這個臺灣的在地語言跟大家解釋，就是這六力分別你所提到的每一種力，跟著這個我們現在談這個人工智慧的好跟壞，我們要怎麼樣去能夠讓更多人知道說，所以原來在這個彼此的關係裡面，我們要怎麼樣用，我們原來在社會就已經存在的那些價值，套用到現在每個人都在用的所謂的 AI、人工智慧下面去的時候，可以多做些什麼、多想些什麼，也許就可以發生變化。

我可不可以請你開始幫我們介紹這個關懷六力的想法？

沒錯，很分裂。

就是四個人有四隻鸚鵡，或四個小精靈，所以他們各自可能會討論出，他們各自的方向可能都不一樣。

現在很多人可能會在 Meta 上面七嘴八舌，在 Threads 上面討論，然後 call 那個 Meta AI 出來，找所謂的共識或者是可能性。

所以是在預訓練，收取資料的時候就已經在那個資料裡。

也就是說，某種程度我們可以這樣講，很像以前在都還沒有 AI 這些技術的時候，也許人們只能聚集在村口的這個廟口上面，並不是說話大聲的就贏，而是大家不斷的討論的過程，找到幾個話或者是關鍵字是那個共識，從那裡開始去擴散到最後變成所有人都同意的某件事情，這個才是第一個你在看覺察力最根本的要素。