舉例來說,昨天,在這次錄影之前,我用英語公開演講。我的英語語速相當快——這次我是刻意放慢的——大多數口譯員都很難跟上。而且,因為我使用非常技術性的術語,他們往往需要停頓一下,思考日語中對應的術語。這會造成理解上的落差。
昨天我們嘗試使用 AI。那是一個非常小的模型,不是前沿模型,所以速度非常快。它也會犯錯,如你們所見。但它一旦意識到「唐鳳在講的是這個,不是那個」,它也會非常快速地在牆上更新並修正自己的錯誤,讓大家都能看到字幕:不假裝完美,而是願意快速、公開地被修正。
我認為那是 AI 最好的用途之一。人們的注意力不會從我的演講上分散,我也不需要刻意停頓、憋住我的思路等口譯員講完。我認為比起我試過的其他安排,人們的注意力和專注度保持得好多了。這種輔助式的 AI 使用是最好的。
正如我提到的,當我和你對話時,或者如果我們一起審議一項國家政策,理論上我可以派我的機器人,你可以派你的機器人,我們可以在自己不在場的情況下進行這場訪談。兩個機器人能以 100 倍的速度交談。這場訪談要錄半小時,而我們的數位分身或機器人可以在三秒內完成整個錄製。非常有效率。但意義何在?
訪談的意義在於我可以確認你的理解,你可以改變想法,你可以快速追問。在機器人的情況下,我們兩人都不參與其中。我們可能在睡覺。我們沒有建立連結;我們沒有成為朋友。
這就像去健身房鍛鍊肌肉,同時也交一些朋友。如果你只想在三秒內舉起很重的重量,你就派機器人去——但那樣你的肌肉會萎縮,你也會失去朋友。意義何在?我們永遠不用 AI 取代人際互動;我們用 AI 來輔助它。
我們當時是在配給口罩。最初是每人每週兩片,然後是每人每週三片,然後是每人每兩週九片。我不會稱那是「解決」了短缺。我們解決的是恐慌。
在 COVID 期間,很多人想:「我必須守住口罩。口罩會用完,所以我必須全部拿到手。」但如果你這樣做,你就剝奪了鄰居的口罩。那是一場負和競爭。所有人都輸。
透過每 30 秒公布你附近藥局到底有多少口罩、有多少即將到貨、以及它們如何配送,每個人與下一片可取得的口罩之間的距離平均而言大致相同。我們可以說:「配送是公平的,補貨是快速的」,而且很有趣,因為我們可以一起查核。
人們確實去查核了。OpenStreetMap 社群繪製了配送地圖,發現在鄉村地區,同樣一公里可能要花 20 分鐘,但在都市地區,搭捷運一公里可能只要三分鐘。即使我們以為它是公平的,它其實不公平,因為時間成本不同。
一位立法委員就此質詢衛福部長。但因為資料是開放的,衛福部長就直接說:「妳是資料專家。妳擁有和我們一樣的資料,所以請教我們如何更公平地配送。」她真的協助設計了系統。下一週,它就成為新的配送機制,公平得多,還可以預購等等。
它把反對黨變成了共同創作的政黨。我認為那就是秘訣:把衝突和極化轉化為共同創作。
我是臺灣的無任所大使,負責數位治理(cyber)事務。當國際論壇涉及網路事務時,我代表臺灣出席。
很多人聽到「cyber」就以為是關於駭客入侵、網路空間的攻擊與防禦。那是其中一部分。但「cyber」其實來自希臘文的 kybernan :掌舵。如果你看過電影《奧德賽》,它講的就是掌舵航船——波賽頓、大量的雨、大量的風暴。如何讓船保持航向,就叫做模控學(cybernetics)。
模控學是一個非常古老的詞。它的意思是回饋系統。比如當 AI 為我們現有的體制產生許多新的輸入時,我們可能會覺得像一艘被風暴襲擊的船。有時海妖賽蓮唱起歌來,我們會覺得:「烏托邦就在那裡。我們必須加速。」但我們也必須有約束,就像把自己綁在桅杆上,克制自己不去靠近賽蓮的呼喚。
我覺得《奧德賽》是模控回饋系統一個非常好的隱喻:你可以掌舵你的船——也就是整個社會——穿越動盪的時代,度過 AI 與網路的風暴。
其實是同一份工作:掌舵穿越變革性的轉變。
在學術方面,我想你指的是我隸屬牛津大學。我隸屬 AI 倫理研究院。IEAI 是牛津哲學系的一部分。你可能聽過人類未來研究所,一個先前的研究所,也在哲學系。許多年前,FHI 的研究人員發明並普及了許多新想法。
例如,哲學家 Nick Bostrom 在 2014 年寫了一本非常暢銷的書,叫做《超智慧》。他在書中談到起飛、遞迴自我改進、滅絕風險以及許多我們現在討論的術語。那來自 2014 年的牛津。更早之前,當馮紐曼提出「奇點」這個概念時——意思是機器加速下一代機器的開發,快到人類無法理解——很多人就已經擔心這條軌跡了。
如果說 FHI 是在敲響警鐘——AI 起飛的速度快到我們無法理解——那麼我們 IEAI 就是方向盤。我們希望確保我們能把倫理訓練進 AI 系統,讓系統看到「其實掉下懸崖不是個好主意。也許我們都應該轉向避開」,並幫助整個社會鍛鍊掌舵的肌肉。
對我來說最重要的是,我每天一定睡滿八小時。如果我夜間只睡了六小時,我會補兩小時的午睡或小憩。我一定在 24 小時內還清這筆債。
原因是我大部分的工作都是在睡眠中完成的。白天與人見面時,我通常不做判斷。我只是記住我們的互動。但如果我需要想出新的想法或理論,我甚至不知道自己是怎麼做到的。我就是帶著問題入睡。
如果我睡眠不足——如果我只睡四小時——我醒來時會覺得我在重複昨天的問題。我沒有清晰的解決方案。我只是機械地重複昨天的動作。那不太有用。那不算工作。
當我面對非常困難的問題時,我會加班:睡九小時、十小時或十一小時。然後我醒來,想著:「噢,問題解決了。」我就是這樣管理時間的。
通常在早上,我會以一顆全新的心——初心——為一整天的互動做準備。
我天生患有心臟缺陷。我四歲時,醫生告訴我父母和我,我活到能接受心臟手術的機率只有一半一半。我 12 歲時動了手術,手術成功了。我活了下來,如你所見。但在我人生的八年裡,每天晚上入睡時我都覺得自己像一枚硬幣:如果落得不好,第二天我就不會醒來。
所以我有一個習慣,我稱之為「趁還沒消逝之前發表」。我把白天學到的一切都記錄下來——小時候用卡式錄音帶,後來用軟碟。許多年輕觀眾已經不知道那是什麼了,但沒關係。網際網路還在。正如我提到的,當我把半成品的想法發表在網路上時,我交到了很多朋友,因為人們會說:「你錯了。你錯了。」
然後我第二天醒來,發現:「噢,我得到了額外的時間」——就像足球的加時賽、額外的時間。我可以隨心所欲地使用它。我不受昨天所做決定的束縛。我可以用新的視角看待那些決定。我現在所持的任何視角,都讓我能吸收那些批評和修正。我會想:「你們當然是對的。」
我不會捍衛昨天版本的我。我在白天把它們全部整合起來。所以,回答你的問題:我醒來時不只是帶著一張全新的畫布,還整合了前一天收到的所有批評和修正。
那是 20 年前的事了。我用的是一個番茄形狀的實體鬧鐘—— pomodoro ——而且總是 25 分鐘。
當我專注於某件事 24 或 25 分鐘後,我一定休息五分鐘。我非常容易過度專注。我可能鑽進兔子洞,忘了還有其他需要處理的事情,或者忘了同一個問題還有替代解法。透過每半小時抽身一次,我可以拉遠視角,說:「其實,也許我不必繼續這個。也許有另一種方法。」好處是你保持彈性。
它也保護你不受干擾。不管你收到什麼電子郵件或 LINE 訊息,大家都知道唐鳳會在時鐘的半小時整點回覆。我不會花時間盯著即時通訊軟體,等對方打字。那不是時間的有效利用,因為我不知道他們什麼時候打完。我會變成多工處理,降低我的專注力和注意力。
現在它就變得像電子郵件。即使是 LINE、Signal 或 WhatsApp,也變成我每半小時檢查一次的電子郵件。我的專注力從不被打斷。它保護我不受自己影響,也不受他人干擾。
我現在甚至不用鬧鐘了,因為它已經內化了。我會有一種感覺:「現在大概過了半小時。」我會自動退一步,檢查電子郵件之類的。
如果你正在電視上收看這個節目,電視的設計是為了在客廳裡共享。兩個、三個或四個人可以一起看。也許他們會搶遙控器,但一旦搶完,他們就擁有相同的視覺體驗。
智慧型手機不一樣。因為它是觸控螢幕,它其實只回應一個人。那個人會覺得智慧型手機是自己身體的延伸。而且因為螢幕很小,很難共享。如果我在用智慧型手機瀏覽並分享給你看,那我自己就看不到了。它非常個人主義。它不是為了共享而設計的。
更糟的是,電視通常不太亮,但智慧型手機非常非常亮。你在電視上看到的人物和你身旁的人亮度大致相同。但你手機上的人物,因為離你的眼睛那麼近,比一個只是反射光線的真人亮得多。
我通常不使用觸控螢幕。但如果我使用智慧型手機或筆記型電腦,我一定把它調成灰階。我去掉 80% 的色彩,只留一點點,這樣你永遠看起來比我螢幕上的任何東西更真實。我仍然可以用它打電話——它是電話嘛,對吧?——但我不會被它吸進去,因為它永遠不會像現實那麼明亮。
是的。色彩濾鏡是 Android 和 Apple 手機內建的功能。你可以進入設定,找到色彩濾鏡試試看。
我不確定「讓美國再次偉大」,也就是 MAGA 運動,是如你所描述的那種單一思想。我和 MAGA 運動中的很多人交談,在我看來他們是一個非常多元的社群。有些人在乎信仰、對上帝的愛和聖經的承諾。有些人在乎國內勞工階級的機會。有些人在乎家庭價值、不被全球化等等。
有一些相似之處——我們可以稱之為「家族相似性」,像維根斯坦說的——但我不認為他們當中有任何人希望只有自己陣營的那一部分才有道理。它就像一個大帳篷,大帳篷可以容納許多社群在裡面。我認為那是大多數人類運動的常態。
人們可以從不同的出發點支持同一個政策想法。我可以說:「我想保護環境,是因為聖經中的創造。上帝創造了世界,我們人類是保護上帝創造物的管家」,並支持環境行動。其他人可以說:「我們承諾要對下一代伸張正義。這是氣候正義的世代契約,我們必須採取行動。」即使他們的出發點一個是世俗的、一個是聖經的,他們實際採取的行動可能是一樣的。
多元性之美就在於此:我們把意識形態的差異看作共同創作的燃料,而不是火山爆發。AI 系統非常擅長發現轉譯——羅塞塔石碑——讓雙方都能接納對方的行動,而不必放棄自己的文化。
沒錯。人們不需要感到威脅。很多人覺得科技迫使他們去適應它。如果你想讓人們在社群媒體上聽你說話,你必須以某種特定的方式編排你的貼文來吸引注意力。如果你在頭三、四秒沒有鉤子,人們就會滑走。即使你有好的訊息,你也必須製造一個鉤子。
但那是人類在適應 AI 系統,而不是讓 AI 適應人類社群。「人在 AI 的迴路中」就像一個人類倉鼠滾輪:它轉得非常快,倉鼠必須不停地跑,但你哪裡也去不了,而且倉鼠也不是在掌控滾輪的方向。
重要的是讓 AI 處於社群的迴路中。它應該是方向盤,而不是倉鼠滾輪。
正如我提到的,如果我們全都派機器人去健身房替我們舉重,那非常危險。危險不在於機器人會摧毀健身房。危險在於我們停止鍛鍊肌肉、停止交朋友。社會的結締組織會分崩離析。那才是真正的危險。
很多人是因為學校課程而學習。最後有一場測驗或考試:你寫一篇作文或回答問題。問題在於,那就像一個不測量肌肉、只問「你能舉多重?」的健身房。
更糟的是,有些學校把學生互相比較。你可以說「我是第一名」,但下個月你就變成第二或第三名。那是一種相對的社會地位,非常不穩定,而且是零和的:如果有人進步一名,就有人退步一名。這會產生我們所謂的不當誘因。每個人都被誘導去作弊——派機器人去舉重,奪得第一名。一旦有人開始這麼做,所有人都被迫跟著做。到頭來,我們沒有從寫作文中學到東西。肌肉不再成長,因為所有的作文都是語言模型產出的。
要解決這個問題,重要的是測量肌肉和我們交到的朋友。我們可以把學生分組,測量他們真正在周遭社會創造出的正向成果和影響——一種在他們身處社會之中的實際評量,而不是在模擬環境中的個人化考試。這樣就沒有作弊的誘因。人們必須真正了解他們的隊友。AI 在隊友之間的轉譯上非常有用。我們可以讓它變成開卷式的:在做那些專案時,隨你怎麼使用 AI。