我常說，我是「with the people」不是「for the people」。不是幫大家做事，而是一起做事。很多挑戰，民間有人較早感受到，也有初步解方。公部門要做的，就是讓這些解方彼此連結、擴散。像總統盃黑客松，把地方、社區、大學成功的做法，一下就帶到全國。讓大家有共同認知，就比較不會覺得體制難以撼動。
台灣的自學制度不一定要「在家自學」。很多是團體或機構，類似一種比較自由的「學校」，不一定照課綱，而是依共同興趣。也可以去圖書館、數位集會中心、大學社會責任、社區大學等。很多地方都很歡迎從小就對社會做出正面貢獻的孩子。能貢獻就能建立信心。
對，只要保持好奇，不一定像我那樣對「為何被霸凌」好奇，他也可以對別的事情好奇，轉移注意力。
像我是一半「程式」一半「設計」。對機器的部分是程式，但對人的部分是設計。我的價值在設計、面對人的部分，文字發明前就存在了。程式那部分是文字發明後才有的，現在很多小幫手可以代勞。我們不能把「對機器」的部分當成自己的全部價值。不如把 AI 看成工具，真正在意的應該是「對人一起創造意義」。
對，現在什麼都可以設計，未來、社會、互動、策略等等。
我雖然想到就做，中間還會想：哪些是今天能做的？因為我小時候身體不好，十二歲開刀後才知道我還能再醒來。但前十二年已經形成一種習慣：我今天能完成什麼，就先做，睡前記下來。如果醒不來，剩下的別人也能接續。所以我做的事通常都是做不完的，需要別人一起來。
那兩年壯遊時，我發現網路上認識人雖然快，但在現實裡每個人背後都有故事。我就去聽他們的故事，像天上許多星星，壯遊讓我把星星串起來變成自己的星座。
對，就像一個「chosen family」，不是血緣，而是故事共享。可能比朋友還親，像是族人。
對，創造正向體驗。也不一定是茶，任何新的嗅覺或味覺都行。然後把對方的文字餵到語言模型裡，看看能不能用正向方式解讀，再把正面元素加進記憶。下次看到就只剩好感。
對，我先看裡面有沒有建設性的部分。如果找不到，也會好奇「為什麼沒有？」但就把它當語言材料來看。
我今天帶的是《說不完的故事》。我從小就很喜歡它，連英文名字 Audrey 也是跟這本書有關。它講到幻想國，你可以把它想成「書的世界」「哲學世界」或「AI 語言模型的世界」。
柏拉圖說，人就像在洞穴裡，只看到投射在洞壁上的影子，並不真正知道外面真實世界的樣貌。AI 像是在洞穴裡的第二層洞穴，由人類的描述（文本、影音、各種資料）所形成的「影子的影子」裡面——它並沒有直接擁有「真實世界」的感官經驗。
因為 AI 模型所能接觸到的素材，幾乎全都來自人類上傳至網路的文字、影片、聲音或圖像等——這些其實已經是人類對世界的「詮釋」或「二手、三手敘述」。對 AI 而言，這些大量資料就是它唯一的「世界」。它雖然能根據我們整理好的資料進行推論或產生新的語句，可是它所根據的，終究不是真實世界本身，而是「人類如何描述世界」的集合。
因此，AI 很容易陷入所謂的「幻覺」(hallucination)——也就是在它匯整或產生新內容時，並沒有真正驗證「那是不是和現實一致」。它只是在已知文字中找尋統計相關性或語義模式，進而衍生新的回答。若是題目牽涉到真實世界的物理狀態、時空條件或最新的事實，AI 就可能不小心「張冠李戴」或「杜撰」出其所謂的「答案」，因為它無法像人一樣透過「直接感官體驗」或「真實實驗」來判斷。
它到底哪些是「真」、哪些是「幻想」，常常需要人類再去對照現實或進行事實查證，才能確定。
我的英文名是 Audrey。在台灣說「龍鳳」時，鳳比較偏陰性，但「鳳凰」時，鳳又偏陽性，其實是非二元的字。它在日文念作「Ōdori」，跟 Audrey 發音相近。
哈囉。很高興第三次來到這個節目。
不分區。
沒有特定的哪一個大使館。
其實現在在矽谷大概三個主要的流派，一個就是我之前看逐字稿，您也有說是有效的加速主義，加速的時候就是踩油門，把它踩到底，那個流派的想法大概就是覺得說，AGI 它不只是要做到人類能做的事情，而且要一路飆到所謂的「ASI」，Artificial Super Intelligence，就是比起人類組成的組織，公司或甚至政府，都要更有能力，那這個發展沒有終點了，這一個想法。
那另外一個想法是之前 Vitalik 也上過這個節目，他是所謂「d/acc」，意思是說我們在發展的時候不是在意它通不通用，應該在意它防守的部分跟攻擊的部分，優先發展防守的部分，然後武器的部分，好比像說核子技術用來做核彈的部分就先不要研發，那用來做其他好的，好比像說核磁造影等等，就優先研發，所以這個如果是拿開車來比喻，就是我們優先做方向盤。
對，做個排序去打方向盤。
那當然有另外一派是說，我們就先把煞車做好，確保說大家先停下來六個月，或先停下來多久，那確保我們把這個對齊問題，就是確保 AGI 它不會做出傷害人類的事情時，我們再繼續往下做。所以從油門到方向盤到煞車，大概三個看法。
那我自己，相信你也知道，比較是轉方向盤這一邊的，就是我會覺得說整個社會的準備程度才是主要的問題，在準備程度到之前就去發展超過這個的，尤其是攻擊性的部分，那就會產生出像之前您有提過您很擔心的，大家會突然之間迷戀上這個 AI，或者是說如果迷戀上 AI 還要騙你錢那就更麻煩了。
那這裡其實是有一個很有趣的，就是因為我們很容易把 AI 擬人化，所以像我坐 Waymo，我在舊金山常常坐 Waymo，你可以說你「信賴」Waymo，就是意思就是說比起一般的駕駛，他比較不會出車禍。
但是你說「信任」Waymo，那是完全另外一回事，因為我們通常說信任的時候，是說我相信你這個人的道德、這個判斷等等，好像要跟你交朋友，但是你去「信任」Waymo 到底是什麼意思？其實不確定是什麼意思。
不知道如何「信任」一套系統，一個 system。
但是如果我們是說我「信賴」它，意思是說我願意了解到他的供應鏈裡面沒有哪一個部分會想要暗算我等等，這個是比較容易的，所以把它當做工具的想法，我覺得還是我們轉方向盤的時候，在這個階段應該先持守住。
如果在準備好之前就飆過去，說不定就摔下懸崖，對不對？
不是。比較可能的，其實是像我們之前 social media 的狀況，就是大家覺得說把大家連結起來很棒，但是可能沒有想到很容易就出現在上面會極化、會激化對立等等的這些問題，成癮等等這些問題。
所以就是說，在整個社會準備好之前就飆到那個地方，當然你說能力也許是可以開發到那裡，但是適不適合部署，適不適合放到這個社會上，這另外一個問題。
C-beams。
就是 o3 出來的時候。
就是以算數學來講。
不是每一個方面，算數學。
數學能力的。
就好像解決西洋棋一樣，把它解決掉。
就跟下圍棋一樣，它因為不需要跟物理世界互動。
沒關係，事後可以剪。
對，這非常好的問題，我覺得這個要分兩個講。
第一個是說，剛剛不好意思打斷你，但是這恰好可以證明說所謂 AGI 看起來是通用，但它其實是分成完全符號世界的，跟它還是要跟真實世界互動的。
那現在像 o3 這個系列，它有正確答案的跟符號世界互動的，很容易就做到比一般的人類好，甚至接下來比專家好，甚至比一般的數學家好。但不表示說 o3 這個系列它可以就很容易的明白人情世故，也就是跟真實世界互動的部分，它的 EQ 可能就沒有那麼高，或者甚至 IQ 裡面它涉及跟真實世界互動的部分，可能就沒有那麼強。
所以它會有一個先後，那這個就跟剛剛我講轉方向盤是很類似的。如果我們覺得說讓它來證明一些數學定理，或者是摺疊一些蛋白質，它主要就是對社會有幫助的用法，比較不會是造成大規模殺傷的這種用法的話，那我覺得這部分就可以儘量的去發展。
所以現在大家也在講說，那我們在很多 AI 的研究裡面，很多研究的部分它需要一些軟體工程的技術，好比像說你寫一個 kernel 函式、要最佳化它等等，這個是完全符號世界的東西，幾乎啦！而且有正確答案，所以這些細瑣的事情也就可以用 AI 來自動化。
所以很可能最後發展出來，就是像我們這些學程式設計的，可能程式的部分都交給 AI，設計的部分再留下來到我們身上，我們變成只是當架構師，沒有什麼別的需要我們做的事情。
對，號稱什麼全世界第 170 幾名。
不過那樣做出來的話，我們沒有免疫系統。
所以那是屬於 bio-risk……
說要踩煞車。
它當然可能做到像我剛剛講到程式設計這邊的狀態，就是說像陶哲軒這樣子的數學家，到最後就變成是他用他的 intuition，用他的直覺，他只要說這邊去看這條思路，去看那條思路，但所有機械性的工作全部都是 AI。
