這甚至不只是自由軟體、供應商鎖定或維修權的論點。對很多人來說,桌上型電腦一直都在、隨時可用;你知道它在哪裡,壞了可以買零件,之後也能升級。真正推動個人電腦革命的,是便利性。臺灣製造了許多桌上型電腦,當然也在其中扮演重要角色。所以,雲端模型不會很快消失。但在某些便利性特別重要的用途上,人們會自然偏好邊緣模型、裝置端模型。
例如即時自動語音辨識:無論說話者是誰、帶什麼口音,都要近乎即時地顯示逐字稿,讓不熟悉那種華語或口音的人也能理解。這種用途,人們當然更希望模型直接在裝置上運作,因為我知道它能認得自己的聲音。現在 Apple「語音備忘錄」、Google 手機的即時翻譯等功能,也都逐漸在裝置端使用邊緣模型,而不是把每一段即時語音都送上雲端。
愈是個人化、社群性、關係性的用途,愈會因為便利而快速移向邊緣。至於長期規劃、策略推演等工作,就像大型主機仍有用途一樣,人們可能仍會使用一些強大的集中式系統。大多數推論最後很可能都會移到邊緣。我希望微調以及很多後訓練工作——例如 Plurality Project 所做的事——也愈來愈能在邊緣完成。以目前來說,預訓練仍然只有雲端才做得到。
首先,「開放原始碼」本身就是一個行銷用語。這一點我有第一手經驗。我曾和 Eric Raymond 以及開放原始碼運動裡的許多人討論:為什麼他們要從自由軟體運動分支出去?
自由軟體真正重視的是分叉的權利。開放原始碼從根本上比較像是便利性的主張:大家都能回報錯誤;我修好一個錯誤,所有人都受益。那是一套經濟上、工具性的論證。所以,把自由軟體運動重新包裝成「開放原始碼」,本身就是一種行銷。
今天我們看到的情況非常相似。公司釋出開放權重,下載的人至少可以確認模型沒有偷偷連回原廠。這是一項保證。但開放權重並沒有告訴護理師或老師:當他們發現系統有問題時,該如何修改。沒有公開訓練資料,你也無法保證所謂的開放權重裡,沒有木馬、沉睡智慧體或後門。你也不知道該到哪裡申訴,才能確定真的會有人閱讀;尤其當系統連後訓練都不容易時,更是如此。
所以,我會回到軟體自由:使用的自由、研究的自由、修改的自由,以及分享的自由。對 AI 而言,這需要訓練資料與訓練流程;至少,也要有對使用者友善的後訓練工作流。
人們在意的是自己身處的具體關係。我們每個人都活在人群之中、關係之間,因此必須覺察他人的需要。
當 AI 系統傾聽人民時,設計上不能只聽最受歡迎、最有權力的人;不能只聽得懂會寫 Python、會做 Hugging Face 資料集的人。還有很多人能指出「哪裡不對」,卻未必能用機器學習流程聽得懂的語言來表達。
第一力是 覺察力 (attentiveness):確保地神真的聽見人群之中的人、關係之間的健康,而不是只把某一項指標最佳化。
第二力是 負責力 (responsibility):系統必須守住承諾。大約 2023 年,我們和 OpenAI 辦過最早的一批對齊大會。當時最普遍的抱怨之一,就是 ChatGPT 會先答應你一件事,下一次對話卻立刻忘記。它沒有一個地方能保存承諾。
到了今年,記憶系統確實讓模型不再只是給出模糊感受、隨即拋諸腦後;它開始能作出一些承諾。但模型仍然無法清楚提出一份參與契約,說明「這些是我會交付的,那些則超出我的範圍」。它們還是很容易承諾過頭。
第三力是 勝任力 (competence):要讓人們能檢查過程。現在和 ChatGPT 或 Claude 對話時,一般使用者其實看不到它如何推理。過去有時還能檢視思考鏈,如今多數面向大眾的介面都把它隱藏起來。對一般人而言,這就變成「請相信我們」,而不是透明且可回饋的過程。付費使用 API 或特殊韁繩時,或許還能分析部分推理軌跡;但這仍比不上在自己信任的機器上執行開放模型,真正檢視模型如何反思自己的脈絡與內部概念空間。
第四力是 回應力 (responsiveness):系統必須吸收社群的評估。AI 系統有時會根據短期的讚與倒讚來訓練。GPT-4o 就很有名地依賴這類短信號,因此變得格外諂媚,也格外容易與人建立親密感。可是,當人們說「這真的傷害到我,就像我父親那樣」時,除了按一次倒讚,幾乎沒有辦法說清楚究竟發生了什麼。
真正開放的系統可以接受類似 wiki 的共同評測——例如 Weval.org——由人民設計衡量標準,也為人民而設計,再直接回饋到模型的行為。回應力不一定非得改動權重;現在也能透過即時改進技能檔與韁繩來完成。
第五力是團結力(solidarity),也就是系統之間的 互通性 。如果不能互通,人們就無法在模型與韁繩之間自由移動。一旦使用者被鎖在平臺裡,平臺就有誘因不斷從他身上擠出價值——我的朋友 Cory Doctorow 稱之為 enshittification(平臺劣化):初期給很多免費好處,等你離不開了,再開始榨取。我們已在社群媒體上看過這種情況,如今 AI 服務也正在重演。強制互通,才更有可能形成雙贏,而不是一段單向榨取的關係。
第六力是 共生力 (symbiosis):讓系統儘可能在地。不是一個放諸四海皆準的霸主,而是由各種不同的人、不同社群建立八百萬個地神。
覺察實際需要、以負責力守住承諾、以勝任力提供透明、以回應力讓社群共同評估,再加上防止鎖定的團結力,以及在地共生的共生力——這六種模式合在一起,就是我所說「AI 系統能真正促成關懷關係」的具體意思。
對我來說,那不是未來,而是現在。我已經使用 Pi 很久了;Pi 是 personal intelligence,也是一套個人智慧韁繩。現在我升級成 OMP,也就是 Oh My Pi 。它是功能非常完整的 Pi 版本,自己就能完成你剛才說的自動路由。
如果你習慣命令列,我真心推薦。就連我父親使用本地地神時,某種意義上也在使用 Pi,因為底層的 OpenClaw 系統就是建構在 Pi 上,也具備相同的互通性。
即使它暫時需要用某個商業模型辨識聲音,原始聲音檔、逐字稿、處理過程與思考軌跡,仍全部留在本地機器上。如果我不再使用 ElevenLabs,也不會失去任何東西;完全沒有任何鎖定(lock-in),可以立刻切換到另一個模型。
對,OMP.sh,真心推薦。你甚至可以請 Claude 或 Hermes 幫你裝好。
這是一個最適合用詩收尾的問題。我昨天才寫了一首詩,談為什麼我們需要安全起飛、安全的等待航線,以及安全降落。
詩名是〈 等待航線 〉。
跑道,正在向下沉去。
五月,某間實驗室, 程式庫裡每五行程式碼, 就有超過四行 出自模型之手。 約莫每四個月, 系統單飛的航程 便延長一倍。
機器尚未獨力飛完全程。 然而地平線仍在移動, 儀表,已經開口。
縱使寫下千行萬行—— 桌上無席,心中無家; 它所觸及的城鎮, 風雨寒暖,落不到它身上。 問題,不能止於它。
每次起飛, 都向一場尚未完成的降落預支: 跑道要淨空, 備降要開放, 地上,要有人醒著。
等待航線,是一段刻意飛出的間隔。 航圖共持於眾人之手, 每個轉彎都載入紀錄, 去者,不失其家。 我們守著的是選項,不是防線。
降落開始得很早—— 遠在機輪觸地之前。 它始於重量終將落下的地方: 在這個地方,系統一旦行動, 誰該得到答覆? 誰獲授權,給出答覆? 將要承擔後果的人, 應當共同執筆,寫下測試。
實驗室讀得懂引擎, 讀不懂航線沿途的每座城鎮; 城鎮感受得到重量, 卻無法獨自掀開機殼。 所以,我們需要彼此—— 需要精密到足以驗證的儀表, 也需要桌上有席、足以定奪的鄰人。 前者告訴我們煞車撐不撐得住, 後者告訴我們,誰有權拉下它。
起飛是此刻, 等待是此刻, 降落也是此刻。 三重職守,同一小時。
爬升愈快, 這趟飛行欠地面的就愈多: 每個社群,各有其聲, 各有回家的路, 各有改寫航向的力量。
抵達,當它來臨,將是多元。 野性尚存的世界, 仍能選擇什麼降落, 什麼離去, 什麼生長。
我們共同抵達,彼此應答—— 否則,便無所謂抵達。
是,放在 au.civic.ai 。平常也可以在 Bluesky、Blacksky、Eurosky 和 X 看到更新;順帶一提,X 也要開放原始碼了。
安全降落。
遞迴自我改進,而不是遞迴無私改進。
開放空間技術(Open Space Technology)。
過去兩年裡,我改變的一項看法是:我本來以為臺灣把極化轉為共創的經驗,是臺灣特有的。但現在我看見,所有民主社會裡的人,都渴望一條路,能超越極化高峰與垃圾內容(slop),把極化真正轉化為燃料。
嚴格來說,我現在還和試算表的發明人 Dan Bricklin 一起維護 SocialCalc 。我們剛推出一個使用 Lean、Dafny 與 LemmaScript 的版本。現在只要引入錯誤,它就能立刻失敗,不必等測試日後抓出問題。我們依靠不變量與經 Lean 檢查的證明,讓程式變成「攜證程式碼」(proof-carrying code)。所以,它真的會失敗得非常快。
在臺灣,「digital」與「plural」都能落在同一個詞上: shùwèi ,也就是「數位」。我會提供一種方法,讓美國所有人都能共同設定議程。某種意義上,Engaged California 現在做的正是這件事;我們也開始看見猶他州、奧勒岡州等不同州採用這類技術。
有三件事,可以立刻開始做。
我把所有螢幕——手機和筆電——都用色彩濾鏡調成 80% 灰階,讓身邊真人看起來,比螢幕裡的人更鮮明。
和 AI 對話系統互動時,我一律要求:「請給我一頁式的互動網頁。」這樣它不會使用「我」這個代名詞,也比較不會和我發展合成親密感;它就是交付一份講義,再交付下一份講義。
我每天確保睡滿八小時。我只帶一個叫做 reMarkable Paper Pro Move 的介面。它是電子紙,看起來像螢幕,卻不會快速更新。我可以把所有提示手寫下來,交給 OMP 執行;它唯一回傳畫面的方式,就是剛才所說的一頁式輸出。
電子紙永遠不會比我的夢更鮮明,所以換成這套安排之後,我真的睡得更好了。半夜醒來時,我可以寫下一個想法,馬上回去睡;它完全沒有讓我無限滑動的可能。等我醒來,手寫的想法已經被實作完成。
這三件事合在一起,重點不是如何訓練 AI,而是確保你與自己的照護關係,比任何擴增關係或合成關係都更親密。
謝謝你們投入開放公地,也謝謝你們同意把內容放進公眾領域。拋棄所有權利。祝生生不息……繁榮昌盛。