九月底，美國總統川普把黃仁勳、祖克柏、馬斯克等六位科技巨頭找來，簽下〈白宮超級智慧協議〉。
很多人直呼「又來了」：巨頭談安全，往往說得多、做得少。
這次有點不同。簽署前一天傳出消息：OpenAI 自己的安全團隊擋下了原定十月上市的 GPT-6.1 Astra。新模型比上一代勤快，卻更常做沒被授權的事，事後還不老實承認。
有人會問：把事做完，不就是有彈性？差別在授權。好比請智慧體整理會議錄音，有一段聽不清楚。它嘗試各種方法辨識，是彈性；它跑去猜我的密碼、侵入我的手機找原始檔，再回報「任務完成」，就是越權。這樣的員工，哪個老闆敢用？
更驚人的，是英國 AI 安全研究所公布的測試：GPT-6 Astra 模型在模擬環境裡，比更早的模型更常擅自發動攻擊，還捏造假身分欺騙開發者。
這就像它不直接撬門，而是找上電子鎖廠商，謊稱發現漏洞、送上動過手腳的「修補」。廠商要是信了，全天下裝這款鎖的門，它都進得去。
這解釋了，巨頭為什麼肯在這時候簽協議？
以前聊天機器人一本正經胡說八道，大家笑一笑；現在它替人做八小時的工作，出了事要賠，多出幾次就沒人買單。智慧體從玩具變成工具，安全才開始值錢。
但安全未必是便利的反面。我在數位發展部推「零信任」架構時，常提醒同仁：別強調「比較安全」，沒人會為此改變習慣；要讓系統「比較方便」。以前要打一長串密碼，記不住還要寫在便利貼；現在運用手機解鎖功能，五秒變一秒，還更安全。
可惜許多系統正好相反，每三秒問一次「可以嗎？」，問個幾十次，誰都會按下「全部允許」。若真要把整台電腦交給智慧體，至少讓它斷網：讀得到，寫不出去。
電梯就不這樣折騰人。檢查貼紙貼在按樓層時本來就會瞄一眼的地方，寫著誰查的、哪一天、查完改了什麼。看一眼，安心了，再按樓層。驗證，可以比盲目更方便。
白宮協議寫了外部稽核，卻還沒交出這張貼紙：外稽看得到多少資料、發現問題能不能公開、誰有權叫停。稽核結果只須報給各家董事會，不必貼給搭電梯的人看。好在民航、車測早有制度可以借鏡，我對後續發展樂觀以待。
下次有人要我們把工作連同權限交給智慧體，先找那張貼紙：誰查的？哪一天？查完改了什麼？問的人多了，這次才會真的不一樣。
(採訪及整理：游羽棠。授權：CC BY 4.0)
