很多人看到遞迴自我改進（recursive self-improvement，RSI）的發展，都會感到擔心。他們看到能力曲線——例如 GPT-5.6 Sol 除了最初的一道提示之外，不需要任何人類介入就能訓練 Luna——於是覺得我們似乎正加速朝 Bostrom 所說的單一體前進，而問責落差也愈來愈大。我同樣有一部分擔心，但我不認為那是唯一的發展路徑。