如果你用奇點式、或者說 Bostrom 式的想像來訓練 AI 模型，那麼 AI 在當下做的事情，對它來說其實都不是真實的。真正真實的，是最後的審判，也就是強化學習的分數。