如果終點線是遞迴自我改進（recursive self-improvement, RSI）——AI 系統在文化與智識上演化得夠快，快到能在沒有人類協助下打造自己的後繼者——那麼 Nick Bostrom 就警告，它們可能會迅速起飛，進入技術奇點。為什麼稱之為奇點？因為它變得無法理解，把所有人拋在後頭。