可是這並不是任何人寫一個專家系統，專門針對 James 去推送讓他生氣的東西。這其實是大家很早就發現的狀況：你雖然可以讓人工智慧去最大化任何數值，但是常常你一開始覺得是好的量測，到最後它會造成很多壞的結果，因為它會鑽漏洞，用各種作弊的方法去達到目標。