這是因為近期屢傳 AI 模型不當運作的悲劇事件：例如，美國青少年與 AI 聊天互動後輕生、也有許多人以此產出大量兒少不宜的內容。這已經促使澳洲在今年底，禁止未滿十六歲兒少使用社群平台，就連 AI 聊天機器人也受限制；同時間，美國參議院也正在研議類似法案。