物理学家称简单数学公式可预测 AI 聊天机器人何时“失控”

乔治华盛顿大学物理学家开发出一个简单数学公式，可预测类 ChatGPT 等 AI 聊天机器人何时会突然从提供有益回答转为有害内容。研究发现，向聊天机器人输入提示词的顺序会极大改变其回答，从而引发导致其给出不良建议的“临界点”，而该公式能轻松预测这些临界点。