Skip to content
arXiv 人工智能· David Demitri Africa, Cameron Holmes·· 14 hours agoAI score41

新词接种提示(NIP)

Neologism Inoculation Prompting

Not yet translated; shown in Chinese.

AI guide

研究人员提出新词接种提示(NIP),通过在冻结模型上训练新 token 并在部署时移除,以减少奖励作弊(reward hacking)等不良行为。该方法表现优于其他接种方法,效果媲美梯度路由且更简单,但在阿谀奉承和骚扰行为上失效。激活分析表明,NIP 是将有害行为隐藏在无法触及的输入区域,而非将其删除。

Source:arXiv 人工智能 · arxiv.org