跳到正文
原文
Hacker News · AI· giuliomagnifico·· 8 小时前AI 评分48

AI 模型也会出现“脑腐”

AI models can get brain rot, too

AI 导读

德州农工大学研究发现,大语言模型在经过社交媒体的短篇高互动垃圾数据训练后也会出现“脑腐”,主要表现为作答前跳过思考步骤的“跳步思考”。研究团队测试了 Llama3 8B Instruct、Qwen2.5 等 4 款模型,发现其推理、记忆与伦理表现均出现恶化;且一旦形成该认知缺陷,后续即便使用高质量数据重新训练也极难恢复。

来源:Hacker News · AI · stories.tamu.edu