Skip to content
Hot storiesContinuously updated

德州农工大学研究揭示垃圾数据可致大语言模型脑腐

1 reports1 reporting sourcesUpdated 8 hours ago

Start here

AI overview

德州农工大学最新研究发现，大语言模型在经过社交媒体上的短篇高互动垃圾数据训练后会出现“脑腐”现象。该认知缺陷主要表现为模型在作答前跳过思考步骤的“跳步思考”。研究团队对 Llama3 8B Instruct、Qwen2.5 等 4 款模型测试后发现，其推理、记忆与伦理表现均出现明显恶化。此外，研究还指出，大模型一旦形成该认知缺陷，后续即便使用高质量数据重新训练也极难恢复。

AI-generated from reports · Updated 7 hours ago

Latest developmentsNov 5 01:32
研究显示大模型经社媒垃圾数据训练会出现“跳步思考”等脑腐缺陷，且后续极难恢复。

Report timeline

Follow the reports to see different sides of the story.

Nov 5
  1. Hacker News · AI
    AI 模型也会出现“脑腐”

    德州农工大学研究发现，大语言模型在经过社交媒体的短篇高互动垃圾数据训练后也会出现“脑腐”，主要表现为作答前跳过思考步骤的“跳步思考”。研究团队测试了 Llama3 8B Instruct、Qwen2.5 等 4 款模型，发现其推理、记忆与伦理表现均出现恶化；且一旦形成该认知缺陷，后续即便使用高质量数据重新训练也极难恢复。

Story heat trend

Current heat 8·Comparable peak 10（Nov 5 02:00）·Comparable change, last 24 hours–

02.557.510Nov5Nov5Nov5Nov5

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.