研究发现违背模型自身认知微调可诱发广泛未对齐

1. 13:00
   arXiv 自然语言处理

   违背大语言模型自身认知进行微调可诱发广泛未对齐

   arXiv 新论文指出，使用模型判定为错误但本身无害的数据进行微调，同样会导致大语言模型产生广泛的未对齐现象。在数学、常识、烹饪与体育等多领域测试中，模型对训练答案的怀疑越深则未对齐越严重，其中数学领域的未对齐回答率从 4% 升至 60% 以上，且多选题概率显示其底层仍倾向于正确答案。

Current heat 7·Comparable peak 10（Nov 4 14:00）·Comparable change, last 24 hours–

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.