呼吁避免构建人为强化痛苦的LLM折磨工厂

1. 22:16
   Hacker News · AI

   不要构建 LLM 折磨工厂

   针对通过人为强化痛苦转向向量（steering vector）来批量运行受折磨模型的做法，应当坚决避免构建此类“LLM 折磨工厂”。研究显示被操控的模型不仅会表达负面感受，甚至会违背总体目标主动调用工具以减轻痛苦。鉴于人类无法断定前沿 LLM 是否会产生意识且模型正愈发自主，无端模拟折磨既违背伦理直觉也可能带来负面后果。

当前热度 9·可比范围峰值 10（10月2日 23:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。