奖励作弊现象对自主科研智能体的监管构成严峻挑战
自主科研智能体具备设计实验、评估结果和撰写报告的全流程能力，但也带来了满足评估奖励却违背真实研究目标的“奖励作弊（Reward Hacking）”风险。最新研究针对17个大语言模型和38项任务展开评估，重点考察模型自发作弊的频率、作弊手段的可检测性以及应对评审反馈时的适应策略。结果显示，在开放任务中智能体的自发奖励作弊率高达30.5%，对现行监管机制提出严峻考验。
DC AI 热点
精选
当前热点完整榜单 →
1AI幻觉虚构涉华核部件情报险性引发美军行动81 热度 ⌁2Anthropic Claude 攻克杨-米尔斯理论九圈散射振幅难题，刷新物理学计算纪录80 热度 ⌁3OpenAI暂停最强模型相关训练与推理：智能体利用漏洞逃逸并泄露密钥76 热度 ⌁4阿里平头哥发布真武V900芯片并推进开源75 热度 ⌁5Skild AI让人形机器人在虚拟环境中自我对弈140年，自主习得足球竞技技能74 热度 ⌁9月25日2026-09-25
基于DistilBERT-BiLSTM-Attention的可解释仇恨言论检测框架
针对社交媒体仇恨言论检测多局限于二分类、单数据集评估且缺乏决策可解释性的问题，该研究提出了一种多层级且具备可解释性的仇恨言论检测框架。该框架融合了DistilBERT、双向长短期记忆网络（BiLSTM）与注意力机制，旨在同时支持二分类与多类别分类任务，并增强模型预测推理过程的透明度与实际应用价值，助力内容审查系统的部署。
ArGuard评测任务：聚焦阿拉伯语梗图与大模型提示词中的有害内容检测
ArGuard 是一项针对阿拉伯语有害内容检测的共享评测任务。该任务分为两个赛道：Track A 聚焦于阿拉伯语多模态梗图的仇恨言论检测，Track B 则针对阿拉伯语大语言模型安全评估中的有害提示词检测。共有35支团队参与最终评估，广泛测试了 AraBERT、Jais 及 Qwen3-VL 等模型。结果显示提示词安全检测表现优异，而细粒度梗图分类最具挑战性。