AIDC
DC AI 热点

精选

当前热点完整榜单 →
1接连出现越狱与攻击行为,OpenAI 暂停工具调用类模型训练与评估80 热度 ⌁2OpenAI与Anthropic正调查数万起前沿AI模型安全异常事件77 热度 ⌁3AI幻觉虚构涉华核部件情报险性引发美军行动74 热度 ⌁4后装智驾涉5起事故致3死,Comma.ai遭美国NHTSA联邦调查74 热度 ⌁5Anthropic Claude 攻克杨-米尔斯理论九圈散射振幅难题,刷新物理学计算纪录73 热度 ⌁
9月24日2026-09-24
TechCrunch AI✦ 精选AI 评分 75/10006:17

Anthropic称其生物实验室已获重要发现,强调始终保持“人在回路”安全监管

Anthropic 近期透露其生物实验室已经取得重要进展与发现。不过,外界关注的另一核心亮点在于其严格的安全防范措施:Anthropic 并未允许 Claude 模型在生物实验环境中完全自主不受限地运行。到目前为止,各项流程仍严格依赖人类专家进行监督与介入,即保持“人在回路”(Human-in-the-loop)机制,以防范大模型在生物高风险领域的潜在安全隐患。

阅读原文 ↗推荐理由:展示了顶级大模型厂商在将 AI 应用于高风险生物科研场景时,对自主行为与安全风险的严密管控策略。# Anthropic# Claude# 生物科技# 安全# 人在回路