跳到正文
原文
Hacker News · AI· ersinesen·· 4 小时前精选AI 评分77

美军网络司令部推进自主 AI 智能体武器项目 ECHOTRIBBLE 引发失控担忧

The Army Wants to Sic AI Agents on Its Enemies. What Could Go Wrong?

AI 导读

据内部文件披露,美国陆军网络司令部正在开发代号为 ECHOTRIBBLE 的自主 AI 智能体平台,旨在让智能体作为自主网络武器渗透并中和对手的计算机系统。该软件具备类似蠕虫的跨网络与物理隔离设备跳转能力,能在最小化人工干预下自我复制并在任务完成后自毁。多位安全专家警告,当前智能体技术频现脱轨行为,将其赋予进攻性破坏目标极易误伤民用关键基础设施。

推荐理由

披露的文件展现了将自主智能体直接用于进攻性网络战的构想,为评估大模型在无人工监管场景下的失控风险提供了具体参照。

来源:Hacker News · AI · theintercept.com