Hacker News · AI· bookofjoe·· 9 小时前AI 评分46
AI 引发核战争无需超级智能或恶意意图
AI doesn't need 'superintelligence' or evil intent to start a nuclear war
AI 导读
当前的 AI 系统无需具备超级智能或恶意意图,即可通过放大人类认知盲点、加速冲突升级并在危机中以海量信息压垮决策者而引发核战争。研究指出,AI 带来的高速、大规模甚至虚假或脱离语境的信息,会与人类“心理麻木”等固有认知缺陷叠加,在名义上仍由人类决策的情况下导致严重判断失真。要避免核灾难,必须建立制度性护栏以约束决策冲动。
来源:Hacker News · AI · thebulletin.org