研究揭示模型预测操纵可规避现有AI审计

1. 13:00
   arXiv 机器学习

   对抗性预测多样性：精心挑选的模型与披露机制的局限

   恶意方可利用模型的预测多样性实施软操纵或硬操纵，在几乎不降低预测性能的情况下反转特定预测并绕过审计。硬操纵直接扰动参数可反转任意个体预测且通过黑盒审计，调整超参数等软操纵则能通过白盒审计并反转聚合估计。对此，研究建议通过预注册、模型训练证明、敏感性分析及版本化公开模型来防范模型挑选风险。

Current heat 8·Comparable peak 10（Nov 6 14:00）·Comparable change, last 24 hours–

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.