ホットトピック継続更新中
研究人员提出SafeStart缓解MoE推理加速导致的安全弱化问题
1 件の報道1 件の報道元5 時間前 更新
まずこの件を把握する
AI 概要
针对MoE大语言模型通过主动减少激活专家来加速推理、却会导致对有害请求拒绝能力下降的问题，研究团队提出了名为SafeStart的解决方案。SafeStart方案在处理提示词及生成前8个token时调用全部专家，在随后的生成阶段再削减专家数量。在vLLM框架测试中，该方案保留了至少85%的离线解码加速效果，并将越狱攻击下的有害遵从率变动控制在-2.1至+1.3个百分点之间，有效缓解了推理加速带来的安全代价。
AI が報道をもとに生成 · 5 時間前 更新
最新の進展11月5日 13:00
研究团队提出SafeStart方案，在保留MoE加速效果的同时兼顾安全防御。報道タイムライン
報道をたどり、出来事のさまざまな側面を知る。
11月5日
- arXiv 人工智能SafeStart：缓解 MoE 大语言模型推理服务中主动减少专家的安全代价
针对 MoE 大语言模型通过减少激活专家加速推理导致有害请求拒绝能力下降的问题，研究团队提出 SafeStart 方案。SafeStart 在处理 prompt 及生成前 8 个 token 时调用全部专家，随后阶段再削减专家。在 vLLM 测试中，该方案保留了至少 85% 的离线解码加速效果，并将越狱下的有害遵从率变动控制在 -2.1 至 +1.3 个百分点。
このストーリーのホット度の推移
現在のホット度 9·比較可能範囲のピーク 10（11月5日 14:00）·直近24時間の比較可能な変化–
トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。