跳到正文
原文
arXiv 机器学习· Kai Li, Hanlin Cai, Zihao Liu, Yichen Li, Jose Alcaraz Calero, Wei Ni, Falko Dressler, \"Ozg\"ur B. Akan·· 8 小时前AI 评分34

基于超图消息传递的拜占庭容错联邦大语言模型框架 HMP-GAE

Byzantine-Resilient Federated Large Language Model via Hypergraph Message Passing

AI 导读

研究提出超图消息传递图自编码器框架 HMP-GAE,用于解决联邦大语言模型去中心化训练中抵御拜占庭攻击的知识聚合难题。该方法基于 Qwen-2.5 和 Llama-3.2 骨干网络实现,通过将低秩模型更新表示为超图节点并利用跨智能体关系推理抑制被篡改的更新。

来源:arXiv 机器学习 · arxiv.org