跳到正文
原文
arXiv 机器学习· Hennadii Kutomanov·· 7 小时前AI 评分43

指令容量:语言模型在受控负载下的表现与退化

Instruction Capacity: Behavior and Degradation of Language Models under Controlled Load

AI 导读

研究提出测量大语言模型指令容量的量化方法,通过单 token 词替换规则分析模型在受控负载下的遵循极限与退化规律。对 GPT-4o mini 进行 2958 次请求和 642,430 次试验测试显示,在 0.95 正确替换率下其指令容量约为 37-38 条规则,完全替换密度下约 18-19 条规则。相关评测工具代码、测量数据与 passport 已开源。

来源:arXiv 机器学习 · arxiv.org