arXiv 人工智能· Xiuyuan Qi, Pedro Reviriego, Javier Conde, Shanshan Liu·· 6 時間前AI スコア40
BlockLock：利用固定批次几何形状实现可复现 LLM 推理
BlockLock: Reproducible LLM Inference with Fixed Batch Geometry
未翻訳のため中国語で表示しています。
AI ガイド
BlockLock 通过固定请求所见的批次几何形状，在保留共享批处理 prefill 的同时实现可复现的大语言模型推理。方案提供 BlockLock-Rows 与 BlockLock-Pack 两种模式，在 Qwen3-8B/14B、Llama-3.1-8B-Instruct 等模型上验证了位级输出一致性。
出典：arXiv 人工智能 · arxiv.org