StartLux 开源决策模型推理引擎 Prism，推理速度最高提升 5.3 倍

StartLux 正式开源自研决策模型推理引擎 Prism，针对无需长文本生成的决策任务重构计算逻辑，实测在 H200 上推理速度最高提速 5.3 倍。该引擎通过将输出层计算范围压缩至原先的 0.01%、采用多问题复用前缀的森林式计算、int8 整数运算及思考任务混排调度，将 JevBench 测试集单题平均延迟降至 41 毫秒，并在精度几乎无损的前提下支持单张 32GB 显存显卡部署压缩版本。