Hacker News · AI· carrieremaxime9·· 1 天前AI 评分56
实测同一大模型在 MacBook 与 Jetson 上输入相同但输出产生差异
Same LLM, same input tokens, different answers on a MacBook and a Jetson
AI 导读
实测显示完全相同的 Qwen2.5-1.5B-Instruct 模型文件与输入 token 在 MacBook(M1 fp16)和 NVIDIA Jetson Orin Nano Super(CUDA fp16 及 TensorRT-LLM int8)上会生成不同回答。
来源:Hacker News · AI · kernwerk.org