跳到正文
原文
Hacker News · AI· carrieremaxime9·· 1 天前AI 评分56

实测同一大模型在 MacBook 与 Jetson 上输入相同但输出产生差异

Same LLM, same input tokens, different answers on a MacBook and a Jetson

AI 导读

实测显示完全相同的 Qwen2.5-1.5B-Instruct 模型文件与输入 token 在 MacBook(M1 fp16)和 NVIDIA Jetson Orin Nano Super(CUDA fp16 及 TensorRT-LLM int8)上会生成不同回答。

来源:Hacker News · AI · kernwerk.org