开源端侧语音识别模型 Whistle 发布：体积仅 16.9 MB 且首 Token 延迟 11 毫秒

Cactus Compute 开源发布端侧语音识别模型 Whistle，单文件仅 16.9 MB，可在 CPU 上无依赖本地运行。该模型支持英、德、法、西、意、荷、波兰 7 种语言的 30 秒内语音转录、词级时间戳及语音嵌入，在 Apple M4 Pro 上首 Token 延迟低至 11.1 ms、解码速度达 1,319 tokens/s。