Hacker News · AI· fanweixiao·· 3 小时前精选AI 评分65
开源命令行工具 sjq 发布:专为大模型流式输出设计的流式解析器
Show HN: Sjq – Jq, but for AI Streaming
AI 导读
开源命令行工具 sjq 正式发布,专用于大语言模型流式响应的解析与性能分析。针对流式接口中占比超过 98% 的冗余封装,sjq 能逐行输出增量 token 并自动分离链式推理与正文内容;工具还提供 TTFB、TTFT 及每秒 token 速率等耗时统计,支持直接接驳管道或作为 curl 的包装运行。
推荐理由
该工具解决了命令行调试流式大语言模型响应时冗余字段过多与计时困难的问题,适合开发者优化接口调试流。
来源:Hacker News · AI · github.com