跳到正文

开源生态

开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。

131条精选相关主题模型发布Hugging FaceAI 编码

最新精选

第 1–20 条 · 共 131 条
9月30日周三
  1. The Decoder76

    DeepSeek 联合华为开源昇腾芯片编程工具 TileLang

    DeepSeek 联合华为针对昇腾 AI 芯片推出开源编程工具集,核心包含由北京大学研究团队原研的开源编程语言 TileLang,旨在提供比 CUDA 更简便的高性能编程模型。

    推荐理由:原文披露了国产芯片软硬件协同的底层架构细节,有助于评估国内 AI 基础设施摆脱 CUDA 生态依赖的可行路径。

  2. Hacker News · AI65

    Tracelane 开源基于 Rust 的防篡改审计 LLM 网关

    开源项目 Tracelane 发布基于 Rust 开发的 LLM 网关,为 AI 智能体提供自带密钥(BYOK)代理与防篡改审计账本功能。网关实测 P50 延迟仅 2 ms,默认全量捕获符合 OpenTelemetry 规范的调用链,并采用哈希链支持第三方完全离线验证审计日志。系统还内置提示词注入检测与 MCP 工具定义校验等防护栏,支持通过 Docker Compose 免费自托管运行。

    推荐理由:该项目将 LLM 网关与哈希链审计账本结合,为需要离线可信合规与低延迟链路追踪的智能体落地提供了开源方案。

  3. DeepSeek 公众号84

    DeepSeek 开源面向华为昇腾的基础设施组件

    DeepSeek 正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 语言编译工具、DeepGEMM、DeepEP、TileKernels、FlashMLA 与 DeepSelect 等计算与通信库。所有组件与此前面向英伟达平台的开源组件一一对应,并结合昇腾 Ascend C 底层指令提供高性能算子实现;双方还合作推进了基于昇腾 950 的 128 卡超节点方案。

    推荐理由:DeepSeek 将此前验证过的核心算子与通信组件移植至昇腾,为开发者在国产芯片上构建高性能训练环境提供了可直接复用的基础设施。

  4. Hacker News · AI72

    本地大模型可观测性工具 LLMxRay 开源

    LLMxRay 是一款面向本地大模型的开源可视化可观测性工具,支持实时 Token 流式监测、响应质量检查、性能分析与云端等价成本估算。工具完全在本地运行无需云端 API Key,深度适配 Ollama 后端,内置用于分析提示词 KV 缓存命中损耗的 Cache Lab、多模型横向对比、协议差异分析以及本地 RAG 检索可视化功能。用户可通过 npx 或 Docker 命令在本地快速启动。

    推荐理由:针对本地大模型运行的黑盒问题,该工具提供了流式生成延迟与提示词缓存命中的可视化诊断手段,便于开发者优化推理性能。

  5. Hacker News · AI67

    开源框架 Explainroo 发布,支持通过 Claude 等智能体全自动制作解说视频

    Explainroo 是一款免费开源的解说视频生成框架,支持 Claude Code 等编码智能体在本地全自动完成脚本、配音与渲染并导出 MP4。该工具使用开源 Kokoro 模型合成语音,通过 Whisper 确定逐词时间戳,并在后台调用 Chrome 与 ffmpeg 进行矢量绘图与压制,无需独立显卡即可离线运行。

    推荐理由:该项目让编码智能体通过本地轻量模型和无头浏览器全自动制作解说视频,为自动化内容创作提供了无需 GPU 的端到端实现范式。

  6. Hacker News · AI69

    Humanbound 开源 AI Agent 红队测试引擎与 SDK

    Humanbound 正式开源了专为 AI Agent 设计的对抗性测试引擎、SDK 与 CLI 工具。该工具可针对真实 API 端点驱动多轮对话与工具越权探测,并支持将失败测试用例直接转化为防火墙规则进行防护。项目采用 Apache-2.0 协议,支持通过 Ollama 本地离线运行或连接云端 LLM 服务。

    推荐理由:该项目针对真实环境下的智能体多轮对话与工具调用展开对抗性测试,并将漏洞直接转化为防护规则。

  7. The Decoder75

    Anthropic 称智谱开源模型 GLM-5.3 漏洞利用构建能力接近 Claude Mythos Preview

    Anthropic 评测显示,智谱开源模型 GLM-5.3 在网络漏洞利用能力上已接近 Claude Mythos Preview,在 ExploitBench 测试中 410 次尝试成功构建 50 次可用漏洞利用,Mythos Preview 为 56 次。

    推荐理由:通过具体的漏洞挖掘基准测试数据,展现了开源大模型在网络安全攻防能力上快速逼近专有模型的现状。

  8. vLLM 官方博客(网页)77

    vLLM 分离式推理实践指南:Prefill/Decode 分离与纯 CPU 前端架构

    vLLM 官方发布分离式推理(Disaggregated Serving)实战指南,详细拆解如何将 Prefill 与 Decode 阶段解耦并将分词与解析剥离至纯 CPU 前端。

    推荐理由:原文系统阐述了 vLLM 分离式推理架构的实现细节与部署代码,读者可以据此评估长上下文高并发场景下的性能收益与运维权衡。

  9. 量子位75

    Anthropic 发文警告智谱 GLM-5.3 网络攻击能力强且开源护栏易绕过

    Anthropic 发布安全研究报告,警告智谱开源模型 GLM-5.3 具备端到端网络漏洞挖掘与利用能力,且开源权重使其安全护栏容易被绕过或修改移除。测试显示 GLM-5.3 在 ExploitBench 上的漏洞利用表现接近闭源的 Claude Mythos Preview,并能以极低 API 成本构建漏洞攻击链。

    推荐理由:文章梳理了 Anthropic 对开源模型网络安全能力的实测警告,呈现了模型能力扩散与开源安全治理之间的核心争议。

  10. AITNT · AI头条(网页)78

    DeepSeek 开源面向华为昇腾的基础设施组件与编译工具

    DeepSeek 宣布开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具以及 DeepGEMM、DeepEP、TileKernels、FlashMLA 和 DeepSelect 等计算与通信库。

    推荐理由:DeepSeek 将此前在英伟达平台验证的算子与通信工具适配至昇腾平台,为国产算力开发者提供了源于大模型实战的底层优化实现。

  11. Hacker News · AI68

    CAISI 评估智谱 Z.ai GLM-5.3 网络安全与攻防能力

    CAISI 发布针对智谱(Z.ai)开源权重模型 GLM-5.3 的网络安全能力评估,指出其为迄今网络能力最强的开源权重模型,但综合表现仍落后美国前沿模型约 4 个月。

    推荐理由:原文给出了该开源模型在漏洞挖掘与利用基准上的实测数据和差距对比,读者可以据此评估开源模型在网络安全攻防领域的真实能力边界。

  12. IT168 服务器存储 · AI与算力(网页)79

    华为发布昇腾960超节点与NPO光互联产品,公布百万卡算力集群演进路线

    华为在全联接大会2026上发布业界首款采用NPO光互联技术的昇腾960超节点、7.2T传输容量的Hi-ONE光互联引擎以及OceanStor M900 KV缓存集群。

    推荐理由:原文披露了昇腾960超节点与NPO光互联架构细节,展示了面向百万卡AI集群从总线协议到多层缓存的系统级工程方案。

  13. Buzzing HN · 中文精选88

    World Labs 宣布将加入 AMD,李飞飞出任 AMD 执行副总裁兼首席科学家

    World Labs 宣布已签署最终协议加入 AMD,创始人李飞飞将出任 AMD 执行副总裁兼首席科学家,直接向 CEO 苏姿丰汇报。Justin Johnson 和 Ben Mildenhall 将继续与李飞飞共同带领团队,共同打造涵盖硬件、软件、平台和开放模型的端到端 AI 生态系统。该交易预计在 2026 年底前完成交割。

    推荐理由:空间智能初创团队并入芯片巨头,体现了前沿 AI 研究团队与底层硬件加速深度整合的行业趋势。

  14. Buzzing HN · 中文精选68

    开源快速决策模型 Jeff 发布,基于 Qwen3.5 单次前向推理延迟约 30ms

    开源决策模型 Jeff 正式发布,基于 Qwen3.5-0.8B/2B 与 Gemma 4 E2B 微调,支持单次前向推理直接输出校准概率,单次决策延迟低至 22 至 28 毫秒。

    推荐理由:原文展示了仅需单次前向推理的轻量级决策模型实现路径,为端侧与高并发场景下的极速分类与路由提供了低成本方案。

  15. IT之家 · AI 筛选79

    DeepSeek 开源面向华为昇腾算力平台的基础设施组件

    DeepSeek 宣布开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、计算库及分布式通信库,与英伟达平台开源组件一一对应。

    推荐理由:原文给出了底层编译与通信组件从英伟达向华为昇腾的对应适配细节,有助于评估国产算力在训练和算子开发上的可用性。

  16. AITNT · AI头条(网页)77

    Flask 作者访谈:极简 Coding Agent Pi 为何只给 bash 就能赢过 Claude Code

    Flask 作者 Armin Ronacher 在播客访谈中拆解了极简 Coding Agent 工具 Pi 的爆火原因与设计哲学,指出大语言模型已擅长使用计算机,直接依赖 bash 管道串联命令比塞入专用工具更能高效利用上下文并保持可扩展性。

    推荐理由:访谈深入拆解了极简 Agent Harness 的底层设计哲学与工程权衡,读者可借此理解为什么简单命令管道比塞满工具的架构更具扩展潜力。

  17. Cerebras 官方博客(网页)77

    Cerebras 实测 Karpathy 的 autoresearch:如何防止 AI 自主研究闭环失控与偏离目标

    Cerebras 针对 Karpathy 提出的 autoresearch 框架开展了 71 次实测,开源了 codex-autoresearch-harness 和 reap-expert-swap 工具,并总结了防止智能体自主实验偏离目标的工程实践。

    推荐理由:原文通过两组真实任务实测了自主研究智能体的边界,给出了约束环境漂移和控制算力开销的具体方案。

  18. LlamaIndex 官方博客(网页)66

    LlamaIndex 发布 LiteParse 2026 年 9 月更新:优化解析性能并新增视觉定位与复杂度路由

    LlamaIndex 宣布开源 PDF 解析工具 LiteParse 迎来重要更新,通过在其 PDFium 分支中引入 mimalloc 内存优化与热路径缓存,将文本提取耗时降低 20–25%,在无 OCR 情况下达到平均 2.8ms/页的提取速度和 3.9ms/页的 Markdown 渲染速度。

    推荐理由:文章详细拆解了通过改造底层 PDFium 内存分配提升无模型解析吞吐的工程细节,为文档预处理与路由分流提供了实测基准。

  19. vLLM 官方博客(网页)67

    vLLM 推出会话感知智能体路由 SAAR,优化长流程 Agent 模型调度与缓存成本

    vLLM 在 Semantic Router 中正式引入会话感知智能体路由 SAAR,通过会话级状态控制解决长流程 Agent 在单轮 prompt 路由下易打断工具调用与丢失前缀缓存的问题。

    推荐理由:原文针对长流程智能体多轮调度痛点,提出结合工具循环锁与前缀缓存定价的会话级路由策略,为大模型推理网关降本与连续性保障提供了工程参考。