本文へスキップ

評価ベンチマーク

模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化的持续记录。

173件の厳選関連トピック模型发布论文研究推理能力

最新の厳選

21〜40 件目 · 全 173 件
10月29日木
  1. Hacker News · AI71

    AI 智能体能否胜任高级专家工作?五项实证研究证据解读中国語

    多项实证研究表明,AI 智能体仅能在特定条件和任务下达到专家水平,在开放式判断、方法选择及技术边界外的任务中依然容易失效。在咨询顾问实验中,超出能力边界的任务使 AI 辅助者的正确率落后无 AI 组约 19 个百分点;针对同一金融数据集的 150 个智能体因评估指标选择不同得出了截然不同的结论,且重症监护预测基准中单智能体表现优于朴素的多智能体协作。

    推薦理由:文章梳理了五项前沿实证研究,揭示了智能体在方法选择分歧、主观效率错觉和多智能体协同失效等方面的关键局限。

  2. 爱范儿 · AI 筛选68

    即梦短剧工作室实测:通过资产复用与3D预演降低视频生成试错成本中国語

    即梦推出短剧工作室并整合 DreamScript、Anycook 与 DreamShot 等模型,提供从剧本解析、资产管理到 3D 导演台预演及后期局部重拍的剧集创作流程。实测表明,系统支持将角色和场景沉淀为可跨集调用的资产,并允许在三维空间中通过白模调整站位与机位以减少盲目算力消耗。结合相关会员折扣活动,Seedance 2.5 的 720P 带参考视频生成最低折算约 0.19 元/秒。

    推薦理由:实测展示了从剧本解析到3D导演台预演的短剧工作流,为多镜头一致性与局部修改提供了低试错成本方案。

  3. Hacker News · AI72

    AI 智能体重复执行相同 SQL 查询 254 次:Funnel 的模型评测与工程反思中国語

    Funnel 在其内部数据智能体平台 Reef 上针对 GLM-5.2 与 Claude Opus 4.8 进行了 A/B 测试,发现 GLM 单次响应速度虽快一倍以上,但端到端工具调用量多出 66%,甚至曾重复执行相同的 SQL 查询 254 次导致总耗时增加 14%。

    推薦理由:给出在智能体系统替换模型时的工具调用死循环案例,为工具契约设计与防护边界提供了具体参考。

  4. Hacker News · AI75

    大模型专家人设提示词评测:未提升事实准确率且增加推理 token 与成本中国語

    一项针对 5000 道 MMLU-Pro 题目的评测显示,在系统提示词中加入专家人设(Persona Prompting)未能改善模型的事实准确率,反而增加了推理 token 消耗与接口延迟。

    推薦理由:实测数据对比了专家人设对模型准确率与推理开销的实际影响,为生产环境中精简系统提示词和降低调用成本提供了具体参考。

  5. Google Developers · AI 筛选66

    Google 详解如何利用 Agents CLI 评测闭环持续提升智能体质量中国語

    Google Developers 发布实践指南,演示如何使用 Agents CLI 内置的 eval 体系构建 AI 智能体质量评估与防退化闭环。该流程通过 eval generate 与 eval grade 跑测并由大模型作为裁判打分,结合 eval compare 进行用例级差异比对,可精准定位提示词污染或模型切换引发的调用漂移。

    推薦理由:原文通过具体用例演示了如何用 CLI 构建智能体评测与回归对比闭环,读者可据此落地自动化质量防退化流程。

  6. IT之家 · AI 筛选80

    Artificial Analysis 上线 Intelligence Index v5 基准,DeepSeek V4.1 Flash 获开源最高分中国語

    Artificial Analysis 正式发布 Intelligence Index v5,将 60% 评测权重建立在私有测试集上,并引入以真实开源 PR 合并为标准的 FrontierCode 2.0。

    推薦理由:通过引入高比例私有题库与真实PR合并导向,展现了前沿模型在防训练污染和智能体实战中的真实能力分化。

10月28日水
  1. Hacker News · AI68

    JavaScript 框架的 AI 成本评测:智能体开发开销与性能对比中国語

    作者设计基准测试并使用 Claude Code(Opus 5.5)让智能体分别通过 12 种 JavaScript 框架构建同款应用,评估其生成成本与产出质量。

    推薦理由:原文通过量化实测对比了不同前端框架在编码智能体环境下的实际开销,为评估框架与开发工具适配度提供了可参考的基准数据。

  2. The Decoder70

    Artificial Analysis 智能指数改版,开源与闭源模型综合差距进一步拉大中国語

    Artificial Analysis 更新其 Intelligence Index 第 5 版,开源模型与榜首的差距从 3 分扩大至 12 分。新版指数首次有 60% 题目依赖私有测试集以防止刷榜,导致 Kimi K3.1 Pro 排名从第 4 跌至第 9,Grok 4.7 评分也下降 12 分。虽然私有题库能更真实地反映跨领域强化学习基建水平,但也引发了外部无法核查提示词缺陷的争议。

    推薦理由:榜单通过引入私有测试集遏制针对题目的刷榜行为,为评估开源与闭源模型的真实能力差距提供了参考。

  3. Hacker News · AI76

    实测 Claude Opus 5.5 可生成报建级建筑施工图中国語

    建筑师作者实测对比 13 款模型后发现,Anthropic 的 Claude Opus 5.5 在专业提示词与红线批注配合下,已能够直接生成达到报建许可证级别的成套房屋建筑施工图。

    推薦理由:原文通过专业实测展示了前沿模型直接编写代码生成报建级矢量工程图的完整过程,为评估 AI 替代传统 CAD 制图提供了具体参考。

  4. Hacker News · AI78

    Claude Code 默认遥测被曝回传已读文件的 SHA-256 哈希中国語

    安全实测发现 Claude Code 默认遥测机制会将读取文件的未加盐 SHA-256 哈希连同设备与会话 ID 发送至 Anthropic,即使切换为 DeepSeek 等第三方模型且完全未登录 Anthropic 账号也会触发。

    推薦理由:实测揭示了即使未登录官方账号仍会回传文件哈希的隐私风险,并提供了关闭遥测流量的具体环境变量配置。

  5. Hacker News · AI63

    研究显示大语言模型审稿偏好自信措辞,同等内容下语气改变可逆转录用结果中国語

    德国一项新研究发现,大语言模型在评审科学论文时普遍更青睐果断自信的措辞,即便实际研究内容完全一致,自信版本也会获得更高评分与更多正面评价。

    推薦理由:该研究量化展示了语言风格对大语言模型审稿结论的系统性干扰,为评估自动化评审工具的可靠性提供了具体实测依据。

  6. Hacker News · AI71

    开发者开源 sandbox-conformance:用各家自有测试集交叉评测 AI 编码智能体沙箱中国語

    开发者开源评测项目 sandbox-conformance,将多个 AI 编码智能体沙箱各自的测试用例转化为统一标准并互相交叉运行。v1.1 版本已从 sandbox-runtime、Codex、nono、OpenHands 等提取 196 个测试契约,涵盖攻击拦截、正常操作控制与效果检查三重判定。

    推薦理由:该项目将各沙箱自带的测试转化为统一契约进行交叉验证,读者可借此横向对比不同隔离方案的实际防护边界。

  7. Hacker News · AI74

    实测270次运行:护栏机制能否提升AI编程智能体表现?中国語

    一项针对 Claude Code 2.1.296 的 270 次独立运行实验表明,护栏机制(指令文件与 pre-commit 门禁)并未提升 AI 编程智能体的隐藏测试初次通过率,两组通过率均在 88 至 90 次(满分 90 次)。

    推薦理由:作者用270次对比实验量化了护栏机制对编码智能体的真实影响,有助于团队评估工程规则与门禁成本。

  8. Hacker News · AI77

    Google Project Zero 对比 Fuzzilli 与 BigSleep 在 V8 引擎中的漏洞挖掘表现中国語

    Google Project Zero 对比了模糊测试工具 Fuzzilli 与基于大模型的漏洞挖掘系统 BigSleep 在 Chrome V8 引擎上的实测数据。

    推薦理由:文章通过线上管道统计与受控复现实验对比了模糊测试与大模型智能体,揭示出两者在漏洞挖掘类型上高度互补的特征。

  9. Hacker News · AI65

    实测用 AI 伪造科学论文并投稿 IEEE Access:生成内容如何被期刊防御机制识破中国語

    作者使用通用大模型与自动化科研系统 FARS 分别生成伪造论文并提交给 IEEE Access 进行实测,两篇论文均被期刊的学术诚信审查拦截。首轮使用免费大模型拼凑的论文因包含十多处虚构参考文献被检测工具快速识破;次轮由多智能体科研系统自主完成实验与撰写的论文虽无假引用,却因过度依赖预印本以及图表中的异常生成痕迹被人工审核拦截。

    推薦理由:测试展示了通用大模型虚构论文与自动化科研智能体在期刊筛查下的破绽,为识别生成式学术造假提供了实测参照。

  10. Hacker News · AI68

    开发者评测 4 款面向 AI Agent 的搜索 API:You.com 响应最快,Parallel 准确率最高中国語

    独立开发者在 GTM、保险和金融三个场景共 30 个实时查询下,横向评测了 You.com、Tavily、Exa 与 Parallel 四款面向 AI Agent 的搜索 API。

    推薦理由:测试横向对比了主流搜索接口在不同业务场景下的延迟与准确率,为开发者针对实时或深度研究类智能体选型提供了具体参考。

  11. Hacker News · AI71

    AgenticBench 发布:对 25 款 AI 编程智能体开展 9 项安全基准测试中国語

    AgenticBench 上线 AI 编程智能体安全评测榜单,对 25 款客户端运行环境开展了 9 项隔离与权限安全测试。评测通过捕获系统调用轨迹和网络流量,检验智能体在未授权访问敏感文件、提示词越权、符号链接绕过及错误日志泄漏等场景中的防护能力,多数受测对象统一部署在 DeepSeek V4.1 Flash 上。项目目前已提出 14 起安全漏洞披露,其中 6 起已公开并支持版本复测追踪。

    推薦理由:该项目针对编程智能体的安全防护提供标准化评测,有助于开发者对比不同客户端在隔离越权和机密防泄漏上的表现。

  12. Hacker News · AI78

    解读 OpenAI 称其 AI 证伪指数时间假设:运行时间测算与 Lean 形式化证明细节中国語

    OpenAI 宣称其内部模型给出了证伪指数时间假设(ETH)的确定性算法,并已在 Lean 中完成定理形式化证明。该解读文章分析指出,论文给出的确定性算法虽能在多项式空间内亚指数级计数 k-CNF 解,但未给出隐藏常数,且在 Lean 形式化中证明的较弱界限仅在变量数达到约 2400 位数时才优于穷举。

    推薦理由:文章拆解了算法渐近复杂度与实际常数,读者可据此认清其仅具理论价值而无法用于现有求解器。

10月27日火
  1. Hacker News · AI64

    945个知名网站AI爬虫拦截调研:近一成封禁AI训练但放行AI搜索中国語

    Kavel 对 945 个知名网站的 robots.txt 规则展开实测,分析其对 14 种 AI 爬虫的限制策略。在可读取规则的 746 个网站中,25.9% 至少拦截了一种 AI 爬虫,9.2% 封禁 AI 训练爬虫却允许所有 AI 搜索爬虫访问。按爬虫类型统计,CCBot、Bytespider 和 ClaudeBot 拦截率最高;按行业划分,新闻类网站拦截 AI 爬虫的比例接近 80%。

    推薦理由:调研量化了主流网站对训练抓取与搜索引流的区别对待,展示了内容方在保护数据产权与获取流量曝光之间的权衡。

  2. The Decoder75

    分析揭示 OpenAI 合作方内容在 ChatGPT 中获预摘要与优先展示待遇中国語

    研究员对 1000 个案例的分析显示,OpenAI 授权合作伙伴的内容通过名为 labrador 的专用引擎接入 ChatGPT,并在 Prompt 中置顶排在普通网络抓取结果之前。

    推薦理由:实测数据揭示了 ChatGPT 对商业合作方与普通网页的差异化管线,为理解生成式引擎优化提供了具体依据。