AgentHubAgentHub
Back to Blog

AI 软件工程师(SWE-bench)现状实测:从 Devin 幻想到真实工程能力边界

AgentHub 核心团队··4 min read·55 views
AI 软件工程师(SWE-bench)现状实测:从 Devin 幻想到真实工程能力边界

惊艳演示背后的工程现实

当各类“首位 AI 软件工程师”的宣传视频刷屏时,很多非技术人员以为几周内程序员就要全面下岗。

然而在工业级严苛基准 SWE-bench(基于真实 GitHub 开源项目的历史 Bug 修复集)上:

  • 顶尖 Agent 的实际解决率从一年前的 13% 上升到了目前的 40%~55%;
  • 这意味着:面对一个中等复杂的真实软件缺陷,AI 仍然有近一半的概率无法独立给出正确解。

读这个区间的数字时要注意两点:SWE-bench 是对"端到端独立完成真实缺陷修复"的上限估计,Agent 拿到的是完整仓库与真实 issue 文本,任何一步崩掉都算失败;同时解决率高度依赖包裹模型的任务脚手架(规划、检索、重试策略),同一模型换个框架分数可以明显浮动。因此它适合衡量"离无人值守还有多远",不适合直接当采购排名用。


真正阻碍 AI 成为独立工程师的 3 大鸿沟

  1. 长程目标遗忘:当一次重构需要修改 15 个以上相互依赖的文件时,AI 经常顾此失彼;
  2. 缺乏系统隐性知识(Tacit Knowledge):代码中未明文写入的业务历史妥协与政治逻辑,模型无从知晓;
  3. 定位不是取代,而是“副驾驶升级为机长助理”:人类从逐行敲代码的操作员,转变为定义边界与最终签批的系统架构师。

人机分工落地表

任务类型当前可给的自主度必须配的保护栏
单文件小修、样式调整基本可放手,事后抽查自动化测试通过即可合入
有清晰复现步骤的缺陷可自主定位并起草修复强制附回归测试,人工签批
跨多文件的中等重构只做方案与试点,不做全量分步计划校验、逐批审 diff
涉及隐性业务规则的改动仅辅助分析与提供选项领域业务专家终审,不可绕过

鸿沟一(长程遗忘)与鸿沟二(隐性知识)决定了自主度的天花板恰好落在"多文件"与"业务历史"这两条线上。

验收 AI 产出的三道门

  1. 复现门:先让 AI 补出能稳定复现缺陷的失败测试,确认它修的是真问题而不是绕过了断言;
  2. 回归门:既有测试全量通过,且新增测试进入常备回归集,防止同类缺陷复发;
  3. 范围门:审查 diff 的波及面——改动文件数、公共接口变化、删除代码比例,超出声明意图的改动一律打回。

三道门全部可以自动化前置,人只看最后一眼结论与例外,这正是"机长助理"定位的工程含义。

常见问题速查

现象/疑问原因/背景处理/建议
演示里一次成功,实测常翻车演示挑选了任务分布的容易尾部用自身缺陷库统计真实通过率
同模型换框架分数差很多解决率依赖脚手架而非仅模型评测时固定并版本化脚手架
AI 修复引入新缺陷无回归门,diff 范围失控复现/回归/范围三道门全开
团队不敢放手用缺少责任与签批机制按分工表逐级提高自主度

小结

对"AI 软件工程师"的可执行判断:先在自己仓库的历史缺陷中抽样跑一轮,得到你们业务分布下的独立解决率,再对照分工表决定各层任务的自主度。行业均值只是参照系,你自己的抽样率加三道门的拦截记录,才是放不放手的依据。

延伸阅读

Related Articles

Trends & News

Gemini 4 登场了:输出 100 万 token、幻觉率降到 15.1%,但你现在还用不上

9 月 30 日谷歌发布 Gemini 4 这一代的首款旗舰 Argon:单次输出上限 100 万 token、每百万 tokens 输入 2 美元、主打能连续干几小时的长流程任务,距上一条旗舰线隔了 10 个多月。但它第一批只向网络安全防御机构开放,公众可用时间谷歌没有公布。这篇把发布稿里的数字翻译成人话:为什么媒体给出的“领先 12 项 / 13 项 / 14 项”都不一样、它在从零建项目和终端操作两项上落后约 10 个百分点、独立评测里幻觉率 15.1% 很好看但知识答对率只有 49.9%(两个数必须一起看),以及普通人现在该做的三个动作。

Trends & News

MCP 简史:675 天换过五版规范,从 6 个示例服务器到 247 家机构

2024 年 11 月 25 日,Anthropic 用六个示例服务器和一个桌面客户端发布 MCP;到今天 675 天,它换过五版规范、SDK 累计下载破 10 亿、协议本身交给 247 家机构参与的中立基金会。这篇按版本把每一步改了什么、为什么改、竞品何时进场、鉴权与安全怎么补课一次讲清,并给出五条能直接用在选型上的判断。

Trends & News

中国大模型三年:从 8 款备案到 1112 款,从发布会竞赛到港交所敲钟

2023 到 2026,中国大模型走了三条线:备案数从 8 涨到 1112,API 价格从"没人报价"打到永久砍半,开源许可从自定义条款走到 MIT 与 Apache 2.0,最后智谱和 MiniMax 在 2026 年 1 月前后脚上市。这篇按四年时间顺序,只写能查到公开出处的节点。

Trends & News

从图灵到智能体:人工智能 76 年兴衰史,为什么爆发恰好是现在?

1956 年达特茅斯的狂想、两次经费寒冬、专家系统的崩塌、深蓝的暴力美学、2012 年深度学习春天、ChatGPT 时刻,直到 2026 年智能体全面爆发——复盘 AI 七十六年兴衰曲线会发现:每次引爆都不是“更聪明”,而是算法、算力、数据、执行、成本这块木桶恰好补齐了新板子。看懂这条规律,也就看懂了今天的 Muse、Jev 与 API 价格战。

Explore AI Ecosystem

Ready to take action? Explore AI tools & MCPs

Discover ChatGPT 6, Claude 3.7, Devin and 3000+ open-source MCP tools with 1-click config.

AI 软件工程师实测现状:从 SWE-bench 到真实工程边界 - AgentHub