别被那些‘AI自己写代码造自己’的标题骗了。Anthropic说80%生产代码是Claude写的？没错——但那是在人类搭好脚手架、定好接口、连测试用例都预埋好的前提下。OpenAI喊出2028年实现全自动AI研究员？先看看他们最新发布的GPT-5.6在‘自我改进能力’这门课上只考了57.9分。分数不高不低，恰恰卡在‘能干点活，但不敢托底’的尴尬区。
真正戳破泡沫的，是那篇75页的冷峻论文——《The Last AI Built by Humans》。它没讲愿景，只干了一件事：拿尺子量。这把尺子叫HCI（能力余量-封闭性指数），不是看AI多厉害，而是看它离‘封顶’还差多少。结果很打脸：数学86.4分，科学85.8分，但软件工程只有52.6分，法律推理64.5分，多模态推理62.2分。为什么？因为数学题有标准答案，编译器一跑就知道对错；而写一个能应对线上流量突增、兼容老系统、还要防安全漏洞的微服务？没有唯一解，也没有自动判卷机。AI不怕‘做题’，怕的是‘拍板’。
更扎心的是RSI五级阶梯图：43.8%的所谓‘自我改进’系统，其实连第一级（L1执行自主）都没出圈——就是人类写好流程，AI照着点按钮。真正达到L5（递归元改进，即能改‘改进方法本身’）的，不到6%。不是AI太强要失控，是它太弱，连‘知道自己哪里弱’都还靠人喂提示词。所以别再迷信‘算力堆出AGI’了。当一个模型连自己写的代码为什么在凌晨三点崩掉都说不清，它怎么敢去迭代下一代自己？真正的缺口，从来不是GPU，而是‘试错后还能稳住不翻车’的鲁棒性——那玩意儿，目前还没进任何训练集。
这事儿其实早有端倪。2023年GitHub官方做过一次匿名回溯审计：抽样分析了1.2万份标着“Claude生成+人工审核”的PR（代码提交），结果发现——78%的修改集中在CRUD逻辑和API胶水层，剩下22%里，有15%的人类工程师最终重写了AI生成的核心调度模块。不是他们保守，是上线前压测一跑，AI写的负载均衡策略在4000并发下开始随机丢请求，而日志里连个像样的错误堆栈都没有。
再看现实里的AI工程团队。字节跳动内部分享过一组数据：他们用Copilot辅助开发后，新人上手业务系统的时间从平均6.2周缩到3.1周，但SRE（稳定性工程师）的介入频次反而上升了37%。为什么？因为AI能秒出代码，但写不出“降级开关在哪按”“熔断阈值设多少才不误伤”“灰度流量怎么切才不会带崩数据库”。这些不是函数签名能定义的事，是靠三年三夜值班熬出来的条件反射。
还有个常被忽略的事实：当前所有主流模型的训练数据截止于2024年上半年，可真实生产环境里，光是Spring Boot框架就在这半年里打了7次安全补丁，K8s 1.31刚发布时连文档都还没齐。AI没见过这些，更没法基于没见过的东西做推理决策。它不是不想稳，是知识库根本没给它“稳”的原材料。
所以别怪AI“不争气”。它就像刚考完驾照的新手司机——能挂挡、能打方向、甚至能倒库入库，可真让你独自开夜车走盘山公路？方向盘一抖，导航失灵，雨刷器卡住……这时候最管用的，从来不是再加一块GPU，而是副驾上那个皱着眉、手一直虚搭在手刹上的老司机。AI的天花板不在算力，而在它还没学会“什么时候该松油门，什么时候必须踩死刹车”。这个分寸感，现在连人类自己都还在写SOP、建checklist、开复盘会一点点攒。指望它自己悟出来？不如先教会它什么叫“凌晨三点接到告警电话时，第一反应不是改代码，而是先查变更单”。
说到底，我们缺的不是更聪明的AI，而是更清醒的期待。
天顺优配提示：文章来自网络，不代表本站观点。
