“这主意真不错！”“我们应该选 X，别用 Y。”“这里就该用 Z。”
我发现，身边的人，包括我自己，都在把越来越多的思考交给机器。过去，犯错的代价很高。我们会坐下来，认真琢磨真实存在的问题，再动手做出解决方案。如今，开发软件便宜得不可思议，我们造出解决方案的速度，已经超过了为它们找到问题的速度……可我们真的该这样做吗？
Slop-creep，低质系统的蔓延，指的是那些本来无须存在的系统、抽象、功能和基础设施一点点堆积起来。Agent 把构建成本降得足够低，于是，还没等谁认真问一句“为什么要做”，东西就已经做出来了。
我看到有些工程师遇到问题就打开 Claude，把问题扔给这台“桌上算命机”1，然后接受它给出的第一个方案。不思考，不实验，直接问机器，再把它说的话当成真理。已经有一些证据表明，我们越信任这些机器，自己思考得就越少。微软研究院与卡内基梅隆大学的一项研究调查了 319 名知识工作者，涵盖 936 个生成式 AI 的真实使用案例，发现对 AI 的信心越高，投入批判性思考的精力往往越少2。看看周围的人在工作中怎么使用这些工具，我觉得这个结果一点也不意外。
这张图也是交给 AI 生成的，过程中没怎么动脑子。
“人肉中转站”登场
工程师 Niklas Gruhn 创造了 “meat proxy” 这个说法3。可以把它理解为“人肉中转站”：一个人不阅读、不核查，也不理解 AI 生成的文字或代码，只负责复制、转发。Agent 像一个黑箱，不管你丢进去什么问题，它都会吐出一个解决方案。人则成了 Agent 与公司里其他同事之间的接口。
无论有没有这样的人肉中转站，Agent 目前都还不够聪明，无法在不同的抽象层次上判断：“不，这东西别做。”所以，不管你把所有任务交给一整队 Agent，还是坐在终端前机械地按回车，你都在一点点推动低质系统的蔓延。
写代码都这么便宜了，还在意这些干什么？
我觉得，Agent 带来的改变，比“写代码快了多少”更深一层。
过去，实现一个想法需要克服不少阻力，很多蠢主意还没来得及让人花上三个星期，就已经被放弃了。现在，你可以直接把蠢主意做出来，而且大多数时候，连底层代码或系统都不用看。
系统就这样一点点变得复杂，平添了许多本不需要的东西。过去，我们有动力把系统做得更小、更好维护。低质代码一直都有，如今变的是它的生产速度。
确实，有一大群 Agent 随时可以修补代码，我们对糟糕代码的容忍上限也提高了。可这个上限到底在哪儿？它或许比过去高了，但我觉得，大家正在毫无顾忌地一路狂奔，对迎面而来的低质系统浪潮浑然不觉。
AI 不正适合帮我们验证想法吗？
没错，我们确实能更快地测试想法。但这些“实验”似乎一个接一个，没完没了。我看到的粗制滥造也越来越多。Instagram 上到处都是面向各种细分行业的 CRM，许多看上去都像同一套 Claude 生成的模板，只是换了层皮。
因为自己创办过 Waddle，我对这个问题想了很久。Waddle 失败了，原因在于产品与市场不匹配，技术挑战倒没难住我们。具体来说，我们做的是一款面向纹身师的 CRM。工程实现没什么问题，甚至在 AI 出现之前，我们就已经把这部分做得很成熟了。
问题在于，纹身师根本不需要 CRM。他们用 Instagram 联系客户，再用共享的 Google 日历安排预约，已经很满意了。他们甚至更喜欢收现金和电子转账4，也就是加拿大类似 Zelle 的支付方式！人家压根就不想收信用卡，你接入信用卡支付又有什么用？
我并非说我们的 CRM 在任何地方都找不到市场。但这个领域本来就不缺其他工具，面向纹身师的专用 CRM 没有发展起来，自有其原因：这个市场实在太难打开了。
几年前，这类产品的数量还有一道天然限制，因为开发软件确实需要时间。你得足够在乎那个问题，才愿意花几个月把东西做出来。现在，整个过程都可以倒过来：先做出 CRM，再挑一个行业，最后去寻找它据说能解决的问题。
对于创业公司，我觉得这样做大体上没什么问题。加快开发，试一试，发现没人需要你那款面向羊驼养殖户的 AI CRM，就把它关掉。能以很低的成本失败，是 Agent 带给我们最有价值的东西之一。
所以，我担心的是创业公司制造低质产品吗？还真不是。创业公司会倒闭，周末小项目会被放弃，我自己的项目也一样。真正的问题在于，有些地方会让这些不起眼的东西不断生长……最后变得甩不掉。
企业里的低质系统
让我担忧的是：当我们在大公司内部，也开始像那些粗放的创业项目一样行事，会发生什么？
创业公司可以倒闭，周末项目可以删掉，大型组织里的软件却往往会一直留下来。
Claude 说这样才是整洁的架构，你就又建了一个内部服务。有人再加一层抽象，再引入一个数据库、一个 Agent、一套框架。还有人觉得，现有系统不符合 Claude 建议的架构，所以得做一次迁移。每个决定单独看都便宜得很，于是，也就没多少人愿意站出来说不。
毕竟，动手实现正在迅速变成最容易的那一部分。纵观全局、追问那些难回答的问题、设计真正能检验自身假设的实验，这些功课仍然得由我们来做。
低质系统是怎样一点点蔓延的
在企业里，一件东西做出来以后，往往就很难摆脱。只要有同事开始依赖它，你就得负责维护。
过去，这通常发生在团队层面：大家建设一套共享系统，解决许多人的共同问题。现在，越来越多的人可以自行开发方案，解决规模更小、更具体的问题。这确实能立即创造业务价值，确实能帮团队扫清障碍，让工作继续推进。但随之发生的是，每套方案服务的人越来越少，解决方案的归属也越来越分散到个人。
举个简单的例子。假设财务团队要出一份季度报表。以前，他们可能需要和数据工程师合作，搭建所需的数据管道，再从某个集中式平台下载数据，手动核对三份文档里的内容。
这套流程很慢，于是我们开始用 AI 优化它。先从核对数据入手：没有技术背景的员工让 Agent 帮忙写脚本，加快原本的手工操作。很好。人能做的事更多了，于是接下更多工作，继续把流程中的其他环节自动化。人均生产力大幅提升！
接着，另一个业务环节又有了新流程。
财务团队不必再走过去那套缓慢的流程——找数据团队、建管道、把数据接入集中式平台。他们自己就能做，所以就自己做了。
于是，一条负责核对三份新报表的数据管道，出现在某个系统里。它很可能连 Git 都没进过，而支撑它运转的知识，连创建它的人也一知半解。实现细节掌握在机器手里，创建者勉强照看着。反正能跑，大家就继续往前走。
然后，这位财务员工离职了。
接任者继承了报表、脚本、数据管道，以及前任借助这些工具才接得下来的所有额外工作。唯独没继承的，是对这些东西如何运转的理解。
业务在变，系统也得更新。接任者又把它交给 Agent，试着让它适应新需求。系统逐渐偏离原本的标准路径，这份工作也越来越像软件工程，越来越不像财务。
这些由人与 Agent 一起拼出的方案，开始相互依赖。照这个速度下去，每一家年轻公司都可能迅速变成背着沉重历史包袱的科技巨头：服务之间盘根错节，关键的业务背景知识则随着创建者的离职一起消失。
我们能做些什么？
低质系统的蔓延并非不可避免！管理者需要现在就行动起来，不再为交付而奖励交付，转而奖励那些有长远眼光、今天和未来都能创造价值的工作。
在公司里，人们一直都在争取更大的职责范围和影响力。拿着 AI 生成的文档和架构，拼出一个宏大的项目，再让 AI 制定成功标准、论证新增价值，最后交付一套 AI 想要、却没人真正需要的系统——这才是让我害怕的事。
所以，先停下来，关掉所有 Agent，在动手之前，真正花点时间想清楚。自己写设计文档，自己提出方案，请其他人给出反馈，而且要确认他们真的读过，别又成了人肉中转站！
做完这些，再让 Agent 提意见、帮你打磨。但请记住，你还有这份工作，而 Agent 暂时还无法完全接手，是有原因的：我们拿这份薪水，是要动脑子的。
所以，去思考。
Footnotes
-
出自《迷离时空》剧集 Nick of Time 中的桌上算命机。 ↩
-
The Impact of Generative AI on Critical Thinking，微软研究院与卡内基梅隆大学的研究。 ↩
-
Interac e-Transfer，加拿大的电子转账服务。 ↩