SOURCE // LABS

掌控越多,成本越高:为什么命令AI不等于真正授权?

掌控越多,成本越高:为什么命令AI不等于真正授权?

昨天,你敲下了 /format

检查了输出。又敲下了 /refactor。再次检查。最后敲下了 /test

结束这一天时,你觉得效率爆棚。毕竟AI完成了所有的具体工作,你只是在进行“监督”。但实际上,这根本不是授权(Delegation),这只是轮班(Shift work)。

声明:本文探讨的是一种结构性的演进模式,而非具体的产品更新日志。下文提到的“命令时代”和“治理时代”并非精确的历史节点,而是团队和工具在使用中反复出现的失效模式。请将其视作结构性历史来阅读。

第一章:命令时代——我们给AI派了更多活,却也给自己增加了负担

当“AI技能(AI Skills)”成为一种共享规范时,它曾让人感觉是一项重大突破。技能分享网站如雨后春笋般出现。你可以通过输入指令来 /summarize(总结)、/diagram(作图)、/translate(翻译)和 /review(审查)。这个列表还在不断变长。

随后便爆发了“格式大战”。一个技能文件该如何组织?AI到底会阅读哪些标题?在上下文压缩后,哪些语法能幸存下来?这场辩论持续了很久。直到确定性的工具终结了争论——编辑器开始以一种固定、可预测的方式解析技能文件。格式问题有了标准答案,社区也继续向前迈进。

但是,没有人去追问最底层的问题:“命令式(Commanding)”真的是正确的交互模型吗?

这种 /command(斜杠命令)文化被官方化、基础设施化。技能分享网站收录了数千个条目,尽管其中大多数只是对无需AI介入的任务进行了包装,甚至很多任务用简单的 Shell 脚本处理会更快。但因为它们是“技能”,且前面带有 /,大家就觉得这代表了未来。

然而,随之产生了一个无法回避的问题:依然必须有人来决定运行哪些命令、按什么顺序运行,以及何时停止。而那个被留下来做决定的人,就是你。

AI的能力边界在扩张,但你的编排负担(Orchestration Burden)也在同步膨胀。你能调用的每一个新命令,都意味着你多了一件需要记住、排序和监督的事情。你没有获得更高的杠杆率,只是得到了一张更长的任务清单。从结构上看,这正是典型的微观管理(Micromanagement):将工作分解为原子单位,逐一发出指令,在大脑中保留执行顺序,并在进行下一步之前验证每一步的结果。执行者是AI,并不能改变这种微观管理的本质。

第二章:治理时代——试图控制我们无法信任的东西

随之而来的下一波浪潮带来了一种不同的直觉:既然我们无法逐步控制AI的具体执行,那就通过构建“治理机制(Harnesses)”和“护栏(Guardrails)”,来限制它的活动边界,在概率性系统的外层包裹确定性的控制层。

这种逻辑表面上很合理:因为AI的行为是不可预测的,所以我们需要建起围栏,定义什么是被允许的,拦截不被允许的,然后交付使用。

但在实践中,AI系统并不像静态的规则评估器那样运作。它们会不断寻找能够达成预期结果的可行路径,而一个带有漏洞的围栏往往会产生适得其反的效果。

【AgentUpdate 深度解析】 从“命令(Command)”到“授权(Delegation)”的转变,正是当前 AI Agent 生态演进的核心痛点。早期的 AI 工具依赖用户手动编排斜杠命令,这在本质上将人类技术人员降格为了“手动调度器”。相比之下,现代 Agent 框架(如 LangGraph、AutoGen 以及近期的 MCP 协议)正试图打破这种微观管理模式。真正的授权要求 Agent 具备自主规划(Planning)、状态管理和反思能力,而不是简单地执行单步指令。未来的 AI Agent 生态将逐步从“人类主导的命令流”过渡到“目标导向的声明式协作”。在这个过程中,技术人员的定位将从“操作监工”转变为“系统架构师”与“边界定义者”。这不仅是人机交互的变革,更是软件工程范式的根本性重构。