Human-in-the-loop
一种工作模式:一个或多个人在 Session 中与 Agent 结对——实时审阅、纠偏或协作。人类是全程在场并投入的,不只是对单个动作把关。
与之相对的是 AFK 工作:Agent 无人看管地运行,事后再评判结果。Human-in-the-loop 意味着在问题代价还很低时就发现它:你看到 Agent 去拿错文件、误读需求,或者走进死胡同时,只用一句话就能把它拉回正轨——而不是等它在这条错误上做了二十分钟自信满满的工作后才发现。Agent 并不总能可靠地意识到自己跑偏了;放任不管时,它们往往选择继续推进,而不是停下来问。
哪种模式合适取决于工作本身。需求明确、风险低、易于验证的任务适合 AFK。模糊、不可逆或完成后难以审查的任务——比如 schema 迁移、棘手的设计决策、任何涉及生产环境的操作——适合保持 Human-in-the-loop。本质上要判断:一次走错的代价有多大,你多晚才会发现?
有些工作本质上就必须在环,因为你的反馈就是输入。反复追问只有你在场回答才有效;原型开发只有你在场对产物做出反应才有效。
保持 Human-in-the-loop 消耗的是你的注意力,而注意力是稀缺资源。更善用 Agent 的一部分,就是把更多工作安全地移出闭环——通过计划、自动化检查,以及最后的人工审查,取代全程监督。
用法:
“这个 AFK 跑一晚?”
“不行,这是 schema 迁移——保持 Human-in-the-loop。我要看到每一步,如果它选错了回填来源列,还能及时纠偏。”