当你觉得困难的时候,说明不是你应该做的。
当你觉得写和审 Spec 很困难,说明你不应该做;你应该转向 Goal,让 Agent 从 Goal 中派生 Spec。
当你觉得写 Goal 也很累,说明你不该自己写,让 Agent 设置目标,你来审。
当你觉得描述要生成的图片很累,你可能已经通过表达对结果的预期,让 Agent 去生成了(它依然会有详细生图 prompt 存在,但作为内部过程,而非人机界面)。
因此,当你觉得记忆管理很困难,说明你也不应该自己做。
你甚至不应该对记忆有特殊对待,应该跟其它上下文一样,围绕特定任务和目标,提供原始材料和检索工具。
然后,最重要的是,不要期待 Agent 一次弄对、一次全对,而是靠循环反馈,在多次推进和纠偏中,将结果收敛于没有明显问题的可接受形态。
总的来说,当 Human in the loop 感到困难和痛苦,人自身成为瓶颈,意味着需要 Lift 到更外层,不要阻碍这个环节的 Agent 交付产能,不要让自己成为卡点。
最终我们常常 Human on the loop,偶尔 in the loop,不时被 Agent 的低级错误笑掉大牙,但总是可以纠偏。
Loop Agent 则更加端到端交付,通过 24 小时无间断工作的 n 倍算力投入,将中间误差从显著到不显著,从核心区域到边缘区域转移。
你的系统1比你的系统2,对 AI 有益。你的系统2比不上 LLM,所有技术细节/理论细节方面都比不上。
但你的系统1工作省力、可以做快速直觉判断,它指引了 Agent 收敛的方向。
你的系统2训练,是为了通过过度学习,将专业知识/审美压进系统1,从而使它具备特定方面的快速反应能力。
你的痛苦来自于你用自己慢启动的系统2,去扛端到端交付的某个节点,你的生理限制就是瓶颈所在。
你需要的是用你的系统2,为你的系统1去设计可观测、可验收材料作为任务目标。
再将你自己从端到端交付环节中摘出来,让 Loop Agent 接管。然后,用你的系统1省力的反馈,调教 Loop 的迭代方向。
这就是 HAI(Human-AI Interaction) 的演进方式。
点击图片查看原图
点击图片查看原图
点击图片查看原图