AI Agent跑久了就跑偏？长任务目标漂移的成因与7种约束方案

很多团队在演示 AI Agent 时都很惊艳：一句话下去，它自己查资料、调工具、写文件，十分钟搞定一个任务。可一旦把任务拉长到几小时甚至几天——比如让它持续跟进一条营销流水线、维护一个数据管道、或者跑一个多轮调研——问题就来了：它跑着跑着自己把最初的目标忘了。

这种现象我们叫”目标漂移”（Goal Drift）。它不是模型变笨了，而是长链路里的信息衰减和局部最优在作怪。

一、目标漂移的四个真实成因

1. 上下文被中间步骤稀释。 Agent 每完成一步就往上下文里塞一大段工具返回结果。跑二十步之后，最初那句核心指令在全文中占比不到 2%，模型注意力自然被最近的噪声主导。

2. 局部最优压倒全局目标。 当 Agent 在某一步遇到一个”顺手能做完的小任务”时，它倾向于把这一步做到极致，甚至自行扩展子目标。比如你让它”整理竞品价格”，它可能花两小时去爬一个压根不在竞品名单里的网站。

3. 无反馈的自我强化。 如果中间某步判断错了，而后续步骤都以这个错误为前提，偏差会像滚雪球一样放大，越往后越难回头。

4. 缺乏外部状态锚点。 纯靠对话历史维持状态时，一旦触发上下文压缩（summarization），被压缩掉的关键约束就永久丢失了。

二、七种可落地的约束方案

方案一：目标锚定块（Goal Anchor）。 在每次模型调用的系统提示里，固定注入一段从原始任务抽取的”目标+硬约束+完成判据”。不要依赖它自己去记。

方案二：状态外置到文件。 让 Agent 维护一个 task_state.json，显式记录：当前目标、已完成步骤、下一步、未满足的约束。每轮先读状态再决策。

方案三：检查点重对齐。 每 N 步强制插入一次”回头看”提示：让 Agent 用三句话回答”原始目标是什么、我偏离了吗、如何纠正”。

方案四：里程碑门禁。 把大任务拆成若干里程碑，每个里程碑必须满足可验证的验收条件才能进入下一阶段。

方案五：预算熔断。 为 token、步数、工具调用次数、耗时各设硬上限，超限即暂停并请求人类确认，防止在错误方向上无限烧钱。

方案六：子目标冻结。 明确禁止 Agent 自行新增任务范围，任何范围变更必须记录到状态文件并标记为”待确认”。

方案七：定期重规划。 与其一条道走到黑，不如每完成一个里程碑就重新调用一次规划器，用最新信息重排后续步骤。

三、一个最小可用的实现骨架

def run_agent(task, constraints, max_steps=40):
    state = {"goal": task, "constraints": constraints,
             "done": [], "next": "plan"}
    for step in range(max_steps):
        if step % 5 == 0:
            state = realign(state)       # 检查点重对齐
        if not within_budget(state):
            return ask_human(state)      # 预算熔断
        action = decide(state)           # 决策
        if action.scope_changed and not action.approved:
            continue                     # 子目标冻结
        state = apply(state, action)     # 状态外置更新
    return state

def realign(state):
    prompt = (
        "原始目标：" + state["goal"] + "\n"
        "已完成：" + str(state["done"]) + "\n"
        "请用三句话说明是否偏离及纠正方案。"
    )
    state["realign_note"] = llm(prompt)
    return state

关键点在于：状态永远活在外部的结构化数据里，而不是活在一次比一次长的上下文里。

四、什么时候该上这些方案

不是所有任务都需要这么复杂。经验判断：

• 单轮问答、短任务（少于 5 步）：不需要，反而增加开销。
• 中等任务（5~20 步）：目标锚定 + 里程碑门禁即可。
• 长任务（超过 20 步 / 跨越数小时）：七种方案建议全上，尤其是状态外置和预算熔断。

结语

目标漂移是 Agent 从”玩具演示”走向”生产可用”必须迈过的一道坎。它的本质不是模型能力问题，而是工程纪律问题。把目标写死、状态外置、定期重对齐、预算熔断——这四件事做到位，你的 Agent 就能从”三分钟热度”变成”能扛长跑”。