上下文越长越没用？AIAgent别只做提示！上下文工程才是跃迁关键

今日快讯 2025年10月13日 15:03 0 aa

前阵子帮朋友做一个电商AI客服，一开始我只给它写了提示：“你是专业客服，要耐心回复用户问题，解决订单和售后问题”。

结果上线第一天就出岔子，有用户问“我昨天买的口红怎么还没发货”，客服直接回复“请耐心等待，我们会尽快处理”，可实际上那单早就缺货了。

朋友急得来找我，我才发现问题出在哪：这客服只靠提示，根本调不了订单数据和库存信息，可不就瞎回复嘛。

后来我改用“上下文工程”的思路，给客服整合了用户历史订单、实时库存、退换货政策这些模块，还加了工具调用功能。

再遇到用户问发货，客服会先调用“查订单”工具看物流状态，再查库存，要是缺货就直接说“您的商品暂时缺货，已为您安排退款”，再也没出过错。

说实话，现在AI都往Agent方向发展了，光靠打磨提示真不够，得靠上下文工程才能让它真正“懂事”。

提示和上下文的区别：别让AI只当“只会背台词的演员”

很多人做AIAgent，总把精力花在提示上，比如反复修改“你要专业”“你要精准”，可这就像让演员背熟台词，却不给剧本背景和人物关系，演起来肯定生硬。

提示工程本质就是“单轮语言调优”，只能管一次对话，没法处理复杂任务；而上下文工程是给AI搭“信息生态”，把系统指令、工具、数据、历史对话都整合进来，让它能随时调取需要的信息。

Anthropic去年发了个研究，提到个“ContextRot”现象，特别有意思，AI的上下文窗口越长，记不住关键信息的概率就越高。

比如用户一开始说“我买的蛋糕融化了”，聊了20轮其他话题后，AI可能就忘了“蛋糕融化”这回事，没法处理售后了。

这就像咱们跟人聊天，聊久了也会忘开头说的事，更别说AI了，那怎么应对呢？我之前帮一个物流AIAgent做优化时，就用了“精简+分区”的办法。

只保留跟当前任务相关的信息，比如处理退换货时，就把用户的订单号、签收时间留下，把无关的“物流科普”对话暂时存起来；还把上下文分成“指令区”“数据区”“工具区”，AI找信息时不用在一堆内容里乱翻，关键信息召回率一下提了40%。

想做好上下文工程，第一步就是别把系统提示写得太离谱。

要么写得太模糊，比如“你是客服，好好回复”，AI根本不知道要干嘛；要么写得太啰嗦，把“蛋糕融化、面包过期、配送延迟”等20种特殊情况全列进去，AI看着都头大，反而抓不住重点。

Anthropic推荐用“模块化提示”，分“背景+角色+边界”，既具体又灵活。

比如Claude面包店的客服提示，就写得特别清楚：“角色是面包店客服，核心职责是用‘查订单’工具处理退换货、回答成分问题；边界是不承诺超政策要求，食品安全问题转人工”。

这样AI既知道该做什么，也知道不能做什么，不会乱回复，工具整合也很关键，得符合“功能内聚”的原则，一个工具只干一件事。

比如“查订单”工具就只用来查订单状态，别把支付功能也塞进去，不然AI可能用户只查订单，它却误触发了支付。

还有异常处理，比如用户输错订单号，工具得返回明确的错误码（比如“订单ID格式错”），别让AI瞎猜。

我之前帮一个外卖Agent整合工具，就踩过坑，把“查物流”和“申请退款”放一个工具里，结果用户问“我的外卖到哪了”，AI却弹出“是否申请退款”，特别尴尬。

后来拆成两个工具，又加了异常处理，用户体验才好起来，现在AIAgent的应用越来越广，不止客服，连车企都用它梳理新车研发需求。

有个车企把市场调研数据、用户反馈、竞品分析都整合进上下文，AI能随时调用工具分析数据，研发团队做决策的效率提了40%。

未来AI肯定会更像“会思考的助手”，而不是“只会背提示的工具”。

对产品人来说，现在得赶紧从“提示打磨者”转成“AI认知架构师”，多琢磨怎么给AI搭好上下文生态，让它能随时拿到需要的信息。

毕竟，能让AI“懂事”的，从来不是几句漂亮提示，而是背后那套能随时调用的信息和工具。

发表评论