企业级AI告别“拼提示词”，上下文工程才是核心竞争力

今日快讯 2025年10月07日 19:25 0 aa

前阵子与一个做企业AI开发的朋友吃饭，他吐槽起以前做客户服务机器人的糟心事儿，用户上来问“想查下我的订单在哪儿”，机器人只会机械回复“请提供您的订单号”。

用户接着怼“我都登录了还不知道我是谁？”，他们团队天天改提示词，今天加“要礼貌”明天加“先认用户”，改到吐效果还是一般，直到后来他们换了个思路搞“上下文工程”。

同样是查订单，机器人能直接说“我看到您最近有三单，#123是T恤、#124是牛仔裤、#125是鞋子，您想查哪一个？”，这样的显示，用户的满意度一下就上去了，这事儿，其实就是现在企业级AI的真实写照，早就不拼提示词那点小技巧了，现在拼的是“上下文”的系统战争。

以前拼提示词像“临时抱佛脚”，现在拼上下文才是“系统作战”

朋友跟我讲，他们之前做过个实验，把200多条业务提示词喂给同一个大模型，本来以为把提示词写得越花哨、越细致，AI准确率就越高，结果发现根本不是这么回事。

真正决定AI能不能做好事的，是上下文里的“三把锁”，知识边界、权限边界、会话记忆，简单说就是AI要知道“该懂什么”“能看什么数据”“记得之前聊了啥”，搞清楚这三点，AI的幻觉率降了不少，交付项目的时间也从按月算变成按周算。

我以前总觉得企业AI不行，是因为大模型不够厉害，后来听朋友分析才明白，很多项目失败跟模型没关系，是给AI的信息太差劲，比如，用户都登录系统了，AI还不知道用户是谁，要查订单得让用户自己报号，或者给AI的信息又乱又不全，一会儿是去年的订单数据，一会儿是不相关的产品介绍，AI就算再聪明也没法好好干活。

这就跟咱们跟人办事儿一样，你得把前因后果、关键信息说清楚，人家才能帮你办明白，光让人家“好好办”“仔细办”，没用！

以前，搞提示词工程，就像教AI“怎么说话”，比如写封邮件要怎么开头、怎么结尾，总结文字要抓哪些重点，都是单条指令的优化，但上下文工程不一样，是教AI“该知道什么”。

用户的历史对话、CRM里的客户数据、知识库的政策文档，这些都得整理好给AI，让AI在做事前能看到完整的信息，本来想举个更复杂的例子，后来发现用朋友的话总结最到位，“提示词是给AI个小抄，上下文是给AI个档案库”。

不过，搞上下文工程也有个麻烦事儿，AI的“记忆”是有限的，朋友说这叫“上下文窗口”，就像咱们手机的内存，不能什么东西都往里面塞，有个叫AndrejKarpathy的AI专家说过，大模型就像电脑的CPU，上下文窗口就是电脑的RAM，内存满了电脑会慢，AI的上下文窗口满了也会出问题。

我听朋友说过几个真实的坑，比如，他们之前把客户的10条订单信息和物流政策都塞进上下文，结果AI只记得第一条和最后一条订单，中间的全忘了，这叫“中间遗忘”，还有时候信息塞太多。

AI连用户最开始要查订单的需求都记混了，回复的时候扯到别的地方去了，这叫“上下文干扰”，这跟咱们记东西特别像，你要是一下子记十件事，很容易漏中间的，或者记混了，所以，要挑重点记。

朋友他们应对这些问题的办法，就是不随便给AI塞信息，而是根据当前要办的事挑重点，比如，用户要查订单，就只把用户近期的订单数据、对应的物流系统接口信息调出来，别的不相关的内容一概不塞。

这样既不占AI的“内存”，也能保证AI看到的都是有用的信息，这样看来，上下文工程不是把所有信息堆给AI就完事儿了，是要“精准投喂”，该给的不能少，不该给的不能多。

就拿之前查订单的例子说，用上下文工程做的机器人，第一步先通过登录信息认出用户，知道用户的ID，第二步马上调CRM的数据，找出用户最近的三笔订单，第三步还会提前查一下知识库的配送政策，怕用户后续问退货的事儿。

等用户说要查#124订单，机器人直接调用物流接口查状态，最后把订单信息、物流情况、退货政策一起告诉用户，这一套下来，比以前光靠提示词的机器人贴心多了，用户不用反复提供信息，AI也能一次把事儿办到位。

现在，企业级AI的竞争早就不是比谁的大模型更厉害，毕竟市面上好用的模型越来越多，大家都能拿到，真正的差距在上下文工程上，谁能把散在ERP、CRM、IAM里的零碎数据，整理成AI能用的“业务快照”，谁就能让AI更靠谱、更高效。

朋友说他们现在接项目，客户最先问的不是用什么模型，是“你们怎么管上下文数据”，所以说，企业AI从“拼提示词”到“拼上下文”，不只是换了个说法，是做事的思路变了。

以前，是靠技巧临时解决问题，现在是靠系统长期做好服务，以后哪家企业想在AI上占优势，别光盯着大模型，多花点心思搞上下文工程，把数据整理好、管理好，才能让AI真正帮上忙。

发表评论