上下文(Context)是什么?AI 聊久了就忘事,根子就在这儿

AI 没有记忆,它只有「眼前这一摊」。懂上下文,你就知道它为什么忘、该怎么让它记住

你有没有过这种经历:跟 AI 聊了半小时,前面说的需求它全忘了,又开始瞎答。

你以为是它笨。其实不是笨,是它的「桌子」不够大。

这个桌子,行话就叫上下文(Context)。搞懂这一篇,你用 AI 的效率和顺手程度,能上一个台阶。

poster

先记住一句话:AI 每次回答,都是「从头看一眼」

跟人聊天,我们有长期记忆,昨天说的事今天还记得。

AI 不一样。它本质上没有记忆,每次你发一句话,它做的事是:把你这次对话的全部内容,从第一条到最后一条,整段重新读一遍,然后接着往下写。

所以它「记得」你前面说的,不是因为记住了,而是因为那些话还摆在桌上,它现读一遍。

把这些话摆出来的那个空间,就是上下文。

table

上下文窗口:AI 的桌子有多大

这张桌子有大小,行话叫「上下文窗口」(Context Window),单位是 token。

你可以理解成:桌子越大,能同时摊开的材料越多,AI 就越能「记住」你说过的事。

早期的模型桌子很小,大概几千字,聊两页纸满了,前面的内容就被挤下桌。现在的模型桌子大了很多,几十万字都放得下,等于一次性读完一本厚书。

但桌子再大也不是无限。你丢一本 100 万字的材料进去,超出的部分它照样看不见。

paper-fall

为什么聊久了它就开始糊弄

这就解释了你遇到的大部分「AI 犯傻」:

第一种,聊太长了。内容塞满桌子,最前面的关键需求被挤出去,它就开始答非所问。

第二种,你中途改了主意,但没明确说「以最新的为准」。桌上新旧两套要求并存,它不知道该听哪个,容易混着来。

第三种,你把一堆文档、聊天记录全扔给它,它分不清哪段是重点,答得又长又散。

这三种都不是它笨,是桌上太乱。

三个立刻能用的做法

第一个,长任务及时「换桌」:一个话题聊到头,或者明显感觉它开始跑偏,就新开一个对话。别在一个窗口里从头干到尾。

第二个,关键信息「拎出来」:重要的要求、格式、禁忌,不要藏在三千字中间。放在最前面,或者最后再强调一遍。它的注意力对开头和结尾最敏感。

第三个,让它先复述再干活:丢长材料之前加一句「先把你理解的任务复述一遍,确认后再做」。它复述错了,你当场就能纠。

上下文里还有一层:你给的「背景」

很多人只把上下文理解成「聊天记录」,其实不止。

你上传的文档、你贴的报表、你给的示例、系统里预设的角色说明——全都算上下文。它们是这张桌子上的菜。

所以想让 AI 干得好,一个笨办法特别有效:把背景给足。你是干什么的、给谁看、要多长、什么风格、什么不能写。这些交代清楚,比反复纠正它十遍有用。

行话把这叫「上下文工程」(Context Engineering)。听着唬人,说白了就一句:别让它猜。

顺便说清一件事:上下文 ≠ 记忆

现在很多产品宣传「AI 有记忆了」。这个「记忆」和上下文是两码事。

上下文是这张桌子,聊完就清空。

记忆(Memory)是旁边的一个抽屉,它会把你的偏好、习惯挑几条存起来,下次开新对话时再拿出来放到桌上。抽屉是产品做的功能,不是模型天生就会。

关于记忆,这个专题后面单独有一篇讲。你现在只要分清:桌上的是上下文,抽屉里的是记忆。

一句话带走

AI 不记事,它只是每次都把桌上的东西重读一遍。

桌子大小决定它能记住多少,桌上乱不乱决定它答得好不好。

所以:任务要换桌就换桌,关键信息要拎出来,背景要交代清楚。

下一篇聊:深度思考模式该不该开?AI 的「思维链」到底在想什么。

下一篇 Agent 智能体:从「会聊天」到「会干活」,中间差了什么 →
站长照片
“

1

”
联系二维码
微信:扫码加企业微信
邮箱:15611497360@aqq.com
手机:15611497360

私信站长

申请退款