Tag: token

AI 为什么聊着聊着就忘了你说的话：它没有“记住”这一步，只有“这次递进去多少”

它不是记住了又忘掉。模型没有“记住”这个动作：你每问一次，程序都要把这次要它看的东西整份重新递一遍，而这一块地方有边界、单位是 token 不是字、还要和它的回答共用同一份预算。这篇用官方文档和有出处的研究讲清三件事：规格页上的数字该怎么读、装不下时各家怎么处理（截断还是摘要）、以及为什么装得下它照样会看漏——中间那段最容易漏，把要求拆成多轮说六类任务平均降 39%。最后给六个你当场就能用的动作，附可直接抄的话术。