Tag: 上下文窗口
Articles tagged "上下文窗口"
Tutorials
AI 为什么聊着聊着就忘了你说的话：它没有“记住”这一步，只有“这次递进去多少”
它不是记住了又忘掉。模型没有“记住”这个动作：你每问一次，程序都要把这次要它看的东西整份重新递一遍，而这一块地方有边界、单位是 token 不是字、还要和它的回答共用同一份预算。这篇用官方文档和有出处的研究讲清三件事：规格页上的数字该怎么读、装不下时各家怎么处理（截断还是摘要）、以及为什么装得下它照样会看漏——中间那段最容易漏，把要求拆成多轮说六类任务平均降 39%。最后给六个你当场就能用的动作，附可直接抄的话术。
AgentHub 编辑部
·15 min read
#上下文窗口#token#长对话
Tutorials
怎么读一份大模型发布稿：六个数分三组看，三个地方最容易讲错
参数量要分清总参数和激活参数，上下文要换算单位，跑分要看子集和推理预算，训练成本只认卡时，推理价要输入输出分列，许可证和备案决定三年后它还在不在。这套读法配三个真实错例：557 万美元是推算值、DeepSeek-V2 比的是 GPT-4-Turbo、内容标识办法不在 2024 年。
AgentHub 编辑部
·14 min read
#大模型技术报告#模型选型#参数量