Tag: 长上下文
Articles tagged "长上下文"
Architecture
上下文工程与 Token 预算管理：大模型长上下文的架构裁剪与注意力保真
即便模型支持 1M Token 上下文，盲目塞入冗余信息仍会导致“大海捞针”失真与推理费用激增。探索上下文生命周期管理与动态预算裁剪架构。
AgentHub 核心团队
·5 min read
#上下文工程#Token预算#长上下文
Trends & News
长上下文经济学：Prompt Caching 如何改变大模型商业变现与应用形态
当长文本输入成本下降 90%，从前在经济上不可行的业务形态纷纷破土而出。剖析长上下文缓存技术对软件工程、法律合规与金融分析的商业颠覆。
AgentHub 核心团队
·4 min read
#长上下文#商业经济学#Prompt Caching