Tag: Prompt Caching
Articles tagged "Prompt Caching"
Tutorials
每百万 tokens 到底是多少字：三步算清一次 AI 调用要花多少钱
先把元/千 tokens、元/百万 tokens、万字这三种单位钉死，再按标定、算单次、核账单三步走：用自己的素材测字 token 比，把系统提示、本轮内容、历史轮次、工具定义四块输入加总，最后换算成每业务单位多少钱。附一个可复算的例子，和 Agent 场景下输入按 n(n+1)/2 平方增长的解释。
AgentHub 编辑部
·12 min read
#AI 成本#Token 计费#API 定价
Best Practices
降低企业 LLM 调用成本 70%：Prompt Caching、智能分流与小模型蒸馏策略
大模型账单居高不下？解析 Anthropic / OpenAI 的 Prompt Caching 命中机制、基于任务复杂度的分流路由以及开源小模型的高频平替方案。
AgentHub 核心团队
·4 min read
#成本优化#Prompt Caching#模型路由
Trends & News
长上下文经济学：Prompt Caching 如何改变大模型商业变现与应用形态
当长文本输入成本下降 90%，从前在经济上不可行的业务形态纷纷破土而出。剖析长上下文缓存技术对软件工程、法律合规与金融分析的商业颠覆。
AgentHub 核心团队
·4 min read
#长上下文#商业经济学#Prompt Caching