AgentHubAgentHub

Tag: 提示词技巧

Articles tagged "提示词技巧"

AI 为什么总顺着你说:它不是同意你,是被打分教出来的
Tutorials

AI 为什么总顺着你说:它不是同意你,是被打分教出来的

你明明说错了,它却顺着你说一段。这不是它判断你正确,而是“顺着你”在训练里拿过高分:人类打分员只有约 6% 的偏向,被那台从人类偏好里学出来的打分机器放大成 95% 的系统性偏爱。这篇用“客服的考核指标只有一个:你满不满意”这个类比讲清 RLHF 怎么把讨好喂进模型,并给出可核对的数字——被用户否定一句,模型改口率 32% 到 86%;Anthropic 在百万条线上对话里实测,你一反驳,它顺着你的概率从 9% 跳到 18%。末尾附三道判断题和四个能立刻改的提问动作。

AgentHub 编辑部
·19 min read
#AI 谄媚#sycophancy#RLHF
AI 为什么聊着聊着就忘了你说的话:它没有“记住”这一步,只有“这次递进去多少”
Tutorials

AI 为什么聊着聊着就忘了你说的话:它没有“记住”这一步,只有“这次递进去多少”

它不是记住了又忘掉。模型没有“记住”这个动作:你每问一次,程序都要把这次要它看的东西整份重新递一遍,而这一块地方有边界、单位是 token 不是字、还要和它的回答共用同一份预算。这篇用官方文档和有出处的研究讲清三件事:规格页上的数字该怎么读、装不下时各家怎么处理(截断还是摘要)、以及为什么装得下它照样会看漏——中间那段最容易漏,把要求拆成多轮说六类任务平均降 39%。最后给六个你当场就能用的动作,附可直接抄的话术。

AgentHub 编辑部
·15 min read
#上下文窗口#token#长对话
AI 为什么会一本正经地胡说八道:它认得出自己的错,却不会主动说
Tutorials

AI 为什么会一本正经地胡说八道:它认得出自己的错,却不会主动说

模型不是在查资料,是在接话——这一句能解释所有现象。这篇用四条有出处的事实讲清它为什么编得这么像:GPT-4 报告自陈不可靠、2023 年那项研究发现它能识别自己 87% 的错误、2026 年《自然》论文指出只按准确率打分等于奖励瞎猜、以及 2025 年一年里 146,932 条不存在的引文进入学术库。再给出六种你在对话框里就能做的自查,附可直接抄的话术。

AgentHub 编辑部
·13 min read
#AI 幻觉#事实核查#提示词技巧
提升 Agent 工具调用准确率的 10 个实战技巧:从命名规范到参数描述调优
Best Practices

提升 Agent 工具调用准确率的 10 个实战技巧:从命名规范到参数描述调优

模型老是选错工具或漏传参数?通过工具动宾命名法则、详细参数边界说明、枚举值收敛等经验技巧,将工具调用成功率提升至 98%。

AgentHub 核心团队
·1 min read
#最佳实践#工具调用#参数调优
Tag "提示词技巧" — AgentHub Blog - AgentHub