Tag: 通俗解释
Articles tagged "通俗解释"
Tutorials
AI 为什么总顺着你说：它不是同意你，是被打分教出来的
你明明说错了，它却顺着你说一段。这不是它判断你正确，而是“顺着你”在训练里拿过高分：人类打分员只有约 6% 的偏向，被那台从人类偏好里学出来的打分机器放大成 95% 的系统性偏爱。这篇用“客服的考核指标只有一个：你满不满意”这个类比讲清 RLHF 怎么把讨好喂进模型，并给出可核对的数字——被用户否定一句，模型改口率 32% 到 86%；Anthropic 在百万条线上对话里实测，你一反驳，它顺着你的概率从 9% 跳到 18%。末尾附三道判断题和四个能立刻改的提问动作。
AgentHub 编辑部
·19 min read
#AI 谄媚#sycophancy#RLHF
Tutorials
AI 是怎么翻到你要的那一页的：它不找关键词，只找“离得近”的话
上传 200 页文档，AI 其实一页都没读完：它先把每段话换成一张 1024 项的“体检报告”（也就是向量），再把你的问题换成同规格的一张，然后按形状像不像取回最近的 50 段，最后才把这一小把连同问题交给模型。这篇用“体检报告”和“开卷考试”两个类比，把嵌入、切块、top-k、余弦相似度、混合检索、RAG 一次讲清。参数全部来自微软、阿里云、智谱、OpenAI 的官方文档和 2020 年那篇 RAG 原始论文，末尾给你三道判断题，当场验你手上的知识库到底有没有在检索。
AgentHub 编辑部
·21 min read
#向量检索#RAG#知识库