AgentHubAgentHub
Back to Blog

这周爆火的 Jev 不会说话,却比大模型快 200 倍:LLM 与 Jev 的区别一次讲清

AgentHub 编辑部··5 min read·96 views
这周爆火的 Jev 不会说话,却比大模型快 200 倍:LLM 与 Jev 的区别一次讲清

这一周的 AI 圈,大家却在疯传一个"不会说话的模型"。

它叫 Jev,9 月 15 日由初创公司 TypeSafe AI 发布,9 月 21 日全面开放。媒体给它的外号一个比一个响:"哑巴模型""Agent 的小脑""快 200 倍、便宜 400 倍"。也有人在标题里把它写成"谷歌的模型"——先纠正:它不是谷歌出品,就是一家叫 TypeSafe AI 的初创公司。

对刚接触 AI 的读者来说,问题很直接:ChatGPT、通义千问这些大模型(LLM)不是已经很强了吗?一个"不会说话"的模型火什么?这篇文章用一个类比讲透。

一、一句话区分:LLM 做问答题,Jev 做选择题

大语言模型(LLM)的工作方式是"逐字生成":你问它问题,它思考之后写出一大段文字,你的程序再从这段文字里解析出想要的答案。

Jev 砍掉了"写"这个环节。你给它两样东西:

  1. 当前的状态或问题(比如"这条服务器告警的日志和指标")
  2. 你预先定好的选项(比如"严重 / 一般 / 可忽略"三个级别)

它直接返回:选了哪个选项 + 它有多确定(概率)。不解释、不寒暄、不输出一个多余的字。

官方管这叫 System One 模型——借用了诺贝尔奖得主卡尼曼的分类法:System 1 是人的直觉反应(看到红色就松油门),System 2 才是深思熟虑(推导一道数学题)。LLM 擅长 System 2,Jev 专做 System 1。

二、区别到底在哪:一张对照表

LLM(大语言模型)Jev(决策模型)
题型问答题 / 作文题选择题
输出一段自然语言文本一个选项 + 概率
延迟前沿模型通常 3 秒起步端到端约 70–500 毫秒
你的程序要做的善后解析文本、校验格式、处理瞎编拿到即用,格式天然合法
单价输出 Token 通常几美元/百万起输入 $0.042/百万,输出免费
擅长写作、推理、编程、聊天高频判断:分级、路由、拦截、分类
不会做——(它什么都能聊两句)生成任何新内容

为什么快这么多、便宜这么多?因为 LLM 哪怕回答"严重"两个字,内部也要把生成上千个字的架子摆开;而 Jev 的整个任务就是"在 3 个选项里挑 1 个",天然不需要逐字生成,算力省了一个数量级还多。厂商基准给出的数字是部分流程提速约 193.6 倍、降本约 444.6 倍——注意这是官方自报口径,社区实测(用开源演示 Jev Pong 打乒乓球做决策)单次裁决约 227 毫秒,量级可信、倍数别较真。

三、"零幻觉"是真的吗:不编选项,但可能选错

Jev 爆火时"零幻觉"的说法传得很广,这里要掰开说:

  • 真的一面:它的输出被限定在你给定的选项集合里,不可能像 LLM 那样编出一个不存在的函数名或虚构一段引用——想幻觉都没素材;
  • 要留心的一面:不幻觉 ≠ 不出错。它可能在正确的选项里挑错一个,尤其在训练分布之外的边缘场景。首发期的生产环境准确率,目前还没有独立的第三方评测。

所以合理的心态是:Jev 把"答案跑偏"的口子焊死了,但"判断失误"的口子还开着,关键决策仍要留兜底。

四、对做 Agent 的人意味着什么:给智能体装上小脑

这正是它和本站主题(MCP 与 Agent 工作流)的直接关联。一个 Agent 干活时的决策其实分两类:

  • 低频高难:拆解任务、写代码、总结报告——交给 LLM 这个"大脑",慢一点贵一点没关系;
  • 高频低难:这一步该调用哪个 MCP 工具?这条风控请求放不放行?游戏里这个状态做什么反应?——这类判断每秒可能发生几十次,用 3 秒 3 美元的 LLM 来做,既慢又烧钱。

Jev 的定位就是接管第二类:研报里"给 Agent 装小脑"的说法就是这个意思。典型用法是置信度分流——Jev 有把握就直接执行(70 毫秒),给出的概率太低就升级转给 LLM 细想。高频任务的单位成本因此可能掉两个数量级,这会让"每个动作都调一次大模型"的现有 Agent 架构显得奢侈。

五、最新羊毛:1.2 亿 Token 限时免费

截至本文发布(9 月 22 日),Jev 的接入方式:

  1. 官方控制台:console.typesafe.ai 注册即送 5 美元额度,按 $0.042/百万输入的定价,约合 1.2 亿 Token;
  2. OpenRouter 等平台已可直接调用——如果你本来就在用 OpenRouter 的 :free 模型做批量小活(我们《每天签到领 AI 积分》一文提过),现在可以把"高频判断"这类任务迁过去试试成本差;
  3. 模型权重未开源;社区衍生项目 NanoJev、Jev Pong 已公开代码和数据集,想本地研究机制的可以从这两个入手。

小结

Jev 不是"更强的 LLM",而是另一种物种:LLM 靠生成文字来思考和交流,Jev 放弃了文字,只留下判断。用一句话跟朋友解释它们的区别——你让 ChatGPT 写一份事故报告,它行;你要一个每 70 毫秒对告警定级一次的守夜人,ChatGPT 又慢又贵,Jev 才是那个不睡觉也不说话、只举手牌的值班员。专用决策模型会不会像 2024 年的小模型那样改变成本结构,一个月内就会见分晓——反正先领 1.2 亿 Token 试试不要钱。

Related Articles

Trends & News

Gemini 4 登场了:输出 100 万 token、幻觉率降到 15.1%,但你现在还用不上

9 月 30 日谷歌发布 Gemini 4 这一代的首款旗舰 Argon:单次输出上限 100 万 token、每百万 tokens 输入 2 美元、主打能连续干几小时的长流程任务,距上一条旗舰线隔了 10 个多月。但它第一批只向网络安全防御机构开放,公众可用时间谷歌没有公布。这篇把发布稿里的数字翻译成人话:为什么媒体给出的“领先 12 项 / 13 项 / 14 项”都不一样、它在从零建项目和终端操作两项上落后约 10 个百分点、独立评测里幻觉率 15.1% 很好看但知识答对率只有 49.9%(两个数必须一起看),以及普通人现在该做的三个动作。

Trends & News

MCP 简史:675 天换过五版规范,从 6 个示例服务器到 247 家机构

2024 年 11 月 25 日,Anthropic 用六个示例服务器和一个桌面客户端发布 MCP;到今天 675 天,它换过五版规范、SDK 累计下载破 10 亿、协议本身交给 247 家机构参与的中立基金会。这篇按版本把每一步改了什么、为什么改、竞品何时进场、鉴权与安全怎么补课一次讲清,并给出五条能直接用在选型上的判断。

Trends & News

中国大模型三年:从 8 款备案到 1112 款,从发布会竞赛到港交所敲钟

2023 到 2026,中国大模型走了三条线:备案数从 8 涨到 1112,API 价格从"没人报价"打到永久砍半,开源许可从自定义条款走到 MIT 与 Apache 2.0,最后智谱和 MiniMax 在 2026 年 1 月前后脚上市。这篇按四年时间顺序,只写能查到公开出处的节点。

Trends & News

从图灵到智能体:人工智能 76 年兴衰史,为什么爆发恰好是现在?

1956 年达特茅斯的狂想、两次经费寒冬、专家系统的崩塌、深蓝的暴力美学、2012 年深度学习春天、ChatGPT 时刻,直到 2026 年智能体全面爆发——复盘 AI 七十六年兴衰曲线会发现:每次引爆都不是“更聪明”,而是算法、算力、数据、执行、成本这块木桶恰好补齐了新板子。看懂这条规律,也就看懂了今天的 Muse、Jev 与 API 价格战。

Explore AI Ecosystem

Ready to take action? Explore AI tools & MCPs

Discover ChatGPT 6, Claude 3.7, Devin and 3000+ open-source MCP tools with 1-click config.

Jev是什么_Jev和LLM大模型的区别小白详解 - AgentHub