智能家居社区Home Assistant近期上线了一款名为HA-Jev的插件。
它的运作机制十分简洁:传感器监测洗衣机的功率变化以及洗衣房门的开关状态,随后向模型提出一个问题——“洗衣机完成了洗涤,衣物是否被遗忘在内?”模型不输出任何文字分析,仅返回一个概率数值。当置信度超过0.8时,手机便会推送一条取衣提醒。
HA-Jev的唯一用途是提醒用户,洗好的衣服是否还留在洗衣机里|图片来源:pitchhut
一次判断耗时几十毫秒,成本仅为0.000015美元。
插件开发者在论坛中留下一句发人深省的话,“我过去一直在用大语言模型回答那些根本不需要它来回答的问题。衣服有没有忘记拿是一个判断,而不是一篇八股文。”
这句话精准地击中了当前生成式AI的软肋。过去四年,整个行业几乎将所有算力、资本和工程资源都倾注于“教模型说出更流畅的人话”上。大家习惯于使用百亿甚至千亿参数的庞大模型,先吐出一长串思考过程,再包装成礼貌体贴的自然语言,最后让开发者用复杂的正则表达式从中提取所需答案。
直到前OpenAI研究员Diogo Almeida带着他的新模型Jev登场。这个被称为“System One”的模型没有输出能力,不生成任何文字,只输出概率判断。
上线仅数天,全球开发者围绕它疯狂创建了近五百个开源项目。这或许是继Openclaw之后,
大家突然意识到,一旦剥离大模型的表达欲,原本昂贵而臃肿的AI应用,瞬间变得轻快如风。
01
大模型的“神经元”
如果把过去调用GPT-5或Claude的过程比作雇佣一位全知全能的哲学家来帮你盯监控,那么开发者们现在用Jev所做的事情,更像是给流水线装上无数个廉价且反应灵敏的神经元。
在最耗费算力的Agent基础设施领域,这种变化几乎是颠覆性的。
过去开发者处理超长上下文,最常用的手段是让大模型做摘要。开发者Tamara Tran换了个思路,写了一个Jev插件用于压缩Claude Code的上下文。它不做任何归纳总结,而是逐条给历史工具调用的相关性打分,只要分值低于阈值,直接整条剔除。
用Jev插件压缩Claude Code的上下文|图片来源:X
结果极其夸张,接近100万token的臃肿上下文,在1秒钟内被精简到8.6万,整个过程模型没有输出一个字符。这里的洞察非常朴素:摘要是昂贵的生成行为,但过滤只是一次冷酷的判断。
类似的颠覆也发生在移动端自动化上。
使用mobile-jev操作手机|图片来源:jevfast.com
Droidrun团队制作了一个名为mobile-jev的手机操作代理。在一段流出的演示中,它控制真实Android手机打开Uber,输入起点和终点,一路精准点击直至付款界面,全程9个操作步骤仅耗时21秒。
整个流程没有调用过任何传统的文字生成大模型,文字输入是直接从用户指令中截取的纯文本片段,而每一个界面的下一步该点哪里、该滑动还是该确认,全部交给Jev做极速概率匹配。
除了操作界面,开发者们甚至把它嵌入到最古老的基础设施中。
GitHub上很快涌现出pg-jev和duckdb-jev。开发者开始用自然语言,直接对数据库的行数据进行实时概率过滤和排序。在Ruby社区,有人直接把判断封装成了原生控制流语法,代码写出来就像是给程序赋予了直觉。
使用Jev打“星际”已经成了一系列Github项目|图片来源:Github
在游戏领域,有人让Jev操控模拟器状态去玩超级马里奥,有人让它驱动《毁灭战士》里的守卫,甚至有团队把它接入《星际争霸》完成了首个战斗任务。游戏需要的是几十毫秒内的操作决断,以往的大模型连第一帧的思路都还没理顺,游戏角色早就阵亡了。
甚至,在数据清洗这类脏活累活上,差距也大到令人吃惊。
一位开发者手头积压了三个月的产品匹配数据,共计9081条。早在六月份他就用主流大模型测算过,昂贵的API费用让他直接放弃。换成Jev后,他用一个晚上写了150行脚本,整个任务13分钟跑完,总账单只有32美分。
当大模型不再假装自己是一个博学的人类,AI才能真正嵌入自动化软件的毛细血管。
02
杰文斯悖论
Jev这个名字,取自19世纪英国经济学家威廉·斯坦利·杰文斯(William Stanley Jevons)。
经济学上著名的“杰文斯悖论”指出,当技术的进步提高了某种资源的利用效率,导致其使用成本大幅下降时,该资源的总消耗量不但不会减少,反而会呈现爆发式增长。
TypeSafe AI给Jev定下的价格是每百万输入token仅需0.042美元,输出免费。按照这个资费,一天进行1万次业务决策,单月成本在120美元左右。而在以往,如果使用同等准确率的顶级推理大模型做这套流程,每月账单会直奔3.5万美元。
暴跌的成本,瞬间激活了那些此前被判定为“毫无商业价值”的边缘场景。
用Jev做SEO速度惊人|图片来源:X
在内容分析领域,Distribb的创始人拿Jev扫描了近六百个网页,在45秒内完成了内部链接地图的重构,布设了五百多个链接,总共花费21美分。在过去,如果让顶级大模型来做这件事,同样的时间里连二十个页面都读不完。
那位创始人的感叹切中了本质,“这不是内容创作,这只是8790次判断该连还是不该连的决策题。”
这也解释了为什么创始人Diogo Almeida在离开OpenAI时会留下那句感叹,“我们手里握着一道闪电,但它却没那么好用。”
作为参与过构建ChatGPT、共同发明RLHF的核心研究员,Almeida的反思带着一种行业局内人的冷酷。在他看来,整个行业被困在“优化人类自然语言”这条死胡同里太久了。
计算机之间协同并不需要抑扬顿挫的修辞,机器需要的是明确的指令与概率。过去四年AI界花费数千亿美元调教出来的语言能力,在严肃的系统工程面前,大部分时间反而是低效的阻碍。
Pi框架的CTO Armin Ronacher谈到这一现象时直言不讳,“我们早该意识到这一点的。只因为此前主流大模型一直被风投资本补贴得极为廉价,大家都习惯了挥霍,没人愿意去做真正的创造性思考。”
一旦这种廉价幻象被打破,架构设计的转向便不可逆转。
大模型,正在退回它原本该在的位置。
它不应该当中央处理器,它更适合做前端的公关发言人。在未来的系统架构里,海量的毫秒级判断交给便宜得像自来水一样的直觉模型,只有在真正需要向人类用户输出成段文字、提供情绪价值或者起草复杂长篇报告的极少数节点,才需要把那个昂贵的生成式模型唤醒。
03
“判断”和“生成”分家
回看过去三年的AI叙事,主线一直是“大模型越来越大、越来越聪明、越来越全能”。一个模型既能聊天,又能写代码,还能看图做表,什么都会。整个行业默认“智能”是一块铁板,不可拆分。
Jev的出现,撕开了这块铁板。它证明了有些工作需要推理和表达,有些只需要快速判断。把两者绑在一起,是一种结构性的浪费。
Jev的大火,点燃了开源社区的热情|图片来源:Google DeepMind
Jev上线仅一天,开源社区就已经跟进。vLLM贡献者用Google的DiffusionGemma迅速搞出了开源版本,初步测试准确率接近官方。这说明“判断模型”作为一个品类已经成立,而不仅仅是一家公司的产品创新。
更值得注意的是下游的架构变化。在Jev催化的新范式里,一个AI系统不再只有“一个大脑”,而是开始出现分工:海量的毫秒级判断交给便宜到像自来水一样的直觉模型,只有在真正需要向人类输出成段文字、起草复杂文档的少数节点,才唤醒那个昂贵的生成式模型。
这不是降本增效,这是AI基础架构从“中央集权”,走向“分布式分工”的起点。
当一个判断的成本从几美分降到万分之一美分,开发者不是把原来的100次判断做得更便宜了。他们开始做10000次以前根本不会做的判断。给每条数据库记录加一个语义过滤器,给每次工具调用加一个安全审查,给洗衣机加一个“衣服忘拿了吗”的判断。
这些不是现有工作的优化版本,而是全新的智能消耗场景。
所以,你会用Jev来做什么创新?
本文来自微信公众号“极客公园”(ID:geekpark),作者:宇航猿,编辑:靖宇,36氪经授权发布。
8条评论
乔治亚读者 回复
想了解更多全天候专业客服,实时响应相关内容,尽在开云网址登录入口。
阿隆·阿尔瓦拉多 回复
开云网址登录入口围绕开云网址登录入口不断创新,回应用户的真实需求。
琳达·斯莫尔 回复
精选开云中国官网内容,开云网址登录入口与你一同发现更多精彩。
西安娜·拉姆齐 回复
开云网址登录入口专注开云体育官网,为用户提供专业可靠的体验。
诺兰·戴维森 回复
围绕开云体育登录,开云网址登录入口持续打磨更优质的服务。
凯·杜根 回复
开云网址登录入口深耕开云体育入口领域,用心服务每一位用户。