不吐一个字速度快200倍:前OpenAI研究员造出首个“系统一”模型Jev

AI资讯1分钟前发布 EdgeClaw
0 00

让大模型闭嘴,反而跑得更快。一位曾参与打造ChatGPT的研究员,正在用一个完全不会说话的新模型挑战当下主流范式。

一个只输出决策、不生成文字的模型

Diogo Almeida曾是OpenAI研究员、ChatGPT的共同发明者之一。沉寂两年后,他带着新公司TypeSafe AI和4000万美元融资回到台前,发布了名为Jev的模型。它不能写周报、不能陪聊,甚至连一个标点符号都不会输出。

主流大模型都在卷"慢思考",靠长达几千词的推理链条得出答案。Jev却反其道而行:不做文本自回归生成,只在一次单向并行计算中吐出带校准概率的分类选择、数值评分或布尔判断,输出严格锁定在开发者预先定义的结构里,从数学上消灭了格式错乱。

AI反射神经概念图:一道极速神经脉冲射向发光脑网络

70毫秒一次判断,单次决策不到半美厘

由于不再逐个推演下一个词,Jev的端到端延迟被压到70到500毫秒,比前沿大模型快40到200倍。价格同样激进:输入每百万词元仅0.042美元,输出免费,单次结构化决策成本约0.0004美元。作为参照,调用一次GPT-5.6 Terra约是它的76倍,Claude Opus 5则贵出数百倍。

团队甚至让它玩射击游戏Doom,在每秒约10次即时操作判断的场景下表现接近反应快的人类玩家,整套推理每小时成本约7美元。

Agent真正缺的是一条"前置反射弧"

选型逻辑藏在AI Agent的落地痛点里。一个完整的Agent任务往往包含几十个微小决定:判断步骤是否成功、选择调用哪个工具、提取关键字段、决定是否终止。如果每个动作都调用千亿参数模型,延迟会层层累加到几十秒,成本失控,任何一次格式解析失败还会让整条流程卡死。

AI智能体分流概念图:大量数据包被快速路由到不同通道

Jev想做的是在架构里插入一层"前置反射弧":昂贵的前沿模型退居幕后负责宏观规划,工单分类、内容初筛、批量打标、API路由这类高频脏活交给它毫秒级处理。TypeSafe自有的四个企业工作流测试中,Jev准确率67.8%,几乎打平GPT-5.6 Terra的67.9%。已有平台用它替换原模型后,邮件分类速度提升5到18倍,Gemini略准但成本高出10到20倍。

发布后开发者反响热烈,API一度因需求过载而中断。团队还给出了另一类用法:把它放在大模型智能体前面做监控,识别异常指令、防止越狱,或者充当模型路由里的低成本分流器,让简单请求不占用昂贵算力。模型命名致敬19世纪经济学家杰文斯,呼应"成本下降反而带来应用激增"的悖论。

零误差背面,黑盒与自证都待验证

惊艳数据背后有两块阴影。一是可解释性丧失:它没有思维链,只给选项和概率,当信贷或风控系统做出关键误判时,几乎无法从权重里追溯原因,在金融、医疗、法律等强监管领域容易撞上审计的墙。

二是评估封闭。团队提出名为RLCD的"基于校准决策的强化学习",但奖励函数、网络架构、概率校准方法均未披露;现有基准全部来自内部测试,参考答案还是用竞品模型跑出后取平均,这种自证闭环带明显公关色彩。目前Jev处于邀请内测阶段,超低定价能否扛住真实高并发并维持盈亏平衡,仍要打个问号。

© 版权声明

相关文章