TypeSafe 发布 System One 模型与 Jev:放弃生成字符串的「前沿智能函数调用」

查看原文 HN 讨论

文章摘要

TypeSafe AI 结束两年潜行状态,发布了他们所谓的第一个「System One 模型」Jev。创始人 Diogo Almeida 曾在 OpenAI 参与构建了让语言模型学会遵循指令、与人对话的方法,那部分工作最终成了 ChatGPT 背后的研究。他说自己这四年被一个问题驱动:模型在聊天上已经超人好几年了,那自动化在哪里?

Jev 的定位是「前沿智能的函数调用」:非结构化状态进,带类型的概率化决策出。它彻底放弃了生成字符串这件事。名字取自 William Stanley Jevons——他们预期机器智能会重演煤炭的路径,效率每提升一个数量级,需求就爆发式增长(杰文斯悖论);模型类别名则取自卡尼曼《思考,快与慢》的系统一。

技术上他们声称重建了整个栈:新的模型架构、用于最大化效率的并行采样器,以及一套叫 RLCD(Reinforcement Learning for Calibrated Decisions,面向校准决策的强化学习)的训练方法。与现有 LLM 的对比是全文骨架:LLM 用 RLHF/RLVR 优化人类偏好或可验证奖励,输出字符串,必须解析与校验,可能幻觉、拒答或跑偏;Jev 的可能输出空间和结构事先定义好,因此在数学上不可能出现类型错误,每个答案都附带校准过的概率和置信度。采样方式上,LLM 逐 token 自回归生成,Jev 一次查询并行产出所有输出。

价格和速度是最激进的部分:输入 0.042 美元/百万 token,输出「便宜到不值得计量」,直接免费;端到端响应 70 毫秒到 500 毫秒,对比前沿模型的 3 到 329 秒,他们宣称在同类任务上快 40 到 200 倍,官网首页的数字是 193.6 倍快、444.6 倍便宜。

在证据一节,作者姿态是「我们爱怀疑论者,自己也是怀疑论者」,并逐条标注 nuance(保留意见):速度和价格容易验证,但无法证明定价没有被补贴;类型安全的 0% 错误率不是实测得来,而是模式匹配保证的推论。他们刻意回避了公开基准(另有一篇 antibenchmaxxing 的文章解释原因),转而设计了一种「workflow eval」:假设存在一张正确的计算图,让所有模型跑同一套工作流,以最贵最聪明的外部模型(Astra 与 Fable 5.1 的平均)的预测概率作为参考答案。他们承认这会让基准偏向 OpenAI 和 Anthropic 的模型,也承认工作流是自家模型能力团队做的,可能存在偏差。

两个演示最抓眼球:一是让 Jev 实时玩 Doom,每秒 10 次查询约 7 美元/小时,输入是结构化的游戏状态数据而非图像;二是 Wikiracing,从一个维基页面只沿链接走到另一个页面,每步要在成百上千个链接中选择,用来展示高基数选择下不幻觉的复合收益(Jev 支持最高 255 的基数,更高时用两段式打分再显式选择)。

HN 评论精华

1890 分、近 500 条评论,这是本期最热的技术发布贴,态度是「兴奋但要证据」。

Doom 演示成了讨论的引爆点。 caspar 认为作者可能没意识到这远不止是个酷演示:如果站得住脚,它对游戏 QA 是巨大利好——把游戏插桩输出玩家附近实体的属性,输出各种控制输入,逐帧的游戏玩法就被解决了;高层推理仍可交给 LLM。Garlef 补充说还能用来发现罕见 bug 导致的输入不响应。smusamashah 顺势问:那这是不是也能开车?baist0 则泼了盆冷水:「笑死,他们重新发明了外挂自瞄。」einpoklum 挑刺说,指令是「不要开火,只闪避」,但模型反而凑近了那只粉色恶魔——anthonypasq 解释这可能只是禁用了开火这个输出动作。

怀疑声集中在证据不足上。 pennomi 先赞赏了「非凡主张需要非凡证据」的态度,ramon156 立刻接话:「但证据并不在那里。」他指出「RLCD」和「并行采样」都只有名词没有支撑,更关键的是「70-500ms vs 3-329 秒」是苹果比橘子——除非 LLM 基线在做可比的工作(比如长链思维),否则 Jev 完全跳过生成当然快。不过他也补了一句:「我很希望这是真的。」himata4113 抱怨全篇只有「它在工作」的动画,没有任何实际代码。TypeSafe 的人 zenlikethat 回应说他们仓促做了一个 dspy 的 fork,加个装饰器就能在 Signature 上自动用 TypeSafe,可以看到真实用法;snthpy 认为 DSPy 才是正确的对标物,但试用后「很惊讶成本节省比博客宣称的少得多」。

能否用于编程是被问得最多的场景。 vatsachak 提议给它喂 AST。创始人 CompleteSkeptic 亲自回复:编程的难点其实是状态工程(比如把依赖弄进上下文),他们还没试过,理念是「先自动化简单任务再攻难的」,但确实认为潜力很大,想尽快做编程主题的发布。Escapado 的直觉更直接:如果这能跑通他们一定会演示,没演示就说明还没搞定。

分发渠道的讨论很务实。 mushufasa 希望能通过 OpenRouter 或 AWS Bedrock 接入——在隐私和安全审查趋严的当下,为一家新供应商走完整套合规采购流程很难,而一两个数量级的成本节省完全值得中间商抽成。CompleteSkeptic 苦笑回复:「他们不喜欢收录隐形创业公司。」varenc 指出更根本的障碍:TypeSafe 的 API 不符合 OpenAI 式的文本进文本出范式,硬塞进 OpenRouter 会很别扭,但反过来说,TypeSafe 的格式也许会成为这类结构化模型的新标准。

还有一条纯娱乐的支线:dgellow 承认自己花了「不愿说出口的时间」才意识到 Diogo Almeida 不是 Dario Amodei 的恶搞名,引出了一串 Wario Amodei、Cario Amodei 的接龙。jakintosh 说他直到看见演示视频才确信这篇发布不是讽刺文。发布视频里创始人不断换装也让 hunterbrooks 怀疑整段是 AI 生成的,CompleteSkeptic 出面澄清:「绝对不是 AI,那是我真实的衣柜」,至于听起来有点合成味的旁白,是真人配音演员稍微加速后的效果。