NewToken 新词元关注新智能
读懂

笔记本能跑的编程模型,快一倍是自己量的

Recursive 首个模型 Flint 以 Apache 2.0 开放权重,称同级编程第一、笔记本上快一倍;分数和速度都是它按自己的规则测的,对手分数是各家自报,独立评测还没有。

专题Hugging Face:持续追踪主线模型竞争

读懂|笔记本能跑的编程模型,快一倍是自己量的
本文提纲7 节
  1. 发生了什么
  2. 这些数字是谁测的、怎么测的
  3. 已经能核对的部分
  4. 为什么重要
  5. 最强反方
  6. 我们不知道什么
  7. 接下来看什么

本地能跑的编程模型多了一个开放许可的选项,但「同级第一」和「快一倍」这两句话,目前只有厂商自己的测量撑着。

先说结论。Recursive 10 月 21 日发布的第一个模型 Flint,权重已经按 Apache 2.0 放上 Hugging Face,这一点可以核对。可它在宣传里最醒目的两个数字,一个是编程基准上同尺寸领先,一个是在 MacBook 上比同类模型快一倍,都是 Recursive 自己测的,拿来对比的对手成绩又是各家自报,评分规则并不一致。我们的看法是:Flint 值得下载试一试,但在第三方用同一把尺子重测之前,它的排名只能算一个说法。

发生了什么

据 Recursive 官方博客,Flint 是一个混合专家模型,总参数约 400 亿,每个词元只激活约 25 亿,由「一个小团队加智能体」在不到四个月里从零训练出来;公司称它在 SWE-Bench Pro v2、Terminal-Bench 2.1 和 SWE-Bench Verified 上领先所有总参数不到 500 亿的混合专家模型,用自家推理引擎在 M4 Pro MacBook Pro 上每秒生成超过 125 个词元,在 64GB 的 NVIDIA RTX Spark 上超过 150 个。

据 Hugging Face 模型页,三个基准的具体成绩是 Terminal-Bench 2.1 54.9%、SWE-bench Pro v2 89.7%、SWE-bench Verified 74.2%,总参数精确值是 398 亿,「约 25 亿激活」里包含了输出层,不算输出层的主体约 22 亿。页面上传的是 16 位精度的完整权重,约 80GB,附带的部署脚本按每个副本一张 B300 或 H200 数据中心显卡来写;面向苹果芯片和 NVIDIA 本地设备的量化版本是另外准备的。

据 TechCrunch 报道,在 Recursive 的测试里,Flint 在 M4 Pro MacBook Pro 上约每秒 131 个词元,同一台机器上 Gemma 4、Nemotron 3.5 Lightning 等同类模型是每秒 58 到 69 个;在 Recursive 自己算的六项平均分里,只有阿里的 Qwen3.8 27B 比它高。公司今年 5 月以 46.5 亿美元估值融资 6.5 亿美元。

这些数字是谁测的、怎么测的

第一个要拆开的是分数。Hugging Face 模型页自己写明:带标记的分数由 Recursive 测量,其余对比分数由各模型开发者自报;而且 Flint 的 Terminal-Bench 成绩把「靠联网检索拿到答案」的解法算作失败,开发者自报的分数「未必做了同样的调整」。这句话很诚实,也说明一件事:表格里的 Flint 和对手不是在同一套规则下比的。分析推断:规则更严通常会让 Flint 的分数偏低,所以这未必对它不利,依据是把检索得到的解法计为失败只会减少通过数;但读者没法从这张表直接读出差距有多大。

第二个是速度。官方博客图表的注释写着,速度是「整个 12.8 万词元会话中的平均每秒词元数」,不含预填充,Muse 一项是在 12.4 万词元处测的。不含预填充意味着读一个大仓库时的等待时间不在这个数字里;而「快一倍」用的是 Recursive 为 Flint 专门优化的引擎,对手用的是什么运行时、什么量化,我们读到的博客正文和模型页没有逐项写出。分析推断:同一台机器、不同引擎和量化的对比,测到的是「模型加引擎」的组合,不只是模型本身,依据是博客自述其推理引擎和内核都为 Flint 与特定芯片专门调过。

第三个是精度损失。官方博客称最终的 4 位量化版本在其基准上与 16 位版本相差不到 0.7 分,并且违反常规地把输出层也压到了 4 位。笔记本用户实际跑的正是量化版,这个 0.7 分同样是自测。

已经能核对的部分

不全是宣称。据 WIRED 记者 Will Knight 的实测,他在一台 48GB 内存的 Mac 上用 Flint 写了命令行待办清单、一个检索研究资料的小工具和一个简单网站,结论是「每次都完成了我的编码请求」,而他此前用同尺寸模型的体验多是出错多或慢。这是一位记者的上手体验,样本是几个小程序,不是基准,但它至少说明「笔记本能跑、能写出可用代码」不只是厂商口径。

另一个可核对的是可得性。据 OpenHands 博客,它作为首发合作方在发布前测过 Flint,并从第一天起支持,开发者可以本地运行,也可以通过 OpenRouter 调用;OpenHands 同时提醒,这些速度数字是 Recursive 在特定硬件与负载配置下报告的,换运行时、量化、上下文长度和硬件都会变。合作方愿意把这句限定写进去,本身就是一个提醒。

为什么重要

对想把代码留在本机的团队,Flint 的意义在许可证和体量:Apache 2.0 可以商用和修改,40B 总参数、2.5B 激活让它能塞进一台高配笔记本。分析推断:如果第三方重测后速度优势保留一半以上,本地编程模型的交互速度就有了一个经独立核实的新参照,依据是 TechCrunch 报道的同机对比差距接近一倍、WIRED 记者实测体验正面。反过来,如果优势主要来自专用引擎,别的模型换上同等优化后也能拿到,差距就会缩小。

至于「AI 造了这个模型」,这是本次发布最抢眼的叙事。据 TechCrunch,Recursive 没有说明它的自动化研究系统 Eureka Machine 为研究员省了多少时间;据 WIRED,CEO Socher 说「几乎模型流程的每个环节都由 AI 完成并改进」。这句话目前没有任何可以核对的分工记录,我们只把它当作公司对研发方式的描述。

最强反方

最有力的反驳是:Recursive 的披露已经写得相当细。它公开了采样参数、智能体超时上限、每项至少五次取平均,还主动写明自己的 Terminal-Bench 规则比别人严、对手分数是自报的;规则更严意味着 Flint 的真实差距可能比表上更大。再加上权重开放、任何人都能复现,「只是自测」的批评有点苛刻。我们在这一点上让步:它的披露确实写得细,自测本身也不等于有问题。但我们仍坚持,在第三方用统一规则重测之前,「同级第一」只能写成企业宣称。原因有两个:对比表混用了两种规则,读者无法换算;速度对比依赖为 Flint 专门优化的引擎,测到的是模型加引擎的组合。

我们不知道什么

  • Flint 在独立评测里的位置。截至发稿,我们没有找到第三方用统一规则重测的结果。
  • 「快一倍」里有多少来自模型结构,多少来自 Recursive 专门写的引擎和内核;对手在对比中用的是什么运行时和量化,公开材料没有逐项列出。
  • SWE-bench Pro v2 成绩(89.7%)高于 SWE-bench Verified(74.2%),两者的题目与评分口径不同,模型页没有解释,我们不做比较。
  • Eureka Machine 在研发里具体做了哪些决定、省了多少人力,公司没有披露。

接下来看什么

一是第三方评测机构或社区是否用统一规则重测 Flint 的分数和本地速度;二是同一台 Mac 上,换用通用运行时后 Flint 的速度还剩多少;三是 OpenRouter 上的托管价格,以及开发者在真实仓库里的反馈。这三件事出来以后,我们再判断它在本地编程模型里到底排第几。

来源

引用与数据Markdown 镜像