NewToken 新词元关注新智能
读懂

Inkling 2 Mini开放的是循环层本地权重

11月20日Inkling 2 Mini按Apache 2.0放出开放权重。中间12层循环三次,检查点约20GB,官方要求32GB及以上内存。领先分数为公司自测。

主线模型竞争

读懂|Inkling 2 Mini开放的是循环层本地权重
本文提纲4 节
  1. 中间12层对每个词元连跑三次
  2. 官方写明的门槛是32GB内存
  3. 领先分数仍写在公司自己的表上
  4. 多轮对话和约束指令,公司自己写了落后

11 月 20 日,一个把中间 12 层对每个词元循环三次的模型,按开放权重交到了本地机器上。它叫 Inkling 2 Mini。

据 Thinking Machines Lab 的发布说明,许可是 Apache 2.0,检查点约 20GB。我的判断先说清楚:它值得先用的人,是能满足官方写明的 32GB 内存门槛、并接受领先分数仍是公司自测的开发者。官方演示跑在 48GB 的 MacBook Pro 上,不能据此写成任意笔记本都能跑。

中间12层对每个词元连跑三次

据 Thinking Machines Lab 的模型卡,Inkling 2 Mini 是 24 层的稀疏专家混合模型,总参数 26.4B,活跃参数 3.4B。中间 12 层用同一组权重循环三次,24 层权重因此产生 48 次层计算。

模型卡写明:每多循环一次,大约增加 1.0B 有效活跃参数;三次循环后,每个词元的有效活跃参数是 5.4B。上下文窗口最高 1M 个词元,输入是文本和图像,输出是文本。

发布说明还写了训练上的取舍。它从主线配方里剪掉三分之二的专家以缩小体积,再加入循环来提高推理。知识量主要由总参数决定,循环不会让模型记住更多事实。

公司同步放出了一份可改变循环次数的研究模型,用来观察循环深度。在这份研究模型上,公司称不写思维链时的任务时限从 1 次循环的 16 秒升到 3 次循环的 37 秒。这是研究模型上的企业宣称,不能直接写成 Inkling 2 Mini 自己的成绩。

官方写明的门槛是32GB内存

「能在笔记本上跑」是发布说明里的产品说法。模型卡把硬件写得更硬。

官方支持的配置是:一台英伟达 DGX Spark;内存 32GB 及以上的苹果芯片设备,包括 MacBook、Mac mini 和 Mac Studio;其他显卡和建议 32GB 及以上显存的平台。发布说明里的航班演示,标注的是 MacBook Pro、M5 Pro、48GB 内存、飞行模式。

分析推断,48GB 的演示只能证明公司在这台机器上跑通了,不能把门槛从模型卡里的 32GB 再往下写。约 20GB 的检查点也说明,16GB 内存的常见笔记本不在官方支持名单里。

据 vLLM 11 月 20 日的博客,该推理框架在发布当天就为 Inkling 2 Mini 提供了支持,覆盖英伟达 Blackwell、Hopper 和 DGX Spark,也可服务那份可改变循环次数的研究检查点。这证实权重已经可以被第三方推理栈加载,不是只停留在公司官网的说明里。

领先分数仍写在公司自己的表上

发布说明称,在总参数小于 100B 的开放权重模型里,Inkling 2 Mini 在 DeepSWE v1.1 上得到 48.2%,在 Vals Index v2.2 上得到 46.5%,并称这两项领先。

同一张表里,Artificial Analysis Index v5.0 为 20.1,与 Qwen3.8-27B 持平。

这些数字写在公司自己的评测表上,口径和对照模型也由公司列出。本班没有打开 Artificial Analysis 的页面,逐项复核 20.1 这个分数。在独立复测出来之前,它们应按企业宣称来读。

最有力的反方也在这张表里。如果独立评测复现 DeepSWE 的 48.2%,以及它相对 Qwen3.8-27B 的 42.2% 的领先,那么「先当自测」的保留就该收窄。即便如此,它仍要满足模型卡写明的 32GB 内存门槛,才能成为可本地使用的开放权重。

多轮对话和约束指令,公司自己写了落后

发布说明没有把 Inkling 2 Mini 写成全项第一。公司写明:它不是最强的小模型,若任务是多轮对话,或指令带有许多约束。它在 MultiChallenge 上得到 50.0%,在 ComplexConstraints v1.1 上得到 33.4%,两项都落后于 Qwen3.8-27B。

在 CritPt v2 和 HLE-Diamond 这类更吃推理的基准上,公司也写明它落后于更大的模型。循环提高的是计算次数,不是知识库存。对主要做长程智能体编程、并且会使用搜索和工具的人,公司把优势写在这一侧;对要靠多轮闲聊或高约束指令的人,公司自己给出了反向证据。

有 32GB 及以上内存、主要做智能体编程和工具调用的开发者,今天就该把 Inkling 2 Mini 的权重下载下来用。厂商表上的领先,只能证明公司愿意把循环层架构交到你的机器上,不能改写成它已经赢了同尺寸的开源模型。

来源

引用与数据Markdown 镜像