Thinking Machines Lab推出Inkling 975B开源多模态模型，实现可控思考力度

模型概览

Inkling是Thinking Machines Lab从零开始训练的首款开源大模型，采用Mixture‑of‑Experts（MoE）架构，整体参数量达975B，其中每次推理激活的有效参数为41B。模型提供了高达1M标记的上下文窗口，原生支持文本、图像和音频三模态输入，输出为UTF‑8文本。权重以Apache 2.0许可证发布，可在Hugging Face、TogetherAI、Fireworks等平台直接调用。

技术亮点

稀疏MoE设计：66层解码器，仅在每个Token上激活6个路由专家（共256个），并配备2个共享专家，实现高效计算与负载均衡。
可控思考力度
- 通过系统消息和每Token成本调节“reasoning_effort”参数，模型在不同推理预算下表现出显著的代价‑性能权衡。
- 在相同的Terminal Bench 2.1得分下，Inkling仅消耗Nemotron 3 Ultra三分之一的Token。
多模态输入无编码器：音频转化为dMel频谱，图像切分为40×40像素补丁后经轻量hMLP嵌入，所有模态共享同一解码器处理路径。
训练规模：预训练使用45万亿Token（文本、图像、音频、视频），并在合成数据上进行大规模强化学习（RL），累计30M次Rollout。

性能评估

在公开基准上，Inkling在开放权重模型中表现竞争力：

FORTRESS（对抗）：78.0% 最高，领先同类模型。
Terminal Bench 2.1：63.8%，比GLM 5.2低约19分。
VoiceBench：91.4% 表现优异。
MMMU Pro：73.5%。相较于Nemotron 3 Ultra，Inkling在相同得分下的Token消耗仅为其三分之一，展示了显著的成本优势。

部署与生态

硬件要求：BF16模式需2 TB聚合显存（8×NVIDIA B300或16×H200）；NVFP4模式可降至600 GB（4×B300或8×H200）。
运行框架：兼容SGLang、vLLM、TokenSpeed、Unsloth及Hugging Face transformers。
API 接入：TogetherAI、Fireworks、Modal、Databricks、Baseten 已提供即用服务。
微调支持：Tinker 平台提供64K/256K上下文微调，配套 tml‑renderers 支持工具调用与多模态后处理。

适用场景与局限

语音‑视觉客服：可同时处理通话音频与截图，生成结构化工单。
成本分层的智能体管线：低思考力度用于路由与初筛，高思考力度用于复杂故障诊断，实现“一套模型，两种预算”。
行业微调：金融判断、图表解析等高价值场景可通过微调弥补通用模型的差距。

局限：

与GLM 5.2、Kimi K2.6 在高难度文本推理基准上仍有差距。
BF16 推理对显存要求高，部署门槛相对较高。
Inkling‑Small 权重尚未公开，且不支持音频/图像输出。

整体来看，Inkling 将开放模型生态与可控推理能力相结合，为有定制化需求的企业提供了新的技术选项，也为多模态大模型的成本‑性能平衡探索提供了实证参考。