Inkling

Inkling 是什么

Inkling 是 Thinking Machines Lab 于 2026 年 7 月 15 日发布的首个通用开放权重模型。它面向可定制 AI：既可直接部署，也可通过 Tinker 进行 LoRA 微调。官方没有把它描述为当前最强模型，而是强调其作为多模态、可控思考、易于后训练的通用基础模型的平衡性。

架构与规模

• 架构：66 层 decoder-only 稀疏 Mixture-of-Experts Transformer。
• 参数：975B 总参数，41B 激活参数；每个 token 路由到 256 个专家中的 6 个，并同时启用 2 个共享专家。
• 注意力：滑动窗口层与全局层按 5:1 交错，使用 8 个 KV heads、相对位置编码和短卷积。
• 上下文：开放权重模型最高支持 1M tokens；Tinker 当前提供 64K 与 256K 两种上下文档位。
• 精度：官方提供 BF16、MXFP8 与 NVFP4 支持；Hugging Face 发布原始检查点及面向 Blackwell 的 NVFP4 检查点。

多模态与能力

Inkling 原生接受文本、图像和音频输入并生成文本。图像通过分层 patch encoder 处理，音频输入建议为 16 kHz WAV 且不超过约 20 分钟。模型覆盖推理、数学、编程、工具调用、Agent、指令跟随、RAG、语音转写、视觉问答和预测校准等场景。推理时可将 effort 从 0.2 调到 0.99，以平衡生成 token 数、延迟与任务表现。

训练

Inkling 从头训练，预训练数据规模为 45 万亿 tokens，覆盖文本、图像、音频和视频。模型使用 Muon 与 Adam 的混合优化策略，并在 NVIDIA GB300 NVL72 系统上训练。后训练先使用包括 Kimi K2.5 在内的开放权重模型生成少量合成 SFT 数据，再以合成和人工环境开展大规模强化学习；官方称 RL rollout 超过 3000 万次。

开放权重与部署

模型权重采用 Apache 2.0 许可证，可商用和微调。BF16 检查点至少需要约 2 TB 聚合显存，例如 8×B300 或 16×H200；NVFP4 检查点至少需要约 600 GB 聚合显存，例如 4×B300（W4A4）或 8×H200（W4A16）。官方列出的部署框架包括 SGLang、vLLM、TokenSpeed、Unsloth/llama.cpp 与 Hugging Face Transformers。

Tinker 官方价格

以下为 Thinking Machines 官方 Tinker 定价，单位均为美元/百万 tokens，且发布时标注为限时 5 折；它不是 Together、Fireworks、Baseten 等第三方推理服务的统一价格。

• 64K：Prefill $1.87，缓存 Prefill $0.374，Sample $4.68，Train $5.61。
• 256K：Prefill $3.74，缓存 Prefill $0.748，Sample $9.36，Train $11.23。

官方评测

官方模型卡中的 Inkling 结果统一使用 effort=0.99、temperature 1.0；编码评测的轨迹上限为 256K。代表成绩包括：HLE 纯文本 29.7%、HLE 带工具 46.0%、AIME 2026 97.1%、GPQA Diamond 87.2%、SWE-bench Verified 77.6%、SWE-bench Pro Public 54.3%、Terminal Bench 2.1 63.8%、MCP Atlas 74.1%、BrowseComp 77.1%、IFBench 79.8%、MMMU Pro 73.5%、MMAU 77.2% 与 VoiceBench 91.4%。这些成绩主要来自厂商自报或其注明的外部结果，比较时应注意 harness、工具和思考强度差异。

限制

Inkling 的本地部署门槛很高；1M 是开放权重支持上限，而 Tinker 当前服务上限为 256K。官方也提示模型可能出现幻觉、长多轮对话性能下降、多语言表现不均等基础模型常见问题，高风险应用应额外评测并加入人工监督。