Thinking Machines Lab 正式开源 Inkling 2 Mini,这是一款循环架构的 MoE 混合专家大模型,内存占用大约 20GB,满足配置要求的消费级笔记本就能离线跑起来,官方还放出了飞机上无网络的 MacBook Pro 实测演示,只用几分钟就生成了可玩的飞行模拟器,还能同时驱动 20 个智能体组成的虚拟小镇,这个版本的推出,就是为了把强 Agent、代码能力的大模型从服务器端下沉到本地电脑,不用依赖云端接口。它能在笔记本上跑,核心靠的是循环层设计,总参数 26.4B,但每次推理只激活 3.4B 参数,循环多次推理后有效激活参数提升到 5.4B,用重复计算中间层的思路,在不疯狂拉高显存占用的前提下提升推理能力,同时原生支持图文输入,上下文窗口做到 1M token,兼顾推理深度和本地设备的内存上限。
想要在笔记本上跑通 Inkling 2 Mini,整套部署流程很清晰:
- 确认硬件门槛,Mac 设备优先,至少 32GB 统一内存,Windows、Linux 电脑可以搭配独立显卡运行 GGUF 量化版本;
- 选择部署方式,Ollama 可以快速启动,也能用 llama.cpp、Unsloth 加载量化后的 GGUF 权重;
- 从 Hugging Face 下载完整权重或者量化包,配套 Tinker 平台也支持推理、微调;
- 调试循环次数,调整模型思考强度,平衡速度和推理效果;
- 离线测试代码生成、多智能体模拟、图文理解任务,验证本地运行稳定性。
总的来说,Inkling 2 Mini 不是追求极致跑分的超大模型,它主打可变思考强度、本地离线 Agent 场景,是兼顾能力和端侧部署门槛的开源模型。
Inkling 2 Mini 核心参数表
| 项目 | 参数 |
|---|---|
| 模型架构 | 循环 Transformer、MoE 混合专家 |
| 总参数 | 26.4B |
| 单次激活参数 | 3.4B |
| 循环后有效激活参数 | 5.4B |
| 内存占用 | 约 20GB |
| 上下文窗口 | 1M token |
| 输入类型 | 文本 + 图像 |
| 推荐本地设备 | ≥32GB 内存 MacBook Pro |
| 部署工具 | Ollama、llama.cpp、Unsloth、SGLang、vLLM |
Inkling 家族版本简单区分
- Inkling 2 Mini:轻量化循环版,开源,笔记本可本地跑,主打离线 Agent
- Inkling 2 Small:594B 总参数,能力更强,需要高端 GPU 集群,不适合普通笔记本
- Inkling 初代:975B 总参数,面向云端大算力场景
【相关 FAQ】
问题 1:Thinking Machines 开源的 Inkling 2 Mini,为什么可以跑进笔记本?
回答 1:Thinking Machines 开源的 Inkling 2 Mini 采用循环 MoE 架构,总参数 26.4B 但单次激活参数只有 3.4B,内存占用控制在 20GB 左右,降低了硬件门槛,满足内存条件的笔记本就可以离线运行。
问题 2:Thinking Machines 开源 Inkling 2 Mini,笔记本运行需要什么硬件?
回答 2:Thinking Machines 开源 Inkling 2 Mini,推荐 32GB 及以上统一内存的 MacBook Pro,Windows、Linux 笔记本可以加载 GGUF 量化版本,搭配独立显卡运行。
问题 3:Thinking Machines 开源 Inkling 2 Mini,它适合做哪些本地任务?
回答 3:Thinking Machines 开源 Inkling 2 Mini,适合本地写代码、多智能体模拟、图文理解、长文档处理,官方演示里在笔记本离线生成飞行模拟器、虚拟小镇智能体。
问题 4:Thinking Machines 开源 Inkling 2 Mini,和 Inkling 2 Small 有什么区别?
回答 4:Thinking Machines 开源 Inkling 2 Mini 是轻量化循环版本,适配笔记本本地;Inkling 2 Small 参数规模更大、能力更强,需要高端算力集群,普通笔记本跑不动。
【参考资料】
[2026-11-21](27B!穆拉蒂开源 “循环脑” 模型:笔记本跑 Agent 起飞!)腾讯新闻
[2026-11-20](Thinking Machines Lab Releases Inkling 2 Mini for Local Devices)Unite.AI
[2026-11-21](Inkling 2 Mini:26B 参数循环 Transformer 的本地多模态模型)腾讯云开发者社区
[2026-11-05](Introducing Inkling 2 Small)Thinking Machines Lab 官网
【免责声明】
本内容为 Thinking Machines 开源 Inkling 2 Mini 公开资讯整理,模型实际运行速度、效果受笔记本内存、量化版本、循环参数影响,权重协议、技术细节以 Hugging Face 模型卡和 Thinking Machines 官方文档为准,不构成模型选型、硬件采购建议。
本文来自作者[暗域编译]投稿,不代表新新网立场,如若转载,请注明出处:https://ldrb.xxcmw.com/guance/202611/5100.html
评论列表(4条)
我是新新网的签约作者“暗域编译”!
希望本篇文章《Thinking Machines开源Inkling 2 Mini可跑进笔记本》能对你有所帮助!
本站[新新网]内容主要涵盖:互联网行业的追踪与探索
本文概览:Thinking Machines Lab 正式开源 Inkling 2 Mini,这是一款循环架构的 MoE 混合专家大模型,内存占用大约 20GB,满足配置要求的消