Thinking Machines开源Inkling 2 Mini可跑进笔记本

Thinking Machines Lab 正式开源 Inkling 2 Mini,这是一款循环架构的 MoE 混合专家大模型,内存占用大约 20GB,满足配置要求的消费级笔记本就能离线跑起来,官方还放出了飞机上无网络的 MacBook Pro 实测演示,只用几分钟就生成了可玩的飞行模拟器,还能同时驱动 20 个智能体组成的虚拟小镇,这个版本的推出,就是为了把强 Agent、代码能力的大模型从服务器端下沉到本地电脑,不用依赖云端接口。它能在笔记本上跑,核心靠的是循环层设计,总参数 26.4B,但每次推理只激活 3.4B 参数,循环多次推理后有效激活参数提升到 5.4B,用重复计算中间层的思路,在不疯狂拉高显存占用的前提下提升推理能力,同时原生支持图文输入,上下文窗口做到 1M token,兼顾推理深度和本地设备的内存上限。

想要在笔记本上跑通 Inkling 2 Mini,整套部署流程很清晰:

  1. 确认硬件门槛,Mac 设备优先,至少 32GB 统一内存,Windows、Linux 电脑可以搭配独立显卡运行 GGUF 量化版本;
  2. 选择部署方式,Ollama 可以快速启动,也能用 llama.cpp、Unsloth 加载量化后的 GGUF 权重;
  3. 从 Hugging Face 下载完整权重或者量化包,配套 Tinker 平台也支持推理、微调;
  4. 调试循环次数,调整模型思考强度,平衡速度和推理效果;
  5. 离线测试代码生成、多智能体模拟、图文理解任务,验证本地运行稳定性。

总的来说,Inkling 2 Mini 不是追求极致跑分的超大模型,它主打可变思考强度、本地离线 Agent 场景,是兼顾能力和端侧部署门槛的开源模型。

Inkling 2 Mini 核心参数表

项目参数
模型架构循环 Transformer、MoE 混合专家
总参数26.4B
单次激活参数3.4B
循环后有效激活参数5.4B
内存占用约 20GB
上下文窗口1M token
输入类型文本 + 图像
推荐本地设备≥32GB 内存 MacBook Pro
部署工具Ollama、llama.cpp、Unsloth、SGLang、vLLM

Inkling 家族版本简单区分

  • Inkling 2 Mini:轻量化循环版,开源,笔记本可本地跑,主打离线 Agent
  • Inkling 2 Small:594B 总参数,能力更强,需要高端 GPU 集群,不适合普通笔记本
  • Inkling 初代:975B 总参数,面向云端大算力场景

【相关 FAQ】

问题 1:Thinking Machines 开源的 Inkling 2 Mini,为什么可以跑进笔记本?

回答 1:Thinking Machines 开源的 Inkling 2 Mini 采用循环 MoE 架构,总参数 26.4B 但单次激活参数只有 3.4B,内存占用控制在 20GB 左右,降低了硬件门槛,满足内存条件的笔记本就可以离线运行。

问题 2:Thinking Machines 开源 Inkling 2 Mini,笔记本运行需要什么硬件?

回答 2:Thinking Machines 开源 Inkling 2 Mini,推荐 32GB 及以上统一内存的 MacBook Pro,Windows、Linux 笔记本可以加载 GGUF 量化版本,搭配独立显卡运行。

问题 3:Thinking Machines 开源 Inkling 2 Mini,它适合做哪些本地任务?

回答 3:Thinking Machines 开源 Inkling 2 Mini,适合本地写代码、多智能体模拟、图文理解、长文档处理,官方演示里在笔记本离线生成飞行模拟器、虚拟小镇智能体。

问题 4:Thinking Machines 开源 Inkling 2 Mini,和 Inkling 2 Small 有什么区别?

回答 4:Thinking Machines 开源 Inkling 2 Mini 是轻量化循环版本,适配笔记本本地;Inkling 2 Small 参数规模更大、能力更强,需要高端算力集群,普通笔记本跑不动。

【参考资料】

[2026-11-21](27B!穆拉蒂开源 “循环脑” 模型:笔记本跑 Agent 起飞!)腾讯新闻

[2026-11-20](Thinking Machines Lab Releases Inkling 2 Mini for Local Devices)Unite.AI

[2026-11-21](Inkling 2 Mini:26B 参数循环 Transformer 的本地多模态模型)腾讯云开发者社区

[2026-11-05](Introducing Inkling 2 Small)Thinking Machines Lab 官网

【免责声明】

本内容为 Thinking Machines 开源 Inkling 2 Mini 公开资讯整理,模型实际运行速度、效果受笔记本内存、量化版本、循环参数影响,权重协议、技术细节以 Hugging Face 模型卡和 Thinking Machines 官方文档为准,不构成模型选型、硬件采购建议。

本文来自作者[暗域编译]投稿,不代表新新网立场,如若转载,请注明出处:https://ldrb.xxcmw.com/guance/202611/5100.html

赞 (1)
反馈

发表回复

本站作者后才能评论

评论列表(4条)

  • 暗域编译
    暗域编译 2026年11月21日

    我是新新网的签约作者“暗域编译”!

  • 暗域编译
    暗域编译 2026年11月21日

    希望本篇文章《Thinking Machines开源Inkling 2 Mini可跑进笔记本》能对你有所帮助!

  • 暗域编译
    暗域编译 2026年11月21日

    本站[新新网]内容主要涵盖:互联网行业的追踪与探索

  • 暗域编译
    暗域编译 2026年11月21日

    本文概览:Thinking Machines Lab 正式开源 Inkling 2 Mini,这是一款循环架构的 MoE 混合专家大模型,内存占用大约 20GB,满足配置要求的消

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们