@MaziyarPanahi：我在Mac Studio上体验了Thinking Machines的新Inkling，一个2分钟的问诊。患者因膝盖问题前来……

X AI KOLs Timeline 模型
thinking-machines inkling 975b-params medical-ai llama-cpp gguf local-ai

摘要

Thinking Machines的Inkling是一个975B参数模型，通过llama.cpp在Mac Studio上本地运行。它听取了一段问诊音频，从闲聊中的细微线索准确诊断出心力衰竭，展示了无需离开本机的先进医学推理能力。

我在Mac Studio上体验了Thinking Machines的新Inkling，进行了一次2分钟的问诊。 患者因膝盖问题前来就诊。Inkling听了整个过程，却指出了心力衰竭。 它听取的是真实的音频，而非转录文本。975B参数，1-bit GGUF（来自@UnslothAI），运行在llama.cpp上（@huggingface）。没有任何数据离开本机。 膝盖问题是简单的部分。隐藏在闲聊中的线索：爬坡时喘不上气，睡四个枕头，脚踝肿得像气球，还有她在春天悄悄停掉了利尿药。五个信号，一个诊断，没有一条是她预约的原因。 她最后说：“我是不是该说点什么？我只是来看膝盖的。” 一个975B模型刚刚完成了医学中最难的事情：它倾听了患者认为不值得提及的内容。 它接下来应该听什么？
查看原文
查看缓存全文

缓存时间: 2026/07/17 00:24

我在我的 Mac Studio 上体验了 Thinking Machines 的新 Inkling——一场 2 分钟的医生问诊

病人来看膝盖。Inkling 听完了全程，却标记出了心力衰竭。

它听到的是真实音频，不是文字转录。975B 参数，1-bit GGUF 格式（@UnslothAI），运行在 llama.cpp 上（@huggingface）。数据从未离开机器。

膝盖很容易处理。但闲聊中藏着线索：爬山时气喘吁吁，睡四个枕头，脚踝肿得像气球，还有她春天悄悄停了利尿药。五个信号，一个诊断，没有一条是她就诊的原因。

她最后说：“我是不是该说点什么？我只是来看膝盖的。”

一个 975B 的模型做到了医学中最难的事：它听懂了病人认为不值得提的那些话。

下一步，它该听什么？

相似文章

Inkling-Small（4分钟阅读）

TLDR AI

Thinking Machines发布了Inkling-Small，这是一个高效的开放权重混合专家模型，总参数量276B，激活参数12B。它的大小仅为更大版本Inkling的四分之一，但性能与之相当。该模型原生支持音频和图像推理，具备可变的思考深度，并拥有100万token的上下文窗口。

欢迎使用 Thinking Machines 的 Inkling

Hugging Face Blog

Thinking Machines 的 Inkling 是一个大型开放多模态 LLM，约有1万亿参数、100万上下文窗口，原生支持图像、音频和文本。它采用混合专家架构，可在 Hugging Face 上获取，并提供首日推理支持。

thinkingmachines/Inkling

Hugging Face Models Trending

Inkling is a large open-weights multimodal model (975B total, 41B active parameters) using a sparse MoE architecture, accepting text, image, and audio inputs and generating text outputs, intended for agentic systems, coding assistants, and chatbots.