@PKUCXK: 你可以在思考模式(通过网页/应用)中尝试以下两个提示,以获得在某些领域(如计数)更好的模型体验…
摘要
Xiaokang Chen 分享了两个提示词「Think with Grounding」和「Think with Pointing」,用于在思考模式下提升模型在计数等领域的表现。这些提示词利用边界框和点,使多模态大模型的推理过程更接近人类思维。
查看缓存全文
缓存时间: 2026/06/20 20:24
您可以在思考模式(通过 web/app)中尝试以下两个提示,以获得在计数等特定领域更出色的模型体验(注意:方括号标题后需保留换行):
[Think with Grounding] …….
[Think with Pointing] ……
这两个提示鼓励模型在其思考过程中使用边界框或点(计算机视觉中的经典基础概念)。
就个人而言,我非常喜欢针对抽象拓扑/推理任务采用指向法。用点来表示连续轨迹,使得多模态大语言模型的推理过程显得更具人性化。
纯粹基于个人探索:让多模态模型用点来精确表示连续轨迹,目前对整个行业来说仍是一项极具挑战的前沿任务。在真实场景中的当前表现仍有很长的路要走。
Xiaokang Chen (@PKUCXK): Vision 目前已在网页版和 App 端上线了。👀
快来试试这双新眼睛吧,顺便也体验一下它的纯文本能力。
相似文章
当提示变成像素:面向多模态推理的提示区域对齐
本文介绍了可视化任务语义(VTS),一种受控干预方法,用于研究多模态大语言模型在图像中而非文本中被提问时的情况。研究显示,在所有测试模型和任务上,准确率均出现一致下降,并提出了提示区域对齐(prompt-region grounding)以恢复干净的任务表示,将VTS准确率从58.0提升至66.3。
视觉具象化推理
本文介绍了视觉具象化推理,一种使视觉语言模型能够将自然语言推理与使用点或框的明确视觉证据基础相结合的方法。一个可扩展的合成流水线和基础感知的强化学习提高了推理准确性,使得一个4B模型在空间和计数基准上能够匹配甚至超越一个27B模型。
试试这个针对 27B 的“high”推理模式(已在 VLLM 上测试)
作者在 VLLM 上对 27B 模型进行了实验,通过混合 low 和 xhigh 模式的提示,创建了一个“high”推理模式,从而获得了更高效、更愉快的推理输出。
MAI-Thinking-1
微软AI推出MAI-Thinking-1,这是一个350亿活跃参数的推理模型,从头训练,无需蒸馏,在软件工程和数学基准测试中表现强劲,同时强调干净数据和自给自足。
提示级蒸馏:一种高效推理的非参数化模型微调替代方案
提示级蒸馏(PLD)从教师模型中提取推理模式,转化为结构化指令用于学生模型的系统提示,在不增加微调开销的情况下提升推理任务性能。