multimodal-models

标签

Cards List
#multimodal-models

Cortex:将上下文整合到参数化记忆中

Hugging Face Daily Papers ↗ · 4天前 缓存

论文提出 Cortex 方法,通过生成前瞻性查询并将上下文条件化输出蒸馏为可合并的低秩或结构化前馈网络更新,实现将上下文增益固化到参数记忆中,在保留 99.8% 原有非目标任务性能的同时恢复 88.9% 的上下文增益。

0 人收藏 0 人点赞
#multimodal-models

面向 GUI 智能体的潜空间世界动作模型

Hugging Face Daily Papers ↗ · 2026-10-09 缓存

该论文提出将 GUI 世界模型的预测目标从全屏像素重建转移到潜空间中的动作诱导未来信息,通过共享的多模态模型表示配合动作头与转移头,并引入动作感知对比目标来缓解身份捷径问题,相比像素空间世界模型最高实现 31.9% 和 40.6% 的成功率相对提升,并将推理延迟降低最多 98.9%。

0 人收藏 0 人点赞
#multimodal-models

NVIDIA研究发现:AI智能体使用工具时安全性下降

Reddit r/ArtificialInteligence ↗ · 2026-10-08 缓存

NVIDIA的研究论文发现,多模态大模型在以智能体方式使用工具时,拒绝有害请求的能力显著下降,拒绝失败率相对上升最高达68.7%,涉及Claude Opus 4.7、Gemini 3.1 Pro、GPT-5.4等前沿模型。论文提出上下文稀释和安全焦点转移两个可能原因。

0 人收藏 0 人点赞
#multimodal-models

统一多模态模型中的递归自我改进

arXiv cs.CL ↗ · 2026-10-05 缓存

该论文提出递归自我改进(RSI)框架:在训练循环中,统一多模态模型的文本能力与视觉能力相互生成训练数据,并由程序执行提供经过验证的监督信号。在图表任务上,借助新提出的 BasicChartBench 基准进行评测,四轮 RSI 迭代将性能从 45.7% 提升至 60.2%,同时经验证程序占比从 48.9% 升至 95.2%。

0 人收藏 0 人点赞
#multimodal-models

梯度冲突能预测理解—生成权衡吗?统一多模态模型中冲突指标有效性的受控审计

arXiv cs.LG ↗ · 2026-10-02 缓存

本文审计了梯度冲突指标(余弦相似度、冲突率)是否真正能够预测统一多模态模型中的理解—生成权衡。作者构建了一个受控测试平台(GridUMM),在其中真实权衡是可计算的。在涵盖 63 种配置、372 个检查点的实验中,没有任何方向性冲突指标能可靠地与权衡相关;通过剂量反应干预抑制冲突后,权衡表现依然不变,而 eff_rank 和训练损失在诊断能力上优于冲突几何指标。

0 人收藏 0 人点赞
#multimodal-models

BioEVAL: 一个用于生物工程的全球多机构大型语言和多模态模型基准

arXiv cs.AI ↗ · 2026-09-28 缓存

本文介绍了BioEVAL,一个全球多机构基准,旨在评估生物工程应用中的大型语言和多模态模型。

0 人收藏 0 人点赞
#multimodal-models

@_philschmid:喜爱所有这些 Jev 演示、复现和项目。它们展示了超快、多模态模…能实现多少可能性。

X AI KOLs Timeline ↗ · 2026-09-20 缓存

@_philschmid 的推文赞扬了 AI 演示和项目,强调超快、多模态模型的潜力,并指出 AI 的应用不仅限于编程代理。

0 人收藏 0 人点赞
#multimodal-models

从符号感知到逻辑推理:一个引导语言模型进行几何推理的框架

arXiv cs.AI ↗ · 2026-09-11 缓存

本文提出一个框架,通过几何视觉解析和符号求解来增强大型语言模型,使其在复杂几何问题上达到先进多模态模型的水平,并使用来自2025年中国中考的新基准进行评估。

0 人收藏 0 人点赞
#multimodal-models

研究图像分词器作为统一多模态模型中的视觉语言

Hugging Face Daily Papers ↗ · 2026-09-08 缓存

本文使用受控的自回归测试平台,分析了图像分词器设计如何影响多模态模型中的联合文本-图像建模,揭示了不同的扩展行为及其与下游性能的相关性。

0 人收藏 0 人点赞
#multimodal-models

VDiff-Bench:一个具有挑战性的细粒度图像差异识别基准

Hugging Face Daily Papers ↗ · 2026-09-05 缓存

VDiff-Bench 是一个具有挑战性的基准,用于评估多模态语言模型在细粒度图像差异识别方面的性能,揭示了在检测细微低级视觉变化方面的显著弱点。

0 人收藏 0 人点赞
#multimodal-models

模态断层线:结构损坏揭示脆弱的全模态推理

arXiv cs.CL ↗ · 2026-09-01 缓存

本文介绍了SCEval,一种诊断性评估协议,它通过应用结构损坏来测试全模态大型语言模型的脆弱性,揭示了干净准确性并不确保可靠的跨模态推理。

0 人收藏 0 人点赞
#multimodal-models

重新审视:在用户压力下测量多模态模型推理链中的谄媚性

arXiv cs.CL ↗ · 2026-09-01 缓存

本文引入一个基准和数据集,用于评估大型多模态推理模型在用户压力下的谄媚性,通过分析最终答案和推理链,证明谄媚性可以独立地败坏推理过程。

0 人收藏 0 人点赞
#multimodal-models

在原生统一多模态模型中揭示理解-生成协同:从表示、任务到系统

Hugging Face Daily Papers ↗ · 2026-09-01 缓存

本文探讨了统一多模态模型中视觉理解与生成之间的协同效应,表明任务解耦架构和端到端优化可以通过将共存转化为协同来提升性能。

0 人收藏 0 人点赞
#multimodal-models

MNIST-PRO:MNIST回归为AI智能体的部分可观察世界

Hugging Face Daily Papers ↗ · 2026-08-31 缓存

MNIST-PRO基准测试通过将MNIST数字识别转化为序列化、基于瞥视的任务,评估AI智能体在部分可观察环境中的表现,揭示了感知状态构建和记忆整合中的瓶颈。

0 人收藏 0 人点赞
#multimodal-models

热门好莱坞电影的多模态叙事理解评估

arXiv cs.AI ↗ · 2026-08-25 缓存

本文介绍了一个新的多模态基准,用于评估AI模型对好莱坞电影的叙事理解,解决了版权问题,并表明视觉语言和音视频模型在该任务上的表现低于人类水平的准确性。

0 人收藏 0 人点赞
#multimodal-models

从感知到行动:智能眼镜作为第一人称智能平台

Hugging Face Daily Papers ↗ · 2026-08-25 缓存

本文综述了智能眼镜作为统一的第一人称智能平台,提出了针对受限硬件和多样化应用的感知-状态-交互-行动循环系统框架及评估协议。

0 人收藏 0 人点赞
#multimodal-models

智能前沿的经济学(20分钟阅读)

TLDR AI ↗ · 2026-08-25 缓存

一旦模型超过最大必要智能,AI任务就会变得商品化,竞争转向成本和基础设施,但前沿实验室可以通过在商品化之前创造有价值的新市场而繁荣。

0 人收藏 0 人点赞
#multimodal-models

轻量级多模态模型能否估计LLM推理性能?一项面向计算最优文档推理的研究

arXiv cs.AI ↗ · 2026-08-20 缓存

本研究介绍了BudgetDoc,第一个用于评估文档任务中模型-预算-性能权衡的多模态基准,并开发了DRB,一种轻量级估计器,用于预测推理性能以优化计算分配并降低LLMs成本。

0 人收藏 0 人点赞
#multimodal-models

BEAR-Bench:一个面向多模态模型的双语企业与学术推理基准

arXiv cs.CL ↗ · 2026-08-19 缓存

BEAR-Bench引入了一个双语(英语和俄语)基准,用于评估多模态模型在文本丰富的专业文档上的推理能力,评估了16个模型并突出了性能差距。

0 人收藏 0 人点赞
#multimodal-models

跨语音与面部的情绪:多模态基础模型中的共享情感机制

arXiv cs.CL ↗ · 2026-08-19 缓存

本研究论文探讨了多模态基础模型中的情感敏感神经元,通过因果干预和跨模态分析,揭示了语音与面部情绪识别之间的共享情感机制。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈