@matthen2: 现代LLM上的深度梦境非常酷(优化图像以最大化目标描述的概率)Gemma 12B(左侧)没有视觉…
摘要
展示了通过在图像上优化以最大化目标描述的概率,在现代LLM上产生的深度梦境效果;Gemma 12B(无视觉编码器)在画布上印出可识别的物体,而E4B(有视觉编码器)则漂移为纹理。
查看缓存全文
缓存时间: 2026/07/20 23:34
现代大语言模型上的深度梦境太酷了
(优化图像以最大化目标标题概率)
Gemma 12B(左)没有视觉编码器——它像读取词元嵌入一样读取像素——并在画布上印出可识别的物体。E4B(右)有一个视觉编码器,转向了纹理。https://t.co/99TISX3Vdf
相似文章
LiquidAI LFM2.5-VL-3B:一款3.1B本地视觉语言模型超越Gemma-4 E4B——屏幕理解从2.5提升至82.2
LiquidAI发布了LFM2.5-VL-3B,这是一款3.1B本地视觉语言模型,性能超越Gemma-4 E4B,并在屏幕理解上展现了显著提升,使得设备端AI更加实用。
Gemma 4 视觉
Gemma 4 的视觉表现受默认 token 预算过低拖累;在 llama.cpp 中将 --image-max-tokens 提到 2240,可解锁顶尖 OCR 与细节识别,代价是额外占用约 14 GB 显存。
Mind's Eye:面向多模态大模型的视觉抽象、变换与组合基准
研究者推出 Mind’s Eye,一项包含八道视觉认知任务的基准测试,显示顶级多模态大模型得分不足 50%,而人类可达 80%,暴露出视觉抽象、关系映射与心理变换方面的巨大差距。
Imagine3D-LLM:让多模态大语言模型在回答之前先想象 3D 场景
Imagine3D-LLM 提出在回答多视角空间推理问题之前,先让多模态大语言模型想象出场景的紧凑 3D 表示(从可学习的摘要 token 解码为 3D 高斯泼溅,并以光度重建损失进行监督),在多个基准测试上超越了以往的 3D 感知 MLLM 方法。
@andimarafioti:没有视觉编码器,VLM也能‘看见’吗?我们受Gemma 4 12B启发,花100美元训练了一个。在M3 Pro MacBook上的延迟:…
研究人员受Gemma 4 12B启发,仅花费100美元训练了一个无需视觉编码器的视觉语言模型,在M3 Pro MacBook上实现了端到端延迟降低30%。