标签
Black Forest Lab's Flux 3 是一种新型的全模态AI模型,能够生成和预测图像、视频、音频和动作。
BFL 推出了 FLUX 3,这是一个能够生成图像、视频和音频的多模态 AI 模型。
Fusion Embedding 引入了一个模型系列,将音频添加至冻结的视觉-语言嵌入主干网络,从而实现文本、图像、视频和音频检索的统一嵌入空间。该系列模型仅训练轻量级适配器,无需配对音视频数据即可实现音频-图像检索。
MindLab Research 发布了 Macaron-V1-Venti,这是一个新的多模态 AI 模型,在 HuggingFace 上可用,可能用于文本到图像或图像生成任务。
本文提出了UMMT,一种基于Token级别的跨模态Transformer与对比多任务学习,用于乳腺癌亚型分类和生存预测,在METABRIC和TCGA-BRCA数据集上取得了最先进的结果。
RynnBrain 1.1是一系列具身基础模型(2B、9B、122B-A10B),提升了感知、空间推理和操作能力,在VSI-Bench、MMSI和RefSpatial-Bench上取得了最先进的结果,并在真实机器人实验中超越了基线模型。
Thinking Machines 发布了 Inkling,这是一个开源的多模态推理模型,在 post-training RL 方面有创新,实现了稳定扩展到 3000 万+ 次 rollout 和可控的思考投入。该模型展现出压缩推理的特点,即将开放微调。
Hallo4D是一个模型无关框架,利用大型多模态语言模型检测和纠正3D与4D生成中的空间和时间幻觉,在无需重新训练的情况下改善跨视角和时间的一致性。
TheBioCollection是一个526亿令牌的生物学预训练语料库,它将异构资源整合为统一格式以训练大型语言模型,并包含配套的评估套件。在该语料库上训练,生物学基准测试的整体得分提高了一倍以上,同时保持通用语言能力几乎不变。
商汤科技发布了SenseNova-Vision,这是一个7B参数的模型,将所有计算机视觉任务统一为生成任务,并提供了开放权重、指令语料库、基准、论文和演示。
BRAID是一个框架,它将交错文本-图像-文本推理形式化为统一的马尔可夫决策过程,通过强化学习实现文本和视觉生成的联合优化,并由VLM裁判提供密集的轮次级反馈。
本文提出了一种概念验证型AI流水线,利用多模态数据(图像和事故报告)评估铁路道口安全,在风险分类上实现了0.757的宏F1分数,并通过微调紧凑型VLM在安全评分估算上达到了0.078的RMSE。
NVIDIA 发布了 Cosmos3-Edge,这是一个全模态世界基础模型,能够从文本、图像、视频和动作轨迹输入生成视频、图像、音频和动作命令,面向机器人、自动驾驶和智能空间等物理 AI 应用。
本文介绍了HealthAgentBench,一个包含54个真实医疗任务的套件,用于评估前沿AI智能体。研究发现,即使是最强的智能体(Codex GPT-5.5)也仅能达到约42%的成功率,凸显了巨大的改进空间。
本文介绍了MMG-Pop,一个用于多模态图社交媒体流行度预测的统一基准,并提出了MMG-PopNet,该模型联合建模多模态内容和时间社交互动。在Bluesky和Reddit数据集上的实验展示了优越的性能,并提供了跨平台泛化和多任务预测的见解。
本文系统比较了HARMES数据集上七种最先进的传感器融合方法用于多模态人体活动识别,结果表明门控多模态融合取得了最高的宏F1分数0.82,比基线提高了6个百分点。
一款谷歌 NotebookLM 的开源替代方案,提供免费无限访问权限,本地运行,采用 MIT 许可,并具备播客生成、多模态导入等功能。
微软开源了JARVIS,该系统使用GPT控制器编排来自HuggingFace的数百个AI模型,用于多模态任务。
OmniPath是一个多模态代理框架,结合了OpenStreetMap网络拓扑与航空LiDAR数据,通过高分辨率分析坡度、表面不连续等物理障碍来审计轮椅无障碍性,并经过实地调查验证。
IV-CoT 将视觉条件分解为结构和语义级联,以改进结构感知的图像生成,使用仅训练阶段的草图监督来指导结构查询。在 GenEval 和 T2I-CompBench 上达到了最先进的结果。