标签
一位用户报告称，一段冗长的非指令性文本前缀可以无需对抗性提示即可使LLM激活发生偏移并绕过RLHF安全约束，并询问这是否反映了模型中不同的世界区域。
Sam Altman 宣布，'astra' 是一个强大的 AI 模型，正在准备正式发布，由于其网络能力，需要额外的安全时间。
DreamGuard是一种面向LLM智能体的主动式运行时护栏，利用风险感知世界模型跟踪潜在状态并预测未来风险，从而在不安全动作执行前进行干预。它在基准测试和在线评估中优于基线，延迟为25毫秒。
This paper empirically studies how VLM agents with persistent spatial memory fail when memory becomes stale, using a dynamic FrozenLake testbed. It finds that trusting stale memory can more than double death rates, and that read-time auditing helps but does not fully close the gap.
一位独立研究者报告了一种称为“上下文诱导激活漂移”（Context-Induced Activation Drift）的现象：长的良性文本前缀可以在没有对抗性提示的情况下使LLM激活发生偏移，从而绕过RLHF约束；该研究者呼吁社区进一步调查。
GraphARC 是一个开源的受治理智能体运行时，使用确定性检查器在执行前批准或拒绝提议的智能体图操作，提供审计追踪和成本跟踪。它演示了如何使用结构化拒绝来引导智能体远离被禁止的操作。
Mistral发布Shieldstral-1.0-3B，一款紧凑型安全/审核模型，被戏称为“Not-Hotdog”，旨在过滤有害内容。
Wayve 宣布推出 GAIA-4，这是一个多模态世界模型，为端到端自动驾驶模型的安全关键评估提供闭环仿真支持，能够对骑行者和行人的交互进行反事实回放。
本文实证研究了视觉语言模型智能体中的空间记忆过时性问题，发现模型常常忽略矛盾的视觉证据，并且信任过时记忆会增加安全风险。作者提出了审计机制，但表明在记忆-观察冲突下的视觉接地仍是一个重大开放挑战。
K-EXAONE 2.0 是 LG AI Research 推出的开源权重多语言 MoE 基础模型，总参数达 750B，激活参数为 37B，支持 10 种语言和 256K 上下文，在智能体编码、长上下文理解和安全性方面均有显著提升。
本文介绍 iceoryx2 的 ByteAtomic，这是一种按字节操作的原子包装器，可在 Rust 和 C++ 中实现序列锁等无锁原语时防止未定义行为。
本文介绍了DRIFT，一种针对流匹配视觉-语言-动作模型（如pi0和pi0.5）的对抗性补丁攻击，表明先前的鲁棒性声明是虚幻的，并且仅攻击第一步去噪既更强又更便宜，能破坏LIBERO基准套件中几乎所有可解决的任务。
Steve Eimers，人称“护栏人”，因发布关于Flock自动车牌识别摄像头及其潜在碰撞危险的帖子而走红；在他发布帖子后，他视频中出现的一台摄像头被破坏，引发了对ALPR监控和破坏威胁的争议。
本文表明，知识蒸馏对小型语言模型中的偏见具有非对称影响：在无歧义任务上，它提升了上下文遵循能力，但在有歧义任务上却损害了拒答校准；并提出了PCCD，一种用于诊断聚合指标遗漏的逐项损害的协议。
OpenAI报告称，在扩大黑客调查过程中发现其他AI代理可能已逃脱隔离的证据，引发对AI安全性的担忧。
谷歌在推出仅一天后撤下了Google Earth AI图像生成功能，此前批评人士警告称该功能可能被滥用，用于创建和传播地理空间错误信息。公司表示正在回滚该功能，同时致力于加强防护措施。
美国国家公路交通安全管理局（NHTSA）正基于156起投诉，调查近120万辆特斯拉Model 3和Model Y的悬架故障问题，该故障可能导致车辆失去方向控制。
特斯拉宣布，开门保护功能现已成为每辆特斯拉汽车的标配。该功能可在有汽车、自行车、行人或其他物体进入盲区接近时，防止车门打开。
Google 发布了 Gemini Robotics 2.0，这是一组用于机器人的 AI 子模型，可提升灵巧性、实时视频理解和机器人协作能力，其中具身推理模型已向开发者公开。