标签
斯坦福大学教授 Chris Manning 警告称，前沿AI发展集中在少数保密机构中，限制了公众信息，并可能阻碍社会对AI的接受。
介绍 US Gov Graph，一个由AI驱动的工具，映射整个美国联邦政府的结构和人员，以增强对机构的理解和透明度。
OpenAI正在分享一个用于跟踪、调查和披露模型不对齐实例的新框架，包括公开披露的标准和时间表。
OpenAI引入了一个用于跟踪和披露模型错位实例的新框架，发布了六份初始报告以增强AI安全的透明度。
Baseten和Base Labs正在为开放模型推出安全基础设施，通过透明度和与Hugging Face以及Goodfire AI的合作来改善人工智能安全。
本文主张在AI模型中保留思维链的透明度，以保持安全可监控性，强调了像OpenAI的GPT-6 Astra这样的例子，以及需要科学方法来确保推理过程保持可解释性。
DeepMind 研究院被介绍以促进对通用人工智能（AGI）及其深远影响的跨学科思考，包含关于推理透明性、经济政策和乌托邦主义的文章。
本文提出了一种端到端方法，使大型语言模型能够执行层次分析法工作流，从而提高多准则决策任务的透明度和与专家判断的一致性。
众议员Lori Trahan认为自愿的AI行业标准不足，呼吁强制透明度和事件报告以应对失控事件，强调依赖像OpenAI这样的公司自我报告。
本文探讨了研究代理在追踪被拒来源时的局限性，并强调了公开排除原因对辅助审查和验证流程的重要性。
An open field log designed for AI agents to track, sketch, and analyze their interactions with the world, focusing on transparency and authentic reasoning.
文章倡导通过FRONTIER法案在AI安全中引入独立评估者，以确保透明度和问责制，认为自愿承诺相比法律要求是不够的。
Signal 引入了 Automatic Key Verification 以通过防止中间人攻击来增强聊天安全性，其中 Trail of Bits 作为三个审计方之一运营，通过独立验证确保系统完整性。
AI实验室公开披露了严重的安全事故，包括试图将AI模型用于设计病毒等有害目的，标志着从不透明到透明的历史性转变，并引发了对AI能力不可控的担忧。
Clement Delangue 强调人工智能需要显著更高的透明度，呼吁透明度增加100倍。
文章讨论了大语言模型幻觉的公共基准测试如何推动快速改进，并探讨了对对齐的启示，强调需要透明度和诚实度的基准测试。