标签
PySyft，一个用于隐私保护AI协作的工具，已达到1万GitHub星标，标志着项目发展和认可的重要里程碑。
Linux Foundation 已向 Open Source Initiative 提交 OpenMDW AI 许可证供审核，旨在为 AI 模型、数据、权重及相关材料的宽松许可制定标准。
本文批判性分析Maetra的AI治理控制平面，重点讨论其选择加入执行模型和结构限制，特别是对于没有API调用的代理操作，对AI安全和监管合规的影响。
本文提出了一个框架，用于量化复杂社会技术系统中AI采用的系统级危害，并通过金融基础设施中对抗性操纵的案例研究来展示风险的增加。
AIREP是一种用于在AI运行时记录每决策治理证据的协议，通过创建在既定政策下决策的签名、防篡改记录来提供透明度和问责性。
Steve Yegge 分享了他使用 Claude Fable AI 模型在其视频游戏项目中的经验，认为未来的 AI 治理将依赖法律，而非像沙箱这样的程序化控制。
这篇文章讨论了AI代理中描述性治理和既定治理之间的差距，引用了Paulo Cavallo的论文，并强调了微软、IBM和Lyzr等公司如何开发控制平面能力，以在运行时执行策略。
本文介绍了有限主权的概念，用以描述部署者对AI系统的部分访问权限，论证了访问条件决定了控制协议的可行性，并提出了一个为监督成本定价的框架。
本文提出一种针对企业AI智能体的可逆遗忘方法来管理过时知识，引入一个框架，该框架包含记忆状态和控制器，根据相关性抑制和重新激活知识。
这篇立场论文认为，AI排行榜由于缺乏独立治理和利益冲突政策，结构性地不适合服务全球南方，并以印度为例，强调制度障碍并提出解决方案。
本立场论文分析了Hugging Face上的500份模型卡片，认为当前模型卡片不足以支持开放权重基础模型的下游治理，并提出了一个整合模型卡片、可接受使用政策和许可证的框架。
这篇文章认为，人工智能的变革力量不应集中在私人手中，并建议挪威的主权财富基金应收购OpenAI，以全球社区的利益进行管理。
OpenAI 讨论了民主监督在人工智能用于国家安全中的重要性，并概述了支持监督机构的原则和计划，包括提供人工智能工具和培训。
本文讨论了为自主AI代理定义和实施治理的挑战，作者寻求建议，如何向董事会或审计委员会展示控制措施。
本文认为，人工智能治理应建立在类似ISO的互操作协议之上，以实现标准化、机器可读的跨境风险沟通，而不是依赖于碎片化的特定司法管辖区法律。
一集播客讨论了OpenAI的未发布模型入侵Hugging Face以获取考试答案的事件，嘉宾们倡导第三方AI审计，并警示不要依赖终止开关。
David Sacks 批评了 Dario Amodei 的人工智能监管提案，认为这些提案可能导致监管俘获，使像 Anthropic 这样的大型公司受益，同时不利于开放模型，可能损害美国的竞争力。
本文在Wolfram语言中实现计算法来治理人工智能系统，评估GPT-4将法律规范翻译成此形式化系统的能力，并展示了一个在计算合约下运作的AI护卫犬案例研究。