accountability

本文挑战了AI已解决编程的观点，强调了在代码生成之外，软件工程中维护、可靠性和责任的关键作用。

文章强调了AI应用中的关键治理失败，例如通过面部识别导致的错误逮捕和聊天机器人生成的虚假情报报告，突出了人类问责制和清晰决策框架的必要性。

这篇文章讨论了AGI或ASI到来后哪些工作会幸存，重点关注涉及权威、人类偏好和法律责任的角色。

文章主张转向学术界完全开放的审稿系统，以减少偏见、防止虚假声明并提高透明度，特别是为了应对AI生成的投稿和评审带来的挑战。

本文探讨了在人类-AI协作中，当贡献变得不可区分时，责任归属所面临的挑战，使得判断责任的分配复杂化。

本文探讨了当AI编码代理将任务委派给其他代理时产生的复杂性，引发了关于多代理系统中权限、授权和问责制的疑问。

OpenAI概述了四个优先领域和原则，以支持独立的第三方AI安全评估，强调前沿AI发展中的严格性、安全性和问责制。

这篇推文讨论了 Tobi 的观点：由于 AI 缺乏问责能力，例如无法承担法律后果，因此不应让 AI 承担责任。

本文探讨了AI代理相较于脚本的独特故障模式，强调了它们出错时问责机制的缺失，并认为在缺乏适当诊断工具的情况下将AI部署到关键系统是不可辩护的。

Toby Lütke认为代码应该根据其质量来判断，无论是否使用了AI。这是对KDE的AI政策的回应，该政策鼓励人工监督但不鼓励披露AI使用情况。

本文讨论了AI模型在智能体系统中推断缺失数据的风险，可能导致未授权执行，并提出将决策权限与模型分离，以确保仅执行明确声明的指令。

本文介绍了发布权威（Publication Authority）和一个协议（PAC-2026），旨在通过机器可读的规范和义务，确保可证伪的发布记录，从而使AI辅助主张可独立质疑。

文章认为，软件工程在安全关键系统中扮演重要角色，可能导致致命后果，因此需要像结构工程一样接受更严格的监管和问责。

文章主张，开源人工智能开发是确保问责制和防止集中控制的唯一安全方式，从而民主化工具以维护全球安全。

本文探讨了科技CEO是否应为其创新导致的损害承担责任，并批评了他们的认知局限和社会影响。

本文批判了对计算模型的过度依赖，倡导诸如单一估计和透明性等伦理设计原则，以保留不可量化的人类体验。

这篇文章批评了 Bill Gates 关于 AI 未来的文章，强调当前科技领袖和像 Klarna 和 Meta 这样的公司需要承担责任，并举出 AI 对工作和裁员影响的实例。

阿尼尔·达什批判风险资本如何在亿万富翁极端分子的影响下演变为不受问责的“癌症资本”，并指出其对创新与社会造成的损害。

本文讨论了随着AI代理自主执行任务而出现的身份问题，微软等行业参与者引入了Entra Agent ID等解决方案，以应对问责和治理挑战。

文章提出了一个问题：当AI代理使用工具和APIs时，责任应该从哪里开始？辩论是应该追踪每一步还是专注于最终结果。