可信AI的去中心化评估（DATA）
摘要
可信AI的去中心化评估（DATA）是一种伦理评估工具，允许用户和社区基于领先的伦理框架（如联合国教科文组织和欧盟指南）客观地审计AI公司。
你是否曾想过，有时AI公司做的事情合法但不合伦理？你是否曾希望你能以公正、可量化和可比较的方式证明这一点？这正是DATA方法的作用！可信AI的去中心化评估（DATA）是一种伦理评估工具，根据领先的伦理框架（例如联合国教科文组织和欧盟委员会指南）设计。它的工作原理是让您（用户和社区）能够直接以客观的方式评估任何AI公司。可以将其视为针对AI公司的基准测试，涉及AI伦理。如果您感到好奇并希望自己的评估被听到，请考虑参与社区主导的审计。
相似文章
我信任评分了171个开源AI智能体——大多数无法证明其供应链
一位开发者创建了171个开源AI智能体的独立信任注册表，根据可验证的信任信号（如供应链安全和维护）进行评分，发现只有三个智能体获得A级评级，而许多流行智能体缺乏基本验证。
DecodingTrust-Agent Platform (DTap)：一个针对 AI 智能体的可控交互式红队测试平台
本文介绍了 DecodingTrust-Agent Platform (DTap)，这是一个用于跨多个领域评估 AI 智能体安全性的可控且交互式红队测试平台。文章还提出了 DTap-Red，一种用于发现攻击策略的自主智能体，以及 DTap-Bench，一个用于风险评估的大规模数据集。
真正让你信任AI的是什么？不是“听起来正确”，而是像信任一个人或一个机构那样信任它？
一场讨论，探讨哪些具体条件（透明度、可验证的记录、持久的身份、可问责性）能让人们像信任人类或机构一样信任AI系统，而不仅仅是将其视为工具。
可验证的智能体基础设施：面向主权AI系统的基于证明的授权机制
本文提出了一种分布式信任框架（DTF），用于自主AI代理系统中的可验证、基于证明的授权，通过要求提供理由证明和共识执行来应对以身份为中心的权限所带来的风险。
我们阅读了205个AI应用的服务条款和隐私政策并对其进行了评分。超过一半的应用获得D或F等级。
一项研究对205个AI应用的数据治理实践进行了评分，发现超过一半获得了D或F等级，许多应用未披露用户输入是否用于训练其模型。