我们阅读了205个AI应用的服务条款和隐私政策并对其进行了评分。超过一半的应用获得D或F等级。
摘要
一项研究对205个AI应用的数据治理实践进行了评分,发现超过一半获得了D或F等级,许多应用未披露用户输入是否用于训练其模型。
这个“我们如何信任该使用哪些AI应用”的问题已经被问过几次,所以我们公开地构建了这个列表。它根据应用的数据治理实践(通过检查其服务条款和隐私政策文件)进行评分。然后打分。有趣的是,只有23%获得了A或B等级。下半部分全是D和F :) 一半的应用没有提及你的输入是否用于训练它们的模型。14%限制训练或提供你可以引用的退出选项。三分之一的应用包含我们标记为“致命问题”的条款(致命问题的细节在方法论页面中提及)。最大的致命问题之一是数据保留。大多数应用无限期保留数据。评论中有链接。
相似文章
Consumer Reports 为涉及金钱的 AI 制定了一项标准。我们对照它给自己打分。
Consumer Reports 发布了 Consumer Finance AI Standard;个人金融 AI 公司 Pendragon 对照该标准进行了自我评估,结果显示在六项原则上完全合规,两项部分合规,一项未通过。
AI治理不是政策文件
文章强调了AI应用中的关键治理失败,例如通过面部识别导致的错误逮捕和聊天机器人生成的虚假情报报告,突出了人类问责制和清晰决策框架的必要性。
我信任评分了171个开源AI智能体——大多数无法证明其供应链
一位开发者创建了171个开源AI智能体的独立信任注册表,根据可验证的信任信号(如供应链安全和维护)进行评分,发现只有三个智能体获得A级评级,而许多流行智能体缺乏基本验证。
今天我看到一条消息:74%的公司部署AI代理后又撤回了。显然,我们并没有从新闻中听到这一点。
一项研究显示,74%的公司已将AI代理从生产环境中撤下,而那些拥有成熟AI治理的公司回滚率甚至更高。核心问题不在于AI模型本身,而在于它们所依赖的混乱、割裂的基础设施和数据。
@SaravananJ2294: Okta今年调查了292名高管。仅有34%对AI代理应用与对人类员工相同的安全控制…
Okta对292名高管的调查显示,仅有34%对AI代理应用与对人类员工相同的安全控制,突显了AI采用中的重大安全疏漏。