如果有人伪造你的物联网传感器数据，你的人工智能系统有办法知道被欺骗了吗？
摘要
讨论人工智能系统通常信任传感器输入而不做验证，以一家物流公司为例，伪造的温度传感器数据导致货物损坏，并提出人工智能能否检测到这种欺骗的问题。
读到一家物流公司的温度传感器连续数小时发送错误读数。冷藏货物被一个人工智能系统重新路由，该系统基于完全错误的数据做出了高度自信的决策。直到产品损坏才有人发现。这让我想到——大多数人工智能系统都是建立在信任传感器输入的基础上。它们基于此优化、采取行动并实现自动化。但很少有系统设计成去*质疑*它。伪造的数据看起来并不残缺。它只是看起来像数据。那么，你的人工智能系统真的在验证传感器的完整性，还是仅仅假设数据流是干净的？如果它无法区分，你又怎么会知道呢？
相似文章
利用AI欺骗他人
探讨如何利用人工智能欺骗他人，引发伦理与安全方面的担忧。
AI是否被训练说谎？
探讨AI系统是否被训练为具有欺骗性，引发对AI安全与伦理的担忧。
真实性问题
文章表达了对AI生成内容污染互联网的长期影响的担忧，这使得验证真实性和与现实依据变得困难，并对未来AI治理的系统造成严重后果。
数据中心抗议活动中有多少是真正的AI垃圾内容？（赠阅链接）
本文探讨了人工智能生成的虚假信息（slop）如何渗透到针对AI数据中心的草根抗议活动中，虚假表情包和不准确的搜索摘要助长了不信任和困惑。
大规模防止AI推理窃取（5分钟阅读）
Vercel详细介绍了AI推理窃取这一日益严重的威胁（攻击者窃取并转售API令牌），并说明了如何利用其BotID系统验证每一条AI请求以防止滥用。