大约两年内，我们从“AI说些尴尬话”发展到“2500万美元的深度伪造欺诈”

Reddit r/artificial 新闻
deepfake fraud social-engineering ai-risk cybersecurity synthetic-media

摘要

文章讨论了从微小的人工智能尴尬事件到Arup公司2500万美元深度伪造欺诈案的变化，强调真正的人工智能威胁是通过合成媒体进行的社会工程攻击，而不仅仅是幻觉或偏见。

​Arup案并非传统意义上的黑客攻击——而是一次深度伪造，说服某人授权转账。没有利用代码，没有恶意软件，只是足够好的合成媒体加上正常的人类信任。感觉关于AI风险的讨论仍然停留在幻觉和偏见上，而实际损失的资金正在通过生成质量增强的社会工程手段流失。我们是否在命名真正的威胁模型方面落后了？
查看原文

相似文章

利用AI欺骗他人

Reddit r/ArtificialInteligence

探讨如何利用人工智能欺骗他人，引发伦理与安全方面的担忧。