adversarial-ai

Patrick McKenzie认为，一旦对手能够利用相当于10,000名研究分析师的AI模型，许多形式的隐蔽式安全将面临巨大压力，他敦促用户从开放互联网上移除暴露的API密钥和凭据。

一位安全研究员讨论了LLM代理如何无法区分用户指令与文档中的文本，并介绍了AVE——一个用于命名AI代理漏洞的开放标准，该标准与OWASP和MITRE框架相互参照。