想要AI代理不泄露秘密？那就不要给它们秘密

Reddit r/ArtificialInteligence 新闻
ai-agents llm-security secrets-management ai-safety prompt-engineering

摘要

关于一篇文章的简短公告，讨论将秘密远离LLM以防止AI代理泄露的原则。

我写了一篇关于将秘密远离LLM的文章。希望能听到您的反馈。
查看原文

相似文章

MosaicLeaks：你的研究助手能保守秘密吗？

Hugging Face Blog

MosaicLeaks 提出了一个新的基准，用于衡量深度研究型AI助手的隐私泄露情况，结果表明这些助手经常通过外部查询泄露私人信息，并提出了一种训练方法（PA-DR），在降低泄露的同时提升任务性能。