本地LLM用户在将模型连接到工具之前是否测试提示注入？

我想知道当本地模型超越聊天时，这里的人们是如何处理安全问题的……在本地运行模型感觉更安全，因为数据不会离开你的机器或基础设施。这是一个真正的优势……但是一旦本地模型连接到工具、文件、RAG、shell命令、浏览器自动化、API或内部文档，风险就变了。到那时，提示注入不仅仅是“模型说了些奇怪的话”。它可能影响读取哪个文件、建议哪个命令、检索哪些数据、调用哪个工具，或代理下一步采取什么行动……我看到大多数本地设置非常关注模型质量、量化、上下文长度、VRAM、每秒令牌数和基准测试分数。这些都合理。但我看到在授予真实工具访问权限之前，对模型在恶意指令下的行为测试讨论较少……那些在代理化设置中运行本地模型的人：你们在测试提示注入或越狱行为吗？你们默认隔离工具访问吗？你们在信任之前让本地模型保持只读吗？你们记录工具调用和检索到的上下文吗？或者目前仍然主要是“本地意味着足够安全”？我不是从悲观的角度问的。我更感兴趣的是本地构建者实际上在使用哪些实际安全习惯。