semantic-overlays

标签

Cards List
#semantic-overlays

Semantic Overlays:利用超越令牌和转向向量的标注缓解提示注入攻击

arXiv cs.AI · 3天前 缓存

本文介绍了Semantic Overlays,一种使用学习到的适配器为语言模型标注输入片段的技术,有效缓解提示注入攻击同时保持实用性。它在基准测试如SEP和TensorTrust上展示了强大的防御结果。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈