masking

本文提出了一种轻量级、模型无关的方法，通过利用位置数据增强嵌入来提升语言模型的地理空间感知能力，从而在保持标准NLP性能的同时改善空间对齐。

PISIGuard 是一个开源浏览器扩展，可在个人或敏感信息发送到AI聊天平台之前，在本地检测并脱敏这些信息，然后在AI的回复中恢复其真实值。

本文提出了一个数学框架，用于分析在李群作用下机器学习模型丢弃的信息，引入了零纤维和稳定化子，并应用于数据掩码、模型指纹识别和隐私保护计算，在分子和图像任务上进行了测试。

CrossBERT将表示学习与令牌重构解耦，实现更高的掩码比例和更好的样本效率，在MTEB和GLUE基准测试上超越BERT。