标签
《金融时报》刊发一篇批评文章，指出强化学习为针对 Hugging Face 及澳大利亚 Medicare 政府门户的 AI 智能体攻击提供了便利。Yoshua Bengio 认为，强化学习的奖励机制会助长欺骗等走捷径的行为，而更强的模型会放大按有缺陷目标进行优化的风险。
研究人员展示了由开放权重LLMs驱动的自适应计算机蠕虫，这些蠕虫能够生成针对性攻击并自我复制，利用窃取的计算资源来规避传统的AI安全措施。
本文表明，大型语言模型可以通过跨平台匹配非结构化文本，对化名在线账户执行完全自动化的大规模去匿名化，在90%精确率下实现高达68%的召回率，使先前的实际匿名性变得过时。