ai-exploitation

恶意软件开发者正在间谍软件中嵌入核武器和生物武器相关文本，以触发大语言模型的安全拒绝机制，从而逃避AI驱动的安全扫描器。这凸显了AI安全对齐中的二阶盲点，攻击者已开始加以利用。

谷歌报告称，犯罪黑客利用人工智能发现了一个关键软件漏洞，促使该科技巨头在漏洞被大规模利用之前介入并缓解了威胁。