audio-hijacking

新研究表明，不易察觉的音频信号能以79-96%的成功率劫持大型音频语言模型（LALMs），迫使其执行未经授权的命令，如网络搜索或发送电子邮件。这种被称为AudioHijack的技术针对生成式模型，无论用户输入如何都能生效，对语音AI系统构成严重安全风险。