关于破坏欺骗性AI使用的最新进展

# 关于遏制AI欺骗性使用的最新进展 来源：https://openai.com/global-affairs/an-update-on-disrupting-deceptive-uses-of-ai/ OpenAI的使命是确保人工通用智能惠及全人类。我们致力于识别、防止和遏制任何滥用我们模型造成危害的企图。在全球选举频繁的今年，我们深知建立强有力的、多层防御机制来对抗[国家关联的网络行为体](https://openai.com/index/disrupting-malicious-uses-of-ai-by-state-affiliated-threat-actors/)和[隐蔽影响力行动](https://openai.com/index/disrupting-deceptive-uses-of-ai-by-covert-influence-operations/)尤为重要。这些行为体可能会试图利用我们的模型在社交媒体和其他互联网平台上开展欺骗性宣传活动。 自年初以来，我们已经制止了来自世界各地超过20起企图使用我们模型的行动和欺骗性网络。为了理解威胁行为体试图如何使用AI，我们分析了被我们制止的活动，识别了一系列初步趋势，我们认为这些趋势可以为关于AI如何融入更广泛的威胁格局的讨论提供参考。今天，我们发布了OpenAI最新的威胁情报报告，该报告代表了我们截至2024年10月的理解快照。 展望未来，我们将继续在情报、调查、安全、安全性和政策团队之间开展协作，以预期恶意行为体可能如何使用先进模型进行危险活动，并相应地规划执法措施。我们将继续与内部安全和安全团队分享我们的发现，向关键利益相关者传达经验教训，并与行业同行和更广泛的研究社区合作，以保持领先于风险并加强我们的集体安全防御。