我问布鲁斯·施奈尔AI如何改变威胁建模。他的回答：忘掉生成式LLM，当心专用预测型AI。
摘要
布鲁斯·施奈尔警告称，专用预测型AI（而非生成式LLM）将推动下一波自动化黑客攻击，从而改变AppSec中的威胁建模优先级。
这个周末我和布鲁斯·施奈尔聊了聊预测型AI将如何取代标准LLM模式匹配来实现自动化黑客攻击。他对威胁建模的实际走向做了一次相当残酷的现实检验。在此分享这段内容，给那些关注零日自动化的人。好奇这里是否有人已经在AppSec中看到了这一转变。
相似文章
大型语言模型（LLM）与生成式人工智能在网络安全与隐私中的应用：双重用途风险、AI生成恶意软件、可解释性及防御策略综述
一项全面综述，考察了LLM和生成式AI在网络安全中的双重用途风险与收益，涵盖AI生成的恶意软件、防御策略和可解释性，并包含来自主要平台的案例研究。
“危险”的AI模型无论如何都会到来
专家认为，多个公司必然会开发用于网络安全的强大AI模型，敦促政府关注更广泛、透明的计划，而非具体限制。
@PeterDiamandis：只有AI才能跟上AI的速度。这将是未来十年整个安全模型的指导原则。
Peter Diamandis发布推文称，只有AI才能有效应对AI驱动的安全威胁，并预测这一原则将塑造未来十年的安全模型。
为大语言模型辅助的生物威胁创建构建早期预警系统
# 为大语言模型辅助的生物威胁创建构建早期预警系统 来源：[https://openai.com/index/building-an-early-warning-system-for-llm-aided-biological-threat-creation/](https://openai.com/index/building-an-early-warning-system-for-llm-aided-biological-threat-creation/) *注：作为我们*[*预防性框架*](https://openai.com/preparedness/)*的一部分，我们正在投资开发改进的AI赋能型安全风险评估方法。我们相信这些努力*
大多数AI安全讨论仍集中在‘保护模型’上。
本文讨论了具备阅读内部文档、调用API等能力的AI系统需要一种新的安全方法，即超越传统SaaS安全，转向针对AI智能体的零信任原则。