Vitalik Buterin 谈AI:重点不是聊天机器人,而是证明软件安全
摘要
Vitalik Buterin 认为,AI 可以使形式化验证更加实用,帮助生成规范和证明以确保软件行为正确,从而可能改变以太坊之外的关键软件开发。
这是我最近看到的一个更有用的 AI 方向。Vitalik 认为 AI 可以让形式化验证变得更加实用——基本上是利用 AI 来帮助生成规范、不变性、证明策略和检查,以证明软件按照预期的方式运行。从加密货币的角度来看,这很明显,因为智能合约漏洞可能是灾难性的,但更大的想法超出了以太坊。如果 AI 能够降低证明正确性的成本,那么它可能会改变关键软件的构建方式。文章:[https://btcusa.com/vitalik-buterin-says-ai-formal-verification-may-rewrite-the-rules-of-secure-software/](https://btcusa.com/vitalik-buterin-says-ai-formal-verification-may-rewrite-the-rules-of-secure-software/?utm_source=chatgpt.com) 感觉比“AI 更快地编写代码”更有趣。更好的问题或许是 AI 能否帮助我们更信任代码。
相似文章
@VitalikButerin: 许多人声称,在AI辅助的漏洞查找下,安全的代码(因而任何无需信任的东西)将是不可能的…
Vitalik Buterin分享了一个乐观的看法,认为AI辅助的形式化验证是实现安全、无需信任的代码的途径,并链接到他的博客文章,该文章解释了使用Lean进行形式化验证的基础知识。
@VitalikButerin:“更多漏洞不可避免,软件现在都将变得概率化”是一种自我安慰。“AI查找漏洞意味着我们…
Vitalik Buterin 反驳了漏洞不可避免以及 AI 查找漏洞就不得不闭源的说法,他指出编写安全代码已变得更加困难,但并非不可能。
@MaximeRivest: https://x.com/MaximeRivest/status/2017688441404764174
一位持怀疑态度的软件工程师认为,聊天机器人被过度炒作,而AI的真正价值在于将语言模型用作工程系统中可靠的计算组件,并鼓励开发者将AI整合到超越对话界面的实际应用中。
@garrytan: 重点不在于 AI 让你写代码更快。很多人已经注意到了这一点。真正在于的是,AI 让你能够在以前因成本过高而无法持续的层级上进行验证……
该帖认为,AI 在编程中的核心价值不仅在于更快地编写代码,更在于实现可持续的高层级验证和测试,而这在过去需要耗费过高的人力成本。
@GergelyOrosz:有一件事我不再经常听到讨论:AI是否有助于形式验证走向主流。正式验证…
Gergely Orosz 观察到关于AI推动形式验证走向主流的讨论已经消退,并质疑为什么AI没有影响该领域。