software-safety

文章批评了赋予AI智能体更多自主权、减少人类监管的趋势，认为这忽略了来之不易的软件工程实践（如代码审查和分阶段发布），导致静默失败和意外成本。

该研究提案探讨了不同编程语言中代码库大小如何影响编码LLM的困惑度，并以Lean作为形式语言的测试案例。它表明Lean可能具有更优的缩放指数，从而使大规模软件更安全、更可靠。

Vitalik Buterin 认为，AI 可以使形式化验证更加实用，帮助生成规范和证明以确保软件行为正确，从而可能改变以太坊之外的关键软件开发。