标签
介绍Flows,一个面向软件构建代理的执行与验证层,主张代理需要与模型置信度并行的独立完成信号,并通过一个59/59检查全部通过的多模块应用加以验证。
Jane Street,此前对形式化方法持怀疑态度,现在正在组建团队使用它们,这得益于人工智能和智能体式编码,它们降低了成本并增加了软件验证的收益。
一篇新论文,调查了形式化方法从业者对AI安全应用的重要性与可行性,并附带一项对软件验证应更具雄心的广泛呼吁。