标题:我正在寻找喜欢解决正确性而非AI问题的工程师

Reddit r/artificial 新闻

摘要

作者分享了自己构建原型以验证AI生成的财务声明的经验,重点关注系统与工程挑战,如证据对账和确定性验证,并邀请志同道合的工程师进行交流。

过去几个月,我一直在围绕一个我无法停止思考的问题构建原型:如何判断AI生成的财务声明是否真正可信?显而易见的答案是“使用更好的模型”。但构建得越多,我越不认为那是真正的解决方案。更困难的问题实际上是:跨多个文档呈现证据、对账冲突的财务数值、确定性规则评估、计算可追溯性、版本化验证逻辑、决定哪些内容可以实际验证、哪些应保持范围之外。这与其说是聊天机器人问题,不如说是一个系统、数据和工程问题。这正是我喜欢研究它的原因。我仍处于原型阶段,但每周这个项目都越来越不关乎提示大语言模型,而更多是构建可信AI的基础设施。如果你是那种会对以下领域感到兴奋的工程师:C++、分布式系统、编译器、形式化方法、金融系统、文档智能、验证、评估、确定性软件,我真心希望听听你在解决什么样的问题。今天并非招聘。主要是想认识喜欢构建困难系统的人。我遇到的一些最佳机会始于技术讨论而非面试。
查看原文

相似文章

Open ai

Reddit r/ArtificialInteligence

文章讨论了行业共识:人工智能正变得极其强大,但在高风险任务上的可靠性仍是一个未解决的工程问题。强调当前系统优化的是合理性而非确定性真理,前进方向是分层验证系统而非单一完美模型。