你现在会让一个代理花你的钱吗?是或否,你的理由是什么?

Reddit r/AI_Agents 新闻

摘要

一场Reddit讨论辩论了是否应该信任AI代理进行金融交易,突出了能力与责任之间的差距,其中提到了OpenGradient提供可验证的执行证明。

这是一个简单的直觉检查,针对本社区。不是‘未来某天’,就是现在,用实际存在的工具。你会给代理一张真实的卡或钱包,让它自主进行购买或交易,没有审批步骤吗?我一直在摇摆。技术显然已经足够好了。我只是不确定‘证明它行为’的一方是否跟上了‘它能行动’的一方。感觉我们是在问责之前先造好了手。在评论中投票是或否,并说明原因。真心想看看这个社区实际如何认为,因为Twitter上听起来好像每个人都已经这么做了,我不信。编辑:意见相当分裂,‘不’的一方一直在说同样的事情,不是代理做不到,而是没有办法在事后独立检查它做了正确的事。这正是我在探讨的差距。人们不断提到的一个项目是OpenGradient,它在每个模型调用上附加可验证证明,这样你可以确认实际运行了什么,而不必信任代理自己的日志。它只证明了运行,而不是决策是否明智,但这仍然是大多数‘不’投票者所描述的缺失部分。
查看原文

相似文章

你会给AI代理200美元的消费限额吗?

Reddit r/AI_Agents

探讨了给AI代理一个小额、受限制的预算(例如200美元)用于常规业务支出(如软件试用)的想法,并将其比作给初级员工一张有限额的公司卡。