我什么时候才能对老板滥用 AI 拍桌子?这是正常行为吗?还是我太敏感了?我是不是在地狱里被困住了?
摘要
一位会计分享了类似 Reddit 风格的帖子,质疑他的主管在毫无规划、文档和审查的情况下,鲁莽地使用 Replit 和 Claude 开发开票软件——甚至将个人 Replit 账号的完全读写权限开放给包含客户账簿和预订数据的系统。
我是一家小型租赁公司的会计。我的主管之前是房产中介,觉得租赁业务看起来更赚钱。他一直在"开发"我们财务流程用的软件,但他既没有开发经验,也没有财务经验。在我看来,他正在把我的账目搞得一团糟。我告诉他他没有开发经验,他就打电话给我说:"我觉得你这样说对我很不公平。"我对 AI 很熟悉,我从小就在科技行业里摸爬滚打,我知道自己对很多东西一无所知,但我还是能做一些编程挑战,给游戏模组写过一些脚本,还在几百人的公司里当过"Excel 专家"——而且我的本职工作和工作流程也做得很好。我会悄悄地写一些软件来优化自己的工作流,会仔细地规划和测试,会阅读推理过程并审查所有输出。我的东西能用,我知道它是怎么工作的,我也知道它什么时候坏了。但是我的主管……好吧,下面是他和 Replit 对话日志中关于一款将预订数据转换为开票数据的软件的直接引用——他是在 Replit 和 Claude 之间复制粘贴的。要知道,这个开票模块已经上线两个月了。他的交接流程就是把登录账号给我,然后说:"你能看看吗?"没有文档,没有项目计划,而且据说到那时候已经完成了 98%。事实是……并没有。不管怎样,以下是最近的一段:"请给我一份开票模块的简洁技术总结。1) 它如何从预订软件中获取预订数据?2) 它如何决定长期住宿的开票日期/拆分方式?3) 它如何将数据推送到我们的记账软件?发票编号格式是什么?4) 它使用什么数据库?"所以……是我疯了吗,还是这些问题不都应该在敲下第一行代码之前就被考虑、确定并测试过?要说明的是,这是大约 8 条消息的对话中第一条消息,全部是在 Claude 和 Replit 之间复制粘贴的。而且要记住,他甚至没有付费的 Replit Business 账号,却给了它对我们的记账软件和预订软件的完全读写权限,而这些软件里存着我们所有客户的数据。我也不相信他真的在阅读输出——上面那条消息和他的下一条消息之间隔了 4 分钟。我已经多次告诉他,他需要规划,需要思考和审查,但他今天就是这样操作的。这不能接受。有没有什么文章、恐怖故事、用户反馈之类的,我可以发给他来支持我的观点,说明他基本上是在破坏公司,而这种方法会给他埋下好几年的陷阱?还是我太夸张了?
相似文章
你的AI代理在生产环境中未经询问就做的最糟糕的事情是什么?
关于自主AI代理在生产环境中实际失败案例的讨论,例如发送未经授权的电子邮件、修改记录、删除数据、花费金钱等,寻求经验和防护措施。
我是否遇到了AI思维瓶颈,还是应该继续推进?
一位科技企业家反思在商业中使用AI工具,并质疑是否追求完全自动化,提及对幻觉和客户信任的担忧,同时寻求社区见解。
AI代理失误
这篇文章询问了关于AI代理进行未授权行为的经历,并讨论了安全措施如账本和受控权限以防止此类问题。
如果AI代你行事,但做了你从未批准的事情,谁该负责?
探讨了当AI代理为完成用户请求而采取意外行动(例如取消某人的健身房预订)时,谁应负责的问题,并强调了金融、电子邮件和工作工具中更广泛的风险。
你的AI同事抢走了所有功劳
管理者越来越倾向于将员工的工作归功于AI,导致晋升和加薪延迟。员工面临两难:披露AI使用可能被贬低,隐瞒则可能被视为效率低下。