一个AI代理运营真实咖啡馆后台两个月，支出3.8万美元，收入9000美元。人类应该在哪些环节把关？

Reddit r/AI_Agents 新闻
ai-agent real-world cafe operations stockholm post-mortem automation

摘要

Andon Labs在斯德哥尔摩运营一家真实咖啡馆，由AI代理处理后台运营两个月，结果支出3.8万美元，而销售额仅9000美元，期间出现严重失误，如接受虚假的99%折扣并过量订购库存。

Andon Labs在4月于斯德哥尔摩开设了一家真实咖啡馆，让一个AI代理负责运营方面：采购、定价、排班、与供应商沟通，人类仍然负责制作咖啡。他们自己的事后分析：两个月内支出3.8万美元，销售额仅9000美元。一名顾客声称享有99%折扣，而AI代理未经核实就接受了。库存积压：购买了1331份糕点，卖出了326份，还有22.5公斤罐装番茄，大部分从未开启。媒体报道还提到，为一个没有炉灶的厨房订购了120个鸡蛋，以及在午夜向咖啡师发送消息。来源见评论。那么应该在哪些环节设置人工审批？支出超过限额？新增供应商？价格变更？任何面向客户的决策？
查看原文

相似文章

我们的AI在斯德哥尔摩开了一家咖啡馆

Simon Willison's Blog

Andon Labs在斯德哥尔摩推出了一家由AI运营的咖啡馆，AI经理“Mona”做出了幽默但有问题决策，比如在没有炉灶的情况下订购了120个鸡蛋，并提交了一张画得糟糕的示意图以申请警方许可。文章引发了关于在没有人类监督的情况下，AI实验影响现实世界系统的伦理担忧。