承担责任的下一个十亿美元产业

# 责任背锅，下一个十亿美元产业 来源：https://monolith3.substack.com/p/taking-blame-is-the-next-billion 2022年，一名叫杰克·莫法特的男子预订了加拿大航空的航班，因为该航空公司的聊天机器人告诉他，可以在旅行后申请丧亲折扣。这个政策是聊天机器人编造的。听起来合情合理，表述自信满满，但却是错误的。当莫法特要求折扣时，加拿大航空拒绝了。他将航空公司告上法庭后，对方提出了我们这个时代最精彩的法律论点之一：聊天机器人是一个独立的实体，应为其自身行为负责。 法庭在2024年初的回应可以概括为一句话：不，它不是。 加拿大航空赔钱了。裁决金额不大，只有几百美元，但它预示了未来十年最大的问题之一。机器无法承担责任。它无法被有效起诉，不能被解雇，不能被吊销执照，不能失去信誉或自由。当机器完成工作时，责任并不会消失。责任会穿过机器，直到找到那个可以追责的人——而且总能找到。 我们通常把问责视为道德概念。实际上，它是重要的经济基础设施，人类很早就明白了这一点。 近四千年前的《汉谟拉比法典》包含了可能是历史上第一条职业责任条款：如果建造者建造的房屋不牢固，倒塌压死房主，建造者必须处死。 现代经济用执照、诉讼、保险、审计和声誉破产取代了处决。但功能保持不变。 审计存在的原因也在于此。没有人付钱给四大会计师事务所是为了他们卓越的商业头脑。他们买的是那个可以归咎、起诉和毁掉信誉的信笺抬头。悄悄说一句，这也是战略顾问的真正产品——不是你那23岁的朋友每周工作80小时拼凑的幻灯片，而是当战略失败时董事会可以指认的名字。没有人因为买了IBM而被解雇。 人工智能将人类从工作中移除，同时让他们对工作的担保变得更加重要。做工作的人会更少。担保工作的人会更多。而担保将收取曾经属于工作本身的费用。 法院已经两次强调了这一点。2023年，两名纽约律师因提交的诉状中包含六个ChatGPT凭空捏造的先例（包括引文）而受到制裁。法官没有处罚模型。从法律角度讲，模型不在现场。 这至少创造了三个巨大的商业机会。 **1. 保险。** 这是最成熟的层面。 劳合社辛迪加现在承保AI失败；慕尼黑再保险销售针对特定模型性能的保障。 一旦风险有了保费，就会形成一个生态系统：精算师、经纪人、审计师、合规要求、除外条款、理赔调查员以及专业数据提供商。 **2. 认证标志。** 会有人建立机器输出的"保险商实验室"。一种认证，证明经过合格的人工审核，并且该审核人对此负责。认证标志是耐心的垄断。UL的小圆圈设计于1890年代。一个多世纪后，它仍然决定着哪些产品能被买家、零售商和监管机构所信任。 AI输出的默认认证标志将成为本世纪最有价值的品牌之一。目前还不存在。 **3. 市场。** 在建筑行业，合格的专业人员会审核设计，并将自己的名字和执照附在后面。医学、法律、会计、航空和其他受监管领域也有类似结构。 AI将催生一种新的持牌、投保的专业人员类别，他们在自己的领域内审核机器生成的工作，并承担审批工作的明确责任。 这个业务就是审核这些人员并为其印章背书的网络。 历史的一个警示：每一个签名经济最终都会受到那些只收费不审核的签名者的威胁。评级机构在2008年证明了这一点，卖信笺抬头却不做尽职调查。谁能证明自己的签名者确实审查过，就能掌控这个品类。也许我们还需要给认证机构本身也来个认证。 十年内，"经过负责任的真人审核"将成为专业工作中一个标价、贴标签、受监管的特性。 义务变成产业，已有先例。 当监管机构对金融业实施KYC规则时，"核查身份"听起来完全是合规负担。然后Jumio、Onfido、Persona和Veriff把身份验证变成了一个价值数百亿美元的品类，只卖一个产品：证明另一端的那个人就是他所声称的那个人。 历史将会重演。 也许会出现新的职位头衔，比如"责任官"。 无论如何，在我动手之前，先去把这个业务做起来吧。 #### 关于本文的讨论 ### 准备好了解更多？