启发爱沙尼亚AI“Fuckup Finder”的2800万美元错误

# 2800万美元的失误催生了爱沙尼亚的AI“搞砸探测器” 来源：https://www.wired.com/story/the-28-million-dollar-mistake-that-inspired-estonias-ai-fuckup-finder/ 爱沙尼亚在AI领域的尴尬始于一个错误的措辞。 去年12月，爱沙尼亚议会（Riigikogu）通过了《赌博税法》修正案，旨在降低远程赌博的税率。但法律条文仅提及了该年度的“技巧游戏”，而未涵盖机会游戏或远程赌博。爱沙尼亚整个赌博行业价值约3亿欧元（3.43亿美元），其在线赌博市场是欧盟增长最快的市场之一。 这一疏漏导致在线赌场意外地全年未被纳入税收范围，政府因此损失了2400万欧元（2740万美元）的赌博税收收入。 这个错误是由一家赌博运营商的法律顾问发现的。但更令人尴尬的是，前数字转型副部长Luukas Ilves将法案文本输入Claude和Gemini后，两款AI系统立即识别出了不一致之处。 几小时内，Ilves构建了一个原型工具——名为Apsakaleidja，即“搞砸探测器”——它能够从议会网站抓取法案草案，并标记出引用断裂、措辞矛盾、算术错误和不可能日期等问题。该工具将问题分为高、中、低三个风险等级；当前列出的112项法案中，有102项被评为高风险。在“搞砸探测器”上突出显示的一个例子中，草案文本存在矛盾措辞。Ilves甚至在全国电视上演示了该工具，令主持人惊叹不已。 这次失误令人难堪，但也引发了政府内部的反思。“这一情况表明，AI可以成为极其有用的助手，”爱沙尼亚总理Kristen Michal告诉《连线》杂志。“而且，通过一个为应对此事件而创建的、用于检查立法草案的‘氛围编码’平台，我们看到了智能体工具如何赋能公民社会和个体公民。” 于是，爱沙尼亚加大了政府在AI应用方面的投入。今年1月，Michal建议该国或许可以使用像Apsakaleidja这样的工具来起草立法，以预先发现并修补漏洞。他发起了Eesti.ai项目，旨在提升爱沙尼亚人的AI使用技能，目标是在2035年前将国内生产力翻倍。Eesti.ai项目的顾问包括Bolt创始人Markus Villig以及“搞砸探测器”的创造者Ilves。 随后在4月，该国政府向议会提交了一项法案，允许国家和地方政府使用包括AI在内的数字解决方案来自动化行政流程。该法案正在议会审议中，议会正在讨论其可能引入的变革，目标是使之成为法律。6月，Michal在Eesti.ai的一次会议上表示，如果一切按计划进行，“爱沙尼亚将成为世界上第一个为AI智能体创建官方数字身份的国家。” “这对公共部门来说是一个全新的环境，”Michal告诉《连线》杂志。“它要求机构具备敏捷性，并能够随着技术变化而适应。”爱沙尼亚比许多国家更有条件适应这些变化：Michal表示，由于该国是一个数字优先的国家，它在整合数字身份方面一直处于领先地位，同时99%的公共服务已经在线。爱沙尼亚被视为如何运行现代数字国家的典范——正如《连线》杂志十年前首次报道的那样。这为更轻松地采用AI奠定了基础。“这些投资现在使我们能够更快、更自信地进入AI时代，”他解释道。 斯塔福德郡大学研究技术伦理学的Catherine Flick表示，赌博税错误引发了一个更基本的问题：“为什么人类在立法起草过程中不进行这种审查？”她说。“在某个阶段，必须有人坐下来通读整个文本，理解上下文和所有相关要素，以确保这是一部体面的法律。” 正是这最后一点——人在回路中——正在被议会代表们辩论。Eesti.ai团队负责人Kirke Maar解释说，该法案有意制定得范围广泛。 爱沙尼亚当前的思路是，选择可以大致分为两类。“自然的界限在于规则决定与自由裁量决定之间，”她说。“当法律根据可验证的事实得出结果——你符合条件，你得到结果——自动化是合适的。”Maar和Ilves认为，如果政府已经拥有确定某人是否符合福利资格所需的数据，那么此人根本不必填写表格：他们可以直接被告知符合资格。在爱沙尼亚已经预填的纳税申报表，可以从公民核对和确认表格，转变为由智能体端到端地准备和提交更复杂的申报，公民在需要时进行确认或干预。 当事情更为复杂时，“一项决定需要真正权衡相互竞争的利益或对个人具体情况的判断，那么从一开始就需要人在回路中，”Maar说。 Maar和Ilves表示，在AI决策过程中的任何时刻，个人都可以援引其被倾听的权利，此时自动化程序将终止，由人类官员接手。当公民对决定提出异议时，自动化决定也将被排除在外。此外，每一项自动化的行政决定都必须留下审计轨迹，记录使用了哪些数据、应用了哪条规则、决定何时做出，以及公民如何质疑或更正该决定。 “爱沙尼亚数字国家的目的从来不是要将人从政府中移除，”Marr说。“而是为了让服务更易获取、更快捷、更少负担。” 问责制也是AI过程的核心部分，也是那些与政府合作处理其他公民数字互动的人所熟知的领域。“关键风险在于AI系统大规模运作却缺乏问责——即行动无法追溯到责任方，权限不明确，或滥用行为未被发现，”爱沙尼亚电子居留计划（为非常驻居民提供政府签发的数字身份以在线访问爱沙尼亚商业服务）常务董事Liina Vahtras说。“这正是我们努力防止的情况。” “随着AI智能体开始代表个人和公司与公共服务、银行、登记处和其他数字系统互动，必须明确该智能体属于谁、在谁的授权下行动、被允许做什么，以及谁对其行为负责，”Vahtras说。“智能体准则背后的想法是让责任链变得可见。” 这也是总理所了解并担忧的事情。他谨慎地在AI作为爱沙尼亚的助手与AI作为权威之间划清界限。“AI不会取代民主制度、宪法或选民的意愿，”他说。“如果AI在立法中发现了错误，这与人类发现错误并无不同。纠正错误的责任仍然由议会、法院或公共行政部门承担。”