英国内政部或因使用 OpenAI 技术而面临调查

# 英国内政部可能因使用 OpenAI 技术面临调查 来源：https://www.wired.com/story/uk-home-office-may-face-investigation-over-use-of-openai-tools/ WIRED 获悉，英国一家政府监督机构正考虑调查内政部使用生成式 AI 工具 (https://www.wired.com/tag/artificial-intelligence/) 处理庇护申请的情况。在这项潜在调查之前，议员和研究人员已公开质疑这些工具的准确性，以及政府对其使用情况的保密做法。 活动人士萨拉·阿尔谢里夫告诉 WIRED，负责监督内政部边境、移民和海关管理工作的边境与移民事务独立首席监察官 \(ICIBI\)，在拟定明年的检查议题计划时，已要求数字权利非营利组织开放权利组织 \(ORG\) 提供有关这些工具的更多信息。ORG 的调查结果来自一项为期六个月的调查，其间涉及 11 次议会质询、两封部长信函和 10 次公共记录申请，试图从一直隐瞒工具详情的内政部获取信息。 ICIBI 告诉 WIRED，在公布年度检查重点之前，无法确认目前正在积极考虑哪些议题，但表示已知悉人们对使用 AI 工具的担忧，并提及其去年公布的调查结果 (https://www.gov.uk/government/organisations/independent-chief-inspector-of-borders-and-immigration)，其中指出，一款工具的“有效性和可靠性表现参差不齐”。 “庇护决定由经过培训的案件工作人员作出，AI 工具仅用于协助查阅面谈记录和政策信息。这些工具不能单独使用，也不会对申请作出决定，”内政部一名发言人在电子邮件中告诉 WIRED。“我们结合既有的质量保证流程，定期监测这些工具的表现，并已承诺公布有关其推广使用情况的最新评估。” 根据 ORG 获得的文件，内政部使用基于 OpenAI 于 2023 年推出的 GPT\-4 大语言模型和 Microsoft Foundry 构建的庇护案件摘要 \(ACS\) 和庇护政策搜索 \(APS\) 工具，汇总庇护申请人的面谈文字记录及其原籍国信息。该移民与执法部门于 2024 年底开始试用这些工具，当时工党政府正试图清理约 10 万宗积压庇护案件 (https://migrationobservatory.ox.ac.uk/resources/commentaries/2024-a-year-in-uk-migration-issues/)，同时应对英国每年收到的数万份新申请。尽管该部门已取得显著进展，在截至 6 月的一年里，将等待初步裁决的人数减半 (https://www.gov.uk/government/statistics/immigration-system-statistics-year-ending-june-2026/how-many-people-are-in-the-uk-asylum-system)，但针对裁决提起的上诉数量却大幅增加。 研究人员担忧这些 AI 工具的准确性，尤其是在决定是否将某人遣返回其担心遭受迫害的国家这样后果重大的问题上。ORG 发现，ACS 生成的摘要中，被认定为不适合使用的比例，明显高于试点评估公布的 9% 错误率；这些摘要往往存在事实错误或失实表述。该组织还发现，APS 生成的摘要没有质量控制机制。 庇护裁决人员在审查案件时使用这些工具来节省时间 (https://www.gov.uk/government/publications/evaluation-of-ai-trials-in-the-asylum-decision-making-process/evaluation-of-ai-trials-in-the-asylum-decision-making-process)；根据政府估算，试点结果显示，两款工具结合使用时，每宗案件可节省约一小时。案件工作人员利用 ACS 加快审阅面谈文字记录，寻求庇护者会在面谈中解释自己在本国如何遭受迫害，以及为何害怕返回。他们将 APS 用作搜索助手，查找并汇总国别政策信息，以判断申请人在本国是否面临切实的伤害风险。7 月，一名英国法官指责 (https://www.theguardian.com/uk-news/2026/jul/28/home-office-used-ai-hallucinated-information-to-refuse-asylum-claim-judge-suggests) 内政部引用了一份“AI 幻觉生成”的文件，以一名摩洛哥女子返回本国不会有危险为由，拒绝了她及其孩子的庇护申请。 “我们处理的是人的生命。我们说的是经历过一些最恶劣处境的人，而我们本应根据事实、基于对伤害的理解来作出决定，”工党后座议员贝尔·里贝罗\-阿迪告诉 WIRED。“我就是认为让机器来做这些事并不合适。” 内政部一名发言人表示：“人工智能只是我们用于保护边境的工具之一，并不会取代人类决策者的职责，也不会将这些职责自动化。” 里贝罗\-阿迪、阿尔谢里夫，以及另行调查这些工具的公共法律项目组织还担心，GPT 模型中已有充分记录的 (https://www.wired.com/story/efforts-make-text-ai-less-racist-terrible/)“文化偏见”可能造成语言障碍，使摘要丢失文化上的细微差别，进而导致歧视性决定。OpenAI 一名发言人向 WIRED 强调，该公司一直在努力提高模型准确性，并指出公司将于 1 月停用 (https://developers.openai.com/api/docs/deprecations#2026-10-14-gpt-4-series-model-deprecations) GPT\-4。 在缺乏监管 (https://www.wired.com/story/uk-lawmakers-are-scrambling-in-response-to-ai-summer-of-chaos/) 的情况下，英国的《AI 行动指南》要求各部门透明披露其在决策过程中使用的算法工具，并向公众提供相关信息，包括将这些工具列入公共名录 (https://www.gov.uk/algorithmic-transparency-records/)。内政部的案件摘要和政策搜索工具并未列入其中。 寻求庇护者也不会被告知自己的案件何时使用了这些 AI 工具。“移民组织、法律从业者，他们当中没有多少人知道这款工具的实际使用情况，”负责 ORG 移民数字正义项目的阿尔谢里夫说。“所以我们需要让他们了解这件事，让他们知道工具如何运作，这样他们才能提出质疑。”Cloisters 的律师在 ORG 委托撰写的一份独立法律意见书 (https://www.openrightsgroup.org/app/uploads/2026/03/Legal-Opinion-on-AI-tools-in-the-asylum-process.pdf) 中指出，如果当事人无法对 AI 就其个人信息生成的错误摘要提出异议，可能违反英国的数据权利法律。内政部在其隐私声明 (https://www.gov.uk/government/publications/personal-information-use-in-borders-immigration-and-citizenship/borders-immigration-and-citizenship-privacy-information-notice--2) 中表示，决策过程的部分环节可能涉及自动化。 这两个组织均已将调查结果提交给英国数据监管机构信息委员会。该机构目前正在调查内政部拒绝向 ORG 说明员工如何使用两款 AI 工具，以及接受过何种使用培训一事。 公共法律项目组织高级研究员卡罗琳·塞尔曼还指出，她的团队发现，政府各部门正在使用却未列入公共名录的高风险 AI 系统共有 11 个，ACS 和 APS 只是其中两个。她担心，政府各部门可能还部署了更多系统，连研究人员都不知情，更不用说受到这些系统影响的个人了。 “还有其他工具正在使用，却完全没有对外公布，”塞尔曼说，“如果你连这些工具正在被使用都不知道，就根本无从开始提出问题。”