UK Uses AI to Summarise Asylum Interviews: One in Five Checked Summaries Failed

# 英国使用AI总结庇护面试记录：五分之一抽查摘要未通过审核 来源：https://www.ibtimes.sg/uk-uses-ai-summarise-asylum-interviews-one-five-checked-summaries-failed-95621 根据数字权利组织 Open Rights Group（ORG）获得的数据，在英国国防部于2026年4月将摘要工具推广至所有案件处理人员后，203份AI生成的庇护面试摘要中有45份未能通过初步专家审核。 约22%的失败率是政府此前试点阶段所记录的9%的两倍多。英国边境监察机构目前正在考虑明年的检查优先事项，并已向 ORG 索取有关这些工具的更多信息。这并非已确认的调查，但已使国防部在庇护处理中使用AI受到更严格的审视。 人们担心的并不是由机器正式决定谁获得庇护。国防部表示并没有这样做。问题在于，当前置摘要中存在错误时，案件处理人员能否做出可靠的决定。 ### 监察机构就国防部AI工具索取信息 ### 据 WIRED 报道，独立边境与移民首席监察官已向 ORG 索取更多信息，以规划2027年的检查议题。这一请求表明该问题正在被考虑，而非已启动正式调查。 国防部使用两种工具：庇护案件摘要系统（Asylum Case Summarisation, ACS），用于压缩面试记录供决策者参考；以及庇护政策搜索工具（Asylum Policy Search, APS），一种类聊天机器人式的国别信息查询工具。ORG 获得的文件显示，两者均通过 Microsoft 的 Foundry 平台运行 OpenAI 的 GPT-4 系列模型。 OpenAI 告诉 WIRED，计划于1月停用 GPT-4。国防部发言人表示，由受过培训的案件处理人员做出决定，且这些工具"不能单独使用，也不对庇护申请做出决定"。 ### 22%的摘要未通过初步专家审核 ### ORG 为期六个月的调查依托11份议会质询、两封部长级信函和10份公开记录申请。国防部的试点评估发现，9%的 ACS 摘要不准确或不完整。 ### 推广后，203份由专家检查的摘要中有45份未通过初步审核。这些检查涵盖了4月至7月期间处理的约70,000宗案件中大约0.3%的案件。 国防部在2025年4月的评估中表示，被判定为不准确或不完整的摘要已从试点中移除。然而，据 The Register 报道，政府后来停止了专家测试，尽管此前曾向议员们表示检查仍在继续。这些数据描述的是摘要，而非最终庇护决定。摘要审核未通过并不能证明申请人被错误地拒绝庇护。 国防部引用了这些工具带来的效率提升。其试点估计，ACS 每宗案件可节省约23分钟，APS 可节省约37分钟。截至2025年9月，庇护案件积压超过62,000宗，政府有理由寻求加快处理速度的途径。 ### 申请人未被告知AI对其面试进行了摘要 ORG 表示，庇护申请人在其案件中使用AI时未被通知，导致他们没有明确的途径核查或质疑AI生成的面试摘要。 面试中可能包含关于迫害、威胁或难以讲述的事件的详细陈述。如果摘要遗漏了某个限定条件或改变了回答的含义，案件处理人员可能在不完整的信息基础上开始审查申请。官员可能可以查阅原始记录，但摘要会影响对案件的初步理解。 ORG 委托 Cloisters 和 Doughty Street 律师事务所的大律师出具了一份84页的法律意见。大律师认为，庇护申请人有权被告知AI何时被用于处理其案件、如何使用，以及有权获得AI生成的摘要。该意见结论认为，国防部使用AI的做法可能构成违法。这是由 ORG 委托的法律评估，而非法院裁决。 据 WIRED 报道，英国数据监管机构正在另行调查国防部拒绝披露工作人员如何使用这些工具以及如何接受相关培训的信息。 ### 移民法庭法官指出庇护拒绝信中可能存在AI使用痕迹 在7月14日的一项裁决中，上级移民法庭的一位法官表示，国防部拒绝一名摩洛哥女性庇护申请的信函具有与使用人工智能一致的特征。该信函引用了一份日期为2021年7月的摩洛哥国别信息说明，法官指出该文件似乎从未存在过。 法官并未认定该信函由AI撰写，仅表示这一可能性可能日后会明朗。现有的报道也未将该信函与 ACS 或 APS 直接关联。然而，该裁决仍引发了关于庇护决定所使用材料可靠性的质疑，尤其是当不准确或可能捏造的信息被纳入以人类名义发布的决定中时。 监察部门尚未确认这些工具是否会列入其2027年检查计划。数据监管机构的调查结果，以及基于 ORG 委托法律意见的任何法律挑战，都可能进一步检验国防部的做法。 目前，这些数据并不能证明AI导致了错误的庇护拒绝。它们表明，在一个小规模的专家抽查样本中，45份摘要未能通过初步检查，而更广泛的专家测试已被停止。国防部表示由人类做出决定，但尚未解决的问题是：他们面前是否有准确的信息，以及申请人是否有能力对那些可能影响案件理解的摘要提出质疑。