如今，人工智能正被用于签证审批，以识别伪造和深度伪造的文件。这在哪些方面可能出问题？

签证办理开始使用人工智能来筛查文件。本月早些时候，为100多个国家的政府提供签证和领事服务的BLS International宣布，与身份验证公司Signzy进行系统集成。公告中提到的功能包括：文件智能分析：扫描提交的文件，查找可能表明文件被篡改的异常之处。深度伪造检测：标记由人工智能生成或经过数字修改的材料。他们描述的运作模式是：技术标记，人工核实，政府决定。最终签证决定仍由政府作出。公告没有提供任何数据：没有准确率、误报率，也没有对办理时间影响的数据。这对于一则系统集成公告来说很正常，但也意味着那些值得关注的问题仍然没有答案。我认为可能出问题的地方：1. 误报会影响真实的申请人。一份重新另存为PDF的银行流水、一张用廉价打印机扫描的照片、一枚已经褪色的印章。在模型看来，这些都可能像是被篡改过。以签证申请的规模来看，即使误报率只有1%，也意味着数以千计的真实申请人会受到额外审查。2. “人工审核”可能沦为走过场。如果审核人员看到文件旁边有一个红色警示，而每个申请只有90秒的审核时间，他们会有多大概率推翻机器的判断？只有当审核人员有时间、也有权提出不同意见时，这道保障措施才有效。3. 各国文件质量参差不齐。某些国家或签发机构的文件标准化程度较低。主要使用某一类文件训练的模型，可能更频繁地将其他类型的文件标记为可疑。4. 攻防竞赛。生成伪造文件的工具和检测这些文件的工具，进步速度一样快。检测系统的能力取决于它最近一次更新的水平。5. 隐私。文件和生物识别数据几乎是最敏感的数据。数据在哪里处理、保留多久、由谁审计模型，这些都与检测准确率同样重要。它明显能发挥作用的地方：人工检查缓慢，而且标准不一，审核人员也会疲劳。一个能及早发现明显篡改的系统，可以让人们把时间花在棘手的案例上。理论上，这也能让如实提交材料的申请人更快完成办理。想问问本版各位：机构应该如何在更快速的自动检查与人工核实之间取得平衡？在信任这样的系统之前，你希望它披露哪些信息（错误率、审计情况、申诉途径）？来源见第一条评论。