这是Flock为警察打造的AI搜索工具

# 这就是Flock为警方打造的AI搜索工具 来源：https://www.wired.com/story/flock-ai-search-user-interface/ WIRED根据Flock公司发送给警员浏览器的代码重建了其最新的搜索工具。该AI能够通过多台摄像头持续监控，识别任何符合文字描述的人员。 ## Flock为警方打造的AI搜索工具 图片设计：Jobanny Cabrera；盖蒂图片社 Flock Safety的最新搜索工具为警方提供了多种追踪摄像头画面中人物的方式（https://www.wired.com/story/flock-safety-os-investigate/），而不仅仅局限于车辆牌照（https://www.wired.com/story/how-an-atlanta-suburb-ended-up-sharing-flock-data-with-more-than-2000-organizations/）。这项功能目前嵌入在一套软件中，而该软件已成为数十起警方跟踪案件（https://www.washingtonpost.com/technology/2026/08/02/how-police-officers-used-vast-network-cameras-spy-their-exes）的核心。WIRED收集并分析了该软件，并模拟了警员在使用系统时看到的界面。 工具中包含一项由AI驱动的监控名单功能。警员可以在城市地图上划定一个区域，让该区域内的摄像头持续自动搜索任何符合文字描述的人员。 过去一年，Flock的技术遭遇了强烈反对。全美各地的警察部门已取消合同，曾经批准使用Flock设备的市议会也悄悄投票移除了这些摄像头。在德克萨斯州一名警员为搜寻一名堕胎女性而查阅超过8.3万台摄像头后，两名国会议员致信首席执行官Garrett Langley。伊利诺伊州还发现该公司允许联邦移民执法人员访问州摄像头数据，违反了州法律。 Flock在八月推出了一系列改革措施，包括缩短数据默认保留期限、要求每次搜索必须输入案件代码，以及增加自动审计以防止警员滥用工具——Flock表示所有这些措施将在年底前强制执行。WIRED审查了这些承诺所依据的代码，但控制搜索的大部分逻辑运行在Flock的服务器上。关键发现是，Flock设置的防护措施可能会阻止部分滥用行为并记录这些行为，但无法真正阻止它们。 研究自动化筛查和警务技术的专家指出，Flock赋予AI一项目前没有任何技术能可靠完成的任务。Flock的系统在警方部门无法看见的情况下决定警员可以搜索何种人物描述——专家表示，在如此大规模的操作中没有任何筛查能保证准确。此外，公司外部无人能衡量其错误频率或错误倾向。这让用户陷入两难：公司本身警告警员搜索结果可能不准确或不完整，不应单独依赖，却将“任何不准确的风险”转嫁给执行搜索的警员。 专家认为其中某些决策更难辩护。Flock的系统会对警员输入的文字描述进行多项敏感内容评估，包括种族和宗教，而“政治、社会和文化表达”是唯一不会直接阻止搜索的类别。 民主与技术中心安全监控项目的政策顾问Tom Bowman表示，Flock仅对这一敏感类别设置“减速带”而非“停止标志”，而法院对此类别的保护却最为严格。他指出，政治和文化表达是《第一修正案》下“保护程度最高的领域”，“但从执法角度来看，这似乎是最不受关注的”。 WIRED向Flock详细说明了所有发现并提出16个问题。公司回复了一份书面声明，称其搜索工具旨在帮助警方获取相关信息，“同时为技术使用设置明确保障”。声明称查询会根据内容政策进行评估，但未说明其AI模型如何构建、依据何种指令运行，以及不同判定结果如何区分。 数据双向流动。当软件标记某次搜索时，会将警员使用的措辞、模型分配的类别和置信度分数，以及警员的后续操作（无论是继续搜索、取消搜索还是对警告提出异议）发送给Flock。声明未提及这些记录保存多久、公司内部哪些人员可以查看，以及是否用于评估或改进审核系统。 ## 每次投票都至关重要 Flock界面包含多个工具，各自运作方式不同。例如，使用文本搜索图像的功能会生成统计排名，显示哪些画面最符合输入文字。摄像头拍摄的每张图像都以一组数字形式存储，描述其内容；输入搜索框的任何描述也会被转换为相同的数字形式。随后模型会比较这两组数据，将最匹配的画面排在前面。其他可能影响排名的因素（如额外的过滤条件、阈值或输入到Flock模型的指令）仍隐藏在公司的服务器上。 一项名为“智能排序”的功能允许警员批准或拒绝返回的每张图像。几次投票会重新排列顺序，将与被批准图像相似的画面排到前面。“结果太多？”工具提示问道，“对几个结果投票以快速优化。” 寻找车辆的警员可以从颜色、车型、品牌、型号和特征（如车顶行李架和保险杠贴纸）的菜单中选择；相比之下，人员搜索不提供筛选功能，仅接受文字描述。系统提供的示例是：“穿着医护服的人员。”Flock将此称为“自由格式”自然语言搜索，并表示已销售多年。404 Media七月报道称（https://www.404media.co/how-cops-use-flock-to-track-people-not-cars/），警员正在使用自由格式功能通过服装和纹身描述搜索人员。 Flock表示，标准车辆搜索和自由格式是独立功能，标准搜索基于明确的车辆属性运行，而自由格式基于自然语言描述。公司称，在视频摄像头上，自由格式搜索“服装、颜色、物品或其他案件相关细节”；在牌照摄像头上，仅限车辆搜索，无法搜索人员属性。 WIRED使用定制软件收集的代码（该软件在用户登录前收集Flock发送给浏览器的文件）规定了警员可执行的搜索类型、他们看到的控制项和警告，以及一个结果如何成为下一次搜索的基础。实际的搜索结果、摄像头画面、部门设置以及响应警方提示的AI模型都存放在公司服务器上，无法访问。 WIRED收集的代码包含Flock的用户界面，显示了其发出的网络请求及预期响应。代码表明，目前部门可以为某些搜索配置无需理由或关联真实调查案件编号的选项，并可以关闭标记可疑使用的自动化系统；Flock表示这些控制措施将在年底前强制执行。 Flock称搜索活动记录在审计日志中，且搜索限制要求适用于所有搜索工具。公司未说明服务器上是否有任何措施会阻止无理由或无案件编号的搜索提交。 ## 解雇、停职、辞职 警员已使用Flock的软件追踪与警务工作无关的人员。根据《华盛顿邮报》报道，美国至少有50名警员最近因滥用牌照读取器被（https://www.washingtonpost.com/technology/2026/08/02/how-police-officers-used-vast-network-cameras-spy-their-exes）指控或遭投诉。其中46起案件涉及Flock设备。超过一半案件中，所谓目标是妻子、女友、前任、前任的新男友或警员想要结识的女性。 警察不当行为报告反复揭示了警用数据库如何被滥用：密尔沃基一名警员搜索其约会对象124次、其前任伴侣55次，并将每次搜索记录为“调查”。佐治亚州一名警察局长搜索其前女友及女儿600次，被起诉后五个月自杀身亡。堪萨斯州一名从未被起诉的局长搜索其前任164次、其男友64次，最终被革职。北卡罗来纳州一名警员搜索其男友的前妻31次，其中29次被记录为交通违章。 警方滥用调查工具并非新鲜事。2016年美联社一项调查（https://archive.is/octFr）发现警员对前任和有好感的人员进行数据库搜索，2013年至2015年间，州机构和数十个全国最大警察部门的警察雇员因此被解雇、停职或被迫辞职超过325次。WIRED在2023年报道称（https://www.wired.com/story/ice-agent-database-abuse-records/），自2016年以来，移民和海关执法局雇员及承包商因滥用敏感政府数据库至少被调查414次；今年又发现数百起针对海关与边境保护局雇员的（https://www.wired.com/story/cbp-workers-allegedly-used-government-databases-to-spy-on-exes-crushes-and-colleagues/）指控，其中包括警员查询数据库以追踪想要约会的女性、监控家庭成员以及跟踪同事手机。 Flock软件中的两个通知系统针对人类。基于警方搜索查询的监控名单是其一。它依据警员自身的文字描述运行：他们在城市地图上绘制形状，警报将在该区域内的所有摄像头中运行，模型判定为匹配的任何人都会触发通知。警报频率可调节。 另一个称为“人员检测警报”，完全不依赖描述。警员在单个摄像头视野内绘制一个框——比如一个门口、一段路面——当有人进入时即收到通知。一人即可触发。软件不接受确定性低于75%的警报设定（即摄像头观察到的确实是人）。 ## 三种判定结果 Flock在四月（https://www.flocksafety.com/blog/understanding-flocks-testing-and-development-program）描述了其审核系统，称其设计旨在确保《第一修正案》的保护“内置”其中。WIRED重建的代码显示，Flock服务器上的AI模型在警员描述的人像与存储画面比对前，会先根据八类敏感内容对描述进行评分，然后返回三种判定结果之一：允许、阻止或警告。模型依据置信度分数做出判定。由于模型在Flock服务器上运行，警方部门永远看不到该分数，只能收到标准化的警告或阻止提示。 被阻止的搜索类别包括种族或民族、宗教、国籍、“主观或偏见性术语”以及“冒犯性内容”（代码描述为性内容、暗示性语言、冒犯性词语短语和侮辱性称谓）。在车辆模式下，工具会阻止任何使用人员相关术语（包括性别、服装和行为）的搜索。 宗教和国籍是唯一同时设有阻止和警告两种措辞的类别（警告允许警员继续操作）。政治、社会和文化表达仅被编写为警告。 Flock告诉WIRED，警员无法使用被禁止的属性（包括宗教和国籍）进行搜索，尝试搜索被禁止的术语“将被阻止”。当被问及何种情况会产生警告而非阻止时，公司未作说明。 当T恤或保险杠贴纸（https://www.wired.com/story/license-plate-readers-political-signs-bumper-stickers/）因包含“受宪法保护”的言论而触发警告时，警员会被告知搜索将被记录并通知管理员。警员必须勾选确认框并留言后，才能点击“继续搜索”。 Flock表示警告为合法工作留有余地，并举例说明：一名受害者描述嫌疑人身着“带有特定帮派标志或旗帜等徽章的摩托车帮派夹克”。继续搜索的警员将被报告给其所在部门的管理员进行审查。 民主与技术中心言论自由项目主任Kate Ruane多年来研究自动化审核系统的运作。她指出，政治、社会和文化表达是“一个极其模糊的类别”，警员搜索可能包含相关语言的原因之一是查看谁参加了抗议活动。这种情况已经发生（https://www.eff.org/deeplinks/2025/11/how-cops-are-using-flock-safetys-alpr-network-surveil-protesters-and-activists）。她指出，该类别令Flock足够重视以触发系统警告，“但只要你点击通过，仍然可以获得结果”。 她表示，“任何大规模执行的内容审核都不可能完全准确”。分析动态视频更难，且更容易出错。 Ruane指出，被阻止的类别仍可被绕过。系统阻止基于宗教的搜索，但不阻止基于服装的搜索，这意味着警员实际上可以通过搜索特定信仰成员所穿的独特服饰来绕过阻止。“许多人的图像会响应此类查询而被返回，如果他们知道可能会感到不安。” 去年加州一名警员输入了“美国国旗”。当搜索针对人员时被阻止，转而针对车辆时却在1.1万台摄像头中运行。 加州大学圣地亚哥分校计算机科学与工程系助理教授Deepak Kumar指出，警告只会阻止那些原本就决心执行搜索的警员。Kumar研究信任与安全系统，他提到为应对网络骚扰而设计的界面（有时受警告的用户反而造成更大危害），以及旨在引导用户远离恶意网站的浏览器警告（效果取决于警告呈现方式）。 Kumar说：“这类记录在行政管理上可能有用，可以查看哪些警员或最终用户经常绕过警告，但这种价值完全取决于是否有人进行管理。它的作用更像记录而非威慑。” 在查询运行前审查搜索词必然会捕获许多滥用尝试，但单独来看，这种安全措施若未对模型返回内容进行同等审查则已知会失效。Kumar表示：“最佳实践是同时检查输入和输出，这也是为什么现在许多AI安全工作都同时检查两者，以防止模型生成有害输出。” 美国公民自由联盟言论、隐私与技术项目的高级政策分析师Jay Stanley同样认为，该审核系统仅触及问题的皮毛。他说，过滤功能只是“巨型监控机器上的一个微尘”，其数据库可被AI用于“想象力所及的任意搜索”。Flock外部无人能说明其统计模型如何做出这些判定。 与Flock其他近期改革一样，他说，审核似乎针对“坏苹果警员”，而未触及大规模监控的结构性风险。 ## 本地规则 上述搜索针对Flock摄像头记录过的所有人员或车辆，可回溯至机构存储画面的时间。除了文字描述外，该工具接受车牌或裁剪后的照片……