英国警方承认因微软 Copilot 错误情报导致误判

英国西米德兰兹警方近日承认，其在一份足球赛事安全情报报告中引用了由微软 AI 助手 Copilot 生成的虚假信息，导致以色列球迷被禁止观赛。

虚假比赛信息引发禁令

2024 年 11 月，在阿斯顿维拉对阵特拉维夫马卡比的欧联杯比赛中，主办方以“高风险”为由禁止特拉维夫马卡比球迷入场观赛。这一决定基于西米德兰兹警方提供的情报报告，其中提及此前西汉姆联与特拉维夫马卡比之间曾发生过暴力冲突。

然而，经调查发现，西汉姆联与特拉维夫马卡比之间从未进行过任何正式比赛。该信息系 Copilot 在生成内容时“幻觉”（hallucination）所致，即 AI 模型凭空编造了不存在的事实。

警方承认使用 AI 工具

西米德兰兹警察局局长克雷格·吉尔福德（Craig Guildford）本周在致英国内政事务委员会的一封信中承认：“上周五下午，我得知关于西汉姆联对阵特拉维夫马卡比比赛的错误信息，是由于使用了微软 Copilot 所致。”

值得注意的是，吉尔福德此前曾在 2024 年 12 月的议会听证会上否认警方使用 AI 工具编制该报告，并将错误归咎于“社交媒体数据抓取”。此次承认标志着警方对事件原因的立场发生重大转变。

AI 幻觉引发公共安全风险

微软在其 Copilot 界面底部明确提示：“Copilot 可能会出错。”然而，此次错误直接影响了公共安全决策，造成国际球迷群体被不公正限制，属于高调且后果严重的 AI 失误案例。

《The Verge》近期对 Copilot 的测试也显示，该 AI 助手经常“弄错事实”或“凭空捏造信息”，进一步印证了其在关键场景中使用的风险。

截至目前，微软尚未就 Copilot 为何生成这场不存在的比赛信息作出回应。

特拉维夫马卡比球迷被禁赛的决定，源于伯明翰安全咨询小组对比赛风险的评估。该小组参考了警方情报，认为此前在阿姆斯特丹举行的马卡比比赛曾发生“暴力冲突和仇恨犯罪”，因此将此次比赛定为“高风险”事件。然而，由于基础情报存在根本性错误，整个风险评估链条建立在虚构事实之上，暴露出依赖 AI 生成内容进行执法决策的严重隐患。

此事件不仅引发公众对 AI 在执法领域应用的质疑，也可能促使相关机构重新审视 AI 工具的使用规范与审核机制。

via The Verge