英國警方打造了犯罪預測機器，但部分結果不可信
調查顯示英國警方使用23個以上的機器學習模型對市民進行風險評分，但至少兩個模型因結果不可靠被廢棄，揭示了預測性警務的透明度危機。
亞文和薩默塞特郡警察局（Avon and Somerset Police）建立了一個龐大的預測性警務計劃，其中包括 23 多個機器學習模型，用於評估近 50 萬人的風險——根據他們的心理健康、住房和學校餐食等數據——以預測入室盜竊和家庭暴力等犯罪行為。Wired 的調查發現，官方悄悄地廢除了其中至少兩個風險評估模型，因為他們認定這些模型的結果已經不再值得信賴，而政府督察則警告說，缺乏透明度會破壞問責制。向公民披露這些「風險分數」的做法並不統一，引發了社區活動家（如 John Pegram）的法律挑戰，他們懷疑自己在未經同意的情況下被列入了監控名單。這個案例表明，執法技術領域正日益出現危機，在那裡，人工智慧的部署往往超過了驗證機制和法律框架。