Management of technical and legal risks of predictive policing activities

Encadrement des risques techniques et juridiques des activités de police prédictive

Céline Castets-Renard (1) , Philippe Besse (2) , Jean-Michel Loubes (2) , Laurent Perrussel (3, 1)

1 UT Capitole - Université Toulouse Capitole
2 IMT - Institut de Mathématiques de Toulouse UMR5219
3 IRIT-LILaC - Logique, Interaction, Langue et Calcul

Big data technologies and predictive analysis have changed the policing methods, as well as police management in the United States, since the early 2000s. The fact that predictive policing activities have been primarily deployed in the US is no coincidence. Even if crime in France and Europe is significant, especially in the presence of a high terrorist risk for several years, the United States is seeing the spread of large-scale crime and, above all, very significant armed urban violence.Today, however, predictive policing tools are no longer limited to the United States and are also being introduced in several European Union Member States. Nevertheless, the methods used are not identical. Generally speaking, "predictive policing" consists for the police (in France, police or gendarmerie) in using data and other indicators to calculate the probability of the risk of a crime occurring in the future. It may also be a probability calculation that a person, previously identified due to suspected illegal activities, may take action. Such information is useful, on the one hand, to prevent the commission of offences and, on the other hand, to better deploy police forces. Predictive policing tools can target places or individuals.This study, funded by CHEMI (French Ministère de l'intérieur), aims to provide a technical analysis of predictive policing tools used in the United States and Europe, as well as to measure their impact on the population, taking into account very different legislative frameworks. Recommendations were made to the French Ministère de l'intérieur to ensure the effectiveness of algorithmic tools while limiting the risks of violating the fundamental rights of individuals.

Les technologies des données massives et les analyses prédictives ont fait évoluer les méthodes de maintien de la paix et sécurité publique, ainsi que du management des forces de police aux États-Unis, dès le début des années 2000. Le fait que les activités de police prédictive se soient développées en premier lieu sur le territoire des États-Unis n'est pas l'effet du hasard. Même si la criminalité en France et en Europe n'est pas négligeable, en particulier en présence d'un risque terroriste élevé depuis plusieurs années, les États-Unis voient s'étendre une criminalité de grande ampleur et surtout une violence urbaine armée très significative.Aujourd'hui, les outils de police prédictive ne sont cependant plus l'apanage des États-Unis et sont aussi introduits dans plusieurs États membres de l'Union européenne. Toutefois, les méthodes utilisées ne sont pas identiques. De façon générale, la « police prédictive » consiste pour la police (en France, police ou gendarmerie) à utiliser des données et autres indicateurs pour calculer la probabilité du risque de survenance d'un crime dans le futur. Il peut également s'agir d'un calcul de probabilité qu'une personne, précédemment repérée en raison d'activités suspectées d'illégalité, puisse passer à l'action. De telles informations sont utiles, d'une part, pour prévenir la commission d'infractions et, d'autre part, pour mieux déployer les forces de police. Les outils de police prédictive peuvent cibler des lieux ou individus.Cette étude, financée par le CHEMI (Ministère de l'intérieur français), vise à faire une analyse technique des outils de police prédictive utilisé aux États-Unis et en Europe, ainsi que d'en mesurer l'impact sur la population, en tenant compte de cadres légaux très différents. Des recommandations ont été faites au Ministère de l'intérieur, afin de garantir l'efficacité des outils algorithmiques tout en limitant les risques d'atteinte aux droits fondamentaux des individus.

Mots clés: Predictive Policing; Personal Data; Fundamental Rights; Ethics; Artificial Intelligence; Automated Decision-Making; Explicability; Bias; Discrimination; Accountability; Transparency

Mots clés: police prédictive; données personnelles; droits fondamentaux; éthique; intelligence artificielle; décision automatique; explicabilité; biais; redevabilité; transparence

Domaines: Statistiques [math.ST]; Droit; Apprentissage [cs.LG]

Céline Castets-Renard, Philippe Besse, Jean-Michel Loubes, Laurent Perrussel. Encadrement des risques techniques et juridiques des activités de police prédictive. [Rapport de recherche] Centre des Hautes Etudes du Ministère de l'Intérieur. 2019. ⟨hal-02190585⟩