Des efforts pour réduire le nombre de décès en détention aux États-Unis

Le site Web de recherche sur la sécurité rand.org a publié l’étude d’un groupe de chercheurs menée dans l’objectif de réduire le nombre de décès lors de la détention par les forces de l’ordre aux États-Unis.

Les chercheurs américains Duren Banks, Michael G. Planty, Madison Fann, Lynn Langton, Dulani Woods, Michael J. D. Vermeer et Brian A. Jackson ont orienté cette recherche vers le but d’identifier les besoins hautement prioritaires dans le système de justice pénale américain, en commençant par quelques questions importantes :

  • Quelles sont les différentes définitions et les chiffres concernant les décès en détention par les forces de l’ordre ?
  • Quels sont les obstacles et les facilitateurs qui affectent la communication de ces informations à l’échelle de chaque État et à l’échelle fédérale ?
  • Quelles informations sur les décès en détention par les forces de l’ordre sont essentielles pour soutenir les politiques et les pratiques visant à réduire ces décès ?

De son côté, le Congrès américain a promulgué en 2013 la loi sur le signalement des décès en détention (Death in Custody Reporting Act, DCRA) pour remédier au manque d’informations fiables sur les décès liés au maintien de l’ordre dans les établissements correctionnels.

Le ministère de la Justice américain a entrepris un certain nombre d’actions destinées à répondre aux dispositions de la DCRA et de ses propres mandats fédéraux, pour une compréhension complète des chiffres et des caractéristiques des décès survenant en détention. Malgré ces efforts, aucun programme national de collecte de données ne décrit actuellement tous les décès survenus en détention. Ces données sont essentielles pour soutenir les stratégies visant à réduire le nombre de ces décès : promouvoir la sécurité publique par des réponses appropriées aux crimes signalés, aux appels de signalement et aux rencontres entre la police et la communauté, et instaurer la confiance avec les communautés.

Les chercheurs, qui visent à mieux comprendre les besoins en matière de développement et d’exploitation des données issues d’une collecte nationale des chiffres sur les décès liés au maintien de l’ordre, considèrent que limiter la portée de cette collecte aux incidents mortels serait insuffisant pour comprendre et réduire les décès en détention.

Les auteurs de l’étude recommandent les actions suivantes :

  • Spécifier des normes nationales pour une collecte plus inclusive de tous les incidents critiques (les incidents mortels et tous ceux pendant lesquels la police utilise la force létale), que l’incident entraîne ou non un décès.
  • Soutenir des rapports plus fiables et plus complets transmis aux systèmes existants qui reposent sur la participation des forces de l’ordre en allouant des ressources aux fournisseurs de données, en tirant parti des informations que ces agences collectent déjà et en incitant autrement à la participation.
  • Travailler avec la recherche, les forces de l’ordre et les autres parties prenantes pour élaborer des indicateurs et des boîtes à outils appropriés et diffuser des informations sur l’utilisation correcte et responsable de ces données.
  • Développer une classification des décès ou des incidents critiques qui surviennent en garde à vue afin de fournir le contexte nécessaire à la compréhension du rôle des forces de l’ordre.

_____

Aquest apunt en català / Esta entrada en español / This post in English

Des ordonnances de protection des lieux publics qui mettent les sans-abri en situation d’infraction

D’après les conclusions d’une étude menée par plusieurs criminologues dans dix villes d’Angleterre et du Pays de Galles, le recours aux ordonnances de protection des lieux publics ne fait que reporter le problème des sans-abri. Plusieurs journaux anglais en ont parlé, notamment The Guardian.

Lorsque les conseils municipaux utilisent les ordonnances de protection des lieux publics pour imposer des amendes de 100 £ afin de contrôler les prétendus « comportements antisociaux », les personnes sans domicile fixe finissent toujours par revenir au même endroit.

L’étude a révélé que si le fait de disperser les sans-abri des centres-villes ne met pas fin aux comportements antisociaux, il met injustement ces personnes en situation d’infraction.

L’étude de l’Université de Sheffield Hallam, avec des recommandations finales pour un traitement plus juste des personnes vivant dans la rue, a été approuvée par l’organisation caritative pour les sans-abri Crisis. Les conseils municipaux d’Angleterre et du Pays de Galles qui utilisent les ordonnances de protection des lieux publics pour imposer des amendes de 100 £ visant à contrôler ou interdire des comportements tels que consommer de l’alcool, monter une tente ou dormir dans les lieux publics constatent simplement que cela ne résout pas le problème chez les personnes vivant dans la rue.

Les ordonnances de protection des lieux publics sont également utilisées à mauvais escient pour faire face à des comportements qui ne peuvent pas être considérés comme antisociaux, comme le fait de mendier ou de dormir dans la rue, et lorsqu’un effet préjudiciable est peu probable. Dans certains cas, les sans-abri ont également rapporté des violences physiques et verbales de la part des policiers.

Ce type d’ordonnance est utilisé en Angleterre depuis 2014 pour dissuader les comportements jugés antisociaux, mais c’est en pleine vague d’augmentation du sans-abrisme, causée par une haute du nombre d’expulsions de locataires, que l’attention se porte sur l’impact que ces ordonnances ont sur les personnes vivant dans la rue. En effet, selon les chiffres annuels publiés par le ministère du Logement et des Communautés du Royaume-Uni, près de 20 000 logements en Angleterre et au Pays de Galles ont été évacués en raison d’expulsions au cours de la période 2021-2022, soit près de 9 000 de plus que pendant la période précédente.

Dans une ville côtière de l’est de l’Angleterre, par exemple, il est interdit de mendier, boire, consommer de la drogue, uriner, déféquer et planter des tentes dans les lieux publics. Cependant, on peut souvent y voir des habitants ou des touristes se promener en mangeant ou en buvant, car cette ordonnance ne semble pas s’appliquer à eux.

Un porte-parole du Conseil national des chefs de police du Royaume-Uni estime que le récent travail conjoint avec Crisis a contribué à faire comprendre aux officiers pourquoi certaines personnes finissent par dormir dans la rue, de quel soutien elles ont besoin et, surtout, ce qui peut être fait pour les aider à échapper au sans-abrisme.

Pour sa part, la conseillère municipale Nesil Caliskan, également présidente du conseil des communautés de l’association des gouvernements locaux, estime que les ordonnances de protection des lieux publics devraient être utilisées dans le cadre d’un ensemble plus large de mesures jointes à des services d’aide pour traiter les causes profondes du sans-abrisme.

Au lieu de cela, les pouvoirs de dispersion associés aux ordonnances de protection des lieux publics ont créé des cercles vicieux d’intimidation, de dispersion et de déplacement. Les problèmes liés au sans-abrisme sont seulement reportés à plus tard, et non pas réduits ni prévenus. C’est là l’une des principales conclusions de l’étude selon Peter Squires, professeur émérite de criminologie et de politique publique à l’Université de Brighton.

_____

Aquest apunt en català / Esta entrada en español / This post in English

L’utilisation de l’intelligence artificielle par la police : une question de confiance

La perspective d’une utilisation accrue de l’intelligence artificielle (IA) par la police, qui mènerait notamment à une police prédictive, soulève des questions liées à une partialité potentielle, ainsi qu’aux besoins de transparence et d’explicabilité.

Un article du docteur Nick Evans de l’Université de Tasmanie, en Australie, a été publié sur le site Policing Insight. Le professeur y explique que si des mesures de sécurité adaptées sont mises en place, l’IA pourrait apporter une objectivité intégrée à la prise de décisions de la police. Cela pourrait aboutir à une plus grande confiance dans les processus de prise de décisions.

Les applications de police prédictive posent des questions éthiques et juridiques complexes, et doivent donc être sérieusement étudiées. Cependant, l’IA pourrait avoir d’autres applications pour la police.

Le rapport de Teagan Westendorf intitulé « Artificial intelligence and policing in Australia », publié sur le site de l’Institut australien de stratégie politique, en est un exemple récent. L’auteure du rapport affirme que les politiques et les cadres réglementaires du gouvernement australien ne tiennent pas suffisamment compte des limites actuelles des technologies de l’IA. D’après Teagan Westendorf, ces limites peuvent mettre à mal les principes éthiques pour une utilisation sûre et explicable de l’IA dans le contexte du maintien de l’ordre.

En accélérant la transcription des conversations et l’analyse des images de vidéosurveillance, l’IA peut faciliter les enquêtes. Les algorithmes de reconnaissance d’images peuvent également aider à détecter et à traiter les contenus comportant des abus d’enfants afin de limiter l’exposition humaine.

Les officiers de police peuvent avoir des préjugés conscients et inconscients, comme tous les êtres humains. Mais ces préjugés peuvent influencer les décisions et les résultats de la police. Ces résultats sont capturés dans les jeux de données qui doivent souvent être utilisés pour entraîner les algorithmes de police prédictive.

L’un des points forts de l’IA est sa capacité à analyser de vastes jeux de données et à détecter des liens trop subtils pour que l’esprit humain ne les remarque. Il est possible que le fait de simplifier les modèles afin de les rendre plus compréhensibles implique une certaine perte de sensibilité et, par conséquent, de précision.

Par ailleurs, la recherche montre que les individus semblent plus enclins à se fier à une décision de justice s’ils ont confiance dans le processus de prise de décisions, même si la décision prise leur est défavorable.

Comme le souligne Teagan Westendorf, des mesures peuvent être prises pour réduire la partialité, comme le codage préventif contre les préjugés prévisibles et l’implication d’analystes humains dans les processus de création et d’exploitation des systèmes d’IA.

Des recherches récentes révèlent que le degré de confiance des citoyens dans la police, qui est relativement élevé en Australie, est lié à leur degré d’acceptation des changements concernant les outils et les technologies qu’elle utilise.

Avec certaines mesures de protection en place, comme des examens et des évaluations du déploiement, l’utilisation de l’IA peut fournir une objectivité intégrée à la prise de décisions par la police, et ainsi réduire le recours à l’heuristique et à d’autres pratiques subjectives de prise de décisions. L’utilisation de l’IA peut contribuer à améliorer les performances de la police au fil du temps.

Cependant, le besoin d’explicabilité n’est qu’une considération parmi d’autres pour améliorer la responsabilité et la confiance du public dans l’utilisation des systèmes d’IA par la police, surtout en ce qui concerne la police prédictive.

Dans une autre étude, les participants étaient plus susceptibles de soutenir une utilisation accrue des technologies de l’IA par la police s’ils avaient été exposés à des exemples d’utilisation couronnée de succès que s’ils avaient été exposés à des exemples d’utilisation infructueuse ou n’avaient été exposés à aucun exemple d’utilisation.

Cela suggère que, indépendamment du degré de transparence et d’explicabilité des algorithmes, les citoyens ne se fieront pas à l’utilisation de l’IA par la police si leur confiance en la police n’est pas renforcée. L’objectif de parvenir à une utilisation transparente et explicable de l’IA ne pourra pas être atteint sans prendre en compte le contexte dans son ensemble.

_____

Aquest apunt en català / Esta entrada en español / This post in English

La police écossaise appelle à créer des protocoles concernant l’utilisation des caméras corporelles

Selon une étude réalisée pour la police écossaise, l’opinion publique est généralement favorable à ce que les officiers portent des caméras corporelles lorsque cela est nécessaire pour tout type d’incidents. Cependant, cette étude permet également de repérer certains pièges à éviter.

Une équipe du Centre de recherche sur l’information, la surveillance et la vie privée (CRISP) de l’Université de Stirling a mis au point un rapport sur l’utilisation des caméras corporelles, fondé sur la consultation de la recherche existant à ce sujet et sur des entretiens semi-structurés avec des spécialistes de ce type de caméras.

Les chercheurs ont souligné qu’avant d’introduire les caméras corporelles, la police écossaise doit s’assurer qu’il existe des processus de gouvernance et de contrôle efficaces, notamment en ce qui concerne la gestion des données.

Le professeur William Webster de l’École de gestion de l’Université de Stirling, qui a dirigé les travaux du rapport, estime que les caméras corporelles sont, en apparence, un simple outil que les policiers portent partout, mais que l’utilisation qui en est faite a des conséquences sur un ensemble complexe de relations, à commencer par la relation entre le citoyen et l’État. Il est important de comprendre l’impact de cette utilisation et l’influence de la technologie sur les comportements afin de s’assurer que ces caméras soient utilisées dans l’intérêt de la société, et pas seulement dans l’intérêt de la police.

D’après M. Webster, la police apprécie l’utilisation des caméras corporelles car elles offrent une forme de protection lors des interventions policières, surtout s’il s’agit d’interventions risquées. Par exemple, elles peuvent aider à désamorcer une situation violente, tout en recueillant des preuves pour un éventuel procès. Cependant, elles placent la police sous surveillance également. Il est arrivé que les agents de certaines organisations policières enregistrent des agents d’autres organisations en train de fumer pendant leur service ou de parler par téléphone alors qu’ils conduisent. Ces problématiques doivent être prises en compte, d’autant plus que la confiance dans la technologie et dans la police est de nature fragile. Il convient donc d’établir des protocoles clairs et de dispenser une formation sur l’utilisation des caméras corporelles.

La nécessité de préciser qui gère les enregistrements, contenant certaines données sensibles des citoyens, est également mise en lumière dans l’étude. Ainsi, plusieurs questions se posent : les agents doivent-ils télécharger les enregistrements à la fin de leur service ? Où doivent être téléchargés et stockés les enregistrements ? Qui peut y accéder ? Quelles circonstances justifient la conservation de ces enregistrements ?

La conclusion du rapport est qu’il faut mettre en place un mécanisme de surveillance selon lequel les enregistrements seraient vérifiés de manière aléatoire, potentiellement par des personnes non spécialisées, afin de contrôler la manière dont les caméras corporelles sont utilisées.

Le rapport souligne également qu’il est important que les organisations telles que la police continuent de consulter les citoyens et les universitaires en ce qui concerne l’introduction de nouvelles technologies.

Dans la même optique, le surintendant en chef de la police écossaise, Matt Richards, se montre favorable à l’introduction des caméras corporelles au sein de la police.

Sur le plan institutionnel, l’introduction des caméras corporelles est considérée comme un investissement financier important, mais qui a le potentiel de renforcer la confiance entre la police et les citoyens, un lien essentiel qui sous-tend la légitimité de la police.

La police et les chercheurs s’accordent à dire que le déploiement des caméras corporelles doit se faire de manière éthique et transparente, et doit recevoir un soutien et des conseils sur les considérations en matière d’éthique, de droits de l’homme et de libertés civiles.

_____

Aquest apunt en català / Esta entrada en español / This post in English

Évaluation des systèmes aériens pour la reconstruction de scènes de crime

Les professionnels de la sécurité tirent parti des TIC pour développer de nouvelles approches, plus efficaces, concernant la création et l’amélioration de stratégies innovantes en matière de prévention et de réponse à la criminalité. En ce sens, les nouvelles technologies de capteurs montés sur drones permettent une meilleure reconstruction des scènes de crime, parallèlement au modèle traditionnel, c’est-à-dire avec l’inspection physique de l’agent sur les lieux du crime.

Afin d’analyser les caractéristiques et les différences entre le système aérien (drone) et le système terrestre (par balayage laser), trois simulations de scènes différentes en extérieur ont été réalisées au Crisis City Training Center près de Salina, au Kansas, telles que prévues dans le rapport de 2021 du National Institute of Justice (Institut national de justice) des États-Unis intitulé « Evaluating Aerial Systems for Crime-Scene Reconstruction »[1] : (1) une scène urbaine recréant un vol de voitures et une fusillade avec des vitres brisées, des douilles de balles et des mares de sang, (2) une forêt où a eu lieu un suicide et où se trouvent des bouteilles d’alcool vides et des stupéfiants, et (3) un champ ouvert avec une tombe clandestine, une pelle, un téléphone portable et des vêtements.

D’une part, les résultats de ces simulations ont fait ressortir des différences en faveur du système aérien par comparaison au balayage laser terrestre : (1) il n’oblige pas le personnel de la police scientifique à parcourir la scène du crime, évitant ainsi les risques de contamination et/ou de destruction des preuves, ainsi que les risques de blessures corporelles dans des environnements dangereux, (2) il permet une capture plus rapide des données de l’ensemble de la scène du crime, (3) il est plus abordable, à un prix d’environ 15 000 $ (les lasers terrestres classiques coûtent environ 75 000 $) et (4) les informations étant capturées vues du ciel, ce système ne comporte pas d’angles morts, contrairement au balayage laser lorsqu’il n’utilise pas assez d’emplacement différents ou en cas d’obstacles.

D’autre part, le balayage laser permet d’obtenir des images plus précises des scènes, avec une marge d’erreur d’environ 1 mm, et de préserver la qualité pour les scènes de nuit et quelles que soient les conditions environnementales. En ce qui concerne le drone, la marge d’erreur était d’1 cm. De plus, dans le cas d’espaces ouverts comme la forêt, l’altitude plus élevée du drone (pour éviter de heurter la cime des arbres) a réduit la qualité de l’image. Il est également nécessaire de prendre en compte les variables atmosphériques (couverture nuageuse, température, vent, précipitations, etc.) qui influent sur l’efficacité des capteurs dans les airs.

Par conséquent, pour reconstruire des images 3D d’une scène de crime (simulée), la combinaison des systèmes de balayage terrestre et aérien est la solution la plus efficace. Elle permet de capturer plus rapidement les données de la scène de crime entière, tout en maintenant un niveau de précision plus élevé que chacune des deux méthodes de manière isolée. Il en résulte une technique non intrusive qui permet d’éviter toute contamination de la scène par les enquêteurs. Les résultats peuvent aider les agents, les avocats et les juges à parcourir la scène du regard à tout moment, même des années plus tard, et à vérifier des détails tels que les distances et les lignes de vue.


[1]   Rapport https://nij.ojp.gov/topics/articles/evaluating-aerial-systems-crime-scene-reconstruction

_____

Aquest apunt en català / Esta entrada en español / This post in English

Des radars sonores installés dans sept municipalités françaises

Pour la première fois, des radars sonores sont installés en France afin de surveiller les niveaux de bruit émis par les véhicules dans les zones limitées à 50 km/h. Les amendes encourues pour le dépassement des niveaux sonores autorisés pourraient s’élever à 135 euros.

Les nouveaux radars ont été installés dans sept municipalités. Le projet, qui se déroulera sur deux ans, a été lancé il y a quelques semaines. C’est la première initiative de ce genre en Europe, il faudra donc un certain temps pour évaluer les résultats et en tirer des conclusions.

L’introduction des radars de contrôle de vitesse en France il y a vingt ans avait considérablement réduit le nombre d’accidents de la route, contribuant ainsi à sauver des milliers de vies. L’utilisation de radars sonores est, pour l’instant, en phase de test. Ces capteurs pourront détecter et enregistrer les véhicules émettant un bruit excessif, un problème grandissant ces dernières années. L’espoir des autorités est de fixer une limite de pollution sonore et d’infliger une amende aux conducteurs qui la dépassent.

L’initiative fait suite à la nuisance croissante que les bruits de rue, notamment des motos et des scooters débridés, représentent pour les Français. Selon une étude de Bruitparif, un centre soutenu par l’État français qui surveille le bruit dans la région parisienne, un scooter débridé traversant Paris la nuit peut réveiller jusqu’à 10 000 personnes.

L’Agence européenne pour l’environnement a récemment publié une étude selon laquelle la pollution sonore provoquerait quelque 16 000 décès prématurés et 72 000 hospitalisations par an en Europe. Ces chiffres alarmants seraient dus en grande partie aux bruits du trafic routier.

Un rapport publié en 2011 par l’Organisation mondiale de la santé soulignait que le bruit était, après la pollution atmosphérique, le deuxième facteur environnemental qui causait le plus de problèmes de santé, augmentant le risque de troubles cardiovasculaires et d’hypertension artérielle.

D’après le nouveau décret paru au Journal officiel, les radars, qui sont équipés de microphones et de caméras pour capter la plaque d’immatriculation du véhicule en infraction, doivent être situés sur le côté de la voie.

Les premiers radars ont été installés à Saint-Lambert, dans les Yvelines, une commune qui figure souvent sur l’itinéraire des conducteurs de moto, de quad et d’autres véhicules similaires. Selon les mesures effectuées par l’agence Bruitparif, les niveaux de bruit dans cette zone se situaient l’année dernière entre 210 dB et 520 dB.

Des radars sonores seront progressivement installés dans d’autres municipalités, comme Nice ou Toulouse. Bien que la limite de décibels autorisée n’ait pas encore été établie, un maximum de 90 dB a été fixé pour les premiers tests.

Parallèlement à la mise en place des radars sonores, les limitations de vitesse seront réduites, et des arbres et arbustes divers seront plantés le long du périphérique parisien, souvent embouteillé. Dan Lert, adjoint à la maire de Paris et chargé de ce plan, a ajouté que les véhicules d’urgence recevraient l’ordre de baisser le volume de leurs sirènes la nuit.

_____

Aquest apunt en català / Esta entrada en español / This post in English

Remaniement fondamental de l’École de Police au Royaume-Uni

L’École de Police du Royaume-Uni a procédé à un important remaniement, destiné à améliorer le leadership, les normes et le professionnalisme de l’ensemble des forces de l’ordre, dans le but d’aider les policiers eux-mêmes et d’améliorer le service public. Ainsi, trois priorités clés ont été établies :

  • améliorer le professionnalisme, en veillant à ce que les fonctionnaires et le personnel aient accès au meilleur perfectionnement professionnel continu et à ce que la priorité soit accordée de manière appropriée ;
  • renforcer le leadership des agents et du personnel à tous les niveaux pour développer leurs compétences en matière de leadership ;
  • assurer une cohérence, en surmontant les faiblesses du modèle des 43 forces de l’ordre, afin d’apporter une cohérence là où elle est importante pour le public et ceux qui travaillent dans la police.

Ce remaniement de l’École de Police a été lancé en mars 2021 par son président, Nick Herbert, baron des South Downs et membre de la Chambre des lords. Les objectifs mentionnés visent à :

  • réaliser une évaluation du rôle de l’École, de son efficacité et de son fonctionnement aux côtés d’autres organisations dans le domaine du maintien de l’ordre ;
  • s’assurer que l’École soit hautement valorisée par tous les secteurs de la police, des agents de première ligne et du personnel aux chefs et commissaires de police.

La police devient de plus en plus complexe et la culture ainsi que les normes du service sont soumises à un examen de plus en plus minutieux.

Afin de relever ces défis, le remaniement a nécessité une consultation approfondie de personnes de différents rangs, grades et rôles au sein de la police, dans le but de connaître leurs attentes concernant l’École de Police. Elles consistaient en des entretiens individuels, des preuves écrites, des groupes de discussion, des visites aux forces de l’ordre et d’une enquête auprès d’environ 15 000 agents et membres du personnel.

Les personnes interrogées dans le cadre du remaniement ont reconnu que l’École avait réussi à résoudre les problèmes dans certains domaines critiques de la police, tels que la réponse à la pandémie de la COVID-19 et ont identifié les défis futurs pour le maintien de l’ordre.

Les défis identifiés sont les suivants :

  • le manque de développement professionnel ;
  • l’investissement insuffisant dans le développement du leadership à tous les niveaux ;
  • l’absence de réflexion stratégique coordonnée au sein de la police ;
  • la confusion quant aux responsabilités au niveau national ;
  • un équipement insuffisant pour répondre aux aspects numériques croissants de la criminalité.

Les améliorations suggérées afin de résoudre ces problèmes comprennent le fait que l’École agisse en tant que centre national pour le leadership de la police. De plus, il semble nécessaire de rendre les politiques et connaissances sur ce qui fonctionne plus accessibles aux personnes de première ligne par le biais d’une application de l’École, afin d’introduire une nouvelle approche cohérente pour le développement personnel de tous les membres de la police.

Grâce à ces changements, la police disposera de meilleures conditions pour relever les défis auxquels elle est confrontée, améliorer la confiance des communautés, réduire la criminalité et garantir la sécurité des citoyens.

_____

Aquest apunt en català / Esta entrada en español / This post in English

5 choses à prendre en compte concernant l’intelligence artificielle

Si l’intelligence artificielle (IA) fait l’objet de recherches universitaires depuis 1950 et d’une utilisation commerciale dans certains secteurs depuis des décennies, elle n’en est encore qu’à ses débuts dans tous les domaines.

L’adoption rapide de cette technologie, associée à des problèmes spécifiques en matière de confidentialité, sécurité et responsabilité, a donné lieu à des efforts visant à garantir son utilisation éthique et légale.

Sur le site Web spécialisé Abajournal, les auteurs Brenda Leong et Patrick Hall exposent cinq choses à prendre en compte concernant l’intelligence artificielle.

1. L’intelligence artificielle est complexe, dynamique et probabiliste. Les algorithmes d’apprentissage automatique sont extrêmement complexes. Ils apprennent des milliards de règles à partir d’ensembles de données, puis appliquent ces règles pour obtenir une recommandation en sortie.

2. La transparence est une priorité d’ordre légal. La complexité des systèmes d’IA rend difficile la transparence, mais les organisations qui mettent en œuvre l’IA peuvent être tenues pour responsables si elles ne sont pas en mesure de fournir certaines informations sur leurs processus décisionnels.

3. La partialité est un problème considérable, mais pas le seul. Les systèmes d’IA apprennent en analysant des milliards de points de données tirés du monde réel. Ces données peuvent être numériques, catégoriques (comme le sexe et le niveau d’éducation) ou basées sur des images (comme des photos ou des vidéos). Comme la plupart des systèmes sont entraînés avec des données générées par les systèmes humains existants, les préjugés qui imprègnent notre culture imprègnent également les données. Ainsi, il ne peut y avoir de système d’IA impartial.

La confidentialité des données, la sécurité de l’information, la responsabilité du fait des produits et le partage avec des tiers, ainsi que les problèmes de performances et de transparence, sont des questions tout aussi importantes.

4. Les performances d’un système d’IA ne se limitent pas à la précision. Si la qualité et la valeur d’un système d’IA sont en grande partie déterminées par sa précision, celle-ci ne suffit pas à mesurer pleinement le large éventail de risques associés à ces technologies. À trop se concentrer sur la précision, on risque d’ignorer les questions de transparence, d’équité, de confidentialité et de sécurité d’un système.

Les experts en mégadonnées et les avocats, par exemple, doivent collaborer à la création de méthodes d’évaluation plus fidèles des performances de l’IA. Ces méthodes doivent tenir compte de l’éventail complet des performances dans le monde réel et des préjudices potentiels, comme les menaces pour la sécurité ou les insuffisances en matière de confidentialité.

5. Ce n’est que le début d’un travail difficile. Pour que leurs systèmes soient conformes aux réglementations, la plupart des organisations utilisant les technologies de l’IA doivent adopter des politiques liées au développement et à l’utilisation de ces technologies, et ont également besoin de recommandations.

Des chercheurs, des professionnels du domaine de l’IA, des journalistes, des militants et des avocats ont entamé ce travail afin de réduire les risques et les problèmes de responsabilités que présentent les systèmes d’IA actuels. Les entreprises commencent à définir et à mettre en œuvre des principes liés à l’IA, mais aussi à fournir des efforts sérieux en matière de diversité et d’inclusion au sein des équipes technologiques.

_____

Aquest apunt en català / Esta entrada en español / This post in English

Une étude sur la réponse de la police aux violences liées à l’honneur ou aux mariages forcés en Angleterre

Malgré ses bonnes intentions, la police ne reconnaît généralement pas correctement les violences liées à l’honneur, les mariages forcés ou les mutilations génitales féminines, et y apporte souvent une réponse inadaptée, les victimes ne bénéficiant pas du soutien nécessaire.

Jennifer Holton, responsable de l’organisation Citizens in Policing pour la police du Wiltshire, en Angleterre, met en lumière les principaux défis et les opportunités de changement qu’elle a identifiés dans sa propre étude et grâce à son expérience personnelle.

L’étude a été élaborée à partir d’un examen thématique des statistiques et de la recherche nationale dans le domaine, mais aussi grâce à l’implication des travailleurs de première ligne dans le sud-ouest de l’Angleterre.

Jennifer Holton critique le fait que les cours de formation, les conférences ou les études révèlent un mauvais travail de la police sans chercher ni proposer d’angle d’amélioration.

Elle documente également un certain nombre de questions clés, comme le signalement incorrect des infractions. Les infractions comme le harcèlement, le viol ou l’agression sont souvent considérées isolément, et l’appellation de violences liées à l’honneur n’existe pas, ce qui empêche de les signaler en tant que telles. Il est peu probable que l’on parvienne à un consensus sur cette infraction sans même qu’elle soit reconnue. De plus, sans statistiques précises, il est presque impossible d’obtenir des financements et d’effectuer des avancées supplémentaires dans ce domaine.

Près de la moitié des participants à l’étude ont déclaré qu’il existait dans leur organisation une personne à contacter pour obtenir de l’aide en cas de violences liées à l’honneur, mais la grande majorité ignorait qui était cette personne et comment la contacter.

La disparité des rapports est également démontrée dans les statistiques, notamment celles relatives aux mutilations génitales féminines. Selon les statistiques des services de santé nationaux (National Health Service), de 2018 à 2019, 6415 femmes présentant des signes de mutilation génitale se sont rendues dans un établissement de santé. Toutefois, les poursuites fructueuses pour ce type de crime se comptent encore sur les doigts de la main.

En 2019, 1355 cas ont été transmis à l’unité des mariages forcés pour qu’elle prodigue ses conseils. Parmi ces cas, 64 % ont été signalés par des travailleurs, 18 % par des victimes et 18 % par des amis ou membres de la famille de manière anonyme.

La faible proportion de cas dénoncés par les victimes accentue l’importance du rôle des travailleurs. Cependant, de nombreux travailleurs ne sachant pas nécessairement comment les signaler eux-mêmes, on observe un problème de sous-signalement par de multiples sources.

La responsabilité des travailleurs en matière de détection des signes ou symptômes éventuels est d’autant plus grande que la plupart des victimes n’en parlent qu’à une personne de confiance, généralement un ami proche ou un membre de la famille.

Pour une personne jeune et vulnérable risquant d’être victime de violences liées à l’honneur, seuls les travailleurs peuvent fournir un cadre fiable permettant de dénoncer quelqu’un en toute sécurité et de manière indépendante. Jennifer Holton souligne que ce sujet n’est pas abordé dans les écoles, où les discussions sur la question devraient pourtant être encouragées.

Elle explique également qu’il n’existe pas d’organisation consacrée à ce problème et chargée de veiller à ce que des mesures soient prises. Faire face à ce problème devrait être la responsabilité de tous, cependant, ce n’est la responsabilité de personne.

_____

Aquest apunt en català / Esta entrada en español / This post in English

Un modèle de prédiction des cambriolages de domicile en Catalogne

Le 22 novembre, le Dr Pere Boqué Busquet, chef de la police de la Generalitat (Mossos d’Esquadra), a lu sa thèse de doctorat à l’Université de Gérone, intitulée Modèles mathématiques pour la prédiction des cambriolages de domicile en Catalogne. Dirigée par le Dr Marc Saez Zafra et la Dre Laura Serra Saurina, la thèse analyse l’état de ce qu’on appelle le « predictive policing » et, comme son titre l’indique, propose un modèle mathématique permettant de prédire dans quelles zones de Catalogne ce type de délit est le plus susceptible de se produire à un moment donné.

L’un des premiers problèmes mis en évidence par le Dr Boqué est que les modèles de prévision appliqués dans d’autres parties du monde (notamment aux États-Unis) ne sont pas valables en Catalogne. Entre autres problèmes, la configuration territoriale et urbaine implique que les modèles de victimisation répétée (qui constituent une partie de la base de ces modèles) ne peuvent pas être directement transférés à notre contexte. Cependant, en divisant le territoire en cellules de 5 km, on a pu observer comment les cambriolages de domicile suivent des schémas temporels en vagues ou en rafales et peuvent donc être prévisibles. Si la police pouvait détecter l’origine des cambriolages, elle pourrait empêcher son évolution (les réplications ou les répétitions). Ce résultat est rapporté dans l’article publié dans la revue scientifique European Journal of Criminology, « Surfing’burglaries with forced entry in Catalonia: Large-scale testing of near repeat victimization theory » de Pere Boqué, Laura Serra et Marc Saez (novembre 2020).

Le reste des résultats de la thèse, et la concrétisation du modèle, sont présentés dans deux autres articles. D’une part, un processus de Cox log gaussien est appliqué afin d’explorer la possibilité de prévision à une plus petite échelle, dans des cellules de 500 m voire même de 250 m et 100 m. On conclut que le modèle de victimisation répétée à petite échelle, bien que détecté également en Catalogne, est insuffisant pour modéliser la dynamique globale des cambriolages.

D’autre part, on propose de surmonter cette limite avec un « nouveau modèle spatio-temporel de victimisation qui étend le concept de répétition à proximité à celui de répétition dans plusieurs zones, généralement similaires et qui peuvent être éloignées les unes des autres ». Ces « groupes de zones qui ont tendance à être victimisées en même temps », dénommés « constellations de cambriolages », forment un ensemble fixe, restreint et temporellement stable sur lequel il est également possible de construire des modèles prédictifs.

Ces deux derniers articles sont en attente de publication. Pour cette raison, la thèse de doctorat n’a pas encore été publiée.

Au-delà de l’efficacité du modèle mathématique, et comme l’a souligné le Dr Boqué à la fin de sa thèse, la difficulté du « predictive policing » ne réside pas tant dans la partie prédictive, à savoir s’il est possible ou non de prédire la criminalité, que dans la fonction de la police : quelles sont les actions préventives pouvant être mises en place pour réduire la probabilité que les délits prédits soient finalement commis. Ce n’est que lorsque ce modèle sera appliqué que l’on découvrira les véritables possibilités de la prévention de la criminalité. En tout état de cause, il est clair que la connaissance de la dynamique des schémas spatio-temporels de la criminalité donne un avantage à la police, ce qui devrait être utilisé à bon escient.

_____

Aquest apunt en català / Esta entrada en español / This post in English