La policia de Chicago utilitza algoritmes informàtics per valorar el risc d’amenaça

Un ordinador podria predir la violència? A Chicago, Illinois, un algoritme valora totes les persones arrestades per la policia amb una puntuació d’amenaça numèrica de l’1 al 500. El procés es realitza des de fa uns quatre anys, i gairebé 400.000 ciutadans de Chicago tenen ara una puntuació oficial de risc per part de la policia.

Aquest algoritme, qüestionat pel professor de dret de la Universitat de Columbia Andrew Guthrie Ferguson  –el mètode encara no s’ha fet públic–, forma l’estratègia de la policia i pot canviar les sospites als carrers. També pot ser el futur de la policia del big data a Amèrica, depenent de com sigui percebut: com un enfocament innovador per a la reducció de la violència o com un exemple de control social basat en dades.

En efecte, la puntuació d’amenaça personalitzada es mostra automàticament als quadres de comandament de l’ordinador de la policia per tal que l’oficial sàpiga el risc relatiu en aturar un sospitós. La puntuació predictiva també defineix qui es destina a una intervenció policial proactiva. Aquestes intervencions poden anar des d’una visita a domicili per part d’agents de la policia fins a una vigilància policial addicional o una reunió comunitària, que transmetrà el mateix missatge clar: la policia us està observant.

I tot i que Chicago està a l’avantguarda de la vigilància predictiva, no és l’única. Altres ciutats com Nova York i Los Angeles estan considerant la manera d’utilitzar la policia del big data per orientar les intervencions amb els individus amb risc.

El control predictiu basat en persones es va iniciar el 2009 com un intent d’aplicar un enfocament de salut pública sobre la violència. La clau és identificar els factors de risc predictius i intentar solucionar les causes ambientals subjacents. Els investigadors de Chicago van desenvolupar un algoritme perquè la policia donés prioritat a aquells individus amb més risc analitzant detencions passades per delictes violents, delictes d’armament o narcòtics, edat a la detenció més recent (menor d’edat, més puntuació), incidents en què l’individu va ser víctima d’un assalt i la línia de tendència de l’activitat delictiva (tant si la taxa és creixent o disminueix). Llavors un ordinador classifica les variables i escriu una puntuació d’amenaça relativa per determinar la probabilitat d’ús d’arma de foc.

La policia afirma que el mecanisme d’orientació actua assenyalant l’elevat percentatge de víctimes de trets que es podrien predir amb precisió. Els crítics han assenyalat que l’objectiu és excessiu i ineficaç, incloent-hi desenes de milers de persones amb puntuacions altes, però sense antecedents de detenció prèvia per delictes violents.

Es considera preocupant que les puntuacions d’amenaça incideixin en l’equitat de la interacció de la policia amb les persones als carrers. Les puntuacions d’alt risc guien les estratègies d’interrupció de la violència, que influeixen en els contactes de la policia i que són objecte de més vigilància per part d’aquesta. Però les puntuacions d’amenaça també distorsionen les decisions quotidianes de la policia sobre l’ús de la força i la sospita raonable. Al cap i a la fi, una vegada que la policia tingui informació que una persona té una puntuació d’amenaça elevada, aquest coneixement augmentarà la sospita criminal i incrementarà el perill percebut, la qual cosa provocarà interaccions més freqüents i agressives amb les persones que l’algoritme considera “d’alt risc”.

El biaix també es pot arrossegar al sistema. Tal com es descriu a la investigació de la Divisió de Drets Civils del Departament de Justícia de 2017 del Departament de Policia de Chicago, els patrons de discriminació racial segueixen sent un problema real. Si bé es podria esperar que la justícia algorítmica evités el biaix humà, la realitat és que aquestes insercions (especialment les detencions) es veuen afectades per les decisions discrecionals de tots els agents de policia mentre patrullen o investiguen el sospitós d’un delicte. Així, si bé les matemàtiques de big data poden ser “objectives”, les entrades no estan exemptes de biaixos humans, que distorsionen així els resultats finals.

 Enllaços relacionats

https://notesdeseguretat.blog.gencat.cat/2018/02/19/lavaluacio-de-la-policia-predictiva-el-cas-de-baden-wurttemberg-alemanya/

_____

Esta entrada en español / This post in English / Post en français

La violència juvenil es redueix entre els joves a Alemanya, però augmenta entre els refugiats

Un equip integrat per membres de l’Institut de Recerca Criminològica de la Baixa Saxònia i l’Escola Superior de Ciències Aplicades de Zuric han publicat recentment un estudi[1] sobre l’evolució de la violència a  Alemanya en la darrera dècada, amb referència a la influència que hi tenen els joves i els refugiats.

Les dades policials entre els anys 2007 i 2015 mostren un descens continuat dels joves entre 14 i 18 anys que han estat detinguts per la policia. La xifra s’ha reduït un 50% en nombres absoluts. Les dades de l’assegurança escolar obligatòria també mostren un descens dels incidents causats per actes de violència dels alumnes, que han passat d’un 14,9 per cada 1.000 escolars l’any 1999 a només un 8,7 l’any 2015.

Entre les raons que fonamenten aquest descens, els investigadors han constatat les següents:

  • L’increment del nombre de joves que es graduen ha pujat del 24,5 al 34,1% i l’atur juvenil ha baixat del 15,3% al 6,8%.
  • Els nens que no pateixen cap violència per part dels pares ha augmentat del 43,3% al 60,8%.
  • S’ha constatat un increment en la cura dels pares cap als fills, fent-se explícites mostres d’estimació amb més freqüència que abans.
  • El consum d’alcohol entre els joves ha disminuït notablement. Un 21,6% dels joves declaraven el 2007 consumir alcohol un cop a la setmana com a mínim, mentre que el 2010 la xifra s’havia reduït al 10%.
  • La popularitat de la violència entre els joves ha disminuït notablement.
  • El percentatge de joves que ajuden a persones necessitades, que participen en activitats polítiques i que respecten el medi ambient ha pujat d’un 5% al 12%.
  • L’absentisme escolar s’ha reduït notablement.

D’altra banda, en el cas de la Baixa Saxònia, els anys 2015 i 2016 s’ha produït un augment de la delinqüència violenta en un 10,4%. Un 92,1% d’aquests casos addicionals de violència tenen com a protagonistes joves amb estatut de refugiats. Entre les raons que justifiquen aquests fets citen les següents:

  • El percentatge de refugiats que es troben a l’edat amb més propensió a conductes violentes (homes entre 14 i 30 anys) és superior al de la població autòctona.
  • Els grups que tenen poques perspectives d’obtenir un permís de residència permanent es veuen involucrats més freqüentment en actes violents.
  • La majoria venen de països amb cultures molt masculines, on la violència és una prova d’aquesta masculinitat.
  • El percentatge de dones entre els refugiats és molt baix (22,3%), en comparació amb la població global a la Baixa Saxònia (50,9%).
  • Les víctimes d’actes violents tendeixen a denunciar amb més freqüència quan els autors són visiblement estrangers.

Finalment, l’informe posa en relleu que un 12,6% d’aquests actes violents es produeixen entre persones pertanyents a un mateix grup ètnic o nacional, un 19,6% tenen lloc entre refugiats pertanyents a diversos grups i un terç de les víctimes són estrangers d’altres orígens (no refugiats) i alemanys.

[1] Se’n pot trobar un resum a http://www.sueddeutsche.de/panorama/studie-zur-jugendkriminalitaet-mehr-liebe-weniger-hiebe-1.3811190!amp.

_____

Esta entrada en español / This post in English / Post en français

Què li cal a la policia per utilitzar el Big Data?

Les organitzacions policials, per la seva activitat diària, generen, emmagatzemen i processen grans quantitats de dades, en l’àmbit de les dades massives (Big Data). Malauradament no sempre disposen de les tecnologies i tècniques que permeten obtenir-ne un valor afegit. Aquesta és una de les conclusions a què arriba Alexander Babuta en el seu informe Dades massives i treball policial. Una valoració de les necessitats, expectatives i prioritats dels cossos de seguretat [1] [britànics], publicat per l’Institut de Serveis Reals Unificats per als Estudis de Defensa i Seguretat [2]  (RUSI per les seves sigles en anglès).

L’autor destaca que la investigació relacionada amb les dades massives és prolífica, però hi ha una manca d’estudis sobre l’ús en el treball policial al Regne Unit. Babuta intenta contribuir a emplenar aquest buit. La seva recerca va començar amb una revisió de la documentació (tant acadèmica com institucional) de les estratègies policials i dels informes del sector privat sobre la utilització de les dades per la policia. A continuació va entrevistar 25 treballadors de quatre cossos policials (entre policies i personal de suport) i 5 experts dels sectors tecnològic i acadèmic. Finalment, va conduir un grup de treball amb representants de cinc cossos policials, així com del Ministeri de l’Interior[3] , de l’Acadèmia Superior de Policia[4]  i de l’àmbit universitari.

Els dos grans problemes que identifica l’investigador són la manca d’un espai únic on desar i anar a recuperar les dades i l’absència d’una tecnologia que doni sentit a les dades. També destaca quatre àmbits prioritaris en què la tecnologia relacionada amb les dades massives es pot aplicar al treball policial:

  • Aprofitar els mapes de predicció de delinqüència per destinar les patrulles als llocs on hi ha més probabilitat que succeeixin els delictes.
  • Utilitzar l’analítica predictiva per identificar els riscos associats a determinades persones, tant potencials autors com potencials víctimes.
  • Emprar l’analítica avançada per intentar aprofitar tot el potencial dels sistemes d’enregistrament d’imatge (circuits de videovigilància) i de les dades dels sistemes de reconeixement automàtic de matrícules.
  • Aplicar la tecnologia de les dades massives a les fonts de dades obertes, per obtenir un millor coneixement d’alguns problemes de delinqüència.

L’autor planteja 14 recomanacions adreçades a cossos policials i responsables de seguretat; als organismes nacionals (Ministeri de l’Interior, Acadèmia Superior de Policia i Police ICT Company[5]), i a desenvolupadors de programari, incloent-hi tres futures línies de recerca.

Les propostes de Babuta que poden resultar més rellevants de cara a les ciències socials són:[6]

  • Prioritzar l’exploració de la potencialitat del programari dels mapes destinats a fer predicció.
  • Utilitzar les dades nacionals, no només les locals, quan es vulgui predir els riscos associats a individus.
  • Incloure a totes les aplicacions de dades un registre que permeti documentar qualsevol canvi realitzat al conjunt de dades.
  • Aprofundir la recerca en el programari de predicció de la delinqüència per poder generar models de predicció per segments de carrer.
  • Explorar els usos potencials de la modelització del terreny sobre la base del risc (RTM)[7]  per identificar les àrees on hi ha més risc de patir delictes.
  • Explorar l’ús de matrius de danys per valorar els danys causats per diferents tipus de delictes.

L’informe es va presentar públicament el 6 de setembre de 2017 i se’n pot veure una presentació en el següent enllaç:

https://rusi.org/event/paper-launch-%E2%80%93-big-data-and-policing-assessment-law-enforcement-requirements-expectations-and

[1]  El títol original és “Big data and Policing. An Assessment of Law Enforcement Requirements, Expectatins and Priorities”

[2] Royal United Services Institute for Defence and Security Studies

[3] Home Office

[4] College of Policing

[5] Police ICT Company és una empresa amb capital públic creada i gestionada pels responsables de seguretat per millorar les tecnologies de la informació i la comunicació amb l’objectiu de millorar la seguretat de la ciutadania.

 [6] Segons la xarxa d’investigadors Method Space.

[7] L’RTM és una metodologia de treball derivada de l’anàlisi dels riscos de determinats espais, formulada pels professors Caplan i Kennedy de la Universitat Rutgers. Es pot ampliar la informació a http://www.riskterrainmodeling.com/. L’anglès és Risk Terrain Modelling, en castellà es tradueix com a “Modelización del terreno en base al riesgo”.

_____

Esta entrada en español / This post in English / Post en français

 

L’escut de la privacitat entre la UE i els EUA

61_eu_usaEl dia 10 de desembre es va publicar al Diari Oficial de la Unió Europea el text íntegre de l’acord assolit entre la Unió Europea i els Estats Units el dia 12 de juliol de 2016 sobre la creació d’un escut de privacitat entre tots dos.[1]

Segons la Comissió Europea, aquest acord crearà un marc legal en què es protegiran els drets fonamentals de qualsevol persona a la UE les dades personals de la qual es transfereixin als Estats Units, i aportarà claredat jurídica per a les empreses que depenen de transferències transatlàntiques de dades.

Segons el vicepresident de la Comissió Europea, Andrus Ansip, els europeus i els americans disposarem d’un marc sòlid que garanteixi que les transferències esmentades es duguin a terme en millors condicions i més segures.[2]

L’escut de la privacitat UE−EUA es basa en els principis següents:

  • Obligacions rigoroses per a les empreses que treballen amb dades: El Departament de Comerç dels Estats Units durà a terme actualitzacions i revisions periòdiques de les empreses participants, a fi de garantir que segueixin les normes que elles mateixes han subscrit. Si les empreses no compleixen a la pràctica, s’enfronten a sancions i a ser retirades de la llista.
  • Obligacions en matèria de transparència i salvaguardes clares per a l’accés de l’Administració nord-americana: Els Estats Units han donat a la UE garanties que l’accés de les autoritats públiques a efectes d’aplicació de la llei i de seguretat nacional està subjecte a limitacions, salvaguardes i mecanismes de supervisió clars. També per primera vegada, qualsevol persona a la UE tindrà a la seva disposició vies de recurs en la matèria.
  • Protecció eficaç dels drets individuals: Qualsevol ciutadà que consideri que les seves dades s’han utilitzat de forma indeguda en el nou sistema es beneficiarà de diversos mecanismes de resolució de litigis accessibles i assequibles. Els particulars també podran dirigir-se a les seves autoritats nacionals de protecció de dades, que col·laboraran amb la Comissió Federal de Comerç per garantir que les reclamacions dels ciutadans de la UE s’investiguin i resolguin. Si un assumpte no es resol per un mitjà o un altre, estarà previst, en última instància, un mecanisme d’arbitratge.
  • Mecanisme de revisió conjunta anual: El mecanisme farà un seguiment del funcionament de l’escut de la privacitat, inclosos els compromisos i garanties pel que fa a l’accés a les dades a efectes d’aplicació de la llei o de seguretat nacional. La Comissió Europea i el Departament de Comerç dels Estats Units duran a terme l’examen i hi associaran experts nacionals d’intel·ligència dels Estats Units i les autoritats europees de protecció de dades. La Comissió presentarà un informe públic anual al Parlament Europeu i al Consell de la Unió.

Des de la presentació del projecte de l’escut de la privacitat, la Comissió ha tingut en compte els dictàmens de les autoritats europees de protecció de dades, del Supervisor Europeu de Protecció de Dades i del Parlament Europeu a l’hora d’incloure un seguit d’aclariments i millores addicionals. La Comissió Europea i els Estats Units van acordar, en particular, introduir aclariments addicionals sobre la recopilació de dades en bloc, reforçar el mecanisme del Defensor del Poble i introduir obligacions més explícites per a les empreses pel que fa als límits de conservació i de transferències ulteriors.

[1] C/2016/4176 Commission Implementing Decision (EU) 2016/1250 of 12 July 2016 pursuant to Directive 95/46/EC of the European Parliament and of the Council on the adequacy of the protection provided by the EU-U.S. Privacy Shield (notified under document C(2016) 4176) (Text with EEA relevance). (2016). EU law and publications. [online] Disponible a: https://publications.europa.eu/en/publication-detail/-/publication/c183d956-57a6-11e6-89bd-01aa75ed71a1/language-en/format-PDFA1A/source-20824799 [Accés 14.12.2016].

[2] Comissió Europea (2016). La Comissió Europea posa en marxa l’Escut de la privacitat UE-EUA: més protecció per als fluxos de dades transatlàntics. [en línia] Disponible a: http://europa.eu/rapid/press-release_IP-16-2461_es.htm [Accés 13.12.2016].

_____

Esta entrada en español / This post in English / Post en français