Unes desenes d’acadèmics, professionals i activistes de diversos àmbits han demanat al Govern espanyol que fins que no hi hagi una llei que reguli les eines de reconeixement facial, no siguin utilitzades a l’Estat espanyol. La petició arriba en un moment en què ja s’està utilitzant aquest tipus de tècniques, tant en espais públics com en entorns privats.
Els signants de la petició demanen una moratòria en l’ús i comercialització de sistemes de reconeixement i anàlisi facial per part d’empreses públiques i privades i que les institucions legislatives europees debatin quines eines i de quina manera, en quines condicions, amb quines garanties i amb quins objectius s’ha de permetre, si cal, l’ús d’aquests sistemes.
Pels demandants és necessari que el Govern es plantegi regular aquesta tecnologia abans que segueixi expandint-se i es converteixi en un element utilitzat i estès. És a dir, si el reconeixement facial no s’adapta a una llei concreta que asseguri el respecte als drets dels ciutadans, temen que sigui la llei la que s’hagi d’adaptar a les pràctiques que ja existeixen.
Els signants es refereixen al fet que aquesta tecnologia suposa una intromissió en l’esfera privada de la vida de les persones sense el seu consentiment explícit i posa en dubte qüestions fonamentals de justícia social, dignitat humana, equitat, igualtat en el tracte i inclusió.
L’ús de programes d’anàlisi facial pot derivar en problemes en l’àmbit dels drets civils. En concret, expliquen que assimilar una persona a un col·lectiu basant-se en els seus trets o dades biomètriques és altament problemàtic ja que es perpetua l’estereotip, sigui en l’àmbit que sigui. Per exemple, que aquesta persona pugui ser perillosa o morosa perquè altres semblants a ella ho són és una premissa injusta.
Hi ha prou evidències que indiquen que associar postures, gestos, trets facials, colors de pell, pentinats o peces de vestir a possibles comportaments problemàtics, capacitats intel·lectuals o econòmiques pot resultar en classificacions racistes, classistes o sexistes.
El reconeixement facial, a més, ha comportat en diverses ocasions falsos positius i falsos negatius, perquè depèn en gran mesura de com s’entreni la intel·ligència artificial i amb quin tipus d’imatges. Si s’educa amb moltes fotografies d’homes blancs o amb condicions de llum específiques, per esmentar dos exemples, l’anàlisi facial tendirà a ser menys precisa per a les persones negres o amb condicions lumíniques diferents.
Hi ha, així doncs, una variada gamma de raons –tant tècniques com ètiques– que justifiquen la creació d’una comissió per investigar la necessitat d’una moratòria, que es considera imprescindible i urgent. Per concloure, se suggereix que aquesta comissió sigui independent i estigui composta per científics, juristes, experts en ètica i intel·ligència artificial i membres de la societat civil, especialment d’aquells col·lectius que poden veure’s afectats per aquests sistemes.
_____
Esta entrada en español / This post in English / Post en français