Un grup d’investigadors de RAND Corporation van publicar un informe on expliquen que van descobrir que els models d’aprenentatge automàtic (ML) poden identificar signes d’engany durant les entrevistes de verificació dels antecedents de seguretat nacional. L’enfocament més precís per detectar l’engany és un model d’ML que compta el nombre de vegades que els entrevistats utilitzen paraules comunes.

L’experiment dels investigadors va funcionar de la següent manera:

• Els 103 participants van llegir una història sobre Edward Snowden que filtrava informació classificada de l’Agència de Seguretat Nacional l’any 2013.
• Els participants van ser assignats aleatòriament per llegir la mateixa història, però aquesta es va presentar com un informe de notícies o com un memoràndum amb marques que indicaven que contenia informació confidencial.
• Els participants van ser assignats a un dels dos grups per ser entrevistats. A un grup se li va dir que mentís sobre el que havia llegit i a l’altre, que digués la veritat.
• Els exagents de la llei van entrevistar els participants a través de videoconferència i xat basat en text d’ordre aleatori.

Els investigadors de RAND van utilitzar les transcripcions de l’entrevista i el xat per entrenar diferents models d’ML per veure si aquests podien distingir els mentiders dels qui diuen la veritat.

Aquests acadèmics van arribar a tres grans conclusions:

• No és només allò que un diu, sinó com ho diu: freqüència de paraules, cadència de la parla, elecció de les paraules i d’altres senyals lingüístics de potencials mentides.
• Els models d’ML poden detectar senyals d’engany en la forma en què les persones s’expressen, fins i tot en xats basats en text sense la presència d’un entrevistador humà.
• Els models són eines que poden complementar les tècniques d’entrevista existents, però no poden reemplaçar completament aquestes tècniques.

Pel que fa a les implicacions que això pot tenir per a la seguretat, els investigadors destaquen el següent:

• Els homes prenen part en moltes de les investigacions d’antecedents per a autoritzacions de seguretat, i almenys una quarta part dels sol·licitants d’autorització de seguretat són dones. És important entendre com el gènere de l’entrevistador podria afectar els resultats del modelat.
• L’ús inapropiat d’eines d’ML podria conduir a desigualtats en les taxes d’acceptació i rebuig dels sol·licitants d’autoritzacions de seguretat.
• A causa dels possibles biaixos en els resultats del model d’ML, i en els éssers humans, és important mantenir un sistema de controls i equilibris que inclogui tant les persones com les màquines.
• Els models van trobar que els homes i les dones feien servir paraules diferents per enganyar. Els homes eren menys propensos a usar la paraula ‘jo’ quan mentien i més propensos a utilitzar-la quan deien la veritat.

_____

Esta entrada en español / This post in English / Post en français