Amenaces de la intel·ligència artificial

Els delinqüents aprofiten la intel·ligència artificial per a un ús maliciós, segons un nou informe d’Europol publicat el mes de novembre passat,. El document destaca els beneficis potencials d’aquesta tecnologia, com ara una eficiència, una automatització i una autonomia més grans, però també adverteix de les creixents amenaces que comporta. És més, els ciberdelinqüents sempre han estat els primers en adoptar la tecnologia més avançada i la intel·ligència artificial no n’és una excepció.

Aquest nou informe l’han elaborat conjuntament l’Europol, l’Institut Interregional de Recerca sobre Delictes i Justícia de les Nacions Unides (UNICRI) i Trend Micro, que estudia els usos criminals actuals i previstos de la intel·ligència artificial. El document proporciona als agents de l’autoritat, als responsables polítics i a altres organitzacions informació sobre atacs existents i potencials que aprofiten la intel·ligència artificial i recomanacions sobre com mitigar aquests riscos.

L’informe conclou que els ciberdelinqüents aprofitaran la intel·ligència artificial com a superfície d’atac. Les falsificacions són actualment l’ús més conegut de la intel·ligència artificial com a vector d’atac. No obstant això, l’informe adverteix que serà necessària una nova tecnologia de detecció en el futur per atenuar el risc de campanyes de desinformació i extorsió, així com les amenaces dirigides a conjunts de dades d’intel·ligència artificial.

Per exemple, la intel·ligència artificial es podria utilitzar per a:

• Atacs convincents d’enginyeria social a gran escala.

• Programari maliciós per obtenir documents per fer els atacs més eficients.

• Evasió del reconeixement d’imatges i biomètrica de la veu.

• Atacs de ransomware, mitjançant orientació i evasió intel·ligents.

• Contaminació de dades, mitjançant la identificació de punts cecs a les normes de detecció.

El document també adverteix que s’estan desenvolupant sistemes d’intel·ligència artificial per millorar l’eficàcia del programari maliciós i pertorbar així els sistemes antimalware i de reconeixement facial.

Per concloure l’informe, les tres organitzacions fan diverses recomanacions:

• Aprofitar el potencial de la tecnologia d’intel·ligència artificial com a eina de lluita contra el crim per protegir la indústria i la policia de la ciberseguretat.

• Continuar la investigació per estimular el desenvolupament de tecnologia defensiva.

• Promoure i desenvoluparmarcs segurs de disseny d’intel·ligència artificial.

• Potenciar les col·laboracions publicoprivades i establir grups d’experts multidisciplinaris.

_____

Esta entrada en español / This post in English / Post en français

One thought on “Amenaces de la intel·ligència artificial

  1. L’enginy humà no coneix límits i quan la IA sigui una eina habitual per a tots s’utilitzarà, esta clar, també per delinquir.

    Això no ens ha de servir per agafar por a aquestes tecnologies ans al contrari, ens ha de motivar per conèixer-ne amb més profunditat i estar protegits.

Leave a Reply