Les menaces de l’intelligence artificielle

Les criminels utilisent l’intelligence artificielle à des fins malveillantes, selon un nouveau rapport d’Europol publié en novembre dernier. Le document met en évidence les avantages potentiels de cette technologie, tels qu’une efficacité, une automatisation et une autonomie plus efficaces mais il met également en garde contre l’augmentation des menaces que cela implique. En outre, les criminels ont toujours été les premiers à adopter la technologie la plus avancée et l’intelligence artificielle n’est pas une exception.

Ce nouveau rapport a été élaboré conjointement par Europol, l’Institut interrégional de recherche des Nations unies sur la criminalité et la justice et Trend Micro qui explore les usages criminels actuels et anticipés de l’intelligence artificielle. Le document fournit aux agents des autorités, aux responsables politiques et à d’autres organisations des informations sur les attaques existantes et potentielles qui tirent parti de l’intelligence artificielle, et des recommandations sur la façon d’atténuer ces risques.

Le rapport conclut que les cybercriminels vont utiliser l’intelligence artificielle comme plateforme d’attaque. Les falsifications constituent aujourd’hui l’utilisation la plus connue de l’intelligence artificielle comme vecteur d’attaque. Toutefois, le rapport indique qu’une nouvelle technologie de détection sera nécessaire pour l’avenir afin de réduire le risque de campagnes de désinformation et d’extorsion, ainsi que le risque de menaces dirigées aux ensembles de données d’intelligence artificielle.

Par exemple, l’intelligence artificielle pourrait être utilisée pour :

• des attaques persuasives d’ingénierie sociale à grande échelle ;

• des logiciels malveillants permettant d’obtenir des documents afin de rendre les attaques plus efficaces ;

• la fuite de la reconnaissance des images et de la biométrie vocale ;

• des attaques de ransomware par le biais d’orientation et de fuites intelligentes ;

• la contamination des données par le biais de l’identification de failles dans les règles de détection.

Le document avertit également que des systèmes d’intelligence artificielle sont en cours de développement afin d’améliorer l’efficacité des logiciels malveillants, et de perturber les réseaux des systèmes anti-malware et de reconnaissance faciale.

Pour conclure ce rapport, les trois organisations ont fait plusieurs recommandations :

• tirer parti du potentiel de la technologie de l’intelligence artificielle en tant qu’outil de lutte contre le crime et visant à protéger l’industrie et la police chargée de la cybersécurité ;

• poursuivre la recherche afin de stimuler le développement de la technique défensive ;

• promouvoir et développer desencadrements sécurisés en matière de conception de systèmes d’intelligence artificielle ;

• renforcer la collaboration entre le secteur public et le privé et établir des groupes d’experts pluridisciplinaires.

_____

Aquest apunt en català / Esta entrada en español / This post in English

Deixa un comentari