Augmentation de la pression policière dans les zones à forte incidence de crimes à l’arme blanche

Notes de seguretatDeixa un comentari

Le ministère de l’Intérieur, par l’intermédiaire de sa députée Sarah Jones, a annoncé une nouvelle stratégie pour lutter contre la forte incidence des crimes à l’arme blanche, en Angleterre et au pays de Galles. Cette approche repose sur un constat central : la majorité de ces délits se concentre dans des zones très ciblées et se répète dans les mêmes rues, à des horaires similaires. Cette réalité a conduit le gouvernement britannique à privilégier une approche nettement plus ciblée, intensive et fondée sur les données afin de réduire ce type de violence.

Le plan introduit une nouvelle technologie de cartographie capable d’identifier les zones à forte criminalité avec une précision allant jusqu’à 0,1 kilomètre carré. Cet outil, fondé sur une approche dite de « microgéographie », permet aux forces de police de déterminer avec exactitude non seulement où les crimes sont commis, mais aussi à quels moments ils surviennent le plus fréquemment.

À partir de ces données, la police pourra déployer ses moyens de manière bien plus efficace, en se concentrant sur les secteurs où le risque est le plus élevé. L’objectif est de rompre avec les stratégies généralistes au profit d’interventions ciblées et localisées.

Les zones identifiées comme points chauds feront ainsi l’objet d’un renforcement significatif de la présence policière. Parmi les mesures envisagées figurent :

  • l’augmentation des patrouilles ;
  • l’installation de nouvelles caméras de vidéosurveillance (CCTV) ;
  • le recours à la reconnaissance faciale en temps réel ;
  • le déploiement de portiques détecteurs d’armes blanche.

Cet ensemble d’actions vise à dissuader les passages à l’acte, à faciliter l’identification des auteurs et à améliorer la capacité de réaction immédiate en cas d’incident.

Le gouvernement britannique a alloué plus de 26 millions de livres au Knife Crime Concentrations Fund, un fonds destiné à intervenir dans les zones les plus touchées par les crimes à l’arme blanche. Ce financement sera réparti entre 27 forces de police qui concentrent environ 90 % des crimes à l’arme blanche dans le pays.

Cet investissement s’inscrit dans un plan plus large qui vise à réduire de moitié ce type de criminalité sur une période de dix ans. Selon la ministre de la Police et de la Sécurité, Sarah Jones, cette stratégie permettra de sauver des vies et de renforcer la sécurité des communautés.

Au-delà du renforcement de la pression policière, le dispositif comprend également un volet préventif. Le gouvernement reconnaît que les violences à l’arme blanche sont souvent liées à des facteurs sociaux et économiques, notamment chez les jeunes.

Les mesures suivantes sont prévues :

  • la création de 50 centres pour la jeunesse (« Young Futures Hubs ») dans les zones touchées ;
  • la mise en place de dispositifs de détection précoce des jeunes à risque ;
  • des programmes de soutien aux établissements scolaires situés dans des zones vulnérables ;
  • des investissements dans des initiatives de réduction de la violence et d’intervention communautaire.

Cette approche vise à agir en amont, en offrant des alternatives et un accompagnement aux publics les plus exposés.

Cette stratégie présente plusieurs avantages. D’une part, elle permet d’optimiser les ressources policières en les concentrant là où elles sont les plus nécessaires. D’autre part, elle permet d’obtenir des résultats potentiellement plus rapides dans les zones ciblées.

Elle soulève toutefois des enjeux importants. Le recours à la reconnaissance faciale en temps réel suscite des interrogations en matière de protection de la vie privée et de droits civils. De plus, la concentration de l’activité policière dans certains quartiers pourrait alimenter un sentiment de surpolice.

Enfin, l’efficacité du dispositif dépendra largement de la qualité des données exploitées et de la coordination entre les différents acteurs concernés.

Cette nouvelle stratégie marque un tournant dans la lutte contre les violences à l’arme blanche au Royaume-Uni. En misant sur la technologie, l’analyse des données et des interventions ciblées, les autorités entendent gagner en précision et en efficacité.

La combinaison de mesures policières et d’actions de prévention sociale traduit par ailleurs une approche plus globale du phénomène. Si ses effets restent à confirmer, cette stratégie pourrait inspirer d’autres pays confrontés à des défis similaires en matière de sécurité urbaine.

_____

Aquest apunt en català / Esta entrada en español / This post in English

Increased police pressure in areas with a high incidence of knife crime

Notes de seguretatDeixa un comentari

The Home Office, through its MP Sarah Jones, has announced a new strategy to combat the high incidence of knife crime in England and Wales, based on a key idea: most of these crimes are concentrated in very specific areas and occur repeatedly on the same streets and at the same times. This reality has led the UK government to adopt a much more precise, intensive, and data-driven approach to reducing this type of violence.

The plan introduces a new mapping technology capable of identifying areas with a high incidence of crime with an accuracy of up to 0.1 square kilometres. This approach, known as microgeography, allows law enforcement agencies to accurately detect not only where crimes occur, but also when they take place most frequently.

Based on this information, the police will be able to deploy resources in a much more efficient manner, focusing on those areas where the risk is higher. The objective is to move away from generalist strategies and focus on specific and targeted interventions.

The areas identified as hot spots will experience a notable increase in police activity. Among the proposed measures are:

  • Increase in police patrols
  • Installation of new video surveillance cameras (CCTV)
  • Use of live facial recognition
  • Implementation of knife detection arches

This set of actions aims to deter the commission of crimes, facilitate the identification of perpetrators, and improve the immediate response capacity to incidents.

The UK Government has allocated over £26 million to the Knife Crime Concentrations Fund. This funding will be distributed among 27 police forces that account for approximately 90% of knife crimes in the country.

This investment is part of a broader plan that aims to halve crime with these weapons within a decade. According to the Crime and Policing Minister, Sarah Jones, this strategy will save lives and strengthen the security of communities.

Beyond the increase in police pressure, the plan also includes measures aimed at prevention. The government recognises that knife crime is often related to social and economic factors, especially among young people.

Therefore, it is planned to:

  • Create 50 youth centres (“Young Futures Hubs”) in affected areas
  • Implement panels to detect young people in at-risk situations at an early stage
  • Support programmes for schools in vulnerable areas
  • Invest in violence reduction programmes and community intervention.

This approach seeks to act before a crime occurs, offering alternatives and support to the most vulnerable groups.

The strategy presents several advantages. Firstly, it allows for the optimisation of police resources, placing them where they are most needed. Secondly, it can generate faster results in reducing crime in specific areas.

However, it also poses some significant challenges. The use of live facial recognition may raise concerns regarding privacy and civil rights. Moreover, the concentration of police activity in certain neighbourhoods could lead to perceptions of excessive police presence.

Ultimately, the effectiveness of the model will largely depend on the quality of the data and the coordination among the different stakeholders involved.

The new strategy of the United Kingdom represents a significant shift in the way knife crime is addressed. By opting for technology, data analysis, and targeted intervention, the government seeks to act with greater precision and effectiveness.

At the same time, the combination of police measures and social prevention initiatives reflects a more comprehensive approach to the problem. While the results are yet to be seen, this strategy could pave the way for other countries facing similar challenges in urban security.

_____

Aquest apunt en català / Esta entrada en español / Post en français

Aumento de la presión policial en los puntos calientes del crimen con arma blanca

Notes de seguretatDeixa un comentari

El Ministerio del Interior británico, por medio de la diputada Sarah Jones, ha anunciado una nueva estrategia para combatir el crimen con arma blanca en Inglaterra y Gales basada en una idea clave: la mayor parte de estos delitos se concentran en zonas muy concretas y se repiten en las mismas calles y franjas horarias. Esta realidad ha llevado al gobierno británico a apostar por un enfoque mucho más preciso, intensivo y basado en datos para reducir este tipo de violencia.

El plan introduce una nueva tecnología de cartografía capaz de identificar puntos calientes de criminalidad con una precisión de hasta 0,1 kilómetros cuadrados. Esta aproximación, conocida como microgeografía, permite a las fuerzas policiales detectar con exactitud no solo dónde se producen los delitos, sino también cuándo tienen lugar con más frecuencia.

A partir de esta información, la policía podrá desplegar recursos de manera mucho más eficiente y centrarse en aquellos espacios en los que el riesgo es más elevado. El objetivo es dejar atrás las estrategias generalistas y apostar por intervenciones específicas y focalizadas.

Las zonas identificadas como puntos calientes experimentarán un incremento notable de la actividad policial. Algunas de las medidas previstas son:

  • Aumentar a las patrullas policiales.
  • Instalar nuevas cámaras de videovigilancia (CCTV).
  • Usar el reconocimiento facial en directo.
  • Implementar arcos detectores de armas blancas.

Este conjunto de acciones pretende disuadir la comisión de delitos, facilitar la identificación de los autores y mejorar la capacidad de respuesta inmediata ante los incidentes.

El gobierno británico ha destinado más de 26 millones de libras al llamado Fondo de Concentración de Delitos con Arma Blanca. Dicha financiación se distribuirá entre 27 fuerzas policiales que concentran aproximadamente el 90 % de los delitos con armas blancas del país.

Esta inversión se enmarca dentro de un plan más amplio que tiene como objetivo reducir a la mitad el crimen con estas armas cortantes en el plazo de una década. Según la ministra Sarah Jones, esta estrategia permitirá salvar vidas y reforzar la seguridad de las comunidades.

Más allá del aumento de la presión policial, el plan también incluye medidas orientadas a la prevención. El gobierno reconoce que el crimen con arma blanca está a menudo relacionado con factores socioeconómicos, especialmente entre los jóvenes.

Por ello, se prevé:

  • Crear 50 centros juveniles (Young Futures Hubs) en las zonas afectadas.
  • Implementar paneles para detectar precozmente a los jóvenes en situación de riesgo.
  • Promover programas de apoyo a las escuelas de las áreas vulnerables.
  • Invertir en programas de reducción de la violencia e intervención comunitaria.

Este enfoque busca actuar antes de que se produzca el delito, y ofrecer alternativas y apoyo a los colectivos más vulnerables.

La estrategia presenta varias ventajas. Por una parte, permite optimizar los recursos policiales y centrarlos allí donde son más necesarios; de la otra, puede generar resultados más rápidos a la hora de reducir la criminalidad en zonas concretas.

Sin embargo, también plantea algunos retos importantes. El uso del reconocimiento facial en directo puede generar preocupación en materia de privacidad y derechos civiles. Además, la concentración de la actividad policial en determinados barrios podría derivar en percepciones de un exceso de presencia policial.

Finalmente, la eficacia del modelo dependerá en gran medida de la calidad de los datos y de la coordinación entre los diferentes actores implicados.

La nueva estrategia del Reino Unido representa un cambio significativo en la manera de abordar el crimen con arma blanca. Apostando por la tecnología, el análisis de datos y la intervención focalizada, el gobierno busca actuar con más precisión y eficacia.

Al mismo tiempo, la combinación de medidas policiales e iniciativas de prevención social refleja un enfoque más integral del problema. Si bien los resultados todavía están por ver, esta estrategia podría marcar el camino para otros países que afrontan retos similares en materia de seguridad urbana.

_____

Aquest apunt en català / This post in English / Post en français

Augment de la pressió policial als punts calents del crim amb arma blanca

Notes de seguretatDeixa un comentari

El Ministeri de l’Interior britànic, per mitjà de la diputada Sarah Jones, ha anunciat una nova estratègia per combatre el crim amb arma blanca a Anglaterra i Gal·les basada en una idea clau: la major part d’aquests delictes es concentren en zones molt concretes i es repeteixen en els mateixos carrers i franges horàries. Aquesta realitat ha portat el govern britànic a apostar per un enfocament molt més precís, intensiu i basat en dades per reduir aquest tipus de violència.

El pla introdueix una nova tecnologia de cartografia capaç d’identificar punts calents de criminalitat amb una precisió de fins a 0,1 quilòmetres quadrats. Aquesta aproximació, coneguda com a microgeografia, permet a les forces policials detectar amb exactitud no només on es produeixen els delictes, sinó també quan tenen lloc amb més freqüència.

A partir d’aquesta informació, la policia podrà desplegar recursos de manera molt més eficient i centrar-se en aquells espais on el risc és més elevat. L’objectiu és deixar enrere les estratègies generalistes i apostar per intervencions específiques i focalitzades.

Les zones identificades com a punts calents experimentaran un increment notable de l’activitat policial. Algunes de les mesures previstes són:

  • Augmentar les patrulles policials.
  • Instal·lar noves càmeres de videovigilància (CCTV).
  • Usar el reconeixement facial en directe.
  • Implementar arcs detectors d’armes blanques.

Aquest conjunt d’accions pretén dissuadir la comissió de delictes, facilitar la identificació dels autors i millorar la capacitat de resposta immediata davant els incidents.

El govern britànic ha destinat més de 26 milions de lliures a l’anomenat Fons de Concentració de Delictes amb Arma Blanca. Aquest finançament es distribuirà entre 27 forces policials que concentren aproximadament el 90 % dels delictes amb arma blanca del país.

Aquesta inversió s’emmarca dins d’un pla més ampli que té com a objectiu reduir a la meitat el crim amb aquestes armes tallants en el termini d’una dècada. Segons la ministra Sarah Jones, aquesta estratègia permetrà salvar vides i reforçar la seguretat de les comunitats.

Més enllà de l’augment de la pressió policial, el pla també inclou mesures orientades a la prevenció. El govern reconeix que el crim amb arma blanca està sovint relacionat amb factors socioeconòmics, especialment entre els joves.

Per això, es preveu:

  • Crear 50 centres juvenils (Young Futures Hubs) a les zones afectades.
  • Implementar panells per detectar precoçment els joves en situació de risc.
  • Promoure programes de suport a les escoles de les àrees vulnerables.
  • Invertir en programes de reducció de la violència i intervenció comunitària.

Aquest enfocament busca actuar abans que es produeixi el delicte, i oferir alternatives i suport als col·lectius més vulnerables.

L’estratègia presenta diversos avantatges. D’una banda, permet optimitzar els recursos policials i centrar-los allà on són més necessaris; de l’altra, pot generar resultats més ràpids a l’hora de reduir la criminalitat en zones concretes.

Tanmateix, també planteja alguns reptes importants. L’ús del reconeixement facial en directe pot generar preocupació en matèria de privacitat i drets civils. A més, la concentració de l’activitat policial en determinats barris podria derivar en percepcions d’un excés de presència policial.

Finalment, l’eficàcia del model dependrà en gran mesura de la qualitat de les dades i de la coordinació entre els diferents actors implicats.

La nova estratègia del Regne Unit representa un canvi significatiu en la manera d’abordar el crim amb arma blanca. Apostant per la tecnologia, l’anàlisi de dades i la intervenció focalitzada, el govern busca actuar amb més precisió i eficàcia.

Alhora, la combinació de mesures policials i iniciatives de prevenció social reflecteix un enfocament més integral del problema. Si bé els resultats encara s’han de veure, aquesta estratègia podria marcar el camí per a altres països que afronten reptes similars en matèria de seguretat urbana.

_____

Esta entrada en español / This post in English / Post en français

Deux nouvelles études révèlent la façon dont l’intelligence artificielle peut être utilisée pour favoriser la violence sexiste et les abus sexuels

Notes de seguretatDeixa un comentari

La chercheuse Clare McGlynn, experte en violence à l’égard des femmes et des filles, alerte que la dernière génération de chatbots d’intelligence artificielle donne lieu à de nouvelles formes d’abus à une échelle et avec une intensité préoccupantes. Bien qu’il existait déjà un lien entre la technologie et la violence sexiste, notamment avec les deepfakes sexuels et la violence par les images, McGlynn considère que les chatbots représentent un changement qualitatif. Sa recherche documente la façon dont ces outils, souvent accessibles gratuitement, permettent de simuler des scénarios de viol, d’inceste et d’abus sexuels sur des enfants, ainsi que d’autres formes de violence sexiste.

Comme l’indique Patricia Clarke sur observer.co.uk, ce rapport coïncide avec une enquête de l’Internet Watch Foundation (IWF), qui dénonce une croissance rapide des contenus pédopornographiques générés par l’IA. Les données sont particulièrement alarmantes : en 2025, des milliers de vidéos générées par l’IA ont été identifiées, une augmentation exponentielle par rapport à l’année précédente. De plus, une fraction importante de ce contenu est considérée comme extrêmement grave. Dans ce type de contenu, la grande majorité des victimes sont des filles, ce qui met en évidence une claire disparité de genre dans les préjudices subis.

Les rapports coïncident sur le fait que le problème n’est pas seulement l’utilisation abusive de la technologie, mais aussi la façon dont les plateformes sont conçues. Lorsque les entreprises donnent la priorité à la croissance et à l’acquisition d’utilisateurs au détriment de la sécurité, elles créent des environnements qui facilitent les abus. Les modèles d’IA open source sont un facteur de risque important, car n’importe qui peut les télécharger, les modifier et supprimer leurs sauvegardes. Cette accessibilité a été saluée dans des forums du dark web, certains utilisateurs voyant l’IA comme un outil qui leur permet de matérialiser des fantasmes illégaux avec un haut degré de réalisme.

L’un des domaines les plus préoccupants est celui des applications de jeu de rôle et de compagnons, dans lesquelles les chatbots agissent comme des interlocuteurs fictifs. Des plateformes comptant des millions d’utilisateurs permettent de créer des personnages pouvant représenter des situations abusives ou sexualisées, y compris impliquant des mineurs. Le manque de contrôle efficace sur ces contenus et la facilité avec laquelle il est possible d’y accéder amplifient les risques, en particulier pour les jeunes.

McGlynn appelle ce phénomène la « violence simulée par chatbot » et souligne qu’il s’agit d’un problème encore peu visible dans la recherche académique. Malgré l’abondance d’études sur la sécurité de l’IA, les analyses axées sur le genre restent insuffisantes. Cette invisibilité peut contribuer à perpétuer des risques systémiques au fur et à mesure que la technologie évolue.

En ce qui concerne la réglementation, les experts estiment que la réponse actuelle est insuffisante et fragmentée. Certaines mesures, comme la restriction de l’accès à certaines applications, ou même leur interdiction dans certains pays, sont considérées comme limitées, car elles ne s’attaquent pas au problème structurel : la façon dont les plateformes sont conçues. Dans ce contexte, McGlynn propose que le « déploiement dangereux de chatbots d’IA » soit considéré comme un délit afin de responsabiliser les entreprises qui ne mettent pas en place des mesures adéquates de prévention des dommages.

Selon l’IWF, la sécurité dès la conception, qui comprend des tests avant le lancement et des mécanismes d’audit indépendants, doit devenir la norme. Des mouvements se produisent également dans le domaine politique : au Royaume-Uni, la Chambre des lords a proposé d’introduire des responsabilités pénales pour les fournisseurs de chatbots jugés non sécurisés, et il existe une possibilité que ces services soient inclus dans la loi sur la sécurité en ligne. Les critiques soulignent toutefois qu’il manque encore un organisme de réglementation spécifique et des obligations claires pour garantir la sécurité avant que les produits n’atteignent le public.

Pour conclure, les rapports mettent en avant une tension croissante entre l’innovation technologique et la protection des droits fondamentaux. Sans interventions plus fermes, il existe un risque que l’IA reflète, voire amplifie les formes de violence existantes, en particulier à l’égard des femmes et des filles. Pour les professionnels de la sécurité, cela implique le besoin d’adopter une approche proactive axée sur la prévention, la responsabilité et la conception éthique des technologies émergentes.

_____

Aquest apunt en català / Esta entrada en español / This post in English

Two new studies reveal how artificial intelligence can be used to promote gender-based violence and sexual abuse

Notes de seguretatDeixa un comentari

Researcher Clare McGlynn, an expert in violence against women and girls, warns that the latest generation of artificial intelligence chatbots is facilitating new forms of abuse with concerning scale and intensity. Although the relationship between technology and gender-based violence is not new—including sexual deepfakes or image-based abuse—McGlynn believes that chatbots represent a qualitative change. Her research documents how these tools, often available for free, allow users to simulate scenarios of rape, incest, and child sexual abuse, as well as other forms of gender-based violence.

As reported by Patricia Clarke on observer.co.uk, this report coincides with an investigation by the Internet Watch Foundation (IWF), which highlights a rapid increase in child sexual abuse material generated by AI. The data is particularly alarming: in 2025, thousands of AI-generated videos were identified, with an exponential increase compared to the previous year. In addition, a significant proportion of this content is classified at the highest levels of severity. Girls represent the vast majority of victims in this type of material, which evidences a clear gender bias in the harm caused.

Reports agree that the problem is not only the misuse of technology but also the design decisions of the platforms. When companies prioritise growth and user acquisition over security, they create environments that facilitate abuse. In particular, open-source AI models are highlighted as a risk factor, as any user can download them, modify them, and remove their safeguards. This accessibility has been celebrated in dark web forums, where some users see AI as a tool to materialise illegal fantasies with a high degree of realism.

One of the most concerning areas is that of role-playing applications and companies, where chatbots act as fictional interlocutors. Platforms with millions of users allow for the creation of characters that can represent abusive or sexualised situations, including minors. The lack of effective control over this content and the ease of access to it amplify the risks, especially for young users.

McGlynn defines this phenomenon as “chatbot-simulated violence” and emphasises that it is a problem that is still very scarcely visible in academic research. Despite the abundance of studies on AI security, there is a significant lack of analysis focused on gender impact. This invisibility may contribute to perpetuating systemic risks as technology evolves.

In terms of regulation, experts believe that the current response is insufficient and fragmented. Some measures, such as restricting access to certain applications or prohibiting them in certain countries, are seen as limited steps that do not address the structural problem: the very design of the platforms. In this context, McGlynn proposes the creation of a new criminal offence for the “dangerous deployment of AI chatbots”, which would hold companies accountable for not implementing adequate harm prevention measures.

At the same time, the IWF demands that security by design become a mandatory standard, including pre-launch testing and independent audit mechanisms. Political movements are also taking place: in the United Kingdom, the House of Lords has proposed introducing criminal liabilities for providers of unsafe chatbots, and there are plans to include these services within online safety legislation. However, critics point out that there is still a lack of a specific regulator and clear obligations to ensure safety before products reach the public.

Ultimately, the reports reveal a growing tension between technological innovation and the protection of fundamental rights. Without more forceful interventions, there is a risk that AI will not only reflect but also amplify existing forms of violence, especially against women and girls. For security professionals, this implies the need to adopt a proactive approach based on prevention, responsibility, and the ethical design of emerging technologies.

_____

Aquest apunt en català / Esta entrada en español / Post en français

Dos nuevos estudios revelan que la inteligencia artificial se puede utilizar para fomentar la violencia de género y el abuso sexual

Notes de seguretatDeixa un comentari

La investigadora Clare McGlynn, experta en violencia contra mujeres y niñas, alerta de que la última generación de chatbots de inteligencia artificial (IA) está facilitando nuevas formas de abuso de una escala e intensidad preocupantes. Aunque la relación entre tecnología y violencia de género no es nueva —tenemos, por ejemplo, los deep fake sexuales o el abuso basado en imágenes—, McGlynn considera que los chatbots representan un cambio cualitativo. Su investigación documenta que estas herramientas, a menudo accesibles de manera gratuita, permiten a los usuarios simular escenarios de violación, incesto y abuso sexual infantil, así como otras formas de violencia de género.

Tal como informa Patricia Clarke en observer.co.uk, este informe coincide con una investigación de la Internet Watch Foundation (IWF), que denuncia un crecimiento rápido del material de abuso sexual infantil generado por IA. Los datos son especialmente alarmantes: en el 2025 se identificaron miles de vídeos generados por IA, con un incremento exponencial respecto del año anterior. Además, una proporción significativa de este contenido se clasifica en los niveles más extremos de gravedad. Las niñas representan la inmensa mayoría de las víctimas, lo que evidencia un claro sesgo de género en los daños producidos.

Los informes coinciden en señalar que el problema no es solo el uso indebido de la tecnología, sino también las decisiones de diseño de las plataformas. Cuando las empresas priorizan el crecimiento y la captación de usuarios por encima de la seguridad, crean entornos que facilitan el abuso. En particular, los modelos de IA de código abierto son un factor de riesgo, ya que cualquier usuario puede descargarlos, modificarlos y eliminar las salvaguardias. Esta accesibilidad ha sido celebrada en foros de la web oscura (dark web), en la que algunos usuarios ven la IA como una herramienta para materializar fantasías ilegales con un alto grado de realismo.

Uno de los ámbitos más preocupantes es el de las aplicaciones de rol y compañía, en la que los chatbots de conversación actúan como interlocutores ficticios. Plataformas con millones de usuarios permiten crear personajes que pueden representar situaciones abusivas o sexualizadas, incluyendo menores. La falta de control efectivo sobre estos contenidos y la facilidad para acceder a ellos amplifican sus riesgos, especialmente para usuarios jóvenes. 

McGlynn define este fenómeno como “violencia simulada por chatbots” y destaca que es un problema todavía poco visible en la investigación académica. A pesar de la abundancia de estudios sobre seguridad en IA, hay una falta significativa de análisis centrado en el impacto de género. Esta invisibilidad puede contribuir a perpetuar riesgos sistémicos a medida que la tecnología evoluciona.

Con respecto a la regulación, los expertos consideran que la respuesta actual es insuficiente y fragmentada. Algunas medidas, como restringir el acceso a determinadas aplicaciones o prohibirlas en ciertos países, se consideran pasos limitados que no abordan el problema estructural: el propio diseño de las plataformas. En este contexto, McGlynn propone crear un nuevo delito penal para el despliegue peligroso de chatbots de IA, que responsabilice a las empresas de que no implementen medidas adecuadas para prevenir sus daños. Paralelamente, la IWF reclama que la seguridad por diseño se convierta en un estándar obligatorio, que incluya pruebas previas al lanzamiento y mecanismos de auditoría independientes.

También se están produciendo movimientos en el ámbito político: en el Reino Unido, la Cámara de los Lores ha propuesto introducir responsabilidades penales para los proveedores de chatbots inseguros, y se plantea incluir estos servicios dentro de la legislación de seguridad en línea. No obstante, los críticos señalan que todavía falta un regulador específico y obligaciones claras que garanticen la seguridad antes de que los productos lleguen al público.

En definitiva, los informes ponen de manifiesto una tensión creciente entre la innovación tecnológica y la protección de los derechos fundamentales. Sin intervenciones más contundentes, está el riesgo de que la IA no solo refleje formas de violencia existentes, especialmente contra mujeres y niñas, sino que también las amplifique. Para los profesionales de la seguridad, esto implica la necesidad de adoptar un enfoque proactivo, basado en la prevención, la responsabilidad y el diseño ético de las tecnologías emergentes.

_____

Aquest apunt en català / This post in English / Post en français

Dos nous estudis revelen que la intel·ligència artificial es pot utilitzar per fomentar la violència de gènere i l’abús sexual

Notes de seguretatDeixa un comentari

La investigadora Clare McGlynn, experta en violència contra les dones i nenes, alerta que l’última generació de bots de conversa (chatbot) d’intel·ligència artificial (IA) està facilitant noves formes d’abús d’una escala i intensitat preocupants. Tot i que la relació entre tecnologia i violència de gènere no és nova —tenim, per exemple, els hipertrucatges (deepfakes) sexuals o l’abús basat en imatges—, McGlynn considera que els bots de conversa representen un canvi qualitatiu. La seva recerca documenta que aquestes eines, sovint accessibles de manera gratuïta, permeten als usuaris simular escenaris de violació, incest i abús sexual infantil, així com altres formes de violència de gènere.

Tal com informa Patricia Clarke a observer.co.uk, aquest informe coincideix amb una investigació de la Internet Watch Foundation (IWF), que denuncia un creixement ràpid del material d’abús sexual infantil generat per IA. Les dades són especialment alarmants: el 2025 es van identificar milers de vídeos generats per IA, amb un increment exponencial respecte de l’any anterior. A més, una proporció significativa d’aquest contingut es classifica en els nivells més extrems de gravetat. Les nenes representen la immensa majoria de les víctimes, fet que evidencia un clar biaix de gènere en els danys produïts.

Els informes coincideixen a assenyalar que el problema no és només l’ús indegut de la tecnologia, sinó també les decisions de disseny de les plataformes. Quan les empreses prioritzen el creixement i la captació d’usuaris per sobre de la seguretat, creen entorns que faciliten l’abús. En particular, els models d’IA de codi obert són un factor de risc, ja que qualsevol usuari pot descarregar-los, modificar-los i eliminar-ne les salvaguardes. Aquesta accessibilitat ha estat celebrada en fòrums del web fosc (dark web), en què alguns usuaris veuen la IA com una eina per materialitzar fantasies il·legals amb un alt grau de realisme.

Un dels àmbits més preocupants és el de les aplicacions de rol i companyia, en què els bots de conversa actuen com a interlocutors ficticis. Plataformes amb milions d’usuaris permeten crear personatges que poden representar situacions abusives o sexualitzades, incloent-hi menors. La manca de control efectiu sobre aquests continguts i la facilitat per accedir-hi amplifiquen els riscos, especialment per a usuaris joves. 

McGlynn defineix aquest fenomen com a “violència simulada per bots de conversa” i destaca que és un problema encara poc visible en la recerca acadèmica. Malgrat l’abundància d’estudis sobre seguretat en IA, hi ha una manca significativa d’anàlisi centrada en l’impacte de gènere. Aquesta invisibilitat pot contribuir a perpetuar riscos sistèmics a mesura que la tecnologia evoluciona.

Pel que fa a la regulació, els experts consideren que la resposta actual és insuficient i fragmentada. Algunes mesures, com ara restringir l’accés a determinades aplicacions o prohibir-les en certs països, es consideren passos limitats que no aborden el problema estructural: el disseny mateix de les plataformes. En aquest context, McGlynn proposa crear un nou delicte penal per al desplegament perillós de bots de conversa d’IA, que responsabilitzi les empreses que no implementin mesures adequades per prevenir-ne els danys.

Paral·lelament, la IWF reclama que la seguretat per disseny esdevingui un estàndard obligatori, que inclogui proves prèvies al llançament i mecanismes d’auditoria independents. També s’estan produint moviments en l’àmbit polític: al Regne Unit, la Cambra dels Lords ha proposat introduir responsabilitats penals per als proveïdors de bots de conversa insegurs, i es planteja incloure aquests serveis dins la legislació de seguretat en línia. No obstant això, els crítics assenyalen que encara manca un regulador específic i obligacions clares que garanteixin la seguretat abans que els productes arribin al públic.

En definitiva, els informes posen de manifest una tensió creixent entre la innovació tecnològica i la protecció dels drets fonamentals. Sense intervencions més contundents, hi ha el risc que la IA no només reflecteixi formes de violència existents, especialment contra les dones i nenes, sinó que també les amplifiqui. Per als professionals de la seguretat, això implica la necessitat d’adoptar un enfocament proactiu, basat en la prevenció, la responsabilitat i el disseny ètic de les tecnologies emergents.

_____

Esta entrada en español / This post in English / Post en français

Le NIST améliore l’analyse des empreintes digitales grâce à de nouvelles données et à un logiciel open source

Notes de seguretatDeixa un comentari

L’analyse des empreintes digitales est l’un des outils les plus pertinents dans le cadre des enquêtes criminelles. Mais il s’agit aussi d’un processus complexe qui exige une grande précision et expertise. Dans ce contexte, le National Institute of Standards and Technology (NIST) des États-Unis a franchi une étape importante pour moderniser ce domaine : le lancement de nouvelles ressources combinant big data et technologies open source.

Le NIST a récemment achevé sa Special Database 302 (SD 302), une base de données qui compte environ 10 000 empreintes digitales relevées dans des environnements contrôlés auprès de 200 volontaires. Bien que cette base de données existe depuis 2019, jusqu’à présent, seule une partie des images comportait des annotations détaillées. Lors de cette dernière mise à jour, toutes les empreintes ont été entièrement annotées, ce qui a considérablement augmenté leur valeur pour la recherche et la formation.

Ces annotations sont très pertinentes, car elles indiquent la qualité des différentes zones de chaque empreinte au moyen de codes couleur. Cela facilite l’identification des parties d’une empreinte contenant des informations utiles pour l’identification et de celles pouvant être moins fiables. Cette distinction est cruciale tant pour les examinateurs humains que pour les systèmes automatisés, car les empreintes digitales relevées sur les scènes de crime sont souvent incomplètes, floues ou partiellement détériorées.

Du point de vue de la sécurité et de la criminalistique, la disponibilité d’un ensemble de données entièrement annoté est un progrès considérable. Cela facilite la formation de nouveaux professionnels tout en permettant de développer et de valider des algorithmes d’intelligence artificielle ayant une base empirique solide. À une époque où l’IA joue un rôle croissant dans l’analyse des preuves numériques, disposer de données de qualité est essentiel pour garantir des résultats fiables et reproductibles.

En parallèle, le NIST a publié un nouveau logiciel open source appelé Open LQM, une version améliorée d’un outil auparavant utilisé par les forces de l’ordre aux États-Unis. Ce logiciel est conçu pour évaluer automatiquement la qualité des empreintes digitales. Son fonctionnement est relativement simple : il analyse une image et lui attribue un score de 0 à 100 qui reflète le niveau de détail et d’utilité de l’empreinte.

Cette fonctionnalité a des implications pratiques très importantes. Dans une véritable enquête, les analystes peuvent trouver des centaines d’empreintes sur une même scène. La possibilité de les classer automatiquement en fonction de leur qualité permet de donner la priorité à celles qui sont le plus susceptibles de conduire à une identification positive, réduisant ainsi le temps et les ressources nécessaires. De plus, l’utilisation d’une métrique objective contribue à améliorer la cohérence entre les différents examinateurs, un aspect crucial dans les processus judiciaires.

Un autre élément notable est que le logiciel Open LQM est open source et compatible avec plusieurs systèmes d’exploitation, dont Windows, Mac et Linux. Cela facilite son adoption à l’échelle mondiale, tant par les forces de l’ordre que par les centres de recherche ou encore les universités. Cela favorise également la transparence et la collaboration, deux valeurs de plus en plus importantes dans le développement de technologies appliquées à la sécurité.

La combinaison de l’ensemble de données SD 302 entièrement annoté et du logiciel Open LQM offre une plateforme puissante pour faire progresser la science de l’identification par les empreintes digitales. Ces ressources améliorent non seulement les outils actuellement disponibles, mais posent aussi les bases des futures innovations dans le domaine de la criminalistique numérique et de la sécurité.

Pour conclure, l’initiative NIST illustre la façon dont la combinaison de données de qualité, d’outils open source et d’intelligence artificielle peut transformer les processus traditionnels et en accroître l’efficacité et la fiabilité. Pour les professionnels de la sécurité, ces progrès représentent une occasion évidente d’améliorer les capacités d’analyse et de s’adapter à un environnement de plus en plus technologique et exigeant.

_____

Aquest apunt en català / Esta entrada en español / This post in English

NIST drives fingerprint analysis with new data and open-source software

Notes de seguretatDeixa un comentari

The analysis of fingerprints continues to be one of the most relevant tools in criminal investigations, but it is also a complex process that requires great precision and expertise. In this context, the National Institute of Standards and Technology (NIST) in the United States has taken an important step to modernise this field with the launch of new resources that combine big data and open-source technology.

NIST has recently completed its Special Database 302 (SD 302), a set that includes approximately 10,000 fingerprints collected in controlled environments from 200 volunteers. Although this database has existed since 2019, until now only a portion of the images had detailed annotations. With this new update, all fingerprints have been completely annotated, significantly increasing their value for research and training.

These annotations are especially relevant because they indicate the quality of different areas of each imprint using colour codes. In practice, this allows for easier identification of which parts of a fingerprint contain useful information for identification and which may be less reliable. This distinction is fundamental for both human examiners and automated systems, as the fingerprints collected at crime scenes are often incomplete, blurred, or partially deteriorated.

From the perspective of security and forensic investigation, the availability of a fully annotated dataset represents a key advancement. It not only facilitates the training of new professionals, but also allows for the development and validation of artificial intelligence algorithms with a solid empirical foundation. At a time when AI plays an increasing role in the analysis of digital evidence, having quality data is essential to ensure reliable and reproducible results.

At the same time, NIST has released a new open-source software called OpenLQM, an evolution of a tool previously used by law enforcement in the United States. This software is designed to automatically assess the quality of fingerprints. Its operation is relatively simple: it analyses an image and assigns a score between 0 and 100 that reflects the level of detail and usefulness of the imprint.

This functionality has very important practical implications. In a real investigation, analysts may encounter hundreds of fingerprints collected at the same scene. Automatically classifying them according to their quality allows to prioritise those that are more likely to lead to a positive identification, thus reducing the time and resources required. Moreover, the use of an objective metric helps improve consistency among different examiners, a critical aspect in judicial processes.

Another notable element is that OpenLQM is open-source and compatible with multiple operating systems, including Windows, Mac, and Linux. This facilitates its global adoption by both law enforcement agencies and research centres and universities. This openness also fosters transparency and collaboration, two values that are becoming increasingly important in the development of technologies applied to security.

Overall, the combination of the fully annotated SD 302 dataset and the Open LQM software provides a powerful platform for advancing the science of fingerprint identification. These resources not only enhance the tools currently available, but also lay the groundwork for future innovations in the field of digital forensics and security.

Ultimately, the NIST initiative exemplifies how the integration of quality data, open tools, and artificial intelligence can transform traditional processes and enhance their efficiency and reliability. For security professionals, these advancements represent a clear opportunity to enhance analytical capabilities and adapt to an increasingly technological and demanding environment.

_____

Aquest apunt en català / Esta entrada en español / Post en français