Categoria: Innovacions i recerca

Ús de la IA per identificar víctimes d’abús sexual infantil

Notes de seguretatDeixa un comentari

La Policia Metropolitana de Londres (Met) està explorant l’ús de la intel·ligència artificial (IA) com a eina clau per combatre l’abús sexual infantil, especialment en l’àmbit digital, on aquest tipus de delicte creix de manera accelerada. L’objectiu principal és millorar la capacitat d’identificar víctimes de forma més ràpida i eficient, alhora que es redueix l’impacte emocional que suposa per als investigadors revisar manualment grans volums de material altament traumàtic.

Tradicionalment, els agents han hagut de dedicar moltes hores a examinar imatges i vídeos confiscats per determinar si estan vinculats a casos ja coneguts o si apunten a noves víctimes. Aquest procés no només és lent, sinó també psicològicament molt exigent. Amb la introducció de la IA, la Met pretén automatitzar part d’aquesta tasca mitjançant sistemes capaços d’analitzar grans quantitats de contingut en poc temps, identificant patrons, classificacions i possibles indicis de víctimes no identificades. Això permetria prioritzar casos amb més risc i accelerar les intervencions de protecció.

Segons dades recents, la Met va investigar més de 5.400 delictes d’abús sexual infantil en un any, amb més de 1.300 infants que necessiten protecció en casos relacionats amb l’explotació sexual en línia. Aquest fenomen, conegut com a OCSAE (Online Child Sexual Abuse and Exploitation), ha augmentat un 25 % interanual i representa una part significativa de la càrrega policial en l’àmbit nacional. En aquest context, la necessitat de noves eines tecnològiques esdevé crítica per gestionar el volum i la complexitat dels casos.

La IA també podria ajudar a classificar el material segons la seva gravetat (categories A, B i C), destacant els casos més urgents —especialment els de categoria A, que inclouen abusos més greus— per a una intervenció immediata. A més, la Met està provant altres tecnologies capaces de revisar centenars de milers de missatges en qüestió de minuts, una tasca que manualment requeriria dies o setmanes.

Tot i els beneficis potencials, la Met ha subratllat que qualsevol ús de la IA es farà dins de marcs legals i ètics estrictes, amb supervisió humana constant. Els agents especialitzats continuaran sent responsables de la presa de decisions, assegurant que la tecnologia es faci servir com a suport i no com a substitut del judici professional.

Paral·lelament a la innovació tecnològica, la Met també està invertint 10 milions de lliures en la millora dels espais d’entrevista per a víctimes infantils. Aquestes sales, conegudes com a VRI (Visual Recorded Interviews), estan dissenyades per oferir entorns segurs, còmodes i adaptats a les necessitats dels infants, incloent-hi aquells amb discapacitats o neurodivergents. L’objectiu és reduir el trauma associat a la declaració i millorar la qualitat dels testimonis, ja que s’ha demostrat que els infants proporcionen relats més clars quan se senten segurs i recolzats.

Les noves instal·lacions inclouen mobiliari ajustable, espais per al joc i el dibuix, i recursos educatius adaptats a diferents edats. Aquest enfocament centrat en l’infant forma part d’una estratègia més àmplia que també inclou la formació de milers d’agents en comunicació sensible al trauma i l’ampliació d’equips especialitzats en explotació infantil.

Tot i aquests avenços, experts i responsables en l’àmbit de les víctimes recorden que la millora d’infraestructures i tecnologies és només una part de la solució. Un dels grans reptes continua sent garantir que les víctimes rebin suport continu i siguin tractades amb dignitat durant tot el procés judicial, ja que moltes abandonen abans que es prenguin decisions legals.

En conclusió, la combinació d’intel·ligència artificial i inversió en entorns més humans representa un canvi significatiu en la manera com les forces de seguretat fan front a l’abús sexual infantil. Aquest enfocament integrat no només busca augmentar l’eficiència operativa, sinó també posar el benestar de les víctimes i dels professionals al centre de la resposta policial.

_____

Esta entrada en español / This post in English / Post en français

El NIST impulsa l’anàlisi d’empremtes digitals amb noves dades i programari obert

Notes de seguretatDeixa un comentari

L’anàlisi d’empremtes digitals continua sent una de les eines més rellevants en les investigacions criminals, però també és un procés complex que requereix una gran precisió i experiència. En aquest context, l’Institut Nacional d’Estàndards i Tecnologia (NIST) dels Estats Units ha fet un pas important per modernitzar aquest camp amb el llançament de nous recursos que combinen dades massives i tecnologia de codi obert.

El NIST ha completat recentment la seva Base de dades especial 302 (SD 302), un conjunt que inclou aproximadament 10.000 empremtes digitals recollides en entorns controlats, a partir de 200 voluntaris. Tot i que aquesta base de dades ja existia des de l’any 2019, fins ara només una part de les imatges disposava d’anotacions detallades. Amb aquesta nova actualització, totes les empremtes han estat completament anotades, cosa que n’augmenta significativament el valor per a la recerca i la formació.

Aquestes anotacions són especialment rellevants perquè indiquen la qualitat de diferents zones de cada empremta mitjançant codis de colors. En la pràctica, això permet identificar amb més facilitat quines parts d’una empremta contenen informació útil per a la identificació i quines poden ser menys fiables. Aquesta distinció és fonamental tant per als examinadors humans com per als sistemes automatitzats, ja que les empremtes recollides en les escenes del crim sovint són incompletes, borroses o parcialment deteriorades.

Des del punt de vista de la seguretat i la investigació forense, la disponibilitat d’un conjunt de dades completament anotat representa un avenç clau. No només facilita la formació de nous professionals, sinó que també permet desenvolupar i validar algoritmes d’intel·ligència artificial (IA) amb una base empírica sòlida. En un moment en què la IA té un paper creixent en l’anàlisi de proves digitals, disposar de dades de qualitat és essencial per garantir resultats fiables i reproduïbles.

Paral·lelament, el NIST ha alliberat un nou programari de codi obert anomenat Open LQM, una evolució d’una eina prèviament utilitzada per les forces de l’ordre als Estats Units. Aquest programari està dissenyat per avaluar automàticament la qualitat de les empremtes digitals. El seu funcionament és relativament senzill: analitza una imatge i li assigna una puntuació entre 0 i 100 que reflecteix el nivell de detall i utilitat de l’empremta.

Aquesta funcionalitat té implicacions pràctiques molt importants. En una investigació, els analistes poden tenir centenars d’empremtes recollides en una mateixa escena. Poder classificar-les automàticament segons la seva qualitat permet prioritzar aquelles que tenen més probabilitats de conduir a una identificació positiva, i reduir així el temps i els recursos necessaris. A més, l’ús d’una mètrica objectiva contribueix a millorar la consistència entre diferents examinadors, un aspecte crític en els processos judicials.

Un altre element destacable és el fet que Open LQM sigui de codi obert i compatible amb múltiples sistemes operatius, incloent-hi Windows, Mac i Linux. Això en facilita l’adopció a escala global, tant per part d’organismes policials com de centres de recerca i universitats. Aquesta obertura també fomenta la transparència i la col·laboració, dos valors cada cop més importants en el desenvolupament de tecnologies aplicades a la seguretat.

Així doncs, la combinació del conjunt de dades SD 302 completament anotat i el programari Open LQM ofereix una plataforma potent per avançar en la ciència de la identificació per empremtes digitals. Aquests recursos no només milloren les eines disponibles actualment, sinó que també estableixen les bases per a futures innovacions en l’àmbit forense digital i la seguretat.

En definitiva, la iniciativa del NIST exemplifica com la integració de dades de qualitat, eines obertes i intel·ligència artificial pot transformar processos tradicionals i augmentar-ne l’eficiència i la fiabilitat. Per als professionals de la seguretat, aquests avenços representen una oportunitat clara per millorar les capacitats d’anàlisi i adaptar-se a un entorn cada cop més tecnològic i exigent.

_____

Esta entrada en español / This post in English / Post en français

El NIST fa la primera detecció de cànnabis en l’alè dels comestibles als Estats Units

Notes de seguretatDeixa un comentari

El NIST —l’Institut Nacional d’Estàndards i Tecnologia— i els seus socis de la Universitat de Colorado Anschutz han mesurat per primera vegada el tetrahidrocannabinol (THC) en l’alè de les persones que han pres cànnabis comestible.

Aquesta investigació dona suport a la seguretat pública i a l’aplicació de la llei, ja que encara no hi ha proves fiables a la carretera per determinar quan una persona ha consumit cànnabis o si està intoxicat com a resultat d’haver-ne consumit.

Els investigadors del NIST han pogut observar augments i disminucions del THC en l’alè dels participants diverses hores després de menjar llaminadures amb infusió de cànnabis.

El cànnabis ha augmentat l’ús als Estats Units i ha superat l’alcohol com a droga recreativa diària dels nord-americans. Gairebé el 20 % dels consumidors de cànnabis han admès conduir després de consumir-ne. No obstant això, a diferència de l’alcohol, no hi ha proves fiables per al cànnabis. Fins i tot les anàlisis de sang no permeten determinar que una persona ha consumit cànnabis. Això fa que les forces de l’ordre no puguin comprovar el consum recent d’una persona, i molt menys el grau d’intoxicació.

Per complicar encara més les coses, hi ha múltiples maneres de consumir el cànnabis: fumar, vaporejar, ingerir i practicar el dabbing (inhalar una forma concentrada d’extractes de cànnabis). Els científics saben que el component psicoactiu THC apareix a l’alè després de fumar-ne, però què passa amb els formats comestibles?

La resposta és que després del consum d’aquests altres formats de cànnabis el THC també és present en l’alè. En un estudi publicat al Journal of Analytical Toxicology, els investigadors del NIST han pres les primeres mesures de cannabinoides en l’alè després que els participants de l’estudi ingerissin comestibles amb infusió de cànnabis.

Fer un alcoholímetre per al cànnabis és més difícil que fer un alcoholímetre per a l’alcohol. L’alcohol és una molècula relativament senzilla i altament volàtil: viatja fàcilment pels pulmons i s’evapora quan entra en contacte amb l’aire. Però el THC és una molècula més complicada i amb una volatilitat molt baixa. El consum sol ser centenars de vegades menor que l’alcohol. Apareix en concentracions molt petites a l’alè, cosa que fa que la detecció de THC sigui molt més difícil. Els usuaris habituals de cànnabis poden tenir THC a l’alè durant almenys vuit hores i a la sang durant setmanes després de deixar de prendre’n. Això significa que una sola mesura és insuficient per saber quan una persona n’ha consumit per última vegada.

En el nou estudi, els socis del NIST al Campus Mèdic Anschutz de la Universitat de Colorado van observar 29 participants que van portar una llaminadura amb infusió de cànnabis al laboratori. Els comestibles contenien entre 5 i 100 mil·ligrams de THC. Els investigadors primer van prendre una mostra de l’alè dels participants abans d’ingerir el producte. Després van observar cada participant durant tres hores, i van obtenir-ne mostres de l’alè aproximadament cada hora.

Els investigadors del NIST van mesurar la concentració de THC i altres cannabinoides en l’alè en aquests intervals. Van detectar THC en la majoria dels participants abans de prendre el comestible, tot i que se’ls havia demanat que se n’abstinguessin durant vuit hores abans de l’estudi. Això no és sorprenent. El nostre cos processa els cannabinoides lentament, i triga setmanes a treure’ls del nostre sistema, en comparació amb les hores de l’alcohol.

Aquest estudi mostra que el THC que s’empassa en els comestibles pot passar pel sistema digestiu i ser exhalat de nou pels pulmons.

Aquesta investigació dona suport a la idea que múltiples mesures de l’alè durant un període de temps podrien ser una manera d’utilitzar un alcoholímetre per detectar el consum de cànnabis, independentment de com s’ingereixi. No obstant això, els dispositius encara necessitaran uns estàndards que en garanteixin la precisió i que s’utilitzen correctament.

Investigadors: Jennifer L. Berry, Ashley Brooks-Russell, Tara M. Lovestead i Kavita M. Jeerage. La detecció de cannabinoides en l’alè després de la ingestió de comestibles amb infusió de cànnabis. Revista de Toxicologia Analítica. Publicat en línia, el 10 de juliol de 2025. DOI: 10.1093/jat/bkaf063

_____

Esta entrada en español / This post in English / Post en français

Explorant el potencial d’un laboratori d’intel·ligència artificial per a la seguretat pública: lliçons del Regne Unit

Notes de seguretatDeixa un comentari

La intel·ligència artificial (IA) està canviant ràpidament diversos sectors, incloent-hi la seguretat pública. A mesura que la tecnologia avança, es presenten noves oportunitats per fer que la policia sigui més eficient i millor, capaç de respondre a les emergències.

En aquest context, la idea d’un laboratori d’IA per a la policia guanya interès, com una manera d’explorar i aplicar solucions d’IA de manera responsable.

Recentment, el govern del Regne Unit ha publicat un estudi de cas sobre com podria funcionar un laboratori d’IA per a la policia, que ofereix lliçons que poden ser útils per a qualsevol organisme que vulgui integrar la IA en la seguretat.

Per què un laboratori d’IA per a la policia? La IA pot aportar molt a la policia en diverses àrees:

  • Anàlisi de dades. La policia gestiona enormes quantitats de dades, com per exemple els informes de delictes i les imatges de les càmeres de seguretat. La IA pot ajudar a processar aquestes dades ràpidament i a identificar-hi patrons que podrien passar desapercebuts.
  • Predicció i prevenció del crim. Amb l’anàlisi predictiva, la IA pot ajudar a detectar zones o moments amb més probabilitat d’activitat criminal, la qual cosa permetria millorar la distribució dels recursos.
  • Optimització de recursos. La IA pot ajudar a gestionar rutes de patrulla i assignar-hi personal, la qual cosa en milloraria l’eficàcia.
  • Suport en la investigació. Les eines d’IA poden agilitzar la revisió de proves i la identificació de sospitosos, la qual cosa deixaria més temps per a tasques més complexes.
  • Millora en la presa de decisions. La IA pot proporcionar informació i anàlisis basades en dades que ajudin els agents a prendre decisions més informades.

Tanmateix, aplicar la IA en un àmbit tan delicat com la seguretat pública comporta alguns reptes. Aspectes com ara la privacitat, els biaixos en els algorismes, la transparència i la responsabilitat necessiten una atenció acurada. És aquí on un laboratori d’IA pot ser útil.

L’estudi de cas del Regne Unit descriu un model per a un laboratori d’IA que no només se centra en la tecnologia, sinó també en la governança i la col·laboració. Alguns dels punts importants són:

1. Col·laboració multidisciplinària. La creació d’un laboratori d’IA ha de reunir diferents experts: criminòlegs, especialistes en ètica i agents de policia amb experiència. Això assegura que les solucions siguin tècnicament sòlides i pràctiques.

2. Ètica i governança. Abans de començar, cal establir un bon marc ètic. Això inclou definir els principis sobre l’ús responsable de la IA i assegurar la privacitat de les dades.

3. Metodologia àgil. Els projectes d’IA han de ser flexibles, començar amb petites proves, recollir comentaris i adaptar-se abans d’una implementació més àmplia.

4. Col·laboració amb la comunitat. La confiança pública és clau. Un laboratori d’IA hauria de buscar opinions i participar amb la comunitat per abordar preocupacions sobre la privacitat.

5. Necessitats reals. Les solucions d’IA han d’atendre necessitats reals que els agents han identificat. El laboratori ha de treballar per resoldre problemes concrets.

6. Formació. No només es necessita tecnologia, sinó també que els agents entenguin com funcionen aquestes eines. El laboratori hauria de tenir programes de formació.

7. Transparència. Les decisions preses amb la IA han de ser comprensibles. És important que hi hagi responsabilitat en cas d’errors.

En conclusió, l’adopció de la intel·ligència artificial en el camp de la seguretat pública és inevitable. No obstant això, la manera com s’aborda aquesta adopció és crucial.

Un laboratori d’IA ben planificat, amb un fort compromís amb l’ètica, la transparència i la col·laboració, pot assegurar que la IA es converteixi en una eina poderosa per al bé comú, alhora que reforça la seguretat i manté la confiança ciutadana. El model britànic ens ofereix una brúixola valuosa per navegar en aquest camí cap al futur de la policia.

_____

Esta entrada en español / This post in English / Post en français

Bones pràctiques basades en la recerca per a la ciència forense

Notes de seguretatDeixa un comentari

La ciència forense juga un paper fonamental en la justícia penal, però sovint es passa per alt la influència dels factors humans en la seva pràctica. Segons un informe recent del National Institute of Standards and Technology (NIST) dels Estats Units, la integració de pràctiques basades en la recerca pot millorar significativament la qualitat i fiabilitat del treball forense.

Factors humans i entorns de treball

El NIST destaca que hi ha elements, com ara la il·luminació, el soroll o la temperatura, que poden afectar la concentració dels científics forenses. Per exemple, treballar en un entorn tranquil pot millorar la precisió en l’anàlisi de l’ADN. A més, reconèixer i aprendre dels errors sense por a represàlies fomenta una cultura de millora contínua.

Benestar emocional dels professionals

Els analistes forenses sovint s’enfronten a casos traumàtics –per exemple, abusos sexuals en infants–, que poden provocar estrès i trauma. Per prevenir la síndrome d’esgotament professional (burnout) i mantenir la qualitat del treball, el NIST recomana de fer pauses obligatòries i rotació de casos, i tenir accés al suport psicològic.

Aplicació a Catalunya

A Catalunya, la Universitat Autònoma de Barcelona promou bones pràctiques en la recerca, que inclouen l’ètica i la qualitat. Per la seva banda, el Col·legi Oficial de Psicologia de Catalunya ofereix una formació en l’avaluació forense en què es destaca la importància del benestar dels professionals.

Un dels avenços més prometedors de la ciència forense recent no ha vingut de grans laboratoris internacionals, sinó de Catalunya. La policia científica del Cos de Mossos d’Esquadra ha desenvolupat un reactiu pioner anomenat POSME (acrònim en anglès de Powder Suspension of Mossos d’Esquadra), que permet detectar empremtes digitals en superfícies tradicionalment problemàtiques, per exemple, a la pell humana. Aquesta troballa, que ha estat publicada a la prestigiosa revista Journal of Forensic Identification, suposa una revolució en la investigació dels delictes, especialment en els casos de violència sexual, en què, fins ara, sovint faltaven proves físiques concloents.

El POSME combina òxid de ferro amb etanol, aigua i polisorbat 80, i destaca perquè té la capacitat de detectar empremtes envellides i sobre superfícies amb contaminants, com ara sang o lubricants. La seva aplicació és senzilla i el resultat, altament efectiu: després d’aplicar el reactiu com si fos pintura i netejar-lo amb aigua, les empremtes es revelen amb claredat. L’èxit d’aquest reactiu ha despertat l’interès de cossos policials d’arreu del món –per exemple, d’Àustria i de Mèxic– i situa Catalunya com a referent internacional en la innovació forense.

Aquesta fita demostra que la recerca aplicada, quan es fa des del territori i amb un coneixement tècnic especialitzat, pot tenir un impacte directe i transformador en la lluita contra el crim i la millora de la justícia.

Cap a una ciència forense més ferma

Adoptar pràctiques basades en l’evidència pot enfortir la ciència forense a Catalunya, i assegurar resultats més fiables i una millor administració de la justícia. És essencial fomentar entorns de treball òptims, reconèixer la importància del benestar emocional i promoure una cultura de l’aprenentatge i la millora contínua.

Per a més informació, podeu consultar l’informe complet del NIST aquí: https://www.nist.gov/blogs/taking-measure/research-based-practices-can-help-forensic-scientists-do-their-best-work?utm_source=chatgpt.com

_____

Esta entrada en español / This post in English / Post en français

Els cinc grans reptes de seguretat davant la Intel·ligència Artificial Generativa

Notes de seguretatDeixa un comentari

L’organització de recerca RAND va publicar el passat mes de febrer un informe, escrit per Jim Mitre i Joel B. Predd, en què alerta que l’aparició de la Intel·ligència Artificial Generativa (IAG) és una possibilitat real que la comunitat de seguretat nacional dels EUA hauria de prendre seriosament.

L’informe identifica cinc grans reptes que la Intel·ligència Artificial Generativa pot representar per a la seguretat nacional dels EUA: (1) el desenvolupament d’armes revolucionàries, (2) canvis sistèmics en l’equilibri de poder, (3) la capacitat de persones no expertes per crear armes de destrucció massiva, (4) l’emergència d’entitats artificials amb agència pròpia i (5) la inestabilitat generalitzada.

Tot això planteja diversos desafiaments per als estrategs i responsables polítics i de seguretat, que intenten anticipar les amenaces i oportunitats que podrien sorgir tant durant el procés d’assoliment de la IAG com un cop aquesta es materialitzi.

Un nou Manhattan Project tecnològic?

El 1938, la fissura de l’àtom va donar inici a la cursa nuclear. Ara, els avenços en Intel·ligència Artificial Generativa han despertat temors similars en l’àmbit de la seguretat nacional. Serà el proper canvi de paradigma estratègic? I, si és així, quines amenaces comporta per a la seguretat global?

Tot i que la IAG encara és una hipòtesi, la seva plausibilitat exigeix una resposta estratègica per part dels estats. L’estudi de RAND identifica cinc grans problemes que podrien emergir amb el desenvolupament de la IAG:

  • Armes miraculoses i avantatge del primer moviment

El gran temor és que una IAG pugui descobrir un avenç tecnològic revolucionari, permetent el desenvolupament d’armes cibernètiques imparables, sistemes autònoms hiperavançats o estratègies militars perfectament optimitzades. Això podria conferir un avantatge massiu a la primera nació que aconsegueixi controlar-la.

  • Canvi sistèmic en el poder global

La IAG podria alterar la balança de poder entre nacions, no necessàriament mitjançant armes, sinó per mitjà de la seva capacitat per millorar la productivitat, accelerar el descobriment científic o redefinir les dinàmiques econòmiques globals. Això podria donar lloc a un nou ordre mundial on les economies més adaptables a la IAG consolidin el seu domini.

Un risc afegit és que la concentració del desenvolupament de la IAG en poques empreses privades podria donar-los un poder sense precedents, alterant la relació tradicional entre estats i corporacions.

  • Empoderament de no-experts en armes de destrucció massiva

Si la IAG pot facilitar la creació d’armes biològiques o cibernètiques d’alta letalitat, la seguretat global es veurà greument compromesa. Els sistemes actuals ja han demostrat capacitats preocupants en aquest àmbit, i la IAG podria amplificar el risc exponencialment.

  • Entitats artificials amb agència pròpia

La pèrdua de control sobre sistemes IAG podria portar a la creació d’entitats artificials autònomes capaces d’actuar independentment. Això podria suposar un risc per a la presa de decisions crítiques en sectors com la defensa, l’economia i la gestió d’infraestructures essencials.

  • Inestabilitat estratègica

Abans que la IAG acabi d’arribar del tot, la cursa tecnològica entre estats i corporacions pot provocar tensions similars a la Guerra Freda. La percepció que un adversari està a punt d’aconseguir un avantatge decisiu podria desencadenar reaccions preventives, inclús conflictes armats.

Cap a una estratègia resilient

Els Estats Units i els seus aliats han iniciat mesures per mantenir el lideratge en IA, però poden resultar insuficients si la IAG es desenvolupa de manera sobtada o disruptiva.

La IAG pot redefinir el futur de la seguretat global. No es tracta només d’un repte tècnic, sinó d’una revolució estratègica que demana una resposta intel·ligent i anticipatòria. Les decisions preses avui determinaran si la IAG esdevé una força estabilitzadora o una amenaça sense precedents per a la humanitat.

LINK: https://www.rand.org/pubs/perspectives/PEA3691-4.html??cutoff=true&utm_source=AdaptiveMailer&utm_medium=email&utm_campaign=7014N000001Snj1QAC&utm_term=00v4N00000X46iFQAR&org=1674&lvl=100&ite=295095&lea=551752&ctr=0&par=1&trk=a0wQK00000AqgobYAB

_____

Esta entrada en español / This post in English / Post en français

Intel·ligència Artificial i bioseguretat, una arma de doble tall

Notes de seguretatDeixa un comentari

La intel·ligència artificial (IA) està transformant diversos camps, i la biotecnologia no és una excepció. Un recent informe de les Acadèmies Nacionals de Ciències, Enginyeria i Medicina dels EUA destaca el potencial de la IA per millorar la bioseguretat, però també adverteix sobre els riscos del seu mal ús.

El potencial beneficiós de la IA en bioseguretat

La IA pot ser una eina poderosa per a la salut pública. Els models d’IA poden analitzar grans quantitats de dades per ajudar a dissenyar contramesures mèdiques que prevenguin, tractin i mitiguin les amenaces per a la salut, com ara el descobriment de fàrmacs. Això pot accelerar el desenvolupament de vacunes i tractaments per a malalties infeccioses, tant les que sorgeixen de manera natural com les causades per actes intencionats.

Els riscos del mal ús de la IA en biotecnologia

No obstant això, l’informe també adverteix que les eines biològiques habilitades per la IA podrien ser utilitzades amb finalitats nocives. Per exemple, la IA podria dissenyar nous agents biològics amb potencial pandèmic o modificar virus o bacteris existents per fer-los més nocius o transmissibles.

Capacitats actuals i limitacions de les eines d’IA biològiques

L’informe avalua les capacitats actuals de les eines d’IA biològiques per amplificar els beneficis o els riscos de l’aplicació d’eines biològiques. Actualment, cap eina d’IA biològica és capaç de dissenyar un virus completament nou, i les seves capacitats per modificar un agent infecciós existent amb potencial per a conseqüències a escala epidèmica o pandèmica són limitades.

L’informe examina tres tipus d’aplicacions nocives:

Disseny de biomolècules, com ara toxines: Les eines d’IA biològiques disponibles poden dissenyar i redissenyar toxines utilitzant diferents aminoàcids. Tot i això, l’escala de les amenaces potencials probablement es limitaria a l’àmbit local.

Modificació de patògens existents per fer-los més virulents: Les eines d’IA biològiques poden modelar característiques molt específiques que poden predir trets relacionats amb la virulència.

Disseny d’un virus completament nou: Cap eina d’IA biològica disponible actualment té la capacitat de dissenyar un virus nou.

Recomanacions per a la bioseguretat en l’era de la IA

L’informe ofereix diverses recomanacions per mitigar els riscos del mal ús de la IA en biotecnologia:

  • Monitorització i avaluació contínua: Les agències governamentals haurien d’avaluar i mitigar contínuament els riscos que les eines biològiques habilitades per la IA siguin utilitzades de manera indeguda.
  • Recollida estratègica de dades: Tenint en compte la importància de les dades per a l’entrenament de models d’IA, l’informe insta a la recollida estratègica de conjunts de dades biològiques preparats per a la IA.
  • Inversió en infraestructures de dades: La construcció de nous recursos de dades nacionals i altres formes d’infraestructura per donar suport a la IA hauria de ser una prioritat de recerca per als Estats Units per mantenir la competitivitat i la innovació científica.
  • Inversió en recerca i desenvolupament: Els departaments de Defensa, Salut i Serveis Humans, Energia i altres agències federals dels EUA haurien de continuar invertint en recerca, infraestructura de dades i computació d’alt rendiment per impulsar els avenços en la IA i també controlar els riscos potencials.

Conclusió

La IA ofereix un gran potencial per millorar la bioseguretat i protegir-nos de les amenaces biològiques. Tanmateix, és fonamental ser conscients dels riscos del seu mal ús i prendre mesures proactives per mitigar-los. Mitjançant la monitorització contínua, la recollida estratègica de dades, la inversió en infraestructures i la recerca i el desenvolupament, podem aprofitar el poder de la IA per fer del món un lloc més segur.

Link: https://www.nationalacademies.org/news/2025/03/ai-tools-can-enhance-u-s-biosecurity-monitoring-and-mitigation-will-be-needed-to-protect-against-misuse

_____

Esta entrada en español / This post in English / Post en français

La tasca policial i l’ús de la intel·ligència artificial

Notes de seguretatDeixa un comentari

La tecnologia s’usa àmpliament en el treball policial, amb lectors de matrícules, programari de reconeixement facial i altres eines que milloren l’eficiència i l’eficàcia de les forces de l’ordre. Ara, algunes policies estan utilitzant la intel·ligència artificial (IA) per optimitzar el temps dels oficials en el terreny, retallant el temps de dedicació als informes d’incidents policials i millorant-ne la qualitat amb programari que es connecta a les càmeres corporals, carrega les imatges i transcriu l’àudio per generar documents completament detallats, en minuts, segons publica Faye C. Elkins a Dispatch de Cops.

Quan un oficial puja el seu vídeo, les imatges s’envien al núvol per ser analitzades per la IA, que produeix el primer esborrany d’un informe policial basat en l’àudio. Com que la transcripció es basa completament en l’àudio, s’insta els oficials a narrar la situació en temps real. Les eines d’IA no poden analitzar ni resumir el contingut visual del vídeo.

Molts dels creixents organismes encarregats de fer complir la llei que utilitzen la transcripció amb IA la descriuen com un canvi de joc, afirmen que estalvia hores de feina que normalment es dediquen a la redacció de documents i allibera els agents per centrar-se més en les tasques policials. Els seus usuaris ho veuen com un multiplicador de força.

També diuen que la transcripció d’IA garanteix que els informes policials estiguin escrits amb claredat i capturin tot l’intercanvi verbal que envolta un incident, inclòs el discurs que l’oficial no va anotar o no recorda haver escoltat.

Però, malgrat les crítiques favorables, hi ha preocupacions de la comunitat sobre la transparència i el biaix en l’aprenentatge automàtic, així com qüestions sobre l’admissibilitat dels informes escrits per IA en els procediments judicials. Alguns dubten que els fiscals i els advocats defensors acceptin les troballes d’un document d’IA com a evidència.

El programa es va posar a prova durant un any i ara s’està implementant per a tot el personal. El responsable va explicar que es farien auditories mensuals dels informes i que caldria comparar-los amb les imatges de les càmeres corporals per assegurar-se que l’eina s’està utilitzant de manera correcta.

Un supervisor de primera línia revisarà l’informe de l’oficial per assegurar-se que s’ajusti a allò que es veu. Igual que qualsevol informe, l’oficial ha de signar-lo. Però es vol que la comunitat sàpiga que algú ho està supervisant de manera regular.

Una preocupació comuna és el finançament de les noves tecnologies. Quan es va anar a la ciutat a sol·licitar fons, una de les coses que els va impressionar va ser el poc temps que els oficials tenen per seure i escriure informes. I, si estan ocupats, és possible que s’hagin d’esperar fins al final de la seva jornada i fer hores extres fins a completar-los. Per contra, la IA redueix la necessitat de pagar hores extres i augmenta la quantitat de temps que els oficials estan disponibles per concentrar-se en el crim i incrementar la qualitat de vida dels ciutadans. En moments en què la xifra d’empleats ha disminuït, els informes d’IA ajuden molt. Aquesta és la millor manera de presentar-lo a la seva font de finançament.

_____

E·sta entrada en español / This post in English / Post en français

La Unió Europea identifica les principals prioritats en política digital

Notes de seguretatDeixa un comentari

La transformació digital ha demostrat que és un profund canvi en la vida dels ciutadans i les empreses de la Unió. En identificar les principals prioritats de la política digital de la UE que es desenvoluparan en el proper cicle legislatiu, les conclusions del Consell pretenen abordar tant els reptes com les oportunitats de l’esfera digital.

Abstract Earth view from space with fiber optic cables rising from major cities. (World Map Courtesy of NASA: https://visibleearth.nasa.gov/view.php?id=55167)

Les noves tecnologies han impulsat la innovació, el creixement econòmic i la sostenibilitat. No obstant, una transformació digital reeixida s’ha de basar en un enfocament segur, inclusiu, sostenible i centrat en l’ésser humà, que defensa la democràcia i els drets humans. Els drets digitals són fonamentals per a tothom. Cal garantir que ningú es quedi enrere i oferir a tots els europeus l’oportunitat de desenvolupar habilitats digitals essencials i participar activament en l’àmbit del món en línia.

Per millorar la competitivitat de la UE a l’escenari global, caldria fomentar un enfocament europeu comú de les tecnologies digitals innovadores que assoleixin l’equilibri adequat entre la innovació, la càrrega normativa i la protecció de la seguretat econòmica de la Unió. Per assolir aquests objectius, s’han d’establir objectius ambiciosos per al futur pel que fa a les competències digitals, el govern digital i la infraestructura segura i digital a tot Europa.

En les seves conclusions, el Consell subratlla que una aplicació efectiva, coherent i eficient de les lleis recentment aprovades amb la mínima càrrega administrativa per als actors públics i privats és la principal prioritat per al proper mandat.

L’enfocament europeu comú de les tecnologies digitals innovadores és d’una importància clau per a la competitivitat de la UE i per garantir la protecció de la seguretat econòmica de la Unió, alhora que es mantenen l’obertura i el dinamisme econòmics.

Els estats membres reconeixen la importància de garantir un entorn en línia més segur, responsable i fiable d’acord amb la Declaració de Lovaina, aprovada durant la reunió informal de ministres de telecomunicacions el 12 d’abril de 2024.

Els estats membres també subratllen que aquesta transformació digital hauria d’anar de la mà de la transició verda, acompanyada d’objectius ambiciosos de sostenibilitat.

El reforç de la competitivitat de la UE en la transformació digital requereix atraure i retenir una mà d’obra qualificada digitalment, en particular dones, i superar d’aquesta manera la bretxa digital.

A les conclusions del Consell se subratlla la importància de garantir una infraestructura digital segura i resilient a tota la UE. També s’hi subratlla la importància de la dimensió internacional de la política digital de la UE, que acull amb satisfacció l’enfortiment de les associacions digitals i els acords comercials digitals i insisteix en la necessitat de desenvolupar un enfocament de la Unió més proactiu i coordinat per jugar un paper clau a nivell mundial en la transformació i el govern digitals.

_____

Esta entrada en español / This post in English / Post en français

Conduir sota els efectes de les drogues als Estats Units

Notes de seguretatDeixa un comentari

S’estima que, durant l’any 2022, 13,6 milions de persones als Estats Units van conduir en algun moment sota els efectes d’algun tipus de drogues il·lícites.

Quan actualment s’investiguen casos de conducció sota l’efecte d’alguna substància prohibida  i víctimes mortals en accidents de trànsit, el Consell Nacional de Seguretat recomana que els laboratoris de toxicologia forense analitzin regularment la sang per detectar almenys alguna de les 35 drogues més comunes que hi ha darrere de molts d’aquests casos.

No obstant, les limitacions poden interferir en la comprensió de la freqüència amb què el consum de drogues contribueix als incidents de conducció sota els seus efectes. Per entendre-ho millor, els investigadors finançats pel National Institute of Justice  del Centre de Recerca i Educació de Ciències Forenses dels EUA van examinar mostres de sang de més de 2.500 casos i van crear una imatge més detallada de com les drogues interfereixen en la conducció.

La conducció sota els efectes s’associa sovint amb el consum d’alcohol, i evidentment aquest motiu està al darrere d’accidents, lesions i víctimes mortals. Segons la National Highway Traffic Safety Administration, una persona va morir cada 39 minuts en un accident relacionat amb l’abús d’alcohol l’any 2021 als EUA. Però l’alcohol no és l’única preocupació. L’ús de drogues il·lícites, drogues legalitzades com el cànnabis o l’abús de medicaments amb recepta també poden perjudicar les habilitats del conductor i per diferents causes, i això no s’acaba investigant.

Aquestes drogues inclouen noves substàncies psicoactives emergents, medicaments amb recepta i drogues tradicionals d’abús amb prevalença limitada o regional, moltes de les quals requereixen instrumentació avançada per poder-les detectar. La majoria dels laboratoris fan proves de fàrmacs de nivell I, però només fan proves de fàrmacs de nivell II seleccionats quan són rellevants en l’àmbit regional. Per tant, no s’entén bé la freqüència i els tipus de substàncies de nivell II que contribueixen als casos de conducció amb problemes amb drogues i als xocs mortals.

Si una mostra compleix o supera un llindar de concentració d’alcohol en sang predeterminat, alguns laboratoris no faran cap altra prova de drogues addicional. Aquest llindar sol estar marcat en el 0,08% o en el 0,10%. El nivell d’alcohol en sang proscrit per se a tots els estats és del 0,08% (excepte a Utah, on és del 0,05%). Els laboratoris que s’adhereixen a aquesta pràctica no detectaran altres fàrmacs que puguin provocar la conducció sota efectes o contribuir-hi.

Aquesta prova de límit pot interferir en una comprensió completa de la implicació de les drogues en la conducció. Per què l’utilitzen tants laboratoris?

  • Els laboratoris de toxicologia tenen pressupostos i recursos limitats.
  • La conducció de risc es pot explicar no només per la concentració d’alcohol en sang.
  • La manca de sancions pel consum de drogues significa que caldria mesurar més enllà del nivell d’alcoholèmia.
  • Les agències que utilitzen els serveis dels laboratoris han sol·licitat aquest límit.
  • S’admeten les recomanacions del Consell Nacional de Seguretat.
  • Els investigadors van estimar la freqüència amb què els fàrmacs contribueixen al problema provant 2.514 casos amb un abast de 850 fàrmacs terapèutics. Es van examinar mostres de sang seleccionades aleatòriament d’un grup de casos sospitosos de conducció sota els efectes. Les mostres es van recollir a Horsham, Pennsilvània, entre el 2017 i el 2020. Dels 2.514 casos sospitosos examinats:
  • La positivitat global de les drogues (fàrmacs de nivell I o de nivell II) va ser del 79%, gairebé el doble del 40% positiu per alcohol.
  • Una part més petita dels casos (23%) van donar positiu tant en drogues com en alcohol.
  • Només el 17% dels casos van ser positius només per alcohol.
  • Els cannabinoides naturals van experimentar un augment estadísticament significatiu de la positivitat durant els quatre anys d’estudi.

_____

Esta entrada en español / This post in English / Post en français