Etiqueta: Tecnologia

Els robotaxis: implicacions en la seguretat de la seva expansió

Notes de seguretatDeixa un comentari

Els robotaxis no són vehicles de prova experimentals, i això ja no és un simulacre. Molts dels cotxes fantasmals sense conductor de San Francisco són robotaxis comercials, que competeixen directament amb els taxis, Uber i Lyft, així com amb el transport públic. Són una part real, encara que marginal, del sistema de transport de la ciutat. I les empreses que els operen, Cruise i Waymo, semblen disposades a continuar ampliant els seus serveis a San Francisco, Austin, Phoenix i potser fins i tot a Los Angeles en els propers mesos.

Tal com va denunciar l’investigador Benjamin Schneider a la pàgina web Technology review el mes de juliol passat, hi ha una manca d’urgència en el discurs públic sobre els robotaxis. Considera que la majoria de la gent, inclosos molts decisors públics, no són conscients de la rapidesa amb què avança aquesta indústria ni de la gravetat que poden comportar els impactes laborals i de transport o seguretat a curt termini.

Agències designades com la Comissió d’Utilitats Públiques de Califòrnia prenen decisions molt importants sobre els robotaxis amb relativa foscor. Els marcs legals segueixen sent lamentablement inadequats: les ciutats no tenen autoritat reguladora sobre els robotaxis que recorren els seus carrers, i la policia no els pot denunciar legalment per infraccions relacionades amb el seu moviment.

Malauradament, no hi ha cap marc estàndard aprovat pel govern per avaluar la seguretat dels vehicles autònoms. Els vehicles sense conductor de Cruise, en particular, han mostrat una tendència alarmant a aturar-se inexplicablement al mig de la carretera, bloquejant el trànsit durant períodes prolongats de temps. Els funcionaris policials de San Francisco han documentat almenys 92 incidents d’aquest tipus en només sis mesos, inclosos tres que van interrompre els serveis d’emergències.

Aquestes històries crítiques, encara que importants, enfosqueixen la tendència general que s’ha anat creant constantment a favor de la indústria del robotaxi. Durant els darrers anys, Cruise i Waymo han eliminat diversos obstacles reguladors importants, s’han expandit cap a nous mercats i han acumulat més d’un milió de milles en funcionament relativament sense ensurts importants, realment sense conductor a cadascuna de les principals ciutats nord-americanes.

Els robotaxis són operacionalment força diferents dels vehicles autònoms de propietat personal i es troben en una posició molt més bona per al desplegament comercial. Es poden alliberar dins d’una àrea estrictament limitada, el seu ús pot ser controlat de prop per l’empresa que els ha dissenyat i es poden treure immediatament de la carretera en cas de mal temps o si hi ha un altre problema greu.

El sol fet que aquests vehicles estiguin programats per seguir les lleis de trànsit i el límit de velocitat automàticament els fa semblar conductors més segurs que un gran percentatge d’humans a la carretera.

Caldrà veure si els robotaxis estan preparats per al desplegament a una escala significativa, o fins i tot quina seria la mètrica per determinar la preparació. Però llevat d’un canvi significatiu en l’impuls, com un xoc econòmic o una tragèdia horrible, els robotaxis estan posicionats per continuar la seva expansió. Això és suficient per garantir una discussió més àmplia sobre com canviaran les ciutats i la societat en un futur immediat.

Cruise i Waymo estan a prop de ser autoritzats per oferir un servei de robotaxi comercial durant tot el dia a pràcticament tot San Francisco. Això podria tenir immediatament un impacte econòmic considerable en els taxistes i els conductors de la ciutat. El mateix passa amb totes les altres ciutats on Cruise i Waymo s’instal·len. La perspectiva d’automatitzar els conductors professionals ja no és teòrica. És una possibilitat molt real en un futur proper.

A mesura que la tecnologia s’accelera, les polítiques públiques s’han d’accelerar juntament amb ella. Però per mantenir-se al dia, el ciutadà ha de tenir una visió clara de la rapidesa amb què podria arribar el futur.

_____

Esta entrada en español / This post in English / Post en français

Augmenten als Estats Units els centres de control amb videovigilància

Notes de seguretatDeixa un comentari

Les ciutats dels Estats Units han anat establint els anomenats “centres de control a distància”, amb les sigles en anglès RTCC (Remote Tap Changer Control Panel), que, segons la policia, protegeixen els drets de les persones innocents, però, per contra, els crítics amb aquest sistema adverteixen dels excessos d’aquest tipus de vigilància.

El mes de juny passat va aparèixer publicat a la pàgina web wired.com un reportatge signat per l’investigador Zac Larkham, que explicava que a la dècada de 1990, Londres va construir l’anomenat “anell d’acer” amb una xarxa de barreres de formigó, punts de control i milers de càmeres de vídeo que envoltaven la ciutat, a causa dels bombardejos de l’exèrcit republicà irlandès. La idea era controlar tothom que entrava i sortia de la milla quadrada, el que es va acabar anomenant “urbanisme fortalesa”.

Després dels atemptats de l’11 de setembre de 2001, els urbanistes que buscaven defensar Nova York del terrorisme van recórrer a l’experiència de Londres i a l’urbanisme de la fortalesa per inspirar-se. Els anomenats “centres de fusió”, on les policies nord-americanes comparteixen intel·ligència a nivell federal per analitzar-la i construir una imatge més àmplia de la delinqüència, feia uns quants anys que existien. Però els funcionaris van començar a preguntar-se què passaria si poguessin fer localitzacions geogràfiques des d’aquests centres de fusió, què passaria si les forces de l’ordre locals poguessin analitzar i reunir dades d’intel·ligència d’una ciutat.

El 2005 van respondre amb l’anomenat “primer centre de delinqüència en temps real”, una xarxa extensa de CCTV i lectors automàtics de matrícules (ALPR) connectat a un nucli central a la seu del Departament de Policia de Nova York, que va costar més d’onze milions de dòlars. Des de llavors, des de Miami fins a Seattle, els RTCC s’han anat expandint per tots els Estats Units. L’Atles de vigilància, un projecte de l’entitat sense ànim de lucre de drets digitals Electronic Frontier Foundation (EFF), que supervisa la tecnologia de vigilància policial, ha comptabilitzat 123 RTCC a tot el país, i aquest nombre va en augment.

Cada RTCC és lleugerament diferent, però la seva funció és la mateixa: recopilar dades de vigilància a tota una ciutat i utilitzar-les per crear una imatge en directe del crim a la ciutat. Els departaments de policia tenen a la seva disposició una gran varietat de tecnologies que van des de CCTV, sensors de trets i monitorització de xarxes socials fins a drons i càmeres corporals. En molts casos, les imatges que recullen els sistemes policials s’executen mitjançant la tecnologia de reconeixement facial i les dades recopilades sovint s’utilitzen en la policia predictiva.  

Tanmateix, la majoria d’evidències sobre l’eficàcia dels RTCC són anecdòtiques i existeix una manca efectiva d’estudis sobre l’eficàcia real d’aquest sistema. A Detroit, un estudi de l’Institut Nacional de Justícia va concloure que el Projecte Green Light, on el Departament de Policia de Detroit va establir càmeres en més de 550 ubicacions, incloses escoles, esglésies, empreses privades i centres de salut, va ajudar a disminuir la violència contra la propietat en alguns casos o zones, però no va contribuir a prevenir delictes violents i altres tipus de delictes. Amb tot, els departaments de policia argumenten que els RTCC són positius per a la seva feina.

Poca gent sap que existeixen els RTCC, i molt menys l’abast de la vigilància que comporten, de manera que aquests centres de control que es van estenent poden rebre poc escrutini públic i sovint funcionen sense gaire supervisió. Fa temps que des de diversos sectors hi ha preocupació sobre com aquestes tecnologies de vigilància podrien afectar la Primera i la Quarta Esmenes.

_____

Esta entrada en español / This post in English / Post en français

Com aprofitar la intel·ligència artificial per enfortir la ciberseguretat

Notes de seguretatDeixa un comentari

El proppassat mes de juny, el director de seguretat de la informació de Crypto.com, Jason Lau, va publicar al web especialitzat en seguretat ooda.com diverses informacions per tal d’utilitzar les potencialitats que ofereix la intel·ligència artificial (IA) en benefici de la ciberseguretat.

L’autor considera que en l’àmbit de la ciberseguretat cal establir un avantatge estratègic respecte dels delinqüents mitjançant la identificació proactiva i la neutralització de les amenaces abans que provoquin danys. En aquest sentit, també creu que l’aprenentatge continu amb els incidents passats pot millorar les respostes futures, utilitzant les eines orientades i impulsades per IA per identificar, comprendre i neutralitzar les amenaces. Per això, proposa els següents passos:

• Utilitzar una plataforma automatitzada d’intel·ligència d’amenaces impulsada per IA que reconegui signatures, tàctiques, tècniques i procediments externs en temps real. Aquesta plataforma treballa per ser significativament més ràpida a l’hora d’identificar i neutralitzar el phishing, el programari maliciós i altres amenaces de punt final, evolucionant i aprenent dels mètodes d’atac.

• Implementació d’alerta i monitorització automatitzada contínua d’actius sensibles, des de l’inventari utilitzat a tota l’empresa fins a l’escaneig d’informació d’identificació personal per detectar casos concrets d’exposició de text sense format i d’alertes als equips.

• Realització de revisions contínues de codi basades en IA, cerca d’excepcions de codi, errors de llenguatge script entre llocs, injecció de codi, desbordament de memòria intermèdia i molt més, i substituir-lo automàticament per codi segur mantenint la integritat funcional del codi.

• Involucrar la IA per detectar la mateixa IA maliciosa: atacs indirectes d’injecció ràpida, que destaquen les amenaces emergents en què els adversaris intenten infiltrar-se en els grans models de llenguatge, passant per la IA que s’utilitza per detectar programari maliciós i molt més.

A mesura que ens endinsem cap a un futur cada cop més interconnectat, la IA emergeix, sens dubte, com un aliat potent, una avantguarda en primera línia, que ajuda a predir, preparar-se i prevenir ràpidament les amenaces cibernètiques imminents.

No obstant això, també s’està tornant molt clar que posseir una eina tan poderosa no és suficient. Els líders de la ciberseguretat actuals estan cridats a fer més que no només reaccionar i respondre. Han d’adoptar una postura proactiva, planificant, predint i posicionant constantment les seves defenses, fent les gestions necessàries per mantenir-se un pas per davant de l’onada implacable d’adversaris cibernètics.

No obstant això, avançant massa ràpid, sense un enfocament pensat i reflexiu, ens arrisquem a trepitjar el terreny fràgil de l’ètica. Com s’utilitza la IA en la ciberseguretat és tan crucial com per què i on triem desplegar-la. Com a líders, és imprescindible entrellaçar el fil de les consideracions ètiques amb les nostres estratègies d’IA, establint una forta brúixola moral que ens guiï pel laberint de possibilitats tecnològiques.

En aquest joc d’escacs de ciberseguretat, els reptes de demà ja han arribat a la nostra porta. Tenir un pla de ciberseguretat ja no és una opció, sinó un requisit per a la supervivència. Però una necessitat crítica a considerar és com la IA pot ajudar a capacitar els equips de seguretat perquè siguin més àgils i s’adaptin a les amenaces cibernètiques noves i emergents.

_____

Esta entrada en español / This post in English / Post en français

Contacte policial amb el públic: persones, tecnologia i confiança pública al Regne Unit

Notes de seguretatDeixa un comentari

El mes de febrer passat, el consultor policial independent Nick Gargan va presentar un estudi en unes jornades organitzades per Cityforum, una organització d’assessorament polític i desenvolupament estratègic. En aquest àmbit, es van reunir els principals caps de policia del Regne Unit, proveïdors i acadèmics on van intercanviar idees sobre la transformació del contacte públic de la policia. Gargan va reflexionar sobre problemes clau del servei públic policial, sobre com abordar les expectatives del públic, el canvi creixent als canals digitals, les opcions de millora en la prestació dels serveis i el fet que tot el sistema de contacte policia-públic està sota una gran pressió.

Abans, les forces policials del Regne Unit es preparaven per a una nit espectacular amb una demanda extraordinària de serveis un cop l’any, amb unes 100.000 trucades només la nit de Cap d’Any. Ara, per a moltes forces, aquesta demanda extraordinària és una realitat habitual, de vegades diària.

Cada cos policial té la seva pròpia història per explicar, però el patró general reflecteix la demanda de contacte públic, que és entre un 20 i un 25% per sobre dels nivells previs a la pandèmia. I augmenta aproximadament un 7% anual. Realment, alguna cosa trontolla.

Dels 350 judicis de qualificació individuals que s’han dictat, el 30% ha qualificat el rendiment de la força policial com “que requereix millora” o simplement “insuficient”. Menys de la meitat ha estat millor que suficient.

I l’àrea de rendiment més problemàtica de totes? “Resposta al públic”. És probable que la primera etapa del contacte de la majoria dels ciutadans amb la policia sigui la més feble i la menys satisfactòria.

Aquests reptes es produeixen malgrat els esforços per mantenir el sistema en funcionament. Hi ha hagut onades successives de reformes i innovacions a l’espai de gestió de contactes policials. Però hi ha una diferència entre afrontar heroicament un repte que no es pot guanyar i guanyar. “Polir el problema” ja no funciona.

El Regne Unit va registrar més de 35 milions d’emergències l’any 2022. I el nombre continua creixent. Els delictes violents augmenten: els delictes sexuals van augmentar d’un terç el 2022 i els homicidis, una quarta part.

S’estan presentant nous tipus d’emergències: els incendis forestals, els huracans i les inundacions han provocat un augment de vuit vegades els desastres naturals en els darrers 40 anys. Les emergències mèdiques també augmenten: hi va haver més de 16 milions de visites als serveis d’accidents i urgències l’any 2022. I els canvis de població continuaran alimentant la demanda: el 2050 la població major de 65 anys del Regne Unit haurà augmentat un 25%.

Fer que els agents arribin al carrer per respondre els telèfons pot ser desagradable, però també és inevitable si hi ha una taxa de vacants del 37%. L’augment de les taxes de desgast del personal només serveix per accentuar el repte.

Enfront d’aquest vertiginós augment de la demanda actual i futura, els reptes de recursos. Fins i tot el reclutament als nivells d’establiment actuals seria, sens dubte, insuficient, però moltes forces lluiten per gestionar-ho en el clima laboral actual, especialment al sud-est del país.

Es demana a menys personal que tracti més demanda i més complexa i que gestioni els desplegaments d’una mà d’obra amb menys experiència que utilitza tecnologia que, en molts llocs, té una gran necessitat de modernització.

Calen mesures a curt termini per cobrir els buits de contractació i fins i tot augmentar la mà d’obra però, en última instància, és probable que sigui tan inútil com construir més carrils a l’autopista M-25: pot semblar que estàs fent alguna cosa amb un propòsit, però és poc probable que siqui així. Cal resoldre el problema.

_____

Esta entrada en español / This post in English / Post en français

Una pausa en el desenvolupament de la IA és la resposta?

Notes de seguretatDeixa un comentari

Els espinosos reptes que plantegen els xatbots i la IA no desapareixeran de sobte. Així ho planteja el web especialitzat en seguretat Oodaloop. I tot i que moltes persones ben informades i ben intencionades han signat una petició demanant una pausa de sis mesos en la investigació avançada d’IA, fer-ho és poc realista i poc prudent. Els problemes plantejats són complexos, enredats i difícils de resoldre perquè són increïblement enrevessats i polièdrics. Implica tantes parts interessades, dominis que s’entrecreuen i interessos en competència que fa difícil d’abordar-los. Una pausa en la investigació tecnològica no ajudarà a resoldre aquests enigmes humans.

El que hi ajudarà són els compromisos públics sistemàtics, metòdics i massius que informen els projectes pilot associats amb les implicacions empresarials i civils de la intel·ligència artificial a nivell nacional i local. Tothom es veurà afectat per les promeses i els perills potencials del canvi tecnològic en el pensament presentat pels avenços en IA. Per tant, tothom hi hauria de tenir veu, i tothom hauria de treballar per garantir que les societats estiguin ben informades i preparades per prosperar en un món que canvia ràpidament i que aviat semblarà molt diferent.

A primera vista, aturar-ne el desenvolupament pot semblar convincent donats els reptes que plantegen els grans models de llenguatge (LLM), però hi ha diverses raons per les quals aquest enfocament és defectuós. Per començar, és essencial tenir en compte la competència global. Fins i tot si totes les empreses nord-americanes acceptessin una pausa, altres països continuarien la seva investigació en IA, fent que qualsevol acord nacional o internacional fos menys efectiu.

En segon terme, la difusió de la IA ja està en marxa. L’experiment Alpaca de la Universitat de Stanford va demostrar que es podria perfeccionar perquè coincidís amb les capacitats de XatGPT-3 per menys de 600 dòlars. Aquest avenç accelera la propagació de la IA fent-la més accessible per a diversos actors, inclosos aquells amb mala intenció.

En tercer lloc, la història ens ensenya que una pausa en la IA podria conduir a un desenvolupament secret. Aturar públicament la investigació en IA podria impulsar les nacions a dur a terme investigacions avançades en IA en secret, cosa que podria tenir conseqüències nefastes per a les societats obertes. Aquest escenari és semblant al de la Convenció de l’Haia de 1899, on les grans potències van prohibir públicament els projectils plens de verí, només per continuar la seva investigació en secret, i finalment van desplegar gasos nocius durant la Primera Guerra Mundial.

De cara al futur, per abordar amb eficàcia els reptes que sorgeixen de la IA, caldria fomentar un enfocament proactiu, orientat als resultats i cooperatiu amb el públic. Els laboratoris d’idees o think tanks i les universitats poden involucrar el públic en converses sobre com treballar, viure, governar i conviure amb les tecnologies modernes que afecten tota la societat. Mitjançant la participació de veus diverses en el procés de presa de decisions, es pot abordar i resoldre millor els complexos reptes que presenta la IA a nivell local i nacional.

A més, caldria animar els líders industrials i polítics a participar en la recerca de solucions no partidistes i multisectorials per tal que la societat civil es mantingui estable. Treballant junts, es pot superar la bretxa entre els avenços tecnològics i les seves implicacions socials.

Finalment, és essencial posar en marxa plans pilot d’IA en diversos sectors, com ara el treball, l’educació, la salut, el dret i la societat civil. Caldria aprendre com es poden crear entorns civils responsables on les IA es puguin desenvolupar i desplegar de manera responsable. Aquestes iniciatives poden ajudar a comprendre i integrar millor la intel·ligència artificial a les nostres vides i assegurar-nos que el seu potencial s’aprofiti per al bé general alhora que se’n mitiguen els riscos.

_____

Esta entrada en español / This post in English / Post en français

Investiguen si les càmeres corporals són eficients per a la policia d’Austràlia

Notes de seguretatDeixa un comentari

L’ús de càmeres de vídeo que porten al cos els policies és una àrea d’interès emergent per a les polítiques públiques i la pràctica policial. Les càmeres policials poden generar eficiència en costos i temps per a la policia, influir en les decisions operatives de les forces de l’ordre i ajudar a prevenir problemes entre els ciutadans i els uniformats. Un objectiu de les càmeres que porten les forces de l’ordre seria optimitzar la recollida d’evidències policials i millorar el comportament tant de la policia com dels ciutadans.

El cos de policia d’Austràlia Occidental és responsable de vigilar els 2,5 milions de quilòmetres quadrats d’aquesta zona, que compta amb més de 150 comissaries en vuit districtes metropolitans i set de regionals. El programa aplicat, tal com informa el National Institute of Justice dels Estats Units, es va desenvolupar durant un període de 6 mesos a partir de l’inici de l’any 2022, i consistia a equipar tots els agents de policia que treballen al carrer amb càmeres corporals. El resultat va ser de més d’1,4 milions de càrregues d’evidències de l’ús de les càmeres de vídeo. El programa, que es basava en el desplegament d’aquesta tecnologia de càmeres millorada, va ser capaç de transmetre imatges de vídeo en directe als centres de comandament i a membres del personal.

No hi va haver diferències estadísticament significatives en les ordres d’allunyament emeses o en les agressions a la policia entre els dies de tractament amb càmeres policials i els dies de control (quan cap agent portava càmeres). Els dies de tractament van tenir índexs estadísticament significatius d’ús de la força, queixes dels ciutadans contra la policia i càrrecs penals, en comparació amb els dies de control.

La revisió d’aquest estudi es va centrar en la recopilació d’evidències i els resultats del comportament policial-públic. Les dades dels resultats es van obtenir a partir de nombrosos conjunts de dades operatives. Una qualificació sense efectes implica que la implementació del programa és poc probable que doni els resultats previstos i pot donar lloc a resultats negatius, com va ser el cas.

No hi va haver cap diferència estadísticament significativa entre la durada mitjana d’un enregistrament d’àudio d’una entrevista en dies de tractament de vídeo corporal, en comparació amb els dies de control, quan no es van utilitzar càmeres. Tampoc n’hi va haver en els següents casos: taxa d’assalts a la policia, avisos d’infracció del codi penal o en les taxes d’ordres d’allunyament emeses per la policia.

Les taxes d’ús de la força van ser més altes els dies de tractament de càmeres corporals, en comparació amb els dies de control. Hi va haver un incident d’ús de la força per cada 1.000 treballs d’enviament assistit per ordinador els dies de tractament i 0,7 incidències per cada 1.000 treballs d’enviament assistit per ordinador els dies de control. Aquesta diferència va ser estadísticament significativa i en la direcció oposada a l’esperada.

Les queixes dels ciutadans contra la policia eren més freqüents els dies de tractament amb càmeres, en comparació amb els dies de control. Hi va haver 0,7 queixes per cada 1.000 llocs de treball assistit per ordinador els dies de tractament i 0,4 queixes per cada 1.000 llocs de treball assistit per ordinador els dies de control. Aquesta diferència va ser estadísticament significativa i en la direcció oposada a l’esperada.

Les taxes de càrrecs penals van ser més altes els dies de tractament amb càmeres corporals, en comparació amb els dies de control. Hi va haver 139,2 càrrecs penals per cada 1.000 llocs de treball assistit per ordinador els dies de tractament, en comparació amb 125,5 càrrecs penals per cada 1.000 llocs de treball assistit per ordinador els dies de control. Aquesta diferència va ser estadísticament significativa.

_____

Esta entrada en español / This post in English / Post en français

Programa de connectivitat segura: el Consell Europeu hi dona l’aprovació definitiva

Notes de seguretatDeixa un comentari

El Consell Europeu ha adoptat un reglament sobre el programa de connectivitat segura de la Unió Europea per al període 2023-2027. Aquest és l’últim pas en el procés de presa de decisions.

El programa estableix objectius perquè la Unió Europea desplegui una constel·lació de satèl·lits de la UE anomenada IRIS (Infraestructura per a la resiliència, la interconnectivitat i la seguretat per satèl·lit). IRIS proporcionarà serveis de comunicació ultraràpids i altament segurs l’any 2027. La seguretat d’aquestes comunicacions es basarà en tecnologies avançades d’encriptació, inclosa la criptografia quàntica, un mètode que utilitza les propietats de la mecànica quàntica per assegurar i transmetre dades en una forma que no es pot piratejar.

Els governs es beneficiaran d’aquest sistema de comunicació espacial per a serveis com la protecció d’infraestructures crítiques, la vigilància, el suport a l’acció exterior o la gestió de crisis, cosa que ajudarà a millorar la resiliència i la sobirania de la UE.

El programa contribueix a la transició digital de la UE i a l’estratègia de passarel·la global, ja que pot proporcionar connectivitat segura a zones geogràfiques d’interès estratègic més enllà de les fronteres europees, com ara la regió àrtica o l’Àfrica.

Disposar d’un sistema de comunicacions basat en satèl·lits també pot garantir serveis de comunicació ràpids i segurs, fins i tot quan les xarxes de comunicació terrestre s’hagin interromput, per exemple per desastres naturals, terrorisme o ciberatacs.

El sistema inclou noves infraestructures que es construiran mitjançant l’adjudicació de contractes. Els concessionaris també haurien de proporcionar els recursos per als serveis comercials, i garantir així que els avenços tecnològics i el seu ús per part dels governs siguin un dels motors de la innovació i una comercialització més àmplia a la Unió.

El programa reforça la competitivitat dels serveis de comunicacions per satèl·lit de la UE a través d’un projecte innovador liderat per l’Agència de la UE per al Programa Espacial (EUSPA) i que implica una sèrie de socis, com ara els estats membres, l’Agència Espacial Europea (ESA) i empreses privades.

El 15 de febrer de 2022, la Comissió va presentar la proposta de reglament que estableix el programa. Després de les negociacions interinstitucionals, el Parlament Europeu i el Consell van arribar a un acord polític provisional el 17 de novembre de 2022.

Aquest programa és especialment important per a òrbites baixes. Actualment, les òrbites baixes estan cada cop més ocupades per megaconstel·lacions de tercers països, i els operadors de la UE s’enfronten a reptes a causa de la naturalesa intensiva de capital d’aquests projectes.

Aquest nou projecte promourà sinergies amb la resta de components del programa espacial de la UE, com ara Galileu (navegació per satèl·lit) i Copèrnic (observació de la Terra), i amb capacitats de consciència de la situació espacial. Es basa en les comunicacions governamentals per satèl·lit de la Unió Europea (GOVSATCOM), que també és un component del programa espacial de la UE.

El programa té un pressupost de 2.400 milions d’euros, una part dels quals prové de diferents dotacions, com ara el programa espacial de la UE, Horitzó Europa i l’Instrument de Desenvolupament de Veïnatge i Cooperació Internacional – Europa Global (NDICI).

_____

Esta entrada en español / This post in English / Post en français

Policies del Canadà aconsegueixen fer permanents les càmeres corporals i del vehicle

Notes de seguretatDeixa un comentari

Tal com informa el web canadenc City news everywhere, el servei de policia de Waterloo Regional Police Service South Division va iniciar fa uns mesos un projecte pilot a gran escala d’instal·lació de càmeres corporals i als vehicles, com a part d’un projecte de modernització global de la institució.

El projecte pilot, desenvolupat entre el juny de 2021 i l’octubre de 2022 i que va desplegar càmeres corporals per als agents de policia i dins dels cotxes, es convertirà ara en permanent després de ser aprovat recentment en una reunió de la junta de serveis policials. El projecte també inclou una estratègia de desplegament de telèfons mòbils i un sistema de gestió d’evidències digitals.

A través dels membres del servei de policia, entrenats per a l’ocasió, el propòsit del pla pilot era determinar la viabilitat i la capacitat de la tecnologia per capturar proves, alhora que equilibrava els drets de privadesa dels ciutadans.

Els indicadors clau de rendiment del pla pilot es van centrar en les percepcions tant dels membres policials com de la comunitat, la càrrega de treball administratiu i els impactes de càrrecs i conviccions.

Els objectius generals incloïen l’exploració de la millora de la responsabilitat policial, la representació precisa de les interaccions policials amb el públic, la millora de la seguretat pública i dels agents, un compromís reforçat amb la prestació de serveis sense prejudicis i la millora de l’evidència amb finalitats d’investigació, judicial i de supervisió.

El projecte pilot també incloïa una consulta a la comunitat i als membres del servei policial a través d’un seminari web, una enquesta general i una invitació directa a les comunitats culturals de la regió.

Des de diversos càrrecs policials, es va considerar que hi ha un clar suport per afavorir un programa definitiu d’instal·lació de càmeres per al servei policial. La comunitat també va considerar que aquesta era una bona inversió financera, que això millorarà la transparència i que el programa reforçarà el compromís amb una policia lliure de prejudicis. I d’aquesta manera, la tecnologia ajudarà a construir fonaments de creació de confiança de la policia amb la comunitat.

Així mateix, es va considerar que millorarà la transparència amb la comunitat, que ajudarà a protegir-los amb queixes públiques i que proporcionarà proves per als tribunals.

Finalment, es va decidir fer permanent el pla pilot, ja que la gran majoria d’enquestats va considerar que la tecnologia de vídeo és molt valorada com a eina d’inversió per contribuir a una comunitat policial transparent, eficaç i professional.

_____

Esta entrada en español / This post in English / Post en français

Intel·ligència artificial i policia: una qüestió de confiança

Notes de seguretatDeixa un comentari

La perspectiva de l’augment de l’ús policial de la intel·ligència artificial (IA), especialment al voltant de la policia predictiva, ha generat preocupacions sobre possibles biaixos i la necessitat de transparència i capacitat d’explicació.

El doctor Nick Evans, de la Universitat de Tasmània (Austràlia), publica un article a Policing Insight on explica que, amb les garanties adequades, l’ús de la IA podria establir una objectivitat integrada per a les decisions policials i, potencialment, una confiança més gran en la presa d’aquestes decisions.

Tot i que les aplicacions de policia predictiva plantegen les qüestions ètiques i legals més espinoses i, per tant, mereixen una consideració seriosa, també és important destacar altres aplicacions de la IA per a la policia.

L’informe ASPI de Teagan Westendorf, ‘Intel·ligència artificial i policia a Austràlia’, n’és un exemple recent. Westendorf argumenta que les polítiques i els marcs reguladors del govern australià no recullen prou les limitacions actuals de la tecnologia d’IA i que aquestes limitacions poden comprometre principis d’IA i d’ètica, segura i explicable en el context de la policia.

La IA pot ajudar en les investigacions accelerant la transcripció de les entrevistes i l’anàlisi de les imatges de CCTV. Els algoritmes de reconeixement d’imatges també poden ajudar a detectar i processar material d’explotació infantil i ajudar així a limitar l’exposició humana.

Com tots els humans, els agents de policia poden tenir biaixos conscients i inconscients que poden influir en la presa de decisions i en els resultats de la policia. Els algoritmes de policia predictiva sovint s’han d’entrenar en conjunts de dades que capturen aquests resultats.

Després de tot, un avantatge clau de la IA rau en la seva capacitat per analitzar grans conjunts de dades i detectar relacions massa subtils perquè la ment humana les identifiqui. Fer que els models siguin més comprensibles simplificant-los pot requerir compensacions en sensibilitat i, per tant, també en precisió.

De fet, la investigació suggereix que quan els individus confien en el procés de presa de decisions, és més probable que confiïn en els resultats en entorns de justícia, fins i tot si aquests resultats són desfavorables.

Tal com assenyala Westendorf, es poden prendre mesures per mitigar el biaix, com ara codificar preventivament contra biaixos previsibles i implicar analistes humans en els processos de construcció i aprofitament de sistemes d’IA.

Investigacions recents han trobat que el nivell de confiança de la gent en la policia (que és relativament alt a Austràlia) es correlaciona amb el seu nivell d’acceptació dels canvis en les eines i la tecnologia que utilitza.

Amb aquest tipus de salvaguardes establertes (així com les revisions i avaluacions del desplegament), l’ús de la IA pot tenir el resultat d’establir l’objectivitat integrada per a les decisions policials i reduir la confiança en les heurístiques i altres pràctiques subjectives de presa de decisions. Amb el temps, l’ús de la IA pot ajudar a millorar els resultats de la policia.

No obstant això, la necessitat d’explicabilitat és només una consideració per millorar la responsabilitat i la confiança pública en l’ús dels sistemes d’IA per part de la policia, especialment quan es tracta de la policia predictiva.

En un altre estudi, els participants exposats a aplicacions policials suposadament exitoses de la tecnologia d’IA eren més propensos a donar suport a un ús policial més ampli d’aquestes tecnologies que aquells exposats a usos infructuosos o no exposats a exemples d’aplicació d’IA.

Això suggereix que centrar-se en una confiança més àmplia del públic en la policia serà vital per mantenir la confiança pública en l’ús de la IA en la policia, independentment del grau de transparència i explicabilitat algorítmica. L’objectiu d’una IA transparent i explicable no hauria de deixar de banda aquest context més ampli.

_____

Esta entrada en español / This post in English / Post en français

Procés de reforma del marc de vigilància electrònica a Austràlia

Notes de seguretatDeixa un comentari

Internet i les comunicacions digitals han canviat per sempre la nostra manera de viure, treballar i fer negocis. Aquests avenços tecnològics, sens dubte, han millorat molts aspectes de les nostres vides. Tanmateix, també han estat acceptats i aprofitats per delinqüents, terroristes i altres actors perillosos. Les lleis australianes han lluitat per seguir el ritme, creant reptes importants per a les agències que tinguin una necessitat legítima d’exercir poders de vigilància electrònica.

Les agències policials, inclosos els cossos d’anticorrupció, i l’Australian Security Intelligence Organisation (ASIO) requereixen de vegades d’accés a una informació específica.

L’objectiu d’aquesta reforma de vigilància electrònica és desenvolupar una nova llei única que:

  • protegeixi millor la informació i les dades de les persones, fins i tot reflectint què vol dir comunicar-se al segle XXI;
  • asseguri que les agències policials i l’ASIO tinguin els poders que necessiten per investigar delictes greus i amenaces a la seguretat;
  • sigui transparent i utilitzable per a les agències operatives i els òrgans de supervisió, així com per a la indústria que hagi de complir les obligacions del marc;
  • modernitzi i racionalitzi el més tecnològicament possible, mitjançant l’actualització de conceptes clau i identificant clarament les agències que poden sol·licitar l’accés a aquesta informació;
  • contingui llindars adequats i controls sòlids, efectius i coherents, límits, salvaguardes i supervisió de l’ús d’aquests poders intrusius;
  • protegeixi la comunitat de delictes i amenaces greus.

Sense accés a aquesta informació, les forces de l’ordre no podrien prevenir i perseguir les activitats delictives més greus, com ara els abusos sexuals infantils, el crim organitzat i la ciberdelinqüència. Per a l’ASIO, accedir a aquesta informació i a les dades és fonamental per protegir Austràlia de greus amenaces a la seguretat nacional, com ara el terrorisme o la ingerència estrangera en les institucions democràtiques australianes.

La protecció i l’accés a aquesta informació i a les dades es regeixen per una sèrie de lleis:

  • la Llei de telecomunicacions (intercepció i accés) del 1979 (Llei TIA)
  • la Llei de dispositius de vigilància del 2004 (Llei SD)
  • parts de la Llei d’organització d’intel·ligència de seguretat d’Austràlia del 1979 (Llei ASIO)
  • parts de la Llei de telecomunicacions del 1997 (Llei de telecomunicacions)
  • parts discretes d’altres lleis de la Commonwealth i estatals i territorials.

Aquestes lleis protegeixen diversos tipus d’informació i dades de persones d’accés no autoritzat i només permeten que les agències governamentals accedeixin legalment a la informació i a les dades en circumstàncies limitades. Les lleis també exigeixen a les empreses propietàries de les telecomunicacions que proporcionin serveis per protegir aquesta informació i per ajudar les agències governamentals a accedir-hi en determinades circumstàncies.

El projecte de reforma té com a objectiu derogar la Llei TIA, la Llei SD i les parts rellevants de la Llei ASIO i substituir el mosaic actual de lleis per una única llei, racionalitzada i tecnològicament neutra.

El desenvolupament del nou marc serà la reforma més important d’Austràlia en lleis de seguretat nacional en més de quatre dècades. El nou marc es desenvoluparà en línia amb els principis i valors que subratllen la societat democràtica liberal australiana. Per tant, és fonamental que la política que sustenta el nou marc estigui informada per les opinions dels afectats, les parts interessades i la societat australiana.

https://www.homeaffairs.gov.au/reports-and-publications/submissions-and-discussion-papers/reform-of-australias-electronic-surveillance-framework-discussion-paper

Feu clic per accedir a electronic-surveillance-framework-discussion-paper.pdf

_____

Esta entrada en español / This post in English / Post en français