Le autorità di Parigi hanno autorizzato l’uso della videosorveglianza basata sull’intelligenza artificiale prima dei concerti di Taylor Swift, ma la tecnologia ha sollevato preoccupazioni sulla privacy.
La polizia francese sta implementando una videosorveglianza basata sull’intelligenza artificiale (AI) in due stazioni della metropolitana di Parigi utilizzate dai fan che assistono ai concerti della superstar del pop Taylor Swift in città.
Il decreto, pubblicato all’inizio di questa settimana dalla Prefettura di polizia della capitale, giustifica l’uso della controversa tecnica affermando che “nel contesto attuale, questi concerti sono eventi particolarmente esposti al rischio di atti di terrorismo”.
Lo spiegamento durerà una settimana, dal 7 al 14 maggio, presso le stazioni della metropolitana Nanterre Préfecture e La Défense Grande Arche, entrambe che servono l’Arena La Défense di Parigi.
Un disegno di legge che autorizzava l’uso della sorveglianza basata sull’intelligenza artificiale è stato votato dall’Assemblea nazionale francese e dal Senato con una procedura accelerata nel maggio 2023 in vista dei Giochi Olimpici del 2024 che si terranno a Parigi quest’estate.
Tuttavia, diversi esperti hanno già sollevato preoccupazioni sull’uso della tecnologia.
Cos’è la videosorveglianza basata sull’intelligenza artificiale?
Conosciuta come “videosorveglianza algoritmica” (“vidéosurveillance algoritmique” in francese, o VSA), la tecnica prevede l’utilizzo di un software con algoritmo basato sull’intelligenza artificiale per analizzare in tempo reale il feed video proveniente dalle telecamere di sorveglianza.
Questo compito richiederebbe normalmente molte più risorse se dovesse essere svolto da un team di esseri umani poiché richiede un’attenzione costante.
L’algoritmo è progettato per riconoscere e inviare un avviso se viene rilevato un comportamento sospetto, ad esempio una valigia lasciata indietro.
Tuttavia, questo tipo di dispositivi di sorveglianza “non utilizzano alcun sistema di identificazione biometrica, non trattano dati biometrici e non utilizzano alcuna tecnica di riconoscimento facciale”, secondo il quadro giuridico francese.
Ma alcuni critici si oppongono a tecniche come la VSA, compreso il gruppo di difesa francese La Quadratura della Rete che ha espresso dubbi sulla sua efficienza nel garantire un evento come i concerti di Swift o le Olimpiadi.
“Poiché la videosorveglianza algoritmica funziona con l’apprendimento automatico, sono necessarie situazioni passate per insegnare all’algoritmo a individuare questo tipo di situazioni in futuro. Ma non disponiamo di grandi quantità di immagini di attacchi terroristici o movimenti di folla,” Bastien Le Querrec , un esperto legale che lavora per il gruppo, ha detto a Euronews Next.
“In realtà, ciò che vediamo è che questa tecnologia è progettata, addestrata ed efficace sulla delinquenza di livello molto basso”.
Perché è controverso?
Per i suoi oppositori, la sorveglianza algoritmica comporta rischi per quanto riguarda le libertà e i diritti individuali.
“Quello che diciamo dal 2019 è che questa videosorveglianza algoritmica rappresenta un livello di sorveglianza più elevato e quasi assoluto”, ha affermato Le Querrec.
“Automatizzando questa sorveglianza, aumentiamo il suo impatto di dieci volte. La sorveglianza ha conseguenze molto forti sulle libertà fondamentali”, ha aggiunto, citando le possibili implicazioni per la libertà di espressione, la libertà di associazione e la libertà di associazione.
L’associazione non è l’unica a preoccuparsi del sistema. La ONG Amnesty International France ha dichiarato in un comunicato che la tecnologia si basa sulla raccolta di dati personali “relativo al diritto alla privacy”.
“La videosorveglianza algoritmica comporta il rischio di stigmatizzare alcuni gruppi di persone e il rischio di discriminazione”, ha aggiunto l’ONG.
Le Querrec ha espresso preoccupazioni simili, ad esempio, riguardo al suo utilizzo per discriminare i senzatetto.
Gli oppositori temono inoltre che l’uso della videosorveglianza basata sull’intelligenza artificiale non sarà una misura temporanea.
La legge del 2023 ne autorizza l’utilizzo per le Olimpiadi e le Paralimpiadi di Parigi, ma ne prevede anche l’utilizzo in occasione di eventi sportivi e culturali in via sperimentale fino al 31 marzo 2025, sei mesi dopo la fine dei Giochi.
Tuttavia, il ministro francese dello Sport e delle Olimpiadi, Amélie Oudéa-Castéra, ha già segnalato che il governo potrebbe estenderne l’utilizzo per gli eventi anche in futuro “se [the technology] dimostra il suo valore”.
“La legge sui Giochi Olimpici è il primo passo verso la legalizzazione della videosorveglianza basata sull’intelligenza artificiale”, ha affermato Le Querrec, aggiungendo che è già in discussione un disegno di legge che prevede di implementarla sui trasporti pubblici.
Il testo ufficiale della legge afferma che si prevede di “utilizzare l’elaborazione algoritmica per selezionare ed esportare le immagini richieste dai tribunali”.
Dati conservati per un anno
Da quando la legge è stata approvata, la videosorveglianza basata sull’intelligenza artificiale è stata implementata e testata sporadicamente durante riunioni su larga scala come concerti e partite di calcio in Francia.
A Parigi, gli aspetti tecnici sono affidati alla società Wintics – una delle start-up che beneficiano degli appalti di sorveglianza concessi dal Ministero degli Interni – e al suo software Cityvision.
Per ogni utilizzo della tecnologia, la prefettura corrispondente è tenuta a pubblicare un decreto.
Tuttavia, diverse voci hanno sottolineato che pubblicandoli così tardi – un giorno prima del loro dispiegamento – la polizia sta cercando di evitare il più possibile le controversie legali.
“Le persone che parteciperanno ai concerti di Taylor Swift non potranno intraprendere azioni legali se ritengono che questo ordine sia illegale e violi in modo sproporzionato i diritti protetti o le libertà fondamentali”, ha affermato Le Querrec.
“C’è una sorta di organizzazione dell’impunità da parte del prefetto di polizia”.
La Prefettura di polizia di Parigi non ha risposto immediatamente alla richiesta di commento di Euronews Next il suo decreto precisa che Cityvision “è stata attestata conforme” dal Viminale e che gli agenti “hanno ricevuto formazione in materia di protezione dei dati personali”.
I dati saranno conservati per un anno, aggiunge il decreto di polizia.
Image:Getty Images
