"Chat Control": per combattere la pedopornografia, l’UE potrebbe introdurre un sistema di sorveglianza di massa online?

di Rossella Bucca e Lorenzo Maione

L’11 maggio 2022, la Commissione europea ha proposto il Regolamento che stabilisce norme per la prevenzione e la lotta contro l’abuso sessuale su minori, perpetrato sia online che offline, con lo scopo di creare un solido quadro giuridico di protezione dei minori ed agevolare un approccio coordinato tra i numerosi attori coinvolti nella protezione dei minori stessi e nel loro sostegno. La proposta – tutt’ora in fase di discussione in seno al Consiglio – prevede l’adozione di rigide misure di accertamento e segnalazione di materiale pedopornografico, da parte delle piattaforme online operanti all’interno dell’UE. Nonostante gli obiettivi declinati dalla Commissione, il testo è stato oggetto di numerose critiche da parte di coloro che ritengono che le regole proposte e le misure coercitive comprometterebbero il diritto fondamentale alla riservatezza, tanto da aver ribattezzato la proposta “Chat Control”.

I dettagli tecnici della proposta di Regolamento 

La proposta prevede che le maggiori piattaforme di messaggistica online, come “WhatsApp”, “Telegram”, “Signal” e “Messenger”, mettano in atto sistemi di scansione dei contenuti multimediali attraverso i dispositivi degli utenti così da identificare eventuale materiale pedopornografico prima che venga crittografato. In caso di riscontro positivo, come indicato agli artt. 14 e 16 della Proposta di Regolamento che stabilisce norme per la prevenzione e la lotta contro l'abuso sessuale su minori, i prestatori di servizi potrebbero avvertire l’autorità competente ad emettere l’ordine di rimozione e/o di blocco. Il sistema così descritto permetterebbe una scansione preventiva dei file multimediali – quindi preliminare alla loro messa in sicurezza nei server delle piattaforme di messaggistica online – così da non compromettere l’efficacia della crittografia “end-to-end”. In tal modo, i fornitori dei servizi potrebbero avere accesso a tutti i contenuti di messaggistica degli utenti, rendendo i loro dispositivi degli “agenti di sicurezza”, violando così la privacy e, eventualmente, la sicurezza dei loro dati.

Problemi giuridici ed etici della proposta 

Le preoccupazioni derivanti da un’eventuale attuazione di tali misure sono state evidenziate dall’“European Data Protection Board” (“EDPB”) e dall’“European Data Protection Supervisor”, (“EDPS”) che, nel luglio 2022, hanno espresso parere congiunto, in cui manifestano significative perplessità circa i requisiti di necessità e proporzionalità delle misure previste all’interno della proposta. I due comitati hanno, difatti, osservato come il rispetto del principio di necessità comporti “un’analisi fattuale dell’efficacia delle misure previste nel conseguire l’obiettivo perseguito e della loro minore intrusività rispetto ad altre opzioni disponibili al fine di conseguire lo stesso obiettivo … Un altro fattore da prendere in considerazione … è l’efficacia delle misure esistenti rispetto a e a prescindere da quella proposta”. Gli strumenti indicati dalla proposta, utili al contrasto della pedopornografia online, possono essere facilmente elusi attraverso la cifratura del contenuto, anche tramite l’ausilio di applicazioni mobili separate prima dell’invio o del caricamento, mentre quelle valevoli per il rilevamento del materiale, suddivise in tre tipi di ordini di rilevazione per diverse tipologie di materiale pedopornografico (per materiale noto, nuovo e di adescamento sotto forma di testo), sono basate su tecnologie che presentano tassi di errore relativamente elevati. Nel dettaglio: 

1. le tecnologie per rilevare materiale pedopornografico sono generalmente basate su logiche di abbinamento, nel senso che confrontano le immagini in questione partendo da una banca dati esistente di materiale pedopornografico noto. Per consentire l’abbinamento, le immagini che il prestatore dei servizi sta elaborando e le immagini contenute nella banca dati devono essere state digitalizzate, in genere attraverso la conversione in valori di hash. Questo tipo di tecnologia ha un tasso stimato di falsi positivi non superiore a 1 su 50 miliardi (pari quindi a 0,000000002%); 

2. per la rilevazione di materiale pedopornografico nuovo è utilizzato un tipo diverso di tecnologia, tra cui classificatori e sistemi di intelligenza artificiale. Tuttavia i tassi di errore sono in genere notevolmente più elevati, fissati al 99,9% (corrispondente a un tasso di falsi positivi dello 0,1%); 

3. infine, per quanto riguarda la rilevazione dell’adescamento di minori nelle comunicazioni sotto forma di testo (c.d. grooming), le tecnologie esistenti hanno un “tasso di accuratezza” dell’88%. 

Tenuto conto quindi della eccessiva invasività delle misure, seguita da un’incertezza in merito ai risultati, l’EDPB ed EDPS “ritengono che l’ingerenza creata, in particolare, dalle misure per la rilevazione dell’adescamento di minori vada oltre quanto strettamente necessario e proporzionato. Tali misure dovrebbero pertanto essere espunte dalla proposta”.

Alle criticità appena illustrate si aggiunge la problematica afferente ai sistemi di verifica e valutazione dell’età indicati nella proposta; i Comitati rilevano come attualmente non esistano sistemi di verifica “in grado di valutare con certezza l’età di un utente in un contesto online senza basarsi su un’identità digitale ufficiale, che in questa fase non è disponibile per tutti i cittadini europei”.

Il quadro sin qui delineato ha condotto EDPB ed EDPS a sollevare dubbi sull’organicità della proposta, soprattutto per quel che concerne la “protezione dei dati e il rispetto della vita privata”. Infatti, i fornitori dei servizi avrebbero la possibilità di controllare le conversazioni integrali degli utenti, con un illimitato potere di monitoraggio. Non solo, avrebbero accesso ad un enorme quantitativo di dati personali, con preoccupanti ripercussioni sulla privacy e sulla riservatezza.

Conclusioni 

La proposta è attualmente in fase di negoziazione tra il Parlamento Europeo e il Consiglio dell’UE, il cui testo è stato oggetto di diverse modifiche in ragione delle perplessità di alcuni Stati membri, tanto che la votazione al Consiglio – fissata per lo scorso giugno – è stata annullata per il timore di dissenso da parte di alcuni degli Stati membri che avrebbero impedito il raggiungimento della maggioranza qualificata necessaria all’approvazione. Le problematiche derivanti dalle modalità di attuazione della proposta potrebbero essere risolte da alcune alternative tra cui: il potenziamento della collaborazione internazionale tra le forze d’ordine degli Stati membri, l’instaurazione di un approccio collaborativo tra piattaforme online di messaggistica, l’implementazione dei sistemi di segnalazione volontaria e di parental control, l’uso di sistemi di IA per analizzare grandi quantità di dati e trovare modelli di comportamento, tendenze e correlazioni.
 

Avv. Rossella Bucca e Dott. Lorenzo Maione
Studio Previti
Associazione Professionale