Nel 1985 usciva nelle sale Brazil di Terry Gilliam, un film che tesse la trama di una distopia burocratica in cui ogni comunicazione è sorvegliata da un apparato statale onnipresente, spesso inefficiente e incline all’errore. La vita dei cittadini è costantemente monitorata da sistemi di controllo che, nel tentativo di prevenire minacce e garantire l’ordine, finiscono per soffocare libertà e diritti fondamentali. Quella che allora appariva come una satira visionaria oggi sembra una prefigurazione inquietante di dibattiti molto concreti, come quello che ruota intorno al cosiddetto Chat Control europeo.
Cos’è Chat Control?
Nel maggio 2022 la Commissione Europea ha presentato un nuovo Regolamento per la prevenzione e la lotta contro l’abuso sessuale su minori, con l’obiettivo dichiarato di contrastare la diffusione di materiale pedopornografico on-line. Per raggiungere questo scopo, il regolamento prevede che i fornitori di servizi digitali siano obbligati a scansionare i contenuti delle comunicazioni degli utenti per rilevare tre categorie principali: materiale pedopornografico già noto, nuovi contenuti sessualmente abusivi su minori e potenziali tentativi di adescamento online (grooming).
Se da un lato queste misure possono sembrare finalizzate alla protezione dei minori, dall’altro sollevano interrogativi profondi sulla tutela della privacy, sulla sicurezza digitale e, più in generale, sui diritti fondamentali dei cittadini europei. Dietro il nobile principio della protezione dei bambini, infatti, si intravede il rischio di instaurare un controllo capillare e pervasivo della società.
Cosa prevede il Chat Control?
Tra le misure principali spicca l’obbligo per i provider di scansionare messaggi, immagini e video inviati dagli utenti, estendendo il controllo anche alle piattaforme con crittografia end-to-end, come WhatsApp.
Per identificare contenuti pedopornografici noti o sospetti tentativi di adescamento, le aziende dovrebbero utilizzare strumenti automatizzati di rilevamento. I casi sospetti verrebbero quindi gestiti da un Centro europeo per la lotta agli abusi sessuali sui minori, che riceverebbe le segnalazioni e le smisterebbe alle autorità competenti. Inoltre, le autorità nazionali avrebbero il potere di emettere ordini vincolanti ai fornitori di servizi digitali, imponendo azioni precise sui contenuti individuati.
Perché il Chat Control è considerato ambiguo?
Può apparire come una sorveglianza di massa, in quanto lo scanning obbligatorio dei contenuti privati può rappresentare un attacco diretto alla crittografia, strumento fondamentale per la sicurezza digitale dei cittadini. Diverse ONG e associazioni per i diritti civili, tra cui la campagna Fight Chat Control, avvertono che il sistema rischia di trasformare ogni cittadino in un “sorvegliato” a priori, minacciando la presunzione di innocenza.
Gli aspetti critici
Tra i punti dolenti di questo strumento troviamo:
-
Privacy a grave rischio: Il controllo massiccio dei messaggi privati, anche quelli protetti da crittografia, mette inevitabilmente a rischio privacy e sicurezza digitale, perché l’inserimento di sistemi di scansione rende ogni comunicazione vulnerabile ad abusi o attacchi esterni;
-
Errori/falsi positivi: Gli algoritmi possono sbagliare: un’immagine innocua o una conversazione scherzosa potrebbero essere interpretate come pericolose, generando segnalazioni errate e gravi conseguenze per chi viene coinvolto ingiustamente;
-
Rischio di function creep: anche se il sistema è pensato per proteggere i minori, una volta attivo nulla impedisce che venga usato per monitorare altre attività. Di conseguenza, la libertà individuale può essere gradualmente ridotta, perché il controllo si estende oltre lo scopo iniziale;
- Efficacia marginale: la scansione di massa non garantisce una reale riduzione degli abusi. I potenziali criminali potrebbero spostarsi su altre piattaforme o utilizzare strumenti più sofisticati, mentre ingenti risorse economiche e operative verrebbero impiegate per gestire una quantità enorme di dati innocui.
Dalla nascita di Google al capitalismo della sorveglianza
Per comprendere la portata di questo cambiamento, è utile collocarlo in una cornice più ampia. Shoshana Zuboff, nel suo libro Il capitalismo della sorveglianza, descrive come Google abbia inaugurato un modello economico basato sull’estrazione e la monetizzazione dei dati personali. Ogni interazione digitale è stata progressivamente trasformata in una fonte di surplus comportamentale, utile a prevedere e orientare i nostri comportamenti. Il Chat Control può essere letto come un’estensione di questa logica: la sorveglianza non è più circoscritta alle ricerche online, alle preferenze di consumo o ai dati di navigazione, ma si insinua direttamente nelle conversazioni private. Se in passato il rischio era quello della profilazione commerciale, oggi si prospetta la possibilità di un controllo capillare delle nostre relazioni, in nome della sicurezza.
Come ci dice la Zuboff, la posta in gioco non è soltanto la privacy, ma la struttura stessa della nostra democrazia. Con l’aiuto di Shoshana Zuboff, è opportuno interrogarci sulla possibilità di creare un ‘santuario non monitorato’, dove possiamo sentirci liberi come individui.
Chat Control ci mostra un futuro in cui la sicurezza diventa pretesto per un controllo capillare delle relazioni e dei comportamenti, trasformando la realtà in una distopia tecnologica, come in Brazil di Terry Gilliam!
Catia Somma