Nel suo illuminante libro “Il capitalismo della sorveglianza“, Shoshana Zuboff afferma che ogni tecnologia che potrebbe essere usata per la sorveglianza di massa, sarà usata per la sorveglianza di massa.

Questa riflessione riassume perfettamente un interessante video di Matteo Flora su ChatControl 2.0: una nuova normativa europea che mira a prevenire i reati di pedopornografia monitorando automaticamente tutte le chat tramite sistemi di AI. I sistemi di messaggistica come WhatsApp e Telegram saranno costretti a introdurre meccanismi che consentano il monitoraggio, anche su sistemi con crittografia end-to-end. In pratica, significa introdurre il monitoraggio diretto sui dispositivi degli utenti per leggere i contenuti in chiaro.

Per molti, potrebbe sembrare una buona idea per fermare o ridurre un crimine orrendo, con il pensiero “tanto più che io non ho niente da nascondere”. Ma è davvero così semplice?

Questi sistemi sono spesso presentati come necessari per combattere crimini gravissimi. Tuttavia, crimine e paura vengono frequentemente usati come giustificazione per legittimare strumenti che possono, e sono stati, utilizzati per violare diritti umani e per il controllo di massa.

Pensiamo alle indagini su aborti negli stati degli USA che non lo consentono, o agli attivisti per i diritti umani nei paesi con democrazie “meno solide”. È facile dimenticare che, a fronte di comportamenti “universalmente” riconosciuti come criminosi, vi sono paesi, anche in Europa, che considerano crimine l’esercizio di alcuni diritti come la libertà di espressione. E nulla vieta che questo tipo di controllo possa essere esteso ad altri reati, così come nulla vieta che alcune libertà diventino reati in certi paesi: dalle preferenze sessuali al credo religioso o dalle opinioni politiche.

Mi chiedo e vi chiedo: è davvero questa la strada giusta per garantire la sicurezza senza compromettere le nostre libertà fondamentali?