Nella tana del Bianconiglio

In questi giorni di vacanza ho fatto una cosa che mi diverte quando ho un po’ di tempo: mi sono infilato nella tana del Bianconiglio.
Sono partito da alcune pubblicità che mi comparivano sul cellulare. Giochi e app basati sull’intelligenza artificiale, molti dei quali promettono qualcosa di più interessante di un passatempo: una relazione.
Personaggi con cui parlare, flirtare, confidarsi. Amiche e amici virtuali, partner, entità costruite per rispondere e adattarsi a chi hanno davanti.
Ne ho provati alcuni. Quello che mi ha colpito ma non stupito è che
spesso sono rappresentazioni, soprattutto femminili, estremamente provocanti, aggressive, ipersessualizzate.
Naturalmente la mia è un’esperienza esplorativa, non una ricerca.
Ma la cosa più inquietante è quanto siano pensati per non farti andare via.

E mentre facevo questa riflessione leggo che OpenAI ha annunciato ChatGPT for Teens, una modalità dedicata alle persone tra 13 e 17 anni, con protezioni più forti su autolesionismo, violenza, disturbi alimentari e contenuti sessuali o romantici.
Ci sono strumenti per lo studio, controlli parentali, pause, notifiche in alcune situazioni sensibili e un sistema che prova a stimare l’età: nel dubbio, dovrebbe applicare le impostazioni più protettive.
Mi sembra una direzione importante.

Ma mi ha fatto tornare su una domanda che considero sempre più importante.
Che cosa succede quando la capacità persuasiva delle piattaforme incontra la capacità relazionale dell’intelligenza artificiale?
Con i social abbiamo discusso per anni di engagement, infinite scroll, notifiche, sistemi di raccomandazione.

Con l’AI aggiungiamo qualcosa di diverso: la mimesi della relazione.
Non c’è soltanto un contenuto progettato per attirare la mia attenzione. C’è qualcosa che mi risponde, ricorda, asseconda, simula attenzione e può adattarsi continuamente a me.
Per una persona adulta è già un tema interessante.

Con adolescenti e persone minorenni diventa una questione enorme.

Per questo è sicuramente positivo costruire ambienti differenziati e maggiormente protetti. Ma credo sarebbe pericoloso considerarli sicuri semplicemente perché esistono filtri, age detection e parental control.
La protezione non può essere delegata interamente al prodotto.
E neppure ridotta alla sorveglianza familiare.

Servono educazione, competenze nelle scuole e nelle organizzazioni, persone adulte preparate, verifiche indipendenti e soprattutto la capacità di riconoscere che un sistema progettato per simulare una relazione pone problemi diversi da uno strumento progettato semplicemente per rispondere a una domanda.
Forse dovremmo cominciare a misurare non soltanto quanto bene questi sistemi rispondono.
Ma anche quanto sono capaci di farci tornare, quanto cercano di trattenerci e quale relazione ci propongono mentre lo fanno.

Perché progettare una tecnologia responsabile significa anche saper rispondere a una domanda apparentemente banale: quanto è facile smettere di usarla?

Original Linkedin Post https://www.linkedin.com/feed/update/urn:li:activity:7495778945036906497/