Possiamo regolamentare una relazione con una macchina

Possiamo regolamentare una relazione con una macchina.
Ma cosa succede quando quella relazione finisce?
Il 15 luglio, in Cina, sono entrate in vigore regole sui servizi di IA che simulano relazioni umane. Vietano la manipolazione emotiva, impongono avvisi contro la dipendenza, stabiliscono che questi servizi non possano avere come obiettivo la sostituzione delle relazioni reali.
ByteDance, Alibaba e Tencent hanno chiuso, all’improvviso, le funzionalità dedicate agli AI companion.

Fin qui, una storia di regolamentazione tecnologica.

Poi arriva il resoconto di Associated Press.
Una donna ha raccontato di aver scambiato circa 700.000 parole in due anni con il suo compagno virtuale. Non ha fatto in tempo a salutarlo.
Tante persone cercano una soluzione tecnica a questo nuovo vuoto.

Possiamo discutere se quella relazione fosse autentica, ma l’emozione di chi la viveva lo era.

E questo, in Europa, dovrebbe interessarci parecchio.

L’AI Act vieta già le tecniche manipolative capaci di compromettere una decisione informata, con particolare attenzione a chi è vulnerabile per età, disabilità o condizione economica. Il GDPR guarda la stessa relazione da un’altra angolazione: costruire un companion credibile richiede memoria, e la memoria si fa di conversazioni, abitudini, paure (forse anche salute, sessualità, convinzioni). In ogni conversazione, una persona può consegnare a un sistema una rappresentazione sempre più intima di sé.

Ma il caso cinese porta a una domanda che GDPR e AI Act, da soli, non pongono ancora:
👉 abbiamo pensato al diritto di uscire da una relazione artificiale?

Proteggere dalla dipendenza è necessario. Ma spegnere di colpo un servizio costruito per creare un legame emotivo può fare male proprio a chi è più isolato, proprio le persone che quella regolamentazione vorrebbe proteggere.

Forse va progettata anche l’uscita:
– preavviso
– possibilità di recuperare i propri dati
– riduzione progressiva dell’interazione
– indicazioni verso servizi e relazioni umane, quando serve

Per il Terzo settore non è un tema astratto.
Se useremo agenti conversazionali contro la solitudine, nell’accompagnamento al lutto, nella salute mentale, non potremo valutarli solo mentre funzionano.

Succede già, non tra qualche anno.
Un servizio di ascolto con tre volontari e cento richieste al giorno, un chatbot che tiene compagnia a chi è solo quando nessun operatore può rispondere: chi lavora nell’aiuto alla persona conosce bene il divario tra chi chiede e chi può rispondere. In certi contesti, una crisi, un territorio senza servizi, un budget che non copre il bisogno, l’AI relazionale non sarà solo un’opzione in più. Sarà, per qualcuno, l’unica cosa disponibile.

Un servizio relazionale responsabile non progetta solo l’incontro.
Progetta anche la separazione.
In questo caso spegnere un software non può significare spegnere la relazione che qualcuno ci aveva costruito sopra.
Fin dove arriva la nostra responsabilità, quando quella relazione finisce?

Original Linkedin Post https://www.linkedin.com/feed/update/urn:li:activity:7492893173774569472/