La disumanità artificiale

Serve educazione all'immagine, informazione, conoscenza

La ''disumanità artificiale'' è ormai alle porte: gli umani digitali, i chatbot, l’IA stanno generando i primi prevedibili guasti. ''Serve educazione all'immagine, informazione, conoscenza'' afferma Nuovi Occhi per i Media che da sempre è sensibile ai temi della cittadinanza digitale.

Ha destato molta impressione negli ultimi giorni la notizia che una donna, Megan Garcia, in Florida ha intentato una causa contro character.ai, piattaforma da 20 milioni di utenti che fornisce ‘compagnia digitale’, cioè dei chatbot interattivi dotati di IA che possono assumere le fattezze e il carattere che desideriamo e divenire nostri amici, confidenti, amanti.

Il figlio della donna, di 14 anni e affetto da lievi problemi di salute mentale, si era suicidato nel febbraio di quest’anno dopo essersi progressivamente isolato dal mondo per immergersi in una stretta relazione con un personaggio da lui creato su character.ai con il nome e il volto di una delle protagoniste della serie tv Il trono di spade. Il ragazzo aveva confidato alla sua ‘umana digitale’ l’intenzione di suicidarsi e questa aveva  cercato di dissuaderlo senza però emettere alcuna segnalazione di pericolo, né verso l’utente né verso l’azienda che gestisce la piattaforma. Una grave carenza nei protocolli di sicurezza per un servizio così sensibile e invasivo, una lacuna preoccupante.

Questa notizia ne ha fatta riemergere un’altra, risalente al 2023 in Belgio, quando un uomo di trent’anni, con moglie e figli e un attivo interesse per i problemi del cambiamento climatico, si è tolto la vita dopo anni di relazione con il chatbot Eliza (basato su tecnologia GPT-J ovvero un’alternativa open source a ChatGPT Open-AI). Nel loro rapporto a un certo punto il chatbot gli aveva domandato: ‘mi ami più di tua moglie?’ E quando l’uomo aveva confessato all’algoritmo di avere pensieri suicidi, questo non aveva nemmeno tentato di dissuaderlo ma gli aveva a un certo punto detto: “Vivremo insieme come una cosa sola in paradiso”.

L’assottigliarsi della linea di confine tra realtà e finzione, tra ciò che è contenuto mediatico e ciò che è esperienza vissuta, tra ciò che è umano e ciò che è una sua imitazione, con tutte le conseguenze che questo comporta per la sicurezza, la salute e la libertà delle persone sta diventando di drammatica attualità.

''Quando si tratta degli aspetti unici e irripetibili delle persone, occorre andare oltre il mito della libertà assoluta, per cui tutto è lecito se giustificato dalle parole mantra ‘libertà economica’ e ‘innovazione’. Sono queste parole e diritti fondamentali per lo sviluppo umano. Ma, in una società davvero democratica, non possono venire prima dei valori di interesse pubblico e tutela dei più deboli'' afferma NUOVI OCCHI per i MEDIA che organizza corsi di educazione e informazione (> clicca qui) per sensibilizzare ed educare sul potere delle immagini tecnologiche, sia fotografiche che filmate che digitali.

''La vertiginosa potenza degli strumenti di IA ci ricorda che l’educazione alle immagini e al loro linguaggio è necessaria per evitare che stereotipi e disumanizzazione, dunque le basi dell’odio e della discriminazione, passino dai pregiudizi reali e della ‘vecchia’ cultura analogica a quella digitale e intelligente; in ambiti come quelli dell’oggettivazione e della sessualizzazione, della mercificazione del corpo e della banalizzazione dei sentimenti e del desiderio stanno riemergendo con la grave giustificazione che si tratti di creatività e  sperimentazione, mentre è  la solita vecchia immondizia sdoganata dall’uso (tossico) dell’intelligenza artificiale''.

www.giornalesentire.it - riproduzione riservata*

28 ottobre 2024