Esperimenti d’identità nell’era degli algoritmi
IA: ERO MORTO DA SECOLI E NON ME NE SONO ACCORTO
Cosa succede quando chiedi a un’IA chi sei? Tra equivoci digitali, identità inventate e risposte degne
di un romanzo storico, la verità sfuma nei dati sbagliati.
Il Simplicissimus
L’autore si è divertito — e inquietato — a interrogare diverse intelligenze artificiali su se stesso e su conoscenti, ottenendo risultati tanto fantasiosi quanto assurdi: da presidente dei Cavalieri di Malta a defunto medievale, da attrice australiana a figura non identificata. Questo gioco di identità virtuali diventa lo spunto per una riflessione più profonda su come l’IA raccoglie e interpreta le informazioni: basandosi su ciò che trova online, accrocchia verità, dicerie e coincidenze sonore, generando risposte spesso fuorvianti. Il testo, tra ironia e osservazione critica, solleva interrogativi importanti sull’affidabilità dei dati, sulla deriva autoreferenziale dei sistemi di machine learning e sull’impatto che questi strumenti avranno nel plasmare le nostre identità — reali o percepite — nel futuro. Un pezzo acuto, che fa sorridere ma lascia anche un retrogusto amaro: e se un giorno l’unica versione di noi stessi accessibile al mondo fosse quella creata da un algoritmo? (Nota Redazionale)
Nei giorni scorsi mi sono divertito ad usare diversi moduli di intelligenza artificiale per vedere se erano così credibili. Non ho fatto delle domande banali che di solito hanno come risultato il temino di terza media di fronte al quale la gente di solito stupisce come se fosse un irraggiungibile capolavoro, ma ho dato un compito un tantino più difficile. Ho chiesto chi è il sottoscritto con solo nome e cognome. E la stessa cosa ho fatto con altre persone che conosco. Ad eccezione dei moduli inseriti nella ricerca di Google e di X che utilizzo normalmente e nei quali sono persona nota, gli altri da Gab a ChatGpt, a DeepSeek e ad altri ancora hanno dato delle risposte piuttosto inquietanti: per uno sono un ex presidente dei cavalieri di Malta, per un secondo sono deceduto nel XIII secolo, per un altro ancora farei parte di uno studio legale e poi due o tre chat hanno ignorato completamente il mio nome e hanno tirato fuori solo alcune cose sul cognome, il che francamente è piuttosto stupido. E credo seriamente che anche con i sistemi a pagamento e la cosiddetta ricerca profonda le risposte non sarebbero state molto diverse.
Una mia conoscente è di volta in volta segnalata come un’attrice australiana di nome totalmente diverso, una delle ragazze di Epstein e infine, con un tocco geniale, è stato suggerito che possa trattarsi di una persona. Vi assicuro che è uno spasso incredibile, quasi un gioco di società. Ora questo ci porta ad alcune considerazioni: che l’intelligenza artificiale agisce accrocchiando ciò che può trovare nei database che i vari sistemi hanno a disposizione. Se non c’è nulla la risposta sarà completamente sballata o peggio ancora legata ad assonanze tra nomi e cognomi, operazione del tutto fuorviante, così che la ricerca è nella realtà di gran lunga inferiore come risultato efficace ai normali strumenti di ricerca sul web. Questo, tuttavia, implica due possibilità entrambe piuttosto inquietanti. La prima è che un sistema di intelligenza artificiale abbia a sua disposizione i database provenienti dai social: le sue risposte si fonderanno su mega tonnellate di sciocchezze che vi compaiono, le sue risposte a loro volta influenzeranno le discussioni fino ad arrivare, nel tempo, ad una situazione di auto referenzialità del sistema, il quale non farà altro che citare se stesso e sarà completamente inutile.
La seconda è che qualcuno dietro le quinte, scelga le informazioni a cui attingere o attribuisca ad esse un sistema di valori per esempio numerico, proprio come i voti di un tempo, in maniera che certe informazioni finiscano per pesare di più ed imporre opinioni lontanissime dalla realtà e in grado di cambiare in maniera radicale l’opinione comune. Se per esempio chiedessi chi ha vinto la Seconda guerra mondiale, potrei apprendere che essa è stata vinta dagli Stati Uniti d’America anche se una minoranza crede (e in quel crede c’è tutta la condanna di idee bizzarre e strampalate) che al conflitto abbia dato qualche apporto anche l’Unione Sovietica. Insomma terawatt di energia per ottenere lo stesso risultato che si può raggiungere pagando un buffone di corte per dire che Auschwitz è stata liberata dagli americani. In realtà l’effetto sarebbe molto più profondo ed è per questo che la IA può essere un potente strumento per l’ipnosi collettiva di fronte ai quali influencer, troll, testoline e teste d’uovo a pagamento non sono che uno strumento primitivo di orientamento del pensiero e dell’immaginazione.
Non ho dubbi sulla strada che prenderanno queste tecnologie: quando esse aiuteranno in maniera efficace a compilare un modulo, costruire una foto, redigere un riassunto o una ricerchina, oppure saranno usati per qualche compito più sofisticato, quando insomma avremo imparato a fidarci, ecco che esse diventeranno davvero pericolose.
Una precisazione Redazionale
Questa è la risposta di ChatGPT quando la domanda non è un semplice ‘Chi sono?’, ma viene formulata con maggiore cura e precisione.
