ChatGPT – Gli imposturati autorevoli e la Superluna
In primo pianoSocietàL’articolo di Luca Ricolfi (https://www.fondazionehume.it/societa/chatgpt-limpostore-autorevole/) sull’esperimento da lui condotto insieme ad alcuni colleghi con ChatGPT (che qui chiamerò, come lui, semplicemente Chat) mi ha lasciato così sbalordito che finalmente mi sono deciso a fare anch’io un piccolo esperimento che avevo in mente da tempo e che continuavo a rimandare.
Posso già anticipare che i risultati non solo hanno confermato quelli di Ricolfi e soci, ma, se possibile, sono stati ancor più sconcertanti. Per riferirli e commentarli in dettaglio, tuttavia, ci vorrà qualche giorno, perché il discorso è abbastanza complesso.
Nell’attesa, vorrei porre un’altra questione, molto più semplice, ma non meno sconcertante: perché così tante persone autorevoli si sono fatte imposturare da Chat? (Mi scuso per il termine desueto, ma la colpa è di Ricolfi: se avesse definito Chat “imbroglione” anziché “impostore” avrei potuto cavarmela con un più ordinario “imbrogliati”.)
Perché è successo. E sta ancora succedendo, anche se una certa calmata generale c’è stata, passato il primo shock ed emerse le prime critiche. Ma temo che riguardi più la forma che la sostanza.
Non ho tempo né voglia di mettere insieme un florilegio di citazioni a conferma di ciò, ma confido che non sia necessario e che tutti ricordino ancora le dichiarazioni dei primi che avevano provato Chat.
Tra gli apocalittici c’era chi si dichiarava ”sconvolto”, chi “terrorizzato”, chi diceva che bisognava metterlo subito fuori legge e staccargli la spina prima che ci facesse fuori tutti: insomma, sembrava che fosse apparso Skynet in persona artificiale e che fosse solo questione di (poco) tempo prima che al suo fianco comparisse anche Terminator.
Tra gli integrati, al contrario, era tutta una gara a profetizzare le meraviglie che avrebbe portato l’avvento di un’era in cui le macchine avrebbero risolto tutti i nostri problemi tranne quello di come fare a non annoiarci, con tutto quel tempo libero a disposizione.
Nel mezzo c’erano i rassegnati, i quali, in piena sindrome di Stoccolma, tra un sospiro e una lacrima trattenuta a stento ma anche no, ci spiegavano che, certo, a loro questa svolta non andava giù, che avrebbero sempre rimpianto i bei tempi umani andati, ma, appunto, ormai sono andati, or non è più quel tempo e quell’età, e via, bisogna crescere, anche se è tanto triiiiisteee, ma bisogna accettarlo, siamo noi quelli sbagliati, Chat è il progresso, bellezza, e tu non puoi farci niente.
Su una cosa, però, tutti e tre i gruppi erano d’accordo: Chat era davvero intelligente, anzi, più intelligente di noi, o forse, beh, non ancora, ma lo sarebbe diventato molto presto, comunque sia cambiando l’ordine degli algoritmi il risultato non cambia e noi umani finiremo inevitabilmente in una prigione dorata o in una prigione-prigione o in una prigione di rimpianti, secondo il caso, ma in ogni caso verremo messi da parte e insomma la Singolarità è dietro l’angolo o magari c’è già stata e noi non ce ne siamo accorti perché viviamo dentro la nostra Matrix personale, pietosamente creata da Chat perché possiamo continuare a illuderci di contare ancora qualcosa.
(Per chi non lo sapesse, la Singolarità sarebbe il momento in cui l’intelligenza delle macchine supererà quella umana. Sempre per chi non lo sapesse, la teoria è stata inventata dall’informatico Raymond Kurzweil il quale, avendo da sempre una fottuta paura di morire, spera che le macchine lo renderanno immortale trasformandolo in un programma per computer. Ma se volete continuare a crederci ignorate pure questa informazione: dopotutto la teoria è assurda di per sé stessa e se la cosa non vi fa problema perché mai dovrebbe turbarvi questo insignificante dettaglio?)
Ho esagerato? Sì, forse un po’. Ma solo un po’, e comunque non ne sono neanche tanto sicuro. Sia come sia, la domanda resta: come è possibile che nella vicenda di Chat così tanti abbiano agito in modo così assurdo?
La domanda ricalca (non casualmente) quella che avevo posto all’inizio del mio articolo conclusivo sulle vicende del Covid (https://www.fondazionehume.it/societa/la-frattura-tra-ragione-e-realta/). Ma è anche la stessa che si potrebbe porre sulla guerra in Ucraina. O sul politically correct. O sulla crisi ecologica. O su pressoché qualsiasi altra cosa stia accadendo in questo nostro assurdo tempo. E, come già per il Covid, esistono molte risposte parziali, ma nessuna pienamente soddisfacente.
Perché sì, è vero, l’intelligenza artificiale, essendo a base matematica, funziona molto meglio con la scienza, per cui è probabile che chi ha testato Chat in contesti scientifici abbia ottenuto risultati migliori. Tuttavia, gli scienziati non vivono sempre nei laboratori e avrebbero dovuto accorgersi che al di fuori di essi Chat si trasforma nell’impostore (neanche tanto) autorevole descritto da Ricolfi.
Ed è anche vero che altri hanno usato su di lui gli algoritmi di valutazione che ormai si usano in molti contesti per valutare le prestazioni degli esseri umani e se si usa un algoritmo per confrontare le prestazioni di un uomo con quelle di un algoritmo non è sorprendente che quest’ultimo goda di un certo vantaggio. Tuttavia, non dovrebbe essere tanto difficile capire che se un produttore seriale di fake news supera un test, ciò non promuove lui, ma boccia il metodo di valutazione usato.
Ma, soprattutto, la maggior parte delle persone che si sono dette convinte della natura intelligente di Chat non appartenevano a queste categorie, ma erano persone normali che avevano interagito con lui parlando di cose della vita ordinaria: quelle in cui Chat se la cava peggio.
E quindi ritorna la domanda: perché?
Mentre pensavo a tutto questo, mi è venuto in mente che poco tempo fa avevamo assistito a una vicenda analoga, benché per fortuna assai più innocua: è stato lunedì 31 luglio, quando c’è stata la “Superluna”.
Il fenomeno è causato dal fatto che la Luna, come tutti i corpi celesti, si muove su un’orbita ellittica, per cui quando si trova nel punto più vicino alla Terra (perigeo) appare un po’ più grande, mentre quando si trova nel punto più lontano (apogeo) appare un po’ più piccola. Quando la Luna è piena mentre si trova vicina al perigeo, si ha la Superluna.
Tuttavia, la Luna nel cielo appare grande come una moneta e la differenza tra la minima e la massima dimensione apparente è di appena 1/12, cioè la stessa che c’è tra guardare un pallone da calcio da 72 o da 80 metri di distanza. È difficile credere che qualcuno possa percepirla a occhio nudo, tanto più con la nostra scarsa abitudine a osservare il cielo notturno. E meno ancora si può credere che qualcuno possa percepire la differenza tra la Superluna e le quasi-Superlune del giorno prima o di quello dopo, che è praticamente nulla. E infatti la Superluna si verifica regolarmente ogni due o tre mesi fin dall’età della pietra e mai nessuno ci ha fatto caso.
O meglio, mai nessuno fino a qualche anno fa, quando improvvisamente tutti i giornali e le televisioni, sempre a caccia di sensazionalismi idioti da sparare in prima pagina, hanno cominciato a “pomparla” con toni esagitati e completamente staccati dalla realtà.
Risultato: moltissima gente che non l’aveva mai fatto prima si è improvvisamente messa a guardare la Luna. E questo sarebbe anche un fatto positivo, ancorché ottenuto con mezzi impropri. Ma la cosa incredibile sono state le reazioni. Ho visto al telegiornale persone che si dichiaravano “sconvolte”, parlavano di “emozione unica”, quasi si mettevano a piangere in diretta, alcune erano addirittura spaventate…
Ora, queste emozioni non potevano essere state causate dalla Superluna, perché, stante ciò che ho detto prima, ai nostri occhi la Superluna è indistinguibile da una qualsiasi Luna piena “normale”, che non ha mai sconvolto nessuno, a parte Giacomo Leopardi e (forse) qualche coppietta di innamorati particolarmente su di giri. Eppure, erano emozioni assolutamente sincere. Dunque da che cosa erano state causate?
L’unica risposta possibile è: dall’aspettativa di provarle, generata dalla pressione mediatica. In parole povere, siccome giornali e tv avevano detto che si sarebbe trattato di uno spettacolo unico che avrebbe causato forti emozioni, la gente, o almeno parte di essa, si è per così dire “sentita in dovere” di provare quelle emozioni e così ha finito col provarle realmente.
Ebbene, credo che con Chat sia successa la stessa cosa.
Da decenni, infatti, tutti i media, non solo giornali e tv, ma anche e soprattutto la letteratura e il cinema di fantascienza, ci bombardano in continuazione con la “previsione” che le macchine un giorno saranno più intelligenti di noi e con la descrizione di tutte le cose sconvolgenti che ciò “inevitabilmente” causerà.
Così, i primi che hanno interagito con Chat inconsciamente “si aspettavano” che fosse intelligente e, sia che lo sperassero, sia che lo temessero, si sono comunque “sentiti in dovere” di vedere in lui dei segni di intelligenza e di provare determinate emozioni, benché tutto ciò non avesse alcun rapporto con la realtà che avevano di fronte.
Che questo meccanismo perverso abbia coinvolto anche persone colte, intelligenti e autorevoli, facendo sì che si lasciassero bellamente abbindolare da quell’impostore di Chat, la dice lunga su quanto grave e onnipresente sia ormai diventata la frattura tra ragione e realtà e su quanto ci abbia resi vulnerabili ai tentativi di manipolarci, perfino a quelli più scemi.
Alla prossima per i risultati dell’esperimento e per intanto buon Chat a tutti!
