L’IA funziona. Che significa?
In primo pianoPoliticaSocietàQuesto argomento emerse tempo addietro discorrendo con la collega Silvia Testa,
a margine di alcuni incontri rivolti alla stesura di un articolo di lavoro, di tutt’altra materia.
Avevamo idee diverse. Promisi, allora, che avrei tentato di chiarire il mio punto di vista.
Purtroppo, la collega è improvvisamente e prematuramente scomparsa.
A lei, al suo ricordo, dedico questo scritto.
In un articolo di alcuni anni fa ho cercato di:
(i) illustrare i legami fra IA e Analisi dei Dati;
(ii) spiegare come può essere realizzato uno strumento (semplice) di IA, tramite un’applicazione informatica che emula un Classificatore Bayesiano Naif;
(iii) riflettere sui pregi, limiti e pericoli insiti nell’utilizzo di tecnologie di questo tipo.
In particolare, per quanto riguarda l’ultimo aspetto, ho posto in evidenza come: <<nelle applicazioni dell’IA, chi governa il processo inerente i dati, più che la realizzazione degli algoritmi, ha enormi responsabilità sociali, può manipolare – come mai prima d’ora – l’ideologia degli individui>>.
Ho inoltre segnalato che: <<disgraziatamente l’assenza di informazioni su come vengono gestiti i dati sembra essere la norma, ancora più stringente della segretezza imposta su alcuni algoritmi>>.
A tale proposito, desidero raccontare un aneddoto.
Pensai di inoltrare l’articolo di cui sopra ad un amico, per raccogliere il suo parere su quanto da me scritto. Non avendo intenzione di leggerlo, l’amico decise di sottoporre il testo a ChatGPT, chiedendo un riassunto che ottenne quasi istantaneamente. L’amico mi ha poi inviato la risposta di ChatGPT alla sua richiesta. Utilizzando uno stile accattivante, l’algoritmo ha espresso una sequela di salamelecchi al mio lavoro, concentrandosi poi sul termine “demenza” usato nel titolo, per affermare che: <<questo termine, forte e provocatorio, sembra alludere ai rischi di un’applicazione non critica e indiscriminata delle tecnologie IA, che possono portare a dipendenza, abuso, perdita di privacy, de-umanizzazione dei servizi e, in alcuni casi, discriminazione algoritmica>>. Peccato che il mio lavoro, come ricordato sopra, fosse centrato sui dati e che in quella sede (ma neppure altrove), io non avessi scritto alcunché su quegli argomenti. L’algoritmo mi ha affibbiato un pensiero non mio, che ha dedotto dal testo, ma che io non ho scritto; insomma ChatGPT ha completamente inventato delle considerazioni e me le ha attribuite senza, peraltro, riferire il nocciolo del mio articolo. L’amico ha perso ogni interesse a leggere il mio scritto (l’avesse mai avuto), dicendomi: sì va be’ hai parlato delle solite cose…
Se dovessi rispondere in maniera brusca alla domanda: “in quella occasione, l’IA ha funzionato?” non avrei dubbi a rispondere con un sonoro “no!”
D’altra parte, volendo proseguire la riflessione relativa all’impatto dell’IA sulle nostre menti e sulla società, avviata in quello scritto, mi pare importante affrontare l’argomento che ruota intorno al convincimento diffuso e generico che può essere riassunto dall’affermazione: “l’IA funziona”.
Sempre più spesso capita di ascoltare o leggere considerazioni critiche piuttosto severe nei confronti dell’IA, che riguardano gli aspetti più disparati: dalla presenza delle cosiddette ‘allucinazioni’, ai rischi di disoccupazione o alla perdita di riservatezza (privacy), fino al riconoscimento del pericolo insito nella ‘discriminazione algoritmica’ e nell’omologazione di pregiudizi. Non manca poi il biasimo per gli usi bellici dell’IA, per l’inquinamento e l’enorme consumo di risorse (acqua ed elettricità) dei data-center e dei super computer di quella manciata di aziende del settore che da tutto ciò traggono enormi guadagni. Sovente, magari a margine di tali considerazioni o in privata sede, quasi fosse una sorta d’intima confessione, si ammette: <<sì, tutto ciò è vero, però funziona>>. Proprio perché, in più occasioni, un tale pensiero emerge spontaneo a molti (pure a me), penso sia necessario approfondire questo aspetto della questione. Con l’affermazione: <<l’IA funziona>> cosa intendiamo dire?
Innanzitutto il verbo ‘funzionare’ è polisemico, dipende dal contesto, e dato che l’IA è pur sempre una macchina si potrebbe pensare che, dicendo che ‘funziona’ si intende sostenere che va, cammina, risponde, non si blocca o, come si può evincere dal dizionario che alla voce ‘funzionare’ dice: di meccanismo o macchina che opera, che è in attività, che adempie alla propria funzione. Già, ma qual è la funzione dell’IA? Comunque, e a dispetto dell’essere una macchina, non mi pare tale il senso in cui il verbo viene usato quando ci si riferisce a questa tecnologia.
Piuttosto, penso, si faccia riferimento all’IA come ad un servizio cui si accede facendo una richiesta e dal quale ci si attende che abbia successo nel fornirci dei risultati utili (per noi). In questo senso, però, ogni pur minuscola deviazione da un’olimpica esaustività ed esattezza della risposta (e gli esempi, compreso l’aneddoto iniziale, si sprecano) dovrebbe allarmarci e indurci ad affermare che spesso ‘non funziona’. Anche solo per ragioni burocratiche, chi si rivolgerebbe ad un ufficio il cui impiegato fornisce informazioni imprecise o addirittura false? Siccome così non accade, ma ci si ostina a pensare che l’IA ‘funziona’ (anche quando sbaglia, è reticente o fuorviante), forse è opportuno rivolgere l’attenzione all’altro versante della diade: utente/IA; non è rilevante cosa fa l’IA, piuttosto è opportuno chiedersi quali sono le domande che facciamo ad essa e cosa ci aspettiamo in risposta.
Sul versante di quali siano le nostre attese, quando ci rivolgiamo all’IA, è stato autorevolmente notato2 quanto sia ingenua la credenza che l’IA sia stata programmata per <<… soddisfare un utente che cerca la verità, solo la verità, e non desidera ricevere informazioni false…>>. Piuttosto l’IA è stata programmata <<… per fornire risposte verosimili, ossia risposte che possano essere credute vere, anche a costo di inventarle di sana pianta>>. Mi pare che, nonostante questo avvertimento sia ampiamente presente fra le persone e ricordato dai più, l’uso dell’IA sia in costante e vertiginoso aumento. Quindi, tralasciando, consapevolmente, i possibili errori si ritiene che risponda alle nostre esigenze, riconosciamo che – comunque – ‘funziona’ contribuendo così al suo dilagare.
Rivolgendo l’attenzione al versante delle domande che poniamo all’IA, ritengo opportuno separare l’uso ‘volgare’ (popolare) dell’IA, dagli usi, per così dire, ‘elevati’, molto particolari e settoriali in contesti del tutto specialistici come possono essere le applicazioni ingegneristiche o mediche, ma soprattutto l’utilizzo bellico. In questi ambienti le performance dell’IA sono valutate da specialisti del settore in grado di rapportare gli strumenti adottati e le loro risposte al contesto empirico in maniera sistematica e rigorosa. Per quanto riguarda l’ambito ingegneristico o medico non resta che affidarsi alla professionalità degli operatori; relativamente all’utilizzo bellico dell’IA, invece, possiamo renderci conto direttamente, anche noi, di quanto funzioni ‘bene’ considerando la carneficina di donne e bambini perpetrata dall’esercito israeliano in Palestina e, altrove, da parte di altri eserciti con le loro armi automatiche, guidate dall’IA.
Prima di riflettere sull’uso volgare dell’IA bisogna considerare anche un ulteriore ambito, una sorta di zona grigia fra l’utilizzo popolare e di élite, si potrebbe dire un uso ‘intermedio’, posto in essere – generalmente a pagamento – in ambienti lavorativi di tipo impiegatizio (nella Pubblica Amministrazione e nel privato) o in contesti imprenditoriali di dimensioni piccole e medie. In tale zona intermedia sono, forse, rilevanti attività riconducibili al riassunto di conversazioni o riunioni, alla sintesi di documenti o alla gestione delle mail ricevute o da spedire, così come la redazione di bozze contrattuali e altro ancora. In mansioni di questo tipo la valutazione sul ‘funzionamento’ o meno della tecnologia dipende da diversi fattori che implicano anche considerazioni di tipo gestionale ed economico e che, in ultima istanza, rimandano all’organizzazione del lavoro di uffici e imprese e a tutta la complessità che questo comporta. Come mi è stato riferito da un imprenditore che utilizza l’IA (a pagamento) per la stesura di contratti <<… se andassi dal consulente giuridico, quest’ultimo mi fornirebbe lo stesso testo, che anch’egli ha ottenuto tramite l’IA, del tutto analogo a quello che, invece, ottengo io direttamente ad un costo minore>>. Naturalmente si tratta di un campo d’indagine molto interessante che, tuttavia, mi pare possa contribuire solo marginalmente allo scopo di questo scritto, dove si cerca di mettere a fuoco la funzione dell’IA nella società in generale e, conseguentemente, provare a rispondere alla domanda sul suo funzionamento o meno.
Puntando, invece, lo sguardo all’uso volgare dell’IA, per farsi un’idea anche approssimativa di cosa venga chiesto a questa tecnologia dalle persone comuni, si può andare sulla rete e chiedere3 quali domande, ora dette4 ‘prompt’, si possono porre all’IA.
Si ottiene un quadro di possibili domande molto variegato che va dalle sciocchezze: <<Qual è la previsione meteo di oggi per Napoli?>>, a questioni molto spinose come: <<Qual è la natura della coscienza?>>, passando per l’esplicita richiesta di una visione ideologica <<Che ruolo ha l’AI nell’affrontare le sfide globali, come il cambiamento climatico o la riduzione della povertà?>>. Non manca la possibilità di chiedere suggerimenti relativi all’ambiente di lavoro: <<Crea una risposta del supporto clienti per un utente che ha ricevuto un prodotto danneggiato>>; oppure: <<Genera un post professionale su LinkedIn che descriva i vantaggi del lavoro da remoto>>. Così come, per gli insegnanti o gli studenti: <<Genera un quiz a scelta multipla di 10 domande sulla geografia mondiale>>; oppure: <<Prepara un glossario rapido di termini per principianti del calcolo quantistico>>. Naturalmente esiste anche l’eventualità di poter chiedere utili consigli per la vita: <<Quali strategie possono essere impiegate per mantenere un sano equilibrio tra lavoro e vita privata?>>, oppure: <<Come possono le persone gestire efficacemente lo stress e la pressione al lavoro?>>.
Gli esempi potrebbero proseguire a iosa; ma la situazione è abbastanza chiara: si può chiedere di tutto e, accedendo alla versione ‘AI mode’ di Google, ciò è direttamente esplicitato dalla comparsa della scritta: “chiedi qualsiasi cosa“. Sempre in questo contesto, Google esordisce scrivendo: “Ciao Renato a cosa stai pensando?” e prosegue suggerendomi tre prompt, che possono essere forniti anche in vocale: 1) “Confronta i diversi metodi di preparazione del caffè“; 2) “Quali sono i tipi di plastica e quali possono essere riciclati“; 3) “Come si inizia a giocare a padel“. A parte lo sconcerto dovuto al fatto che nessuno dei suggerimenti fosse fra i miei pensieri di quel momento5, mi pare sia opportuno segnalare tre brevi e banali commenti: i) l’approccio amichevole e confidenziale; ii) la macchina sa chi sono e dal mio ‘account‘ può risalire ai dati che mi riguardano e al mio profilo in possesso di Google; iii) l’invadenza con la quale tenta di introdursi nel mio mondo, chiedendo quali siano i miei pensieri.
Se quello delineato sopra è un congruo, anche se sintetico, quadro di ciò che le persone comuni chiedono all’IA, mi pare si possa concludere che tali interazioni conducono, inevitabilmente, alla condivisione di una immagine del mondo guidata dai responsi dell’IA. Pensieri, pratiche e conoscenze varie vengono elargite dall’IA che si incarica anche di suggerire i comportamenti adeguati negli ambiti più disparati. Così facendo si propaga anche un linguaggio, un modo di pensare comune, indipendentemente dalla lingua con cui viene veicolato. Pertanto l’IA si propone concretamente come il ricettacolo in cui si annida la cultura e a cui si può ricorrere in qualsiasi momento.
Ma se la cultura è quell’insieme di pratiche e conoscenze collettive di una società o di un gruppo sociale, a quale società o gruppo sociale si fa riferimento? Apparentemente nessuno. Pertanto, è forte la tentazione di supporre che i responsi ottenuti dall’IA godano di una sorta di universalità e oggettività in grado di trascendere le capacità umane. Falsità, questa, indotta (spesso volutamente) dallo smarrimento avvertito di fronte a macchine che superano di gran lunga alcune capacità umane, tralasciando di sottolineare che ciò avviene solo limitatamente alla velocità e ampiezza di calcolo nel trattamento dei dati. Inoltre, andrebbe sempre ricordato che questi ultimi non piovono dal cielo, e che a dispetto del loro nome, non sono semplicemente dati (participio passato del verbo dare), ma sono sempre parziali (anche se tanti) e generati in condizioni specifiche.
L’umanità, inoltre, gode di una grande quantità di gruppi sociali eterogenei portatori di culture diverse, riuniti in società, tutte degne del medesimo rispetto e che, tuttavia, non sono egualmente partecipi allo sviluppo e al controllo dei sistemi dell’IA.
Su questi aspetti, la riflessione6 di Papa Leone XIV è chiara e precisa: << … L’impressione di oggettività che le risposte e le proposte di questi sistemi possono suscitare rischia di farci dimenticare che esse riflettono i parametri culturali di chi li ha progettati e addestrati, con tutti i loro pregi e difetti. …>> (n. 100). <<In effetti, come accade per ogni grande svolta tecnologica, l’IA tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati. …>> (n. 108).
Ma l’enciclica papale suggerisce anche molto altro, in particolare quando affronta il tema della comunicazione e dell’immaginario collettivo:
<<In questo orizzonte è importante ricordare che la comunicazione “non è solo trasmissione di informazioni, ma è creazione di una cultura”. I contenuti che circolano negli ambienti digitali influenzano il modo in cui le persone percepiscono il mondo e introducono nella coscienza comune immagini e racconti che orientano i desideri e influenzano le scelte quotidiane. “Non è un mondo parallelo o puramente virtuale”, perché ciò che nasce in rete entra ormai a far parte della vita delle persone, soprattutto dei più giovani.>> (n. 135). <<Per questo, chi controlla le piattaforme digitali e i mezzi di comunicazione possiede una notevole capacità di incidere sull’immaginario collettivo e di proporre come desiderabile una certa visione della realtà. …>> (n.136)
Ebbene, forse da tutto ciò si può intravedere la funzione che l’IA assolve nei confronti delle persone comuni: essa consiste essenzialmente nel diffondere la cultura del gruppo sociale che possiede e gestisce questa tecnologia, anzi nel creare il luogo e le condizioni in cui si materializza e afferma l’egemonia di quella cultura.
Il dominio sull’IA è, a sua volta, conteso fra due o tre poli che fanno riferimento alle grandi potenze mondiali (USA, Cina e forse Russia) ma, penso non ci si allontani molto dal vero (almeno per quanto ci riguarda più direttamente) se si pensa alla cultura espressa da quella ristretta cerchia di oligopoli tecnologici presenti negli Stati Uniti d’America, cui fanno capo diverse piattaforme come: ChatGPT (OpenAI), Gemini (Google), Claude (Anthropic), Copilot (Microsoft). Aziende tutte (chi più chi meno) che traggono immani profitti dalle guerre e che combattono fra loro per il predominio. La cultura in cui sorgono queste aziende, che le alimenta e che necessariamente esprimono è quella della discordia, dell’individualismo, della supremazia della proprietà privata, dell’accaparramento e della sopraffazione; in una parola è la cultura del Capitale nel suo aspetto oggi vincente e più aggiornato (capitalismo tecno-finanziario).
D’altra parte, le risposte fornite dall’IA sono il risultato di un’attività algoritmica di tipo probabilistico, basata sui dati usati durante l’addestramento e nelle diverse fasi di aggiornamento. Non è necessario scomodare teorie complottistiche, per ritenere che – anche inconsapevolmente – i dati utilizzati rispecchieranno lo ‘stato di cose presente’, i rapporti di produzione e di potere in atto fra i diversi gruppi di quella società, l’ideologia che unisce e armonizza questi diversi aspetti. I responsi forniti dall’IA possono risultare formalmente diversi da individuo a individuo, da prompt a prompt; ma non possono che essere sostanzialmente identici in quanto espressione di quella cultura e di quella ideologia.
Così, le persone, i cittadini, noi tutti, veniamo surrettiziamente sospinti ad abbracciare una visione del mondo e un certo modo di pensare che rispecchia le intenzioni e i desideri di chi ha progettato e addestrato i modelli di questa tecnologia. Una visione del mondo che soppianta la tradizionale rete di relazioni sociali in cui eravamo immersi, in favore del rapporto privilegiato con una macchina. Rapporto che trasforma i cittadini concreti, ancorati al proprio ambiente, in cittadini isolati, astratti e privi di radicamento, dipendenti dall’IA e membri uniformati e accondiscendenti ai dettami del mercato globale. In questo senso l’IA può essere vista come un’arma bellica che, nel suo insieme, consente al capitalismo (uniformante) di provare a vincere la sua eterna guerra contro l’umanità (intrinsecamente variegata).
Se questa è la funzione svolta dall’IA nei confronti delle persone comuni, e se ci si pone nell’ottica dei centri di potere, che tale tecnologia hanno ideato e realizzato, non resta che affermare che, effettivamente sì: l’IA funziona.
Così facendo, si può anche comprendere meglio il significato di tale affermazione, che non vale in maniera identica per tutti e indistintamente. Resta da chiarire, infatti, se questo ‘funzionamento’ sia per le persone comuni e per la nostra società attuale, portatore di progresso. A me pare di no, penso piuttosto che l’IA dispensata, o imposta a tutti, sia un pericoloso fattore di arretramento, foriero di peggioramento delle condizioni di vita delle persone e di declino di questa società.
