E’ uscito di recente questo libro “IO e IA – Mente, cervello e GPT” per Rubbettino editore. Gli autori sono Riccardo Manzotti, filosofo, Milano, e Simone Rossi, neuroscienziato, Siena
E’ un bel libro, che merita di essere letto e anche presto , vista la sua attualità.
Prima di tutto, il breve saggio è concentrato su un tema di cui si parla molto, e che ruota intorno al confronto tra gli esseri umani e le macchine sempre più complesse prodotte dalla tecnologia. Un tema che sicuramente ci attrae, come spiegano i due autori, perchè stuzzica il nostro narcisismo, di considerarci i migliori.
Personalmente penso che non ci dobbiamo vergognare ad essere un po’ narcisisti (una lieve dose di narcisismo migliora di gran lunga l’ autostima, opinione personale). Ma certo non possiamo essere narcisisti al punto di dare sempre per scontato che siamo i migliori, come hanno fatto saggisti, giornalisti e scienziati che sono intervenuti sul tema e che si sono limitati a riaffermare che meglio di noi umani non c’è nessuno (tanto meno possono essere meglio di noi delle macchine, seppure intelligenti)
Ma siamo proprio certi che anche agli homo sapiens non possa capitare un giorno quello che capitò ai Neanderthal, di essere cioè costretti ad occupare il secondo posto?
Il modo in cui Rossi e Manzotti parlano di GPT e del funzionamento della mente umana (lasciatemi per ora usare questa parola, che però alla luce del libro dovrà essere meglio precisata, come vedremo tra poco), mettendoli a confronto, non cade mai nel consueto, nel banale, e sopratutto nel politicamente corretto.
Ho letto il libro, filtrato dalle mie discrete conoscenze di neurologia e dalla mia completa ignoranza di intelligenza artificiale (cosa sono le reti neurali di cui è fatta IA?). L’ impressione, che ho adesso, di aver capito qualcosa di come funzionano le reti neurali dell’ IA e della loro analogia (stretta) con il funzionamento del cervello umano (almeno per quanto riguarda il linguaggio) è senz’altro la cosa che mi ha dato più soddisfazione.
Lo so, caro lettore, le recensioni dovrebbero essere brevi, altrimenti non le legge nessuno. Ma che colpa ne ho se il libro mi ha fatto venire a mente un sacco di commenti?
I commenti riguardano sopratutto quel I/O che è introdotto in uno degli ultimi capitoli. Mi sembra che in quei capitoli ci siano le premesse da sviluppare in un nuovo libro.
IL VUOTO
Ho già detto che nella giusta misura il narcisismo non mi preoccupa. Ma voglio stare al gioco degli autori del libro. Essi dicono che nel cervello, nella testa insomma, ci sono solo molecole, potenziali elettrici, 86 * 1013 (minimo) sinapsi, disposte per niente a caso ma in una configurazione ben definita (che cambia continuamente nel corso della vita, sempre in maniera molto ordinata, salvo quando stiamo proprio male!), ma -sorpresa – non c’è niente altro. Ad es. non c’è la scintilla divina che sognavamo, ma non c’è nemmeno il pensiero! Va bene, ammettiamolo. E andiamo avanti.
Poco dopo, però troviamo che gli autori si preoccupano e provano a riempire questo vuoto con le emozioni, e anche con la creatività. Ma, mi chiedo, emozioni e creatività non sono come qualsiasi altro processo mentale? Insomma, dentro la scatola cranica non corrispondono anch’esse a molecole e neuroni, tuttalpiù a dei circuiti? Anche se riempiamo il vuoto con emozioni e creatività, nel cervello troviamo sempre molecole e neuroni, e così non resta che pensare che, magicamente, ci sia un rapporto tra queste strutture (ripeto non caotiche ma molto ordinate) e la soggettività, cioè l’ esperienza soggettiva (del piacere e dell’ amore, del bello, ma anche dell’ odio ecc.) .
Vediamo alcuni sviluppi interessanti del libro su questo punto.
La soggettività rimane incomprimibile, e in qualche maniera dobbiamo cercare di spiegarla.
Sì, è vero: in una visione radicale, la soggettività potrebbe essere compressa del tutto e sparire. E, possiamo crederci, il mondo, mutatis mutandis, potrebbe funzionare ancora come ora. Ma noi non avremmo alcuna consapevolezza di tutto quello che accade e di cosa stiamo facendo, né alcun piacere o timore; insomma sarebbe un mondo di Zombi, o di sonnambuli, o appunto di IA….inconsapevoli perfino della loro bravura.
Si apre anche un altro problema, se c’è un vuoto chi lo riempirà? il padrone di quel corpo e di quel vuoto, l’ Io in senso classico , o il Mondo (autoritarismi e omologazioni di vario genere’ la solidarietà o l’ aggressione?). E’ importante mantenere una competenza dell’ individuo a costruire e plasmare il proprio vuoto, penso.
LA COSA (o l’ ecosistema IO/MONDO)
L’ esperienza soggettiva (coscienza, aspetti soggettivi delle emozioni spiacevoli e piacevoli, aspetto soggettivi della creatività ecc.), secondo gli autori, è qualcosa (una cosa, non una fantasia interna o un vero e proprio IO nel senso classico) che non abita nel cervello e nella testa, e invece abita in una specie di ecosistema IO/MONDO.
Se è qualcosa, è qualcosa di fisico, di oggettivo, come la materia, e prima o poi disporremmo di una fisica in grado di comprendere (misurare?) questa cosa , la nostra coscienza, insomma.
E’ molto importante non pensare all’ individuo come qualcosa (o qualcuno) che ha per confine la propria pelle. Ogni individuo è quello che è, perchè è da sempre (da prima di nascere) immerso in un mondo esterno, in un contesto. Si potrebbe dire che ogni individuo è un eco-sistema in cui co-evolvono un corpo, costruito dall’ evoluzione naturale e dal proprio sviluppo (ontogenesi). Un individuo è qualcosa che in ogni istante è sempre diverso dall’ istante precedente.
Questo approccio, forse mai apprezzato a sufficienza, ha una tradizione fenomenologica e in neuroscienze dello sviluppo fu ben descritto da un neuropsichiatra fiorentino, piuttosto immeritatamente dimenticato, Adriano Milani Comparetti, che appunto si occupava di costruzione dell’ identità personale dell’ individuo nel suo mondo, negli anni 80 del novecento.
In un certo senso la nozione di eco-sistema in cui un individuo co-evolve con il suo mondo potrebbe essere compatibile , mi sembra, con l’ idea che la coscienza si sposti dall’IO all’ IO/MONDO, come mi pare sostengano i due autori.
Milani Comparetti suggeriva di considerare lo sviluppo come una sequenza in cui una forma o struttura predeterminata dall’evoluzione, acquisisce complessità (funzioni) durante lo sviluppo. I circuiti cerebrali di ogni individuo sono costruiti dall’incastrarsi successivo di evoluzione naturale, sviluppo individuale (ontogenesi) e esperienza personale nel proprio mondo.
COME TROVARE PUNTI D’INTESA TRA IDEOLOGIE DIVERSE: CE LO INSEGNA GPT!
Nel capitolo Il trucco svelato i due autori ci svelano come funziona l’ IA generativa quando compone un discorso, le sue risposte, e le sorprendenti analogie tra il suo modo di procedere e il modo di funzionare probabile del linguaggio umano.
Una cosa mi è sembrata davvero illuminante. La IA scompone ogni parola , o pezzo di parola, e le attribuisce una serie di numeri che hanno a che fare con la probabilità condizionata che la parola stessa occupi una certa posizione nella sintassi o nel contesto di significato del discorso. Beh, nel libro è spiegato assai meglio e in diverse pagine.
Per esempio, In questa maniera, sempre su base probabilistica, Chat GPT trova le correlazioni tra le varie parole della filosofia.
Quando la IA risponde alle domande del filosofo, che le ha proposto di cercare delle correlazioni tra il pensiero – si fa per dire – di filosofi di epoche/contesti diversi, curiosamente la macchina si rivela molto abile nello scovare queste correlazioni , non facili da comprendere a prima vista , per molto esseri umani, anche non digiuni di filosofia.
Gli autori ci spiegano dopo, che non si tratta di vera creatività in senso stretto.
Ma a parte questo le relazioni descritte con facilità da CHat GPT restano interessanti. Ci possiamo domandare perché è così facile per CHAT GPT scoprire queste relazioni tra filosofi diversi , mentre magari cade su domande anche molto semplici ma più empiriche, e più legate, ad esempio, ad una pratica professionale come il lavoro clinico?
Una risposta potremmo trovarla nel capitolo Il trucco svelato. CHAT GP3 scompone le parole in livelli di probabilità condizionata di significato o di posizione che possono avere in un discorso, come ci è stato spiegato.
Quindi CHAT GPT non confronta PAROLA CONTRO PAROLA, che potrebbe portare ad un muro contro muro, ma confronta tra loro, ad esempio, i vari livelli di significato che la parola può avere con maggiore o minore probabilità in un discorso
E allora, è ovvio che è più facile trovare relazioni tra due parole anche distanti, o tra due filosofi che più diversi non si può. Immaginiamo Don Camillo e Peppone (anche se non sono filosofi, sono però esempi di ideologie a confronto).
Ma se le due ideologie, di don Camillo e Beppone, sono scomposte nelle tante linee e sfaccettature di significati che le compongono (per esempio che entrambi in fondo sono brave persone), allora sarà più facile trovare qualche linea di significato comune sia a Don Camillo che a Peppone.
Se si confrontano come portatori di un’ intera e diversa ideologia, lo scontro è frontale e non c’è comprensione o compatibilità tra i due.
Le conseguenze di questo non sono banali, se si proiettano sulla storia degli esseri umani ad es in relazione alla possibilità di convivenza tra diversi, o al rischio di odio ideologico/religioso/politico tra le persone e tra i popoli (senza riferimenti alla recente guerra in medio-oriente).
Walter Borsini
23 agosto 2023
