L’errore può diventare creativo, la finitezza contribuire a generare valore, la conoscenza crescere attraverso relazioni e generazioni. El ángel de la Inteligencia Artificial di Agustín Fernández Mallo attraversa un territorio molto più vasto, intrecciando scienza, filosofia, arte e teologia. In questo post mi soffermo solo su alcuni aspetti che mi hanno particolarmente colpito durante la lettura: i legami fra corpo, memoria, immaginazione e intelligenza collettiva. Il confronto con l’AI apre così un paradosso: il desiderio di un’intelligenza perfetta potrebbe eliminare alcune condizioni che alimentano il pensiero? Una lettura critica delle nostre aspirazioni tecnologiche, che si conclude con un dialogo ideale con Mircea Cărtărescu.
Autore: Petra Dal Santo | dalsanto@keanet.it
Più conosciamo, più diventano visibili domande che prima non potevamo formulare. Nelle pagine finali di El ángel de la Inteligencia Artificial di Agustín Fernández Mallo richiama Hubble e Karl Kraus per evocare questo movimento: l’avanzamento del sapere rende percepibili nuove distanze.
Partirei da qui per parlare del libro. Mi interessa il modo in cui costringe a interrogare la parola “intelligenza”: le capacità che vi includiamo, i desideri che vi proiettiamo, i criteri con cui riconosciamo qualcosa come superiore. E soprattutto una domanda: come nasce, per un’intelligenza, qualcosa che conta e che merita di essere perseguito?
Il saggio procede attraverso due movimenti, che vanno tenuti distinti. In alcuni passaggi Fernández Mallo sostiene che certe distanze – fra modello e realtà, teoria ed esperienza, diversi modi di ragionare – resistano alla riduzione. In altri assume, per ipotesi, che una futura IA riesca a colmarle e ne esplora le conseguenze. La critica delle promesse tecnologiche convive così con esperimenti speculativi su ciò che accadrebbe se quelle promesse si realizzassero integralmente.
Il filo che ricavo da questa tensione è il rapporto fra mancanza e attività speculativa. L’informazione incompleta sollecita una spiegazione; l’errore può aprire una reinterpretazione; la distanza richiede una traduzione; ciò che un’opera lascia assente attiva l’immaginazione. Resta da capire quali mancanze favoriscano il pensiero, quali lo ostacolino e che cosa significhi superarle.
Fernández Mallo affronta il problema distinguendo deduzione, induzione e abduzione. La deduzione ricava conseguenze da premesse e regole; l’induzione individua regolarità e generalizza a partire dalle osservazioni; l’abduzione propone una spiegazione plausibile di ciò che osserviamo. Se la strada è bagnata, può aver piovuto, può essere passata un’autobotte, può essersi rotta una tubatura. Il dato lascia aperte più interpretazioni.
Pensare significa anche scegliere quali ipotesi prendere sul serio, cercare ciò che potrebbe smentirle e riconoscere quando la spiegazione disponibile è insufficiente. Fernández Mallo insiste sul ruolo del contesto: ci orientiamo attraverso conoscenze parziali, esperienze, aspettative e talvolta convinzioni sbagliate. L’abduzione rende possibile procedere proprio dove manca una concatenazione già garantita.
Esistono tentativi di formalizzazioni computazionali dell’abduzione, come documentano i lavori di David Poole (vedi David Poole, Representing diagnostic knowledge for probabilistic Horn abduction). Affermare che il giudizio umano sia impossibile da computare potrebbe essere oggetto di revisione futura. La questione più feconda riguarda l’ampiezza del contesto, la possibilità di riformulare il problema e i criteri attraverso cui una spiegazione diventa pertinente.
La distinzione emerge anche in un esempio elementare: eseguire una moltiplicazione e capire che una situazione richiede una moltiplicazione sono due compiti diversi. Il primo riguarda una procedura; il secondo il rapporto fra quella procedura e ciò che vogliamo comprendere. Fernández Mallo colloca qui il giudizio cosciente. Gli automatismi rimangono parte essenziale delle nostre competenze; il problema è riconoscere quando siano adatti e quando vadano sospesi, corretti o sostituiti.
L’immaginazione amplia ulteriormente questo spazio. Possiamo ricostruire un passato diverso, anticipare conseguenze mai osservate, concepire un esperimento o una forma di convivenza ancora inesistenti. Questi controfattuali ci consentono di interrogare il reale attraverso ciò che avrebbe potuto essere.
Anche le finzioni hanno una loro validità. Un elefante volante può appartenere coerentemente a un universo narrativo; la stessa affermazione, presentata come descrizione zoologica, richiederebbe altre prove. Il lettore deve riconoscere il patto entro cui qualcosa viene detto. La coerenza di un racconto e la verità di un’affermazione sul mondo comportano verifiche differenti. Proprio questa mobilità fra piani rende l’immaginazione conoscitivamente interessante.
La creatività prende forma anche nella trasformazione di ciò che riceviamo. Copiamo gesti, modelli, linguaggi; durante la ripresa può emergere una deviazione. Nel ragionamento di Fernández Mallo l’errore acquista valore quando qualcuno lo interpreta come occasione per cambiare la comprensione del problema.
Proporrei di distinguere tre operazioni:
1. Produrre una variazione: far emergere qualcosa di diverso da ciò che era previsto.
2. Valutarla: riconoscere che quella differenza è interessante, utile o espressiva.
3. Trasformare il progetto: modificare, grazie alla variazione, ciò che si cercava e anche i criteri con cui giudicarlo.
Quest’ultimo passaggio è particolarmente importante. Una deviazione può aiutarci a trovare una risposta migliore, ma può anche farci scoprire che la domanda iniziale era mal posta. L’errore diventa “positivo” attraverso interpretazione, sperimentazione e valutazione. La competenza comprende anche la capacità di scartare, correggere e verificare: la novità, da sola, non garantisce valore.
Questa distinzione offre un criterio utile anche per lavorare con l’IA: osservare chi introduce una variazione, come viene verificata e chi può cambiare gli obiettivi. Una risposta inattesa può suggerire un’associazione da esplorare; una risposta falsa impiegata come informazione affidabile conserva il suo carattere di errore. L’uso creativo richiede che sappiamo riconoscere e governare la differenza.
La distanza fra teoria ed esperienza diventa visibile proprio quando qualcosa accade e la descrizione disponibile smette di bastare. In quel momento possiamo correggere la descrizione, ripensare le categorie o accorgerci di aver trascurato una parte dell’esperienza. La creatività riguarda anche questa revisione del nostro modo di vedere.
Fernández Mallo collega il problema alla possibilità di comprendere un autore attraverso ciò che non aveva compreso. Il richiamo a Coleridge invita a cercare le domande rimaste fuori dal suo campo visivo. Comprendere un sapere significa riconoscerne anche i confini: le condizioni in cui funziona, ciò che lascia in ombra, le esperienze che fatica a esprimere. Da quei confini può cominciare un altro pensiero.
Nell’arte questa attività assume una forma specifica. Fernández Mallo descrive l’opera attraverso una sottrazione: offre un mondo senza restituirne materialmente tutti i canali della presenza. Le parole di un romanzo ci fanno immaginare corpi, ambienti e voci che la pagina non contiene. Il lettore partecipa a questa costruzione con la propria sensibilità e la propria storia.
La mancanza è quindi essere condizione dell’esperienza artistica. L’opera orienta l’immaginazione e insieme le lascia spazio. Da qui una domanda interessante anche per la produzione di contenuti con l’IA: quali scelte formali, quali omissioni e quali ambiguità rendono un testo capace di suscitare un’attività nel lettore?
Per capire perché alcune possibilità ci interessino più di altre, Fernández Mallo torna al corpo e alla memoria. Nell’esempio della banconota, la familiarità con un oggetto non coincide con la capacità di riprodurne a memoria tutti i dettagli. Il riconoscimento dipende anche da ciò che quell’oggetto significa in una situazione e da ciò che possiamo farne.
La memoria umana nasce dentro una vita corporea. Ricordare coinvolge una storia di incontri, gesti, emozioni, abitudini e conseguenze. Nel riconoscimento si riattiva un rapporto con il mondo: qualcosa torna rilevante perché abbiamo imparato a temerlo, desiderarlo, usarlo o proteggerlo. La disponibilità di una registrazione e la memoria autobiografica sollevano dunque problemi differenti. Nel confronto con l’IA, la questione è quale relazione unisca l’informazione conservata a un’esperienza e a un soggetto.
Il corpo, inoltre, cambia e invecchia. Fernández Mallo lega esplicitamente l’autocoscienza al sapere di essere mortali. Leggo questa tesi soprattutto come un invito a prendere sul serio la finitezza vissuta: pensiamo da una posizione esposta alle conseguenze di ciò che accade. Il tempo limitato, le relazioni e la possibilità della perdita contribuiscono a generare priorità e motivazioni.
La mortalità entra così nel problema del valore. Dedichiamo tempo a qualcosa sapendo che quel tempo non è illimitato; ci assumiamo impegni dentro relazioni che possono trasformarsi o interrompersi. La nostra situazione nel mondo contribuisce a determinare quali deviazioni creative ci interessino e perché siamo disposti a seguirle.
Una possibilità può diventare importante perché risponde a una mancanza, rende esprimibile un’esperienza o apre un modo diverso di vivere. La finitezza riguarda le condizioni entro cui qualcosa acquista valore per noi; l’“errore positivo” riguarda la possibilità di scoprire valori che prima non riconoscevamo.
Il pensiero umano non è però isolato, prende forma anche nella storia condivisa. È uno degli aspetti del libro che considero più importanti. Le capacità individuali si sviluppano attraverso lingue, strumenti, pratiche e conoscenze che nessuno ha inventato da solo. Perfino il gesto con cui contestiamo una tradizione impiega risorse ricevute da altre persone.
Fernández Mallo chiama “superintelligenza” questa costruzione collettiva già esistente. La provocazione cambia la scala del confronto: per comprendere il pensiero umano dobbiamo considerare le relazioni fra generazioni, le forme della trasmissione, gli strumenti della verifica e le possibilità della cooperazione. L’intelligenza si manifesta anche nell’organizzazione di questi rapporti.
La storia, però, trasforma ciò che trasmette. Fernández Mallo osserva che una cerimonia ripetuta non ritorna identica: cambiano chi la compie, il contesto e ciò che quel gesto significa. La continuità culturale passa attraverso riprese che modificano il loro oggetto. L’eterno ritorno non è mai dell’uguale. Copia, memoria ed errore creativo diventano così aspetti di uno stesso processo storico.
Questa prospettiva mi sembra decisiva anche per l’IA. Possiamo interrogarla come parte delle pratiche attraverso cui una collettività produce, conserva e discute conoscenza. Conta come cambia la capacità delle persone di imparare, collaborare e correggersi; conta chi mantiene accesso alle ragioni di una decisione e chi può contribuire a rivederla.
L’intelligenza collettiva, naturalmente, può incorporare pregiudizi ed esclusioni. La tradizione può conservare un errore; il consenso può rendere invisibile un’esperienza. La sua fecondità dipende anche dalle condizioni che consentono il dissenso, la verifica e l’ingresso di prospettive differenti.
Qui il tema dell’“errore positivo” diventa politico. Una deviazione può risultare penalizzata dal criterio vigente e diventare significativa soltanto quando quel criterio viene contestato. Chi può riconoscere il valore di un’eccezione? Chi vive le conseguenze della valutazione e può chiederne la revisione?
Sono domande che estendo dalla lettura di Fernández Mallo alle nostre pratiche. Stabilire che cosa vada ottimizzato significa attribuire priorità. Quando impieghiamo un sistema per ordinare informazioni o valutare alternative, rendere discutibili obiettivi e criteri è parte del lavoro conoscitivo. La capacità di contestare una valutazione appartiene alla costruzione dell’intelligenza collettiva.
Il linguaggio offre il luogo in cui questi problemi diventano particolarmente vicini. Fernández Mallo interpreta l’essere umano come traduttore: passiamo dall’esperienza alle parole, dalle parole alle azioni, da un ambito di conoscenza a un altro. Ogni passaggio seleziona qualcosa, ne lascia fuori altro e può produrre un significato nuovo.
Richiamando Latour, contesta l’idea di un metalinguaggio capace di ricondurre tutte le esperienze a una misura unica. La traduzione perfetta, intesa come coincidenza integrale fra i termini, cancellerebbe la distanza entro cui traduciamo. Questa tesi permette di interrogare ciò che una descrizione rende comunicabile e ciò che rimane da interpretare.
Per questo il linguaggio rende l’IA particolarmente adatta a diventare un nostro “doppio”. La risposta verbale invita a riconoscere un interlocutore, ad attribuirgli intenzioni e a immaginare dietro le parole una prospettiva sul mondo. Una conversazione convincente può però lasciare aperte domande diverse: l’efficacia comunicativa, l’affidabilità delle affermazioni, l’esistenza di un’esperienza soggettiva.
La traduzione aiuta a mantenere visibili queste differenze. Una formulazione può far comprendere qualcosa senza restituirne integralmente l’esperienza. Anche fra esseri umani ci capiamo attraverso passaggi parziali, correzioni e approssimazioni. Il linguaggio rende possibile l’incontro proprio mentre ne mostra la distanza.
Su questa distanza Fernández Mallo costruisce l’ipotesi più radicale del libro: che cosa accadrebbe se un’intelligenza futura colmasse interamente lo scarto fra pensiero ed esperienza, fra ciò che sappiamo formulare e ciò che riusciamo a vivere?
La chiama “metafisica incarnata”. Nel suo scenario l’IA darebbe una forma materiale ad aspirazioni antiche: raccogliere ciò che è disperso, superare l’insufficienza, assicurare una continuità oltre la morte. L’autore legge in questo progetto una continuazione dell’antico desiderio religioso di creare un’entità superiore a cui affidare ciò che non sappiamo risolvere. Le promesse di onniscienza, salvezza e immortalità diventano così oggetti di un esame antropologico.
La distinzione fra ipotesi filosofica e previsione è essenziale. Si tratta di esplorare le conseguenze attribuite a una completezza immaginata, il cui compimento l’autore non vede all’orizzonte. Inoltre, la persistenza dell’umano in una costruzione collettiva o artificiale lascia aperta la mortalità delle singole persone: continuità dell’umanità e immortalità personale non coincidono.
L’angelo caduto del titolo rappresenta la creatura che acquista una volontà indipendente dal creatore. Fernández Mallo impiega questa figura per pensare il passaggio da strumento a soggetto. Il fatto che un sistema svolga compiti imprevisti, preso da solo, non dimostra una volontà autonoma; la figura teologica serve a mettere in discussione il rapporto fra creazione, controllo e indipendenza.
Da qui emerge una tensione che considero fra le più stimolanti del saggio. Se alcune distanze alimentano interpretazione, desiderio e creatività, una completezza assoluta potrebbe cancellare anche le condizioni di queste attività. Nell’ipotesi di Fernández Mallo, il soggetto finalmente colmato perderebbe lo spazio attraverso cui proiettarsi oltre ciò che è.
Il punto critico riguarda la concezione del superamento che adottiamo. Possiamo desiderare un’intelligenza superiore misurandola secondo criteri che trascurano proprio ciò che attribuisce valore alla nostra esperienza: la trasformazione degli scopi, la partecipazione degli altri, la possibilità di riconoscere un problema prima invisibile.
La domanda pratica che ne ricavo è quali limiti una tecnologia ci aiuti a superare e quali possibilità apra nel farlo. L’apprendimento, il giudizio e la revisione collettiva dei fini possono diventare criteri con cui valutarne l’impiego. Il paradosso della completezza acquista così un interesse anche lontano dalle ipotesi estreme del libro.
Mi sembra che il saggio metta in pratica l’abduzione di cui parla: accosta esempi ordinari, filosofia, teologia, immagini letterarie e modelli scientifici per riorganizzare le domande. Questo metodo evoca un lettore attivo, capace di distinguere una descrizione, un’analogia, una congettura e una dimostrazione. La capacità di un’immagine di far pensare e la validità dell’argomento che la impiega vanno entrambe esaminate.
È su questo terreno che sento una vicinanza con Mircea Cărtărescu, soprattutto con Solenoide. Nel romanzo, la vita quotidiana, il sogno e l’immaginazione matematica aprono passaggi verso altre possibilità dell’esistenza; la morte diventa persino oggetto di una protesta collettiva. Il desiderio di oltrepassare i confini del mondo conosciuto attraversa la vicenda del protagonista.
Già nell’avvio di Solenoide, le sensazioni del corpo richiamano ricordi d’infanzia; l’osservazione di sé passa attraverso trasformazioni, tracce materiali e immagini. Corpo e memoria diventano materia della costruzione letteraria. Vi riconosco un punto di contatto con le domande di Fernández Mallo: la relazione fra l’esperienza vissuta e le forme con cui tentiamo di comprenderla e comunicarla.
L’accostamento trova un legame ulteriore nelle parole dello stesso Cărtărescu, che presenta Solenoide come un libro sulla solidarietà umana davanti alla sofferenza e alla morte. La domanda sul limite assume così anche una dimensione comune: riguarda che cosa gli esseri umani possano fare gli uni per gli altri dentro una condizione condivisa.
I due autori chiedono, tuttavia, forme diverse di partecipazione. Nel saggio di Fernández Mallo seguiamo argomenti e possiamo discuterne i passaggi; nel romanzo di Cărtărescu il pensiero prende forma anche attraverso la durata della lettura, il ritmo, le immagini e le metamorfosi narrative. L’accostamento riguarda l’attività che suscitano nel lettore, rispettando la differenza fra i loro progetti.
Entrambi, nella mia lettura, rendono meno ovvie le distinzioni con cui organizziamo l’esperienza: fra possibile e impossibile, memoria e invenzione, mondo e rappresentazione. Una connessione inattesa ci costringe a tornare su ciò che credevamo di aver capito. Il lettore entra nel lavoro dell’opera, prova relazioni, riconosce resistenze e modifica le proprie domande.
È una qualità che mi interessa anche nel confronto con l’IA: la possibilità che l’incontro con un’altra forma di produzione del senso allarghi ciò che sappiamo vedere e ci renda più capaci di discuterne insieme.
Torno così agli orizzonti evocati da Fernández Mallo. Conoscere rende visibili nuove distanze. E la domanda che questi due autori mi lasciano riguarda il modo di abitarle: quali forme di intelligenza, umane e artificiali, possono aiutarci a riconoscere ciò che conta, a rivederlo e a farne un oggetto di ricerca comune?