Invito alla lettura di Massimo Chiriatti, Incoscienza artificiale. Come fanno le macchine a prevedere per noi, Luiss University Press, 2021
L’AI fa parte della famiglia di strumenti creati dall’uomo per espandere le proprie capacità.
Una volta creato, fra uomo e strumento si innesca una relazione che non porta solo al miglioramento continuo dello strumento, ma anche al cambiamento del comportamento umano. Nel suo Papyrus. L’infinito in un giunco (2019), Irene Vallejo illustra in modo esemplare il cambiamento del comportamento delle persone al diffondersi della scrittura e dei testi letterari scritti: la prosa si affianca alla poesia (metrica e musicalità del verso ne aiutano la memorizzazione, necessaria alla trasmissione orale); gli autori iniziano ad affrontare temi astratti, poiché il testo scritto permette al lettore di riflettervi ad agio; le strutture sintattiche si evolvono verso forme maggiormente complesse; grazie alla maggiore persistenza del testo scritto, si diffondono anche idee non mainstream che avrebbero avuto più difficoltà a imporsi nella tradizione orale, ecc.
Gli strumenti sono classificabili in semplici, usati dall’uomo; automatici, capaci di eseguire da soli i compiti per cui sono stati progettati; autonomi, in cui rientrano le forme di AI dotate della capacità di apprendere da sole, cioè di scoprire regolarità e relazioni processando i dati che vengono loro sottoposti, e di migliorare iterativamente senza la necessità di una programmazione esplicita a priori.
L’AI è lo strumento creato dall’uomo per ridurre l’incertezza del futuro, per sapere che cosa è statisticamente più probabile a fronte dell’insipienza delle risposte a domande in contesti in cui sono in gioco volumi, velocità e varietà notevoli di dati, che l’uomo non è abile a processare.
Nella relazione fra uomo e AI, noi influenziamo la AI fornendole determinati dati relativi al nostro comportamento e all’ambiente reso digitalmente leggibile, nonché le domande che orientano le attività della AI; viceversa, la AI ci influenza indicandoci correlazioni e fornendoci previsioni statistiche che si frappongono fra noi e il reale, e che condizionano il nostro processo di formazione del giudizio (che può richiedere anche l’individuazione di nessi causali), di presa di decisione e di azione.
L’autonomia rende però la AI uno strumento particolare, simile più a un soggetto con cui ci relazioniamo, che a un oggetto che usiamo (in prima persona o attivando il meccanismo del suo funzionamento automatico).
In quest’ottica Massimo Chiriatti propone di espandere il modello di Daniel Kahneman, affiancando al Sistema 1 e 2, ai nostri pensieri veloci e lenti, istintivi e razionali, reattivi e riflessivi, il Sistema 0, proprio della AI, che media fra la realtà e il nostro Sistema 1, in prima battuta, e il nostro Sistema 2, quando necessario.
Il primo ambito di riflessione è dunque: come cambia il comportamento umano nel contesto della relazione con le applicazioni dotate di AI? Come cambia il nostro modo di prendere decisioni quando consultiamo preventivamente agenti digitali creati per fornirci previsioni in un determinato ambito? Quanto siamo consapevoli non solo della distinzione fra previsione e decisione, ma anche della natura statistica, quantitativa della previsione, e del suo processo di formazione?
Questi quesiti conducono a un secondo nucleo tematico, proposto da Luciano Floridi nella prefazione: il tempo. Luciano Floridi afferma che il digitale, e la AI in particolare, hanno reso enormemente più veloce il comunicare, il manipolare e l’ottenere, producendo simultaneamente una compressione e una espansione del tempo. La velocità di comunicazione e manipolazione trasforma la AI in una macchina del tempo, capace di inferire statisticamente dai dati del presente/passato le previsioni probabilistiche del futuro che vi si assumono inscritte. Come cambia il comportamento umano a fronte della possibilità di far computare alla AI, in modo sufficientemente veloce, risposte statisticamente probabili a quesiti di cui non conosciamo la risposta (corretta)? Quanto siamo consapevoli del fatto che l’assunta linearità fra passato/presente e futuro non può valere in tutti i contesti?
Riflettendo sulle qualità della relazione fra uomo e AI, e fra AI e uomo, Massimo Chiriatti ci conduce al tema centrale del libro: le AI con cui ci relazioniamo attualmente sono simili soggetti, ma sono soggetti non coscienti. Non statuiscono il fine delle loro elaborazioni e previsioni; seguono tracce contenute nei dati che noi sottoponiamo loro; non hanno contezza del perché delle loro attività… eppure, processando dati creano regole, modelli, previsioni e, in ultima analisi, rappresentazioni del mondo con cui le persone si confrontano e che fanno rientrare nei loro processi decisioni. Dato che ogni rappresentazione del mondo ha risvolti non solo tecnico-pratici, ma anche sociali (in particolare su libertà, salute e temi etici), Massimo Chiriatti ritiene che “la presenza dell’essere umano è centrale, fondamentale e non eludibile”, proponendo una via “non solo tecnica, ma anche auspicabilmente umanistica e filosofica” all’AI.
All’incoscienza della AI e alla necessità di un’etica per la AI Luciano Floridi ha dedicato di recente il suo Etica dell’intelligenza artificiale. Sviluppi, opportunità, sfide (Roma, Luiss University Press, 2022) su cui abbiamo relazionato in un precedente post (https://www.blogdikea.it/2022/06/22/che-cosa-hanno-in-comune-la-cara-vecchia-lavatrice-e-lintelligenza-artificiale/).