L’inganno dell’IA. Come difenderci? - di Pasquale Romito

NAPOLI\ aise\ - L’utilizzo senza regole dell’IA generativa deve necessariamente aprire un dibattito che coinvolga studiosi e professionisti di varie discipline. Due di loro, che mi permetto di chiamare amici, sono di recente intervenuti sull’argomento. Si tratta di Lucio Romano, chirurgo e docente di Bioetica - Commissione Scientifica Centro Interuniversitario di ricerca Bioetica” CIRB – Responsabile Servizio “Cultura e Dialogo con la Città” dell’Arcidiocesi di Napoli, già senatore nella XVII Legislatura; e Massimo Zollo, ordinario di Genetica presso il Dipartimento di Medicina Molecolare e Biotecnologie Mediche Università degli Studi DI Napoli Federico II – Direttore del Laboratorio di Genetica e Genomica dei Tumori Cerebrali Pediatrici al CEINGE di Napoli.
Zollo il 7 giugno scorso ha pubblicato sul quotidiano “Il Mattino” una interessante riflessione che ha intitolato “L’IA è un’occasione ma senza rinunciare all’Intelligenza Umana”. In breve, non disconoscendo l’utilità dell’IA in ambito medico - scientifico, ne ha delineato i limiti, se non i pericoli, dovuti ad un uso distorto della stessa in particolare quando tende alla “omologazione del pensiero” dovuta ad un uso acritico dell’IA. Dal suo punto di vista, quindi, l’antidoto è, e sempre rimarrà, la capacità dell’essere umano di esercitare e rafforzare alcune capacità neurali proprie del nostro cervello al fine dice, citando Lamarck, “di evitare di mettere in disuso le connessioni neurali che quando non utilizzate si indeboliscono fino ad atrofizzarsi completamente”.
Quindi il “Pensiero”, nella sua accezione più ampia, rappresenta la via maestra da percorrere. “La macchina calcola”, scrive ancora Zollo. “L’uomo attribuisce significato”. Interessante, a mio parere, anche l’accostamento che fa al pensiero di Darwin: “non sopravvive necessariamente il più forte, ma chi sa adattarsi meglio ad un ambiente che cambia”. Evidentemente, l’Intelligenza Artificiale sta apportando nella nostra civiltà modificazioni al nostro apparato cognitivo, con una velocità sconosciuta alle generazioni che ci hanno preceduto. A noi spetta l’arduo, ma non impossibile, compito di preservare e rafforzare le forme di pensiero critico, la curiosità scientifica, la capacità di porre domande, l’intelligenza emotiva, la creatività, la collaborazione interdisciplinare e, non ultima, l’etica.
Tema, quest’ultimo, di più stretta competenza di Lucio Romano che, in un suo recentissimo articolo pubblicato sulla rivista “Appunti di cultura e politica” dal titolo ““Capacità emergenti” e “opacità cognitive” dell’IA: una sfida per la Democrazia?” tratta, con la precisione e la visione interdisciplinare che gli è usuale, un tema che, non ponendosi in alternativa a quello sviluppato da Zollo, introduce un ulteriore ambito di riflessione.
Romano parte dalla osservazione che i sistemi di IA di ultimissima generazione hanno compiuto passi da gigante - mostrando capacità non programmate esplicitamente che, spontaneamente, compaiono al crescere dell’utilizzo delle masse di dati che vanno ad accrescere le “conoscenze” dell’IA e che sino ad oggi erano reputate, a giusta ragione, come esclusivamente umane: capacità di ragionamento analogico, pianificazione multi step, comprensione del contesto – per porre la questione della Governance, anche alla luce dell’IA Act dell’Ue che ha posto in essere un primo inquadramento normativo “superato” dalla velocità delle innovazioni.
In primis occorre distinguere tra le forme di IA ingegneristiche o riproduttive e le IA cognitive o produttive.
Considerata la potenza di calcolo infinitamente superiore a quella umana, siamo di fronte ad una nuova forma di soggettività cognitiva e corriamo il rischio di scambiare una eco generata per una voce ed il riflesso generato per un volto. Questa inattesa evoluzione dell’IA sta forse a significare che l’architettura dei modelli linguistici artificiali ed il pensiero umano stanno convergendo? Di certo, la direzione intrapresa da questa evoluzione, va nel senso di una emulazione profonda dei processi cognitivi della mente umana. Se così individuate, a tali “capacità emergenti” corrispondono anche “opacità cognitive” cioè: data una certa decisione presa dall’IA non siamo in grado di comprendere con chiarezza il processo che ha portato al risultato anche se abbiamo contezza di tutti i dati interni al sistema.
La decisione, in presenza di tali “opacità cognitive”, si sposta sul piano funzionale: la decisione assunta funziona ed è utile, si passa allora dal piano della esplicabilità di una data decisione, al mero funzionalismo. Si battezza, quindi, il passaggio dalla cognizione effettiva alla passiva osservazione del risultato e dei suoi effetti. A questo punto l’efficacia del risultato conta più della comprensione del percorso che lo ha generato.
Non è importante chiedersi il “perché”, in quanto tecnicamente ci è impossibile saperlo, purché il risultato funzioni. Il ruolo dell’umano muta allora da decisore consapevole a mero fruitore di “output” nati in spazi a lui preclusi. La deriva, dalla comprensione alla passiva accettazione, è la frattura più evidente ed insidiosa tra la scienza, intesa come sapere fondato sul pensiero, e l’IA in quanto le “capacità emergenti” e le “opacità cognitive” si alimentano a vicenda.
Non è mia intenzione mettere in discussione “tout court” un intero sistema in grado di produrre capacità non previste ma che funzionano: il rischio sarebbe quello di apparire ostili al progresso ed al nuovo che avanza. Di converso però, a fronte del funzionalismo della tecnica, si pone il diritto di comprendere una decisione che ci riguarda.
La questione si pone su di un piano più profondo: possiamo parlare di una nuova cultura della “Responsabilità Digitale”, capace di coniugare ciò che l’IA sa fare e ciò che la “Humanitas” deve poter comprendere e governare. Questa è una sfida per la democrazia nel neoumanesimo digitale.
L’IA, come strumento di analisi e comprensione di masse di dati eterogenei, può e potrà, in determinati ambiti - Medicina, Biologia, Tecnologia etc - essere uno strumento utilissimo per combattere il “Male” in tutte le sue declinazioni; i passi avanti fatti nello sviluppo di nuove terapie genetiche personalizzate per singolo paziente ne sono la prova esemplare.
In ambito tecnico e tecnologico l’utilizzo di attrezzature dotate di IA consente di eliminare i potenziali rischi e gli errori umani. Nelle fabbriche si affiancano sempre più spesso robot umanoidi e non, dotati di IA, per supportare o sostituire le maestranze nei compiti gravosi o rischiosi per la loro integrità fisica.
Quello che preoccupa è il ritenere l’IA la panacea risolutrice di tutti i problemi, il “Deus ex machina” del nuovo millennio, cui demandare il potere decisionale su questioni che riguardano la nostra stessa esistenza di esseri pensanti, così da perdere quella sana abitudine al pensiero, alla ricerca di soluzioni che non ci possono essere date da un logaritmo per quanto raffinato esso sia, alla creatività, alla resilienza, alla critica, all’intelligenza emotiva, alla collaborazione interdisciplinare e all’etica che, alla luce di quello che è stato definito neoumanesimo digitale, deve guidare, spero, i processi decisionali più importanti. (pasquale romito\aise)