Nel dibattito sulle tecnologie emergenti, il confine tra realtà scientifica e narrazione sensazionalistica è spesso sfumato. Per studenti, professionisti e cittadini è quindi essenziale un approccio critico e demistificato al digitale.
Un contributo rilevante in questa direzione è offerto da Why Machines Will Never Rule the World: Artificial Intelligence without Fear (Routledge, 2023), di Jobst Landgrebe, scienziato e imprenditore nel settore dell’IA, e Barry Smith, filosofo e ontologo. Il libro propone una tesi netta: gli scenari di dominazione delle macchine e di Singolarità tecnologica non sarebbero semplicemente lontani sul piano tecnico, ma incompatibili con i limiti della modellizzazione matematica dei sistemi complessi.
La tesi centrale: i limiti dell’AGI
Per Intelligenza Artificiale Generale (AGI) si intende l’ipotesi di una macchina capace di emulare o superare l’intelligenza umana in ogni sua espressione: ragionamento, coscienza, intenzionalità, linguaggio e giudizio morale. A questa ipotesi viene spesso associata la Singolarità, cioè il punto in cui un sistema artificiale sarebbe in grado di riprogettarsi autonomamente e in modo incontrollabile.
Landgrebe e Smith sviluppano un ragionamento fondato sulla teoria dei sistemi complessi:
- per costruire un’AGI occorrerebbe emulare in software il sistema neurocognitivo umano;
- una simile emulazione richiederebbe un modello matematico capace di rappresentare e prevedere gli stati del sistema;
- cervello, mente, linguaggio e interazioni sociali sono sistemi dinamici complessi;
- per gli autori, il numero e l’interazione non lineare delle cause rendono impossibile un modello predittivo completo di tali sistemi;
- da ciò essi deducono l’impossibilità dell’emulazione software completa e, quindi, dell’AGI e della Singolarità.
L’analogia proposta è quella della macchina a moto perpetuo: non un obiettivo tecnologico soltanto non ancora raggiunto, ma un’aspirazione che incontrerebbe limiti fondamentali.
Mente umana e calcolatore
La tesi non riduce il problema alla sola potenza di calcolo. Riguarda la differenza tra computazione e vita mentale.
La dipendenza dall’osservatore
Richiamando John Searle, gli autori osservano che i processi fisici di un calcolatore non possiedono un significato intrinseco. Il significato, la coscienza e l’intenzionalità sono attribuiti dall’osservatore umano. La macchina manipola simboli secondo regole; non possiede, per questo solo fatto, consapevolezza di ciò che sta elaborando.
Linguaggio e contesto
La conversazione umana include contesto, vaghezza, assunzioni implicite, esperienza e accidentalità. I sistemi di riconoscimento di pattern possono produrre risposte utili e linguisticamente credibili, ma ciò non equivale necessariamente a comprensione del contesto in senso umano.
Modelli statistici e deep learning
Gli autori sostengono che tanto gli approcci simbolici quanto le reti neurali restano entro i limiti della computabilità e della modellizzazione. Il progresso dei modelli non eliminerebbe quindi, secondo la loro argomentazione, la distanza tra previsione statistica e comprensione generale.
Successo dell’IA stretta e rischio dell’hype
I risultati più importanti dell’IA si concentrano nell’IA stretta: compiti delimitati, regolati e con dati disponibili. AlphaGo è un esempio significativo: raggiunge prestazioni straordinarie nel Go, ma agisce entro un insieme di regole definito e non trasferisce autonomamente quella capacità alla generalità delle situazioni umane.
Il salto da un successo specifico alla conclusione che esista una intelligenza generale è, secondo Landgrebe e Smith, il motore del ciclo dell’hype: aspettative eccessive, delusione, nuovi entusiasmi.
Il confronto può essere arricchito da altre posizioni: Erik J. Larson richiama il problema dell’abduzione; Judea Pearl insiste sul ragionamento causale; Yoshua Bengio sottolinea la distanza fra comportamento dei modelli e comprensione morale; Yann LeCun richiama vincoli fisici ed economici alla crescita della potenza di calcolo; Shannon Vallor invita a concentrarsi sui danni concreti derivanti dall’uso improprio di sistemi non sufficientemente intelligenti nelle istituzioni umane.
Le implicazioni per la formazione e per le professioni
Riconoscere i limiti dell’AGI non significa sminuire il valore dell’Intelligenza Artificiale. Il valore dell’IA stretta è già evidente nell’automazione di compiti specifici, nell’analisi di grandi quantità di dati e nel supporto ai processi decisionali.
Per il professionista, la lezione è duplice:
- liberarsi dalle paure infondate, concentrando l’attenzione sui rischi concreti: qualità dei dati, bias, trasparenza, riservatezza, verifica degli output e responsabilità;
- valorizzare il capitale umano: giudizio critico, comprensione del contesto, relazione con il cliente, responsabilità e decisione restano centrali.
L’IA è uno strumento di confronto, analisi e ampliamento delle capacità professionali. Non è un succedaneo della mente umana. La tecnologia può accelerare il lavoro; la persona resta responsabile della direzione, del significato e delle conseguenze delle decisioni.
Riferimento
Jobst Landgrebe e Barry Smith, Why Machines Will Never Rule the World: Artificial Intelligence without Fear, Routledge, 2023.