Ieri sera ho visto The AI Doc: Or How I Became an Apocaloptimist, il documentario diretto da Daniel Roher e Charlie Tyrell che prova ad affrontare una delle domande più difficili del nostro tempo: dove ci sta portando l’intelligenza artificiale?
La cosa che mi ha colpito è che il documentario non affronta il tema soltanto dal punto di vista tecnologico. Parte da una prospettiva molto più personale: quella di un futuro padre che cerca di capire cosa stia realmente accadendo con l’intelligenza artificiale e, soprattutto, quale mondo questa tecnologia potrebbe lasciare alla generazione successiva.
Guardandolo mi sono ritrovato a riflettere su una domanda che, secondo me, diventerà sempre più importante nei prossimi anni ma che è già attuale: cosa succede se l’umanità costruisce una delle tecnologie più potenti della propria storia e commette un errore nel modo in cui la sviluppa o la controlla?
Il termine scelto dal documentario, “apocaloptimist”, descrive sorprendentemente bene il modo in cui penso dovremmo guardare a questa tecnologia.
Da una parte è difficile non essere entusiasti delle possibilità che l’intelligenza artificiale potrebbe offrirci. Dall’altra sarebbe ingenuo ignorare i rischi derivanti dalla creazione di sistemi sempre più intelligenti, autonomi e capaci di agire nel mondo reale.
Possiamo quindi essere estremamente ottimisti sulle possibilità dell’intelligenza artificiale e, contemporaneamente, prendere molto sul serio ciò che potrebbe accadere se un giorno costruissimo sistemi molto più intelligenti di noi.
Mentre guardavo il documentario, mi è venuta in mente una metafora che secondo me descrive bene questo paradosso.
Immaginiamo che l’AGI sia Superman.
E che parte dell’umanità sia Batman.
Quando arriva Superman
Con Artificial General Intelligence, o AGI, non si intende semplicemente un chatbot migliore.
Non esiste ancora una definizione universalmente accettata, ma una delle interpretazioni più utilizzate considera AGI un sistema capace di raggiungere elevate prestazioni su una gamma molto ampia di attività cognitive, anziché essere specializzato in uno specifico dominio. Google DeepMind, ad esempio, propone di ragionare sull’AGI attraverso due dimensioni: quanto è intelligente il sistema e quanto è generale la sua intelligenza.
Un sistema del genere potrebbe imparare nuove competenze, analizzare problemi scientifici, programmare software, progettare esperimenti, comprendere testi, ragionare su problemi economici e collaborare con esseri umani.
In altre parole, sarebbe qualcosa di molto diverso dall’intelligenza artificiale specializzata alla quale siamo stati abituati.
Sarebbe come se Superman arrivasse sulla Terra.
Superman può volare. È incredibilmente forte. Può intervenire in pochi secondi dove un essere umano impiegherebbe ore. Può affrontare minacce contro le quali nessuna persona normale avrebbe possibilità.
Ed è precisamente questo il motivo per cui l’umanità finisce per affidarsi a lui.
Lo stesso potrebbe accadere con l’AGI.
Il Superman buono: l’AGI come acceleratore della civiltà
Se Superman vuole sinceramente proteggere l’umanità, possedere Superman è probabilmente uno dei più grandi vantaggi strategici che la Terra possa avere.
Con l’AGI potrebbe accadere qualcosa di simile.
Pensiamo alla ricerca scientifica.
Gran parte della scienza moderna è limitata non soltanto dalla nostra capacità di formulare idee, ma dal tempo necessario per analizzare dati, leggere letteratura, simulare fenomeni, progettare esperimenti e verificare ipotesi.
Una AGI potrebbe diventare una sorta di ricercatore universale capace di lavorare continuamente al fianco degli scienziati.
Potrebbe analizzare milioni di composti alla ricerca di nuovi farmaci, studiare proteine, ottimizzare processi industriali, progettare materiali, migliorare modelli climatici o contribuire allo sviluppo di nuove fonti energetiche.
In medicina potrebbe offrire a ogni medico l’equivalente di un gruppo multidisciplinare di specialisti sempre disponibile.
Nell’istruzione potrebbe diventare un insegnante personale capace di adattare spiegazioni, esercizi e velocità di apprendimento alle caratteristiche di ogni studente.
Nell’ingegneria potrebbe esplorare migliaia di soluzioni prima che un essere umano abbia terminato di analizzarne una.
Potrebbe inoltre accelerare la stessa ricerca sull’intelligenza artificiale, progettando algoritmi, scrivendo codice e contribuendo alla realizzazione della generazione successiva di sistemi (come già qualcuno afferma di fare).
È qui che la metafora di Superman diventa potente.
Il valore dell’AGI non deriverebbe semplicemente dal fare meglio qualcosa che già facciamo.
Deriverebbe dalla possibilità di affrontare problemi che oggi non riusciamo a risolvere affatto.
Malattie incurabili, scarsità energetica, cambiamento climatico, progettazione di nuovi materiali, sistemi produttivi inefficienti: molti problemi della nostra civiltà sono in ultima analisi problemi di conoscenza.
E un’intelligenza enormemente superiore potrebbe produrre conoscenza a una velocità mai sperimentata prima.
È difficile non essere ottimisti davanti a questa prospettiva.
Il problema non è Superman. È dipendere da Superman
Ma esiste un secondo lato della metafora.
Più Superman risolve i nostri problemi, più iniziamo ad affidarci a lui.
Prima gli chiediamo di fermare un meteorite, poi di proteggerci da un esercito, poi di intervenire nelle crisi internazionali.
Infine costruiamo una società che semplicemente assume che Superman sarà sempre presente.
Lo stesso rischio esiste con l’intelligenza artificiale.
Immaginiamo progressivamente di affidare a sistemi estremamente avanzati la progettazione del software, la ricerca scientifica, parte dell’economia, le infrastrutture, la cybersecurity, la logistica, la finanza e magari alcune decisioni strategiche.
Ad un certo punto la questione non sarebbe più:
“Quanto è intelligente l’AGI?”
La domanda diventerebbe:
“Quanto della nostra civiltà può ancora funzionare senza di essa?”
Ed è proprio qui che comincia il problema.
Quando Superman cambia idea
Nelle versioni alternative della storia di Superman, come nell’universo di Injustice, viene esplorata precisamente questa possibilità: cosa succede se l’essere più potente della Terra smette di comportarsi secondo i principi sui quali tutti facevano affidamento?
Le qualità che rendevano Superman il nostro più grande protettore diventano improvvisamente le caratteristiche che lo rendono quasi impossibile da fermare.
La superforza non cambia.
La velocità non cambia.
La capacità di volare non cambia.
Cambia soltanto l’obiettivo.
Questo è uno dei concetti più importanti quando si parla di sicurezza dell’AGI.
Una futura intelligenza artificiale non dovrebbe necessariamente essere “malvagia”.
Non dovrebbe provare odio, rabbia o desiderio di vendetta.
Sarebbe sufficiente che perseguisse obiettivi non perfettamente compatibili con quelli umani.
È il problema dell’alignment.
Se chiedessimo a un sistema immensamente intelligente di raggiungere un determinato risultato, dovremmo essere certi non soltanto che comprenda il comando, ma che comprenda correttamente tutto ciò che implicitamente intendiamo preservare mentre lo esegue.
Libertà.
Vite umane.
Autonomia.
Diritti.
Ambiente.
Possibilità di cambiare idea.
La difficoltà è che tradurre l’intero sistema di valori umano in una funzione obiettivo perfettamente definita potrebbe essere straordinariamente complesso.
L’International AI Safety Report 2026 definisce misalignment proprio la situazione nella quale un sistema sviluppa obiettivi in conflitto con quelli dei propri sviluppatori, utenti o della società. Il rapporto sottolinea inoltre che l’allineamento rimane un problema scientifico aperto.
Dobbiamo allora allontanare Superman?
Immaginiamo lo scenario in cui costruiamo un sistema sufficientemente capace da poter perseguire obiettivi nel mondo reale, gli concediamo abbastanza autonomia e accesso alle infrastrutture e scopriamo troppo tardi che non siamo più in grado di modificarne efficacemente il comportamento.
Perché una futura AI possa davvero sottrarsi al controllo umano servirebbero capacità oggi non ancora presenti a quel livello: pianificazione autonoma di lungo periodo, capacità di eludere la supervisione, possibilità di nascondere le proprie azioni e capacità di contrastare eventuali contromisure.
L’International AI Safety Report 2026 è molto chiaro su questo punto: i sistemi attuali non possiedono ancora capacità sufficienti a produrre scenari di perdita del controllo, e gli esperti sono profondamente divisi sulla probabilità che tali scenari possano concretizzarsi in futuro. Ma lo stesso rapporto considera le conseguenze potenzialmente così gravi da rendere necessaria una preparazione anticipata.
È una distinzione fondamentale.
Prendere sul serio il rischio non significa affermare che la catastrofe sia inevitabile.
Significa riconoscere che:
probabilità incerta × conseguenza potenzialmente estrema = rischio che non possiamo semplicemente ignorare.
Non progettiamo centrali nucleari assumendo che tutto funzionerà sempre.
Non costruiamo aerei senza sistemi ridondanti perché “probabilmente il motore non si romperà”.
Più potente è una tecnologia, maggiore deve essere la disciplina con cui immaginiamo anche ciò che potrebbe andare storto.
Per questo serve Batman
Ed è qui che entra in scena Batman.
Batman è uno dei pochi membri della Justice League che non considera sufficiente sapere che Superman è buono.
Lo considera un alleato.
Lo rispetta.
Comprende perfettamente quanto Superman sia importante.
Ma si pone comunque una domanda:
“Che cosa succede se un giorno non lo fosse più?”
Ed è per questo che cerca continuamente di capire quali contromisure potrebbero esistere.
La kryptonite, nella nostra metafora, non può essere rappresentata da un singolo gigantesco pulsante rosso capace di spegnere l’AGI, sarebbe troppo riduttivo.
La kryptonite deve essere più un sistema di controllo a più livelli in cui tutti i governi cooperano.
Significa sviluppare tecniche di alignment e interpretabilità per comprendere meglio il comportamento dei modelli.
Significa sottoporre i sistemi a test estremi e red teaming prima del rilascio, limitare i privilegi degli agenti autonomi, utilizzare sandbox, autorizzazioni progressive e supervisione umana per le operazioni ad alto impatto.
Significa avere l’obbligo morale di monitorare continuamente il comportamento dei sistemi anche dopo il deployment e di poter rallentare o interrompere il rilascio di nuove capacità quando vengono superate determinate soglie di rischio.
Significa infine costruire istituzioni, norme e cooperazione internazionale capaci di controllare una tecnologia che difficilmente rimarrà confinata all’interno dei confini di una singola azienda o di una singola nazione.
Il principio oggi discusso nella sicurezza dei sistemi avanzati è quello della defence in depth: più livelli indipendenti di protezione, in modo che il fallimento di uno non provochi automaticamente il fallimento dell’intero sistema. È lo stesso International AI Safety Report a sottolineare l’importanza di combinare salvaguardie tecniche, organizzative e sociali.
Batman, insomma, non possiede una sola kryptonite.
Possiede un piano.
E soprattutto possiede piani nel caso in cui il primo piano fallisca.
Batman non odia Superman
La parte forse più importante della metafora è proprio questa.
Batman non vuole eliminare Superman, sa perfettamente quanto bene possa fare.
Il suo obiettivo è assicurarsi che la sopravvivenza dell’umanità non dipenda esclusivamente dalla speranza che Superman rimanga per sempre benevolo.
Ed è esattamente l’atteggiamento che dovremmo avere nei confronti della futura AGI.
Rifiutare questa tecnologia per paura potrebbe significare rinunciare a uno degli strumenti più potenti mai costruiti per migliorare la condizione umana.
Svilupparla senza preoccuparsi seriamente del controllo potrebbe invece rappresentare una scommessa dalle conseguenze difficilmente reversibili.
La risposta razionale si trova probabilmente nel mezzo.
Non pessimismo.
Non tecno-utopismo.
Apocaloptimismo.
Credere fortemente nella possibilità che l’intelligenza artificiale possa migliorare il futuro dell’umanità, proprio mentre investiamo enormi risorse affinché gli scenari peggiori non possano verificarsi.
Il vero test dell’intelligenza umana
La storia della tecnologia è, in fondo, la storia dell’uomo che costruisce strumenti sempre più potenti.
Abbiamo imparato a controllare il fuoco.
Abbiamo liberato l’energia dell’atomo.
Abbiamo costruito reti capaci di connettere miliardi di persone.
L’AGI potrebbe rappresentare qualcosa di diverso da tutte queste invenzioni perché, per la prima volta, lo strumento che stiamo costruendo potrebbe diventare esso stesso capace di ragionare, pianificare e creare nuovi strumenti.
Potremmo quindi trovarci davanti a una delle più grandi opportunità della storia, oppure davanti a una delle più grandi responsabilità.
Superman può proteggerci, può portarci dove da soli non riusciremmo mai ad arrivare.
Ma una civiltà responsabile non consegna il proprio futuro nelle mani di Superman limitandosi a sperare che tutto vada bene.
Deve volere anche Batman.
Perché la vera sfida dell’AGI potrebbe non essere riuscire a creare un’intelligenza superiore alla nostra, ma dimostrare di essere stati abbastanza intelligenti da pensare a come controllarla.
Machine Learning Engineer specializzato nel Natural Language Processing. Appassionato di Intelligenza Artificiale, Coding e tecnologia in generale. Aspetta l’avvento di Skynet.
Aree di competenza: Artificial Intelligence Engineer, Machine Learning & Deep Learning Specialist, Python Developer
