www.kulturjam.it è un quotidiano online indipendente completamente autofinanziato. Il nostro lavoro di informazione viene costantemente boicottato dagli algoritmi dei social. Per seguirci senza censure, oltre alla ricerca diretta sul nostro sito, iscrivetevi al nostro canale Telegram o alla newsletter settimanale.
Il vero dilemma dell’IA non è se diventerà cosciente, ma se abbiamo il diritto morale di creare esseri senzienti mentre ignoriamo la sofferenza di uomini, animali e ambiente. La tecnologia corre, la saggezza resta indietro.
La (im)moralità di voler diventare dei
Ormai non passa giorno senza che compaia qualche notizia sull’intelligenza artificiale, da chi è convinto che sarà la nostra salvezza a chi crede invece che determinerà la nostra fine. Ci viene detto, ogni giorno, che siamo sempre più vicini alla cosiddetta “intelligenza generale“, capace di pensiero autonomo, a sistemi ibridi (biologici-elettronici) e perfino a sistemi dotati di coscienza.
Sin dall’antichità la letteratura narra della creazione di esseri senzienti a partire da materia inerte. Da Pigmalione al Golem (1), fino ai più recenti scrittori di fantascienza, come Isaac Asimov con la sua serie di romanzi sulla robotica o la divertentissima Ciberiade di Stanisław Lem. E, nel cinema, Metropolis, 2001: Odissea nello spazio, Matrix, Her e molti altri.
A livello pratico sono stati compiuti reali tentativi meccanici di creare automi. Nel 1764 Jacques de Vaucanson costruì un’anatra, il Canard Digérateur, che muoveva le ali e simulava (con un trucco) la digestione. Per alcuni ciò sembrò confermare la teoria cartesiana secondo cui gli animali non fossero altro che macchine biologiche che, come quell’anatra, simulavano dolore ed emozioni.
Malgrado l’evidenza comportamentale, per secoli si è sostenuto che l’animale non fosse altro che una macchina biologica, mentre l’essere umano possedesse un’anima e un’intelligenza superiori.
Fino a un paio di decenni fa, attribuire pensieri complessi o coscienza agli animali era quasi un anatema nelle scienze biologiche e psicologiche. Si veniva accusati di antropomorfismo, cioè di osare considerare alcuni comportamenti animali come indizi di qualcosa che solo noi possederemmo: la capacità di comunicare, di provare piacere, noia, solitudine o qualunque altra delle nostre presunte emozioni esclusive. Ancora oggi ci si meraviglia che perfino api o polpi possano ragionare.
Intanto, nel 1966, Joseph Weizenbaum, al MIT, sviluppò un primo programma di natural language processing chiamato ELIZA (2). Era molto primitivo rispetto agli LLM (Large Language Models) di oggi. Malgrado l’ovvia povertà di linguaggio e la ripetitività delle frasi preconfezionate, c’era già chi era convinto delle sue capacità di pensiero, attribuendogli perfino abilità terapeutiche.
Le nuove piattaforme digitali sono molto più sofisticate. Hanno immagazzinato milioni di parole, costruzioni sintattiche e modelli linguistici. Sono state addestrate per un numero enorme di ore. Producono conversazioni molto adatte alle richieste dell’interlocutore, dando perfino la sensazione di cogliere le sfumature di certe locuzioni. In alcuni campi sembrano offrire prestazioni migliori di quelle degli esseri umani.
Ma ormai la ricerca cerca di andare ben oltre gli LLM e i sistemi di Machine Learning. Già la terminologia è carica di significati ideologici: intelligenza, apprendimento, esperti. Ma il Sacro Graal, la meta della tecnologia delle macchine “pensanti”, va oltre perfino la cosiddetta AGI (Artificial General Intelligence) (3). Il vertice di questa evoluzione sarebbe una coscienza artificiale, cioè un’IA senziente (Sentient AI), capace di provare emozioni quali il piacere di apprendere, la gelosia, l’umorismo e perfino stati psicologici come la solitudine o la rabbia.
Questa ricerca sembra completamente incurante dell’enorme responsabilità che comporterebbe dotare nuovi esseri della capacità di provare emozioni. È una corsa sfrenata che sembra non porsi una domanda fondamentale: a quale fine? Solo la vanagloria di essere i primi. È difficile definire la coscienza, tanto meno capire realmente che cosa sia (4). E non è affatto detto che ci si riesca, certamente non nel breve termine. Ma questo non frena la ricerca. Alcuni laboratori arrivano perfino a integrare cellule nervose organiche in sistemi ibridi bio-tecnologici.
Sostenere che la creazione di cervelli artificiali capaci di provare sensazioni possa aiutarci a comprendere meglio il cervello umano è, a mio avviso, altrettanto inverosimile quanto affermare che studiare i jet possa aiutarci a capire il volo dei pipistrelli.
Questo obiettivo ricorda certi esperimenti — molti dei quali oggi unanimemente condannati — come quelli di Demikhov negli anni Cinquanta, quando trapiantò una seconda testa su alcuni cani (5). Non ci hanno insegnato molto, e certamente non abbastanza da giustificare la sofferenza inflitta alle sue vittime durante la loro breve sopravvivenza.
Ma la critica morale non riguarda semplicemente il tentativo di creare macchine senzienti. Sta nel fatto che vogliamo creare macchine capaci di provare emozioni mentre rimaniamo insensibili al dolore degli esseri che esistono già, o addirittura lo provochiamo.
Giustifichiamo l’indifferenza verso i nostri simili quando vengono bombardate scuole, ospedali e interi quartieri, incuranti dei bambini, degli anziani e dei civili che vi si trovano; quando ignoriamo la sofferenza dei 23 miliardi di animali che, in ogni momento, vivono in condizioni atroci e che uccidiamo con modalità abominevoli. Ignoriamo esseri che sono già dotati di stati d’animo, di emozioni e di una volontà di vivere. Nel voler creare esseri senzienti — magari più intelligenti e più sensibili di noi — siamo come un bambino che tortura i gatti di casa e poi chiede un cucciolo di cane per Natale.
Noi siamo una specie animale che si vanta della propria intelligenza e della propria creatività. Ma, come specie, non comprendiamo che l’intelligenza da sola non basta: serve anche la saggezza.
Questa corsa a creare dei Golem digitali è priva di qualunque giustificazione morale ed è il prodotto di un puro tecnicismo, nato da una visione distorta di ciò che chiamiamo progresso.
Alcuni temono le conseguenze di un’IA che sfugga al nostro controllo, come accade nel romanzo di Mary Shelley, dove lo scienziato Frankenstein non riesce più a dominare la propria creazione. Ma questa paura non è una ragione sufficiente per rifiutare l’obiettivo di un’IA senziente. Anche se essa non comportasse alcun pericolo per noi, anche se fosse possibile eliminare ogni rischio, la vera questione rimarrebbe la nostra responsabilità nei confronti di altri esseri, chiunque essi siano.
Non dovremmo pensare soltanto alla nostra libertà di fare, ma anche al diritto degli altri di essere risparmiati dalla sofferenza causata dalle nostre azioni. L’hybris ci porta a ignorarne le conseguenze. Continuiamo a percorrere una strada, affascinati dal nuovo giocattolo, senza chiederci se ciò che stiamo creando sarà soltanto una marionetta divertente o un essere che vorrà vivere come tutti noi.
Forse sarebbe più opportuno indirizzare le nostre ricerche verso il miglioramento del nostro rapporto con le creature con cui condividiamo questo pianeta e con l’ambiente che ci sostiene. Prima di aspirare a essere degli dei, dobbiamo imparare a essere umani. E, per imparare a essere più umani, dobbiamo ricordare che siamo anche noi animali.
Note
- La leggenda del Golem nacque nel ghetto ebraico di Praga nel medioevo. Una versione narra che il rabbino Loew creò il gigante di argilla, Golem, per proteggere gli abitanti dai continui attacchi antisemiti. Con alcuni incantesimi e scrivendo la parola “emet” (verità) sulla fronte del gigante esso prese vita. Ogni Sabbath, giorno sacro, il rabbino doveva cancellare la prima lettera, formando la parola “met” (morte) per disattivarlo. Golem, sentendosi sempre più solo, rifiutato dalla popolazione e tradito dal rabbino divenne furioso, scatenandosi contro proprio coloro che avrebbe dovuto difendere. Infine Loew riuscì a cancellare la parola magica e il Golem tornò ad essere la materia inerte di cui era composto.
- L’utente scriveva qualcosa, per esempio “I feel sad today.” Il programma trovava la parola chiave, in questo caso “sad”, e trasformava la frase affermativa in una frase interrogativa, emetteva quindi “Why do you feel sad?” Se non trovava una tasformazione adatta, emetteva una frase standard, come “Tell me more.”
- Esseri con capacità cognitive che superino gli esseri umani con qualunque compito gli si sottoponga in qualsiasi campo.
- Il sistema nervoso elabora il dolore attraverso il tratto spinotalamico che diverge attivamente dalla sensazione somatica generale. Questo è evoluto per dare ai primi organismi una sensazione negativa per fare evitare un determinato comportamento, per esempio evitare liquido troppo acidico. Ci portiamo indietro questo meccanismo, anche se evoluto e ben più elaborato, per ricordare, per esempio, di non toccare un ferro caldo. Sensazione più complesse, come la tristezza sono gestite da diversi tratti cerebrali, come la corteccia cingolata anteriore subgenuale che determina tristezza. E così per altri umori. In altre parole il cervello è molto più complesso dei modelli neurali che derivano dal modello matematico di Mcculloch e Pitts.
- Lui fu un pioniere nel campo dei trapianti di organi, ma ormai è, forse giustamente, ricordato quasi solo per questo.
Sostieni Kulturjam
Kulturjam.it è un quotidiano indipendente senza finanziamenti, completamente gratuito.
I nostri articoli sono gratuiti e lo saranno sempre. Nessun abbonamento.
Se vuoi sostenerci e aiutarci a crescere, nessuna donazione, ma puoi acquistare i nostri gadget.
Sostieni Kulturjam, sostieni l’informazione libera e indipendente.
VAI AL NOSTRO BOOKSTORE
Home
- Gli analfoliberali
- Malagrazia, viaggio tra streghe e inquisizione
- Un’abitudine inesauribile, scrivere di cinema
- Oltre il confine. Riflessioni dal crepuscolo dell’Occidente
- Pancia di balena
- Shidda
- Noisetuners
- Novecento e oggi
- A sud dell’impero. Breve storia della relazione sino-vietnamita
- Sintropie. Mondo e Nuovo Mondo
- La terra di Itzamnà: alla scoperta del Guatemala
- Il soffione boracifero: ritorna dopo 10 anni il romanzo cult
