Uno studio di Timnit Gebru ed Émile P. Torres dimostra come quell’utopia riproponga i temi fondamentali di una ideologia funesta.
L’eugenismo della “intelligenza artificiale generale”
di Stefano Diana
(pubblicato su huffingtonpost.it il 30 aprile 2024)
L’eugenismo è l’ideologia che aspira alla selezione artificiale degli esseri umani. Pretende che non sia la natura indifferente a scegliere i più fit per la sopravvivenza, ma altri umani. I quali possono decidere, perciò, anche i criteri per farlo e la scala bene-male su cui valutare i “migliori”, cose che in natura non esistono.
L’eugenismo arcaico mescolava la raffinatura domestica di razze animali con l’ammirazione per gli eroi e la primitiva repulsione per lo straniero pericoloso in quanto diverso. Platone e Aristotele, però, ce lo hanno consegnato sotto un primo manto di autorità filosofica. Verso fine ‘800 Francis Galton vi aggiunse il darwinismo, e poco dopo arrivarono le misure del QI. Così l’eugenismo indossò la veste scientifica, e con esso i vecchi pregiudizi cattivi che vedevano la povertà, il colore della pelle o la disabilità come evidenze di una natura inferiore che merita odio.
Con la tecnica del XX secolo l’eliminazione dei “subumani” ha toccato il fondo del genocidio industriale nazista. Ma ha prodotto pure – storia meno nota – i programmi di sterilizzazione forzata che tanti rispettabili Paesi adottarono nei confronti di minoranze etniche e “devianze” varie. In California, per dire, andò avanti dal 1909 al 1979 (fino al 2014 nelle carceri!), e a suo tempo fornì a Hitler un autorevole studio di fattibilità.
L’informatica e l’ingegneria genetica esaltano l’eugenismo positivo del “potenziamento” (enhancement), dei “better babies”, dei “better brains”, sempre vagheggiando quello stadio trascendente in cui «l’umanità realizza consapevolmente il suo vero destino» (come disse nel 1957 l’eugenista Julian Huxley, che a quanto pare riteneva di conoscere questo «vero destino»).
Ingenuo e insipiente come alle origini, il nuovo eugenismo si è integrato a meraviglia con l’iperliberalismo smarrito nell’espansione infinita delle libertà individuali: design del corpo, del gender, dei figli, della vita. Proiezioni di una specie post-umana che in realtà sono estratti dalla miniera delle nostre debolezze, concessa allo sfruttamento per alzare il PIL.
Ed eccoci all’ultima variante dell’eugenismo: l’ossessione per l’“intelligenza artificiale generale” (AGI), come illustra scrupolosamente il lavoro appena pubblicato da Timnit Gebru ed Émile P. Torres, con una genealogia in parte riassunta sopra. È un tesoro di consapevolezza, di questi tempi: chi può, la legga per intero.
Al centro c’è una famiglia di ideologie futuriste cresciute negli ultimi decenni coltivando sogni di perfezionamento, immortalità ed espansione cosmica mediante l’ibridazione umana con macchine informatiche: Transumanismo, Extropianismo, Singolaritanismo, Cosmismo, Razionalismo, Altruismo Effettivo e Lungotermismo (le ultime due sono etiche utilitariste calcolabili al 100%). Gli autori le studiano da tempo e hanno anche reso popolare l’acronimo TESCREAL per coglierle come unità.
Sembra roba uscita dalla fantascienza, e lo è. Ma i profeti che annunciano l’imminenza dell’intelligenza artificiale generale (Sam Altman, Nick Bostrom, Max Tegmark, Ben Goertzel, ecc.) e i miliardari che la finanziano (Elon Musk, Peter Thiel, Jaan Tallinn, ecc.), sono tutti affiliati a quei movimenti, e stanno usando il loro enorme potere e immani risorse finanziarie per realizzarne le fantasie. Visti gli exploit dei Language Models, ora vedono l’intelligenza artificiale generale come la via più promettente; il resto può attendere.
La piena continuità coi languori eugenetici si vede prima di tutto nella loro arroganza infantile di attribuirsi il giudizio universale, la superiorità assoluta e l’onnipotenza. È gente che parla degli esseri umani solo in termini di QI e di coefficienti di utilità. Discettano con confidenza su cosa sia meglio fare di qui a diecimila miliardi di anni. Si sentono una stirpe di semidei della logica cui tocca il destino di salvare l’umanità. A modo loro, ovviamente, cioè traslocando tutto e tutti nel dominio del calcolabile. Loro lo chiamano «paradise-engineering», la ingegnerizzazione del paradiso in terra, in vista della «completa abolizione della sofferenza nell’Homo Sapiens».
Intanto, osservano i due autori, «la missione di costruire quello che sembra un sistema onnisciente in grado di svolgere qualsiasi compito in qualsiasi circostanza ha già provocato molti danni documentati ai gruppi emarginati, tra cui sfruttamento dei lavoratori, furto di dati, razzismo ambientale, misinformation e disinformazione, plagio, e sistemi che amplificano visioni egemoniche come razzismo, abilismo, omofobia e classismo».
Ma i paladini dell’intelligenza artificiale generale ignorano la realtà e le persone in carne e ossa. Temono solo, come Asterix, che l’intelligenza artificiale generale gli caschi sulla testa: l’estinzione umana ad opera della loro stessa creatura. Il culto all’AGI, infatti, ha il doppio volto utopia–apocalisse come ogni escatologia religiosa che si rispetti. Perché in sostanza si tratta di religione.
David F. Noble lo documentava già nella IA di quasi 30 anni fa: «Nonostante tutta la loro intellettuale iconoclastia e le loro fantasie futuristiche, i ricercatori rimasero immersi in un milieu essenzialmente medievale di mitologia cristiana». E così è ancora.
1Scopri di più da GognaBlog
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.
@ Grazia
.
Ognuno di noi sceglie con chi stare , ma quello che detesto e’ che non ci sono piu’ opinioni ( magari sbagliate ) individuali e ragionate , ma solo NARRAZIONI , pappe predigerite per cervellini di plastica.
.
Uno puo’ anche dire cazzate “genuine” , se sono partorite dalla sua mente e ragionate , ma sempre piu’ noi assorbiamo non “fatti” ma “pareri di altri su fatti” , e questo e’ devastante per il nostro senso critico e per i nostri neuroni.
.
Prima ancora di avere capito che cos’e’ l’intelligenza artificiale , noi abbiamo 100 giornalisti ed influencers che vogliono “installarci” come dobbiamo pensarla su quel tema : un parere “pret a porter”.
.
Ieri c’era un giornalista che , sposando una tesi complottista, che quello che ha sparato a Trump non potesse centrarlo senza essere un professionista.
.
E’ una cazzata , ovvia a chiunque abbia mai sparato con una moderna carabina di quel tipo…
.
Ma la ggente non ama i fatti ed i numeri , vogliono scannarsi con discorsi polemici senza nemmeno conoscere le informazioni di base.
Expo, sono gli unici con cui ti venga in mente di stare?
A me capita davvero di rado di pensare agli attori che hai menzionato.
Più che eu-genetica , genetica orientata al miglioramento della “razza umana” , la religione dell’AGI mi sembra il fumoso prologo della “Terza rivoluzione industriale” , quando le macchine lavoreranno al posto degli uomini con modalità e retribuzioni ancora da definire..Rabbrividisco comunque pensando che si stà estinguendo il pensiero individuale a favore di un’umanità co-optata a scegliere fra stare con l’uno o con l’altro :”Influencer” , con Trump o con Biden , con Ursula o con Orban…
Buongiorno Luciano,
ho seguito il tuo consiglio: nel secondo link si dice spesso che tecnologia e religione sono unite, ma non si illustrano fatti.
Il secondo corrisponde a un trattato, a mio avviso troppo lungo da leggere.
Grazia, aprendo i due link troverai la risposta alla tua ultima domanda e la conclusione ti apparirà meno oscura.
Credo che ciò che chiamiamo natura abbia scale precise di valori che a noi sono oscuri, ma li prevede, altrimenti non avverrebbe alcuna selezione e non esisterebbero gli endemismi, per esempio.
Mi domando perché si scriva “gender” e non “genere”e perché si nomini il PIL e il “Language Model”, se si pensa di voler combattere certe tendenze alla moda.
Sarebbe bello anche sapere perché definisce il fanatismo per l’intelligenza artificiale una religione. Purtroppo la conclusione dell’articolo è oscura.