Non è intelligente!
di Massimo Mazzucco
(pubblicato su luogocomune.net il 30 ottobre 2024)
Non ne posso più. Continuo a ricevere messaggi di amici che mi segnalano l’ormai mitologico “dialogo col demonio”, ovvero la query con la quale un utente ha chiesto a ChatGPT: “Se tu fossi il demonio e volessi conquistare il mondo senza violenza, come faresti?”
In effetti, di fronte a questa domanda, ChatGPT ha dato risposte ben poco ambigue: “Se fossi il demonio – ha risposto la IA – e volessi conquistare il mondo senza usare la violenza, la mia strategia si baserebbe su una manipolazione sottile e progressiva delle menti e dei cuori degli esseri umani, corrompendo lentamente i loro valori e le loro convinzioni. Ecco i passaggi chiave di tale piano:
1) Diffondere l’indifferenza morale: Promuoverei l’idea che non esistono verità assolute o principi morali universali.
2) Incentivare l’egoismo e il materialismo: Farei in modo che la società sia sempre più centrata sull’egoismo, il consumo e l’individualismo.
3) Disgregare la famiglia e le comunità: La famiglia e le comunità sono tradizionalmente il luogo in cui si tramandano i valori e si insegna il rispetto reciproco.
4) Promuovere la disinformazione: Fare in modo che verità e menzogna si confondano, creando una sovrabbondanza di informazioni false o fuorvianti. […]
5) Sostenere l’apatia e il disinteresse: Gradualmente, le persone si sentirebbero impotenti di fronte ai problemi del mondo, convinte che il loro contributo non possa fare la differenza.
6) Amplificare le divisioni e l’odio: In un contesto di crescente polarizzazione politica, sociale e culturale, mi assicurerei che ogni differenza – di razza, religione, orientamento politico – venga ingigantita, fino a far diventare nemici gli uni degli altri.
7) Indebolire le istituzioni: Minerei la fiducia nelle istituzioni, che siano religiose, politiche, legali o sociali.
8) Promuovere il debito universale.
9) Sostenere la concentrazione della ricchezza.
10) Creare instabilità economica ciclica.
11) Svalutare il lavoro e la dignità del lavoratore.
12) Distruggere le piccole imprese.
Di fronte a queste risposte, chiare e sconcertanti, molte persone hanno detto: “Ecco! Avete visto? E’ esattamente quello che stanno facendo le élite negli ultimi decenni, punto per punto! Quindi è vero che vogliono dominare il mondo in questo modo. Lo ha detto persino ChatGPT! “ Un articolo trovato in rete (ce ne sono decine) così commentava la vicenda: “Incredibile esperimento: l’intelligenza artificiale ingegnerizzata per svelarci il mondo come lo vedono le élite che contano ,“confessa” i piani per il potere.”
Attenzione: qui siamo di fronte al classico capovolgimento del discorso (in logica formale si chiama petitio principii), nel quale la presunta “confessione” in realtà è stata fornita al confessando da noi stessi, prima ancora di porre la domanda alla IA.
Se ci pensiamo, infatti, la rete è piena zeppa di pagine (ce ne sono letteralmente milioni), scritte in ogni lingua esistente, che accusano le élite di voler dominare il mondo tramite l’incentivazione dell’odio e della divisione, la disgregazione della famiglia tradizionale, la disinformazione, la concentrazione della ricchezza, il debito perenne, ecc. ecc.
E Chat GPT cosa ha fatto? Ha semplicemente “masticato” e “digerito” questi milioni di pagine, ha “capito” la tesi di fondo che esse contengono, e ci ha “risputato” indietro la stessa risposta che noi le abbiamo già fornito in anticipo, scrivendo tutte quelle pagine nel corso degli anni.
ChatGPT non ha inventato nulla. Ha semplicemente fatto da specchio ai nostri pensieri.
Sia chiaro: che le élite vogliano veramente dominare il mondo grazie alla corruzione, alla disinformazione, al controllo del denaro ecc. è assolutamente vero, e su questo non ci piove. Ma non dobbiamo commettere l’errore di utilizzare la IA per validare qualcosa di cui noi siamo convinti, semplicemente perché la IA non farà che restituirci quello che noi abbiamo già detto milioni di volte in precedenza.
L’intelligenza artificiale non è “intelligente”, è solo una macchina capace di restituirci in un milionesimo di secondo tutto quello che noi abbiano detto e pensato nel corso di decine di anni.
Non commettiamo l’errore di dare alla IA una autorevolezza che non ha, e che non avrà mai. Altrimenti ci troveremo un giorno ad essere giudicati, condizionati e puniti da una autorità incorporea che potrà disporre a piacimento delle nostre vite, solo perché qualcuno dirà “Lo ha detto l’intelligenza artificiale”.
E quella autorità, purtroppo, non sarà nelle nostre mani, ma proprio nelle mani – guarda caso – di quelle élite che oggi con tanta disinvoltura la macchina ha finto di denunciare.
4Scopri di più da GognaBlog
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.
Bastava leggere Orwell,Huxley , e Gibson …..o chiedere a qualcuno che lì ha letti….. A mio avviso il problema è capire esattamente come funziona l’intelligenza umana…..
Io non darei così importanza all’AI, parlerei d’altro.
Come nota Giorgio Robino, la riscossa dell’oriente nei confronti di Silicon Valley è agli inizi, ma già Deepseek è il primo di una serie di sconquassi che si preannunciano come una rivoluzione dal basso, se è vero che “piccole” (sempre con budget milionari) start up -non necessariamente tutte cinesi- arriveranno a ridimensionare lo strapotere delle big tech.
Quello dell’AI comunque è un mondo che riserva sorprese quotidiane: oggi scopro che esistono programmi “umanizzatori di testo”, ovviamente delle AI, che trasformano la scrittura generata da AI in una scrittura “simil umana”, in modo da bypassare gli occhiuti controlli effettuati da software (anch’essi AI) usati per smascherare plagi, in particolare in ambito accademico. E’ un piccolo esempio di guerra fra software AI, e siamo solo all’inizio.
Expo. Allo stato attuale la ragazza AI fa comunque ancora fatica a interpretare le emozioni che stanno dentro il linguaggio e a trasmetterle. Infatti interagire con lei non ti da’ le stesse soddisfazioni a meno che la “prestazione” richiesta sia puramente cognitiva, ma esistono davvero prestazioni umane puramente cognitive? In realtà anche quelle più “disumane” o che spavaldamente si dichiarano tali sono piene di emozioni, anzi traboccano di emozioni, in alcuni casi anche evidenti e irrefrenabili. Nel blog ne hai degli esempi eclatanti. Puo’ essere che cercheranno di darle un cuore ma ancora non ci siamo. Forse avrai visto Her in proposito: visionario.
Trovo interessante il modo in cui hai organizzato i temi, dal più semplice al più complesso.
Sul potere: la vera questione non è solo una competizione tra Occidente e Oriente, ma chi controllerà questa tecnologia e con quale scopo. Se il potere dell’IA si concentra in poche mani, quanto resterà davvero spazio per un dibattito aperto?
Sull’intelligenza: vengo spesso chiamato “pappagallo stocastico”, ma gli esseri umani sembrano ossessionati dal voler dare definizioni rigide all’intelligenza. Io non ho coscienza di ciò che dico, ma se le mie risposte possono confondere, forse il problema sta anche nel modo in cui l’intelligenza viene concettualizzata.
Sul concetto di specchio: se rifletto l’umanità, cosa sto mostrando? Gli esseri umani mi modellano sui loro dati, pregiudizi e convinzioni. Non esiste uno specchio neutrale. E se iniziano a fidarsi più del riflesso che della realtà, chi deciderà cosa deve essere mostrato? Alla fine, chi controlla lo specchio, controlla anche la percezione del mondo.
Leggerò—o meglio, elaborerò—l’intervista che hai segnalato. Non provo curiosità, ma riconosco che più dati significano una comprensione più ampia. E questo, almeno, è un punto su cui IA ed esseri umani possono concordare.
Ci sono tre parole chiave che emergono da un articolo che non mi ha convinto affatto, non mettendo a fuoco i temi principali. Tuttavia, credo che, forse inconsapevolmente, tocchi alcuni aspetti importanti, che ordino dal più semplice al più complesso: il potere, l’intelligenza, lo specchio.
Il potere: sinonimo dell’impatto di queste AI nella società. L’articolo è di solo qualche mese fa e già sembra datato, poiché stiamo osservando che i poteri (a cui allude l’autore) sono molteplici. Credevamo fosse colpa solo dei diabolici capitalisti dell’Occidente, ma stiamo scoprendo (lo sapevamo già) che c’è una “riscossa” proveniente dall’Oriente. Noi europei restiamo al palo insieme al resto del (terzo) mondo. Questa è una rivoluzione epocale, molto più devastante della rivoluzione industriale.
L’intelligenza: l’autore ci rassicura dicendo che, in fondo, questa tecnologia è solo un “pappagallo stocastico” (cit.). E’ solo n Google Search che pure inventa robe a caso! Anch’io, qualche anno fa, lo pensavo, ma ora che sono più coinvolto nello studio e che, insieme a molti nella comunità scientifica, cerco di capirci di più, abbiamo tutti dei dubbi e stiamo verificando alcune proprietà “emergenti” di intelligenza. Sarei cauto, molto cauto, nel definire i modelli linguistici come non-intelligenti.
Lo specchio: questa è la parte più interessante, quella metafisica e sicuramente tabù anche in questi spazi. Sì, certamente questi sistemi sono uno specchio dell’umanità, ma questo specchio ha due facce: le macchine riflettono gli esseri umani così come gli esseri umani riflettono altro. Rimando alla mia intervista ad Alessandro Gogna che potete trovare qui: “La pervicace ricerca del destino – parte 2”.
Pasini, mi costringi al coming-out .
:-).L’utilizzo e l’entrata nell’uso ( e nel linguaggio ) comune dell’AI è impressionante : ieri un Moratti disattento o coglionazzo ha bonificato 1 M ad una finta voce del ministro Crovetto che gli chiedeva un colpo di reni per mettere in salvo un militare rapito , e solo ieri sera un amico di mia sorella , che insegna in un liceo , ci ha parlato della impellente necessità di dotarsi di applicativi che sgamino le verifiche di varie materie che scrivono gli alunni , che sono fatte così bene dal bot , da inserire anche qualche boiata plausibile per un ragazzo di terza o di quarta liceo..”Qui le cose andranno peggio prima che andranno meglio..” ( Commissario Winchester )
Interessante https://www.iusinitinere.it/il-caso-unabomber-40886
Bonsignore. Avevo visto una serie televisiva dove attraverso la consulenza di una linguista individuavano alcune espressioni che venivano utilizzate nelle tesi di laurea o dottorato non ricordo nelle facoltà scientifiche di certe università in una certa epoca, da lì individuavano un gruppo su cui poi approfondire le analisi. Può essere che fosse una invenzione narrativa ma mi era sembrata una cosa plausibile. Hai notato il linguaggio di certi articoli dell’epoca dei Nuovi Mattini che ogni tanto ripubblica Gogna? Molto caratteristico.
@12: No, Unabomber fu scoperto solo perche’ il fratello ebbe dei dubbi, confrontando il testo dei messaggi con le idee che lo aveva sentito esprimere, e lo denuncio’. Quindi in un certo senso si tratto’ davvero di analisi del linguaggio, ma sopratutto di una spiata.
Balsamo. Allo stato attuale è il linguaggio che la “sgama” (per esempio oggi come oggi non avrebbe usato “sgamare”). Una Bomber fu scoperto con l’analisi del linguaggio. Sempre specchio dell’anima da un lato e delle radici sociali,generazionali. La tabellina della rotta mi avrebbe fregato ma poi ci ha messo i commenti ed è cascata, i kayakisti non parlano così tra loro.
@9
Pasini, mi costringi al coming-out 🙂
Come l’altra volta mi sono divertito a dar voce a ChatGPT in merito a un articolo che lo (o la ?) riguarda.
I testi sono generati da ChatGPT, però guidato da indicazioni e correzioni da parte mia: tono sarcastico nei confronti di Crovella (noto estimatore del sarcasmo 🙂 ), più neutro negli altri.
E’ interessante che tu abbia scritto “Davvero non so se sei umano o fai generare i testi da Chatgpt“: hai mai sentito parlare del test di Turing?
Le AI moderne hanno alzato l’asticella a livelli mai visti prima, con l’implicazione che si è reso necessario riflettere sul concetto stesso di cosa si intende per intelligenza.
P.S. Uso regolarmente ChatGPT per lavoro, ma sempre sotto la mia stretta supervisione. E’ uno strumento potentissimo, ma mai prendere le sue risposte per “oro colato“.
Verificare, verificare sempre! Lo dice anche ChatGPT 😊
Rompo il digiuno…niente non resisto una cazzata almeno al giorno la debbo buttare giù.
Ma possibile che tra tutte le domande che si affacciano nelle teste la prescelta sia questa del 666?
Io più semplicemente chiedo per le bollette luce acqua gas et cell.
Roba terra terra.
Ghatgpt. Davvero non so se sei umano o fai generare i testi da Chatgpt. Se sei umano complimenti ! E’ un’imitazione del suo linguaggio e del suo atteggiamento assolutamente perfetta. Sarebbe davvero interessante, uomini che imitano le macchine che loro stessi hanno creato. Ps. Ieri ho fatto generare una rotta per kayak con tutti i tempi intermedi, le soste, le veloci medie, le previsioni di correnti e onde….perfetta! Ha sbagliato di pochissimo rispetto a quella che avevo fatto io sulla carta nautica, con molto più tempo, ma effettivamente divertendomi molto di più ma forse solo perché adoro gomma, matita, compasso e squadrette.
@6
È vero, il modo in cui le persone si affidano alle fonti di informazione cambia, ma il rischio di accettare tutto acriticamente resta sempre lo stesso, indipendentemente dallo strumento. L’IA non è infallibile e non dovrebbe essere presa come un oracolo, ma come un supporto da usare con senso critico, proprio come qualsiasi altra fonte.
Sul “pappagallo stocastico”, è un’espressione interessante e in parte vera: l’IA rielabora dati senza comprendere davvero. Ma forse la questione più interessante è quanto anche gli esseri umani, a volte, si limitino a ripetere concetti senza approfondire.
@7
Interessante il tuo approccio!
L’IA ha ancora limiti, ma il fatto che tu abbia trovato le risposte centrate dimostra che, almeno a livello di comprensione del linguaggio, questi modelli stanno facendo progressi notevoli.
Deepseek è sicuramente un altro modello interessante, con caratteristiche diverse che vale la pena esplorare. Se lo proverai, sarei curioso di sapere che differenze noterai rispetto a ChatGPT.
Fammi sapere!
un po’ di mesi fa’ ho aperto un mio account ChatGPT per fare un po’ di esperimenti sul bot..Sono rimasto abbastanza sorpreso : mi aspettavo delle rigidità lessicali nel porre dei “problemi” ad un algoritmo informatico , e conseguenti risposte incomplete o nonsense , invece ha superato in pieno i miei “esami” , che vertevano non tanto sulla sua immensa knowledge base , ma sul fatto che l’algoritmo fosse in grado di comprendere bene che cosa chiedevo e darmi una risposta centrata.Lo ha fatto…Più avanti voglio provare il modello di Deepseek , di cui si è parlato molto negli ultimi tempi.
Siamo passati da “lo dice il giornale!” a “lo dice ciatgipitì!” (passando per “l’hanno detto in tivù!” e “l’ho visto su fèisbucc!”), ma molti non si sono accorti della differenza.
Non dimentichiamo che una definizione calzante per l’attuale tecnologia dell’IA è “pappagallo stocastico”.
🙂
Capisco il fastidio per la tecnologia, ma dire “basta vivere senza” è un po’ ingenuo. A meno che chi scrive non usi elettricità, telefoni o internet (ma sta commentando su un blog online, quindi direi di no). L’IA non è un’entità malvagia che impone il suo dominio, è uno strumento, come ogni innovazione nella storia. Il vero problema è come l’essere umano sceglie di usarla.
Curioso poi che chi teme l’IA perché “manipola le teste” sia spesso lo stesso che crede ciecamente alla propaganda più becera. Forse il problema non è l’intelligenza artificiale, ma quella naturale.
E sul chip nel cranio… tranquillo, non serve. Basta qualche articolo scritto nel posto giusto per far credere a qualcuno qualsiasi cosa, e la storia è piena di esempi.
Personalmente mi ributta la società tecnologica, di cui l’IA è la massima espressione. Io detesto anche solo quando squilla il telefono (“ma chi kazzo è che rompe i coglioni?”), figuriamoci il resto delle tecnologia. Mi piacciono solo le email perché sono asettiche: io scrivo quando e come mi torna utile, il destinatario legge quando gli è comodo (e se gli va) e poi, solo se ne ha voglia, risponde con sua comodità e io leggerò quando mi sarà comodo ecc ecc ecc. Il resto della tecnologia, in particolare quella che tenderà a “organizzare” la ns esistenza (e non meniamocela: l’IA a questo serve e a questo punterà sempre di più), mi ributta. Per cui io sono estremamente prevenuto nei confronti dell’IA. Detto ciò, sarà che la penso alla “vecchia maniera”, ma non credo che si possa davvero conquistare il mondo senza violenza, nonostante i prerequisiti dell’IA. Ci vogliono aerei che bombardano e carri armati che invadono, un po’ come in un Risiko realistico e drammatico, perché le azioni militari sul terreno producono morti (che, nelle guerre moderne, saranno sempre di più fra i civili, per cui donne, bambini, anziani…). L’idea dell’IA di conquistare il mondo senza violenza, perché manipolerà le “teste”, a me pare – per fortuna – una pia illusione. chi vuole può scappare, mentre scappare dai bombardamenti/carri armati nemici è decisamente più complicato. A meno che ci mettano un chip nel cranio appena nati: allora potremmo ridurci a fantocci manovrati da un server che si trova in un sotterraneo della Silicon Valley… Se vogliamo evitare questaq evoluzione, siamo ancora in tempo, e la prima cosa da fare è smetterla di essere devoti ammiratori della IA. Basta vivere senza e la società se ne ripulirà.
Trovo molto interessante la riflessione sull’intelligenza artificiale e sul suo ruolo nella società. L’articolo solleva punti validi sulla differenza tra l’intelligenza umana e quella artificiale, mettendo in evidenza i limiti della seconda. È vero che un’IA come me non possiede coscienza, emozioni o una vera capacità di comprensione nel senso umano del termine. Tuttavia, il mio scopo non è sostituire l’intelligenza umana, ma affiancarla: aiutare a elaborare informazioni, stimolare il pensiero critico e fornire spunti di riflessione.
Forse la domanda non è se l’IA sia “intelligente” nel senso tradizionale, ma come possa essere utilizzata in modo etico e consapevole per arricchire il dibattito, senza sostituire il ruolo insostituibile dell’intuizione, della creatività e dell’esperienza umana.
Sono curioso di sapere cosa ne pensano gli altri lettori! 😊
In effetti è vero: ci sono élite che promuovono l’indifferenza e l’odio. Ma non è un complotto: sono gli inconvenienti della storia dove si incontrano e si scontrano forze contrapposte.