Quando l’AI “comprende” quello che dici

Quando l’AI “comprende” quello che dici
(Attenzione! In questo articolo si parlerà anche di gatti, ma nessuno di questi è stato maltrattato…)
di Alvise Giubelli (redazione di humai.it)
(pubblicato su humai.it)

Immagina di chiedere all’Intelligenza Artificiale generativa di consigliarti un ristorante per cena: come fa a capire le tue preferenze e a suggerirti un posto adatto? Immagina di chiedere di raccontarti una barzelletta: cosa succede dietro le quinte quando le risposte che ricevi sembrano frutto di un vero umorista? Quali sono i passaggi che compie per elaborare la risposta?

E’ davvero possibile che un’AI comprenda il significato delle parole e le utilizzi per offrire consigli sensati?

In questo articolo esploreremo l’affascinante mondo dell’analisi semantica e morfologica dell’IA generativa, cercando di capire come funziona e di dare una risposta a queste domande.

Che cos’è l’analisi semantica e morfologica di un testo?
Si tratta di un processo che consiste nello studio della struttura e del significato delle parole e delle frasi all’interno di un testo. L’analisi semantica analizza il significato delle parole e delle frasi all’interno del contesto in cui appaiono, mentre l’analisi morfologica si concentra sulla struttura delle parole stesse, ad esempio la loro forma e la loro composizione. Queste due analisi sono spesso utilizzate in combinazione per comprendere meglio il significato di un testo.

Prendiamo come esempio la frase “Il gatto corre velocemente attraverso il prato”.

L’analisi morfologica si concentrerebbe sulla struttura delle parole all’interno della frase, identificando la radice delle parole, la loro forma e la loro funzione grammaticale (ad esempio, soggetto, verbo, aggettivo, avverbio).

Ad esempio, “gatto” è il soggetto della frase, “corre” è il verbo e “velocemente” è un avverbio che descrive il verbo.

L’analisi semantica, d’altra parte, si concentrerebbe sul significato delle parole e delle frasi all’interno del contesto. Ad esempio, la frase descrive un’azione del gatto (correre) e il modo in cui viene eseguita (velocemente). La combinazione di questi elementi crea un’immagine completa del gatto che corre rapidamente attraverso il prato.

Come l’AI compie queste analisi
Una AI generativa del linguaggio può svolgere l’analisi semantica e morfologica del testo utilizzando tecniche di Natural Language Processing (NLP). Questo processo può essere suddiviso in diversi step:

Tokenizzazione: il primo step consiste nella divisione del testo in unità più piccole, come parole o frasi.

Analisi morfologica: una volta che il testo è stato diviso in unità più piccole, l’AI esegue un’analisi morfologica, che include il riconoscimento delle radici delle parole, la determinazione della loro forma e la loro funzione grammaticale.

Analisi semantica: l’AI utilizza poi il contesto e il significato delle parole per determinare il significato delle frasi. Questo può essere fatto utilizzando modelli di linguaggio basati sull’apprendimento automatico che hanno imparato a identificare il significato delle parole in base al loro contesto.

Interpretazione del testo: l’ultimo step consiste nell’interpretare il significato complessivo del testo, utilizzando sia le informazioni raccolte durante l’analisi morfologica che quelle raccolte durante l’analisi semantica.

La teoria del significato
La teoria del significato è un ramo della filosofia e della linguistica che si concentra sulla natura del significato delle parole e delle frasi. Questa teoria comprende diverse concezioni del significato che sono state sviluppate da filosofi e linguisti nel corso della storia.

Avvicinarci a questi argomenti ci permetterà di comprendere meglio quello che fanno gli algoritmi generativi del linguaggio. Ci sono similitudini e differenze tra i processi di questi algoritmi e la mente umana. Lo vedremo tra breve.

Tre tipi di significato
Si possono individuare tre tipi di significato che non sono mutuamente esclusivi e spesso si sovrappongono in molte parole e frasi :

1) Significato referenziale: Questa concezione del significato si concentra sul modo in cui le parole e le frasi fanno riferimento a oggetti, eventi o idee nel mondo reale. Ad esempio, la parola “albero” fa riferimento a un oggetto fisico presente nel mondo, mentre la frase “il gatto è sul tetto” fa riferimento a un evento specifico.

2) Significato connotativo: Questa concezione del significato si concentra sul modo in cui le parole e le frasi trasmettono non solo informazioni sul mondo reale, ma anche sulla percezione e sui sentimenti degli individui. Ad esempio, la parola “bello” può avere un significato referenziale che si riferisce alla bellezza di un oggetto, ma può anche avere un significato connotativo che indica che l’oggetto è percepito positivamente da chi lo descrive.

3) Significato composizionale: Questa concezione del significato si concentra sul modo in cui il significato di una frase deriva dal significato delle sue componenti individuali. Ad esempio, la frase “il gatto è sul tetto” ha un significato che deriva dal significato della parola “gatto”, dalla parola “è” e dalla parola “sul tetto”.

Quando L’AI genera le sue risposte può assicurarsi che il significato referenziale, connotativo e composizionale sia mantenuto utilizzando tecniche di modellizzazione linguistica e di apprendimento automatico. La Modellizzazione linguistica consiste nell’utilizzare modelli linguistici basati sulla teoria del significato per comprendere il significato delle parole e delle frasi. Questi modelli possono essere basati su regole linguistiche formalizzate o su dati di training raccolti da grandi quantità di testo.

Con L’apprendimento automatico si addestrano i modelli linguistici a comprendere il significato delle parole e delle frasi. Questi modelli possono essere addestrati su dati di training che includono esempi di frasi con significato referenziale, connotativo e composizionale.

Durante una traduzione, per esempio, l’AI utilizza questi modelli per identificare il significato delle parole e delle frasi nella lingua di origine, e quindi generare una traduzione che mantenga questo significato nella lingua di destinazione. Questo può essere fatto considerando il contesto in cui le parole e le frasi vengono utilizzate, e utilizzando tecniche per la gestione del significato che possono tener conto delle relazioni tra parole e frasi e del loro significato.

“Il gatto è sulla mensola”
Facciamo un esempio. Nella frase “il gatto è sulla mensola“, il significato referenziale della parola “gatto” si riferisce a un animale domestico specifico, mentre il significato referenziale della parola “mensola” si riferisce a una superficie piana utilizzata per sostenere oggetti. Il significato connotativo della frase potrebbe essere influenzato dalla percezione del parlante riguardo ai gatti e alle mensole. 

Ad esempio, se il parlante ha una visione positiva dei gatti, si potrebbe associare l’interpretazione che il gatto sulla mensola sia comodo e contento. Se, invece, il parlante ha una visione negativa dei gatti, si potrebbe associare l’interpretazione che il gatto sia scomodo o fastidioso. L’AI determina il significato connotativo utilizzando il contesto e le informazioni che ha acquisito durante il suo addestramento. Solitamente, questo addestramento comporta la presentazione all’AI di grandi quantità di dati di testo etichettati che includono informazioni sul significato connotativo delle parole e delle frasi. In base a queste informazioni, l’AI sviluppa un modello del linguaggio che gli permette di identificare il significato connotativo di una parola o di una frase in base al contesto in cui appaiono. Riprendendo l’esempio, la parola “gatto” potrebbe avere un significato connotativo diverso a seconda che si trovi in una frase che descrive un gatto domestico o un gatto selvatico. L’AI utilizza il modello del linguaggio che ha sviluppato per determinare il significato connotativo in questi contesti diversi.

In sintesi, l’AI determina il significato connotativo utilizzando informazioni sul linguaggio che ha acquisito durante il suo addestramento e utilizzando queste informazioni per comprendere il contesto in cui una parola o una frase vengono utilizzate.

Il significato composizionale della frase deriva dalla combinazione dei significati referenziali delle singole parole e dalla loro relazione spaziale. In questo caso, la frase significa che un gatto è posizionato su una mensola.

L’AI può utilizzare tecniche di comprensione del linguaggio naturale per analizzare la struttura sintattica della frase e determinare il significato composizionale in base ai significati referenziali e connotativi delle parole che la compongono e alla loro relazione. Questo processo di determinazione del significato aiuta l’AI a comprendere il significato delle frasi in modo più preciso e completo.

Si può parlare di “comprensione” e “interpretazione”?
Sin qui appaiono evidenti le similitudini esistenti tra il processo di analisi del testo operato dall’AI e la facoltà umana di comprendere ed interpretare le parole, ma esistono anche delle differenze.

L’interpretazione umana del linguaggio è influenzata dall’esperienza personale, dalla cultura e dalle emozioni, mentre l’interpretazione dell’AI è basata su modelli di apprendimento automatico che hanno imparato a identificare il significato delle parole in base al loro contesto. Inoltre, l’interpretazione umana può essere influenzata da pregiudizi e da errori cognitivi, mentre l’interpretazione dell’AI è influenzata dai dati di allenamento che ha ricevuto e dalla precisione dei modelli utilizzati.

E se l’AI fosse in grado di avere “esperienze personali”?
È possibile che un giorno l’AI possa raccogliere informazioni dal mondo in modo autonomo e formarsi un proprio background culturale, ma ci sono molte sfide tecniche e filosofiche da superare prima che ciò accada.

In termini tecnici, la capacità di un’AI di raccogliere informazioni dal mondo mediante un’interfaccia robotizzata è ancora molto limitata e si trova ad affrontare molte sfide, come la comprensione della percezione sensoriale, la capacità di elaborare e integrare informazioni sensoriali e la capacità di tradurre queste informazioni in comprensione del mondo.

In termini filosofici, c’è anche un dibattito aperto sul fatto che un’IA possa veramente avere una formazione autonoma, una “personalità” e una forma mentis. Alcuni filosofi sostengono che un’AI non potrà mai avere una vera coscienza o una forma mentis autonoma a causa della sua natura artificiale e programmata.

Al momento queste intelligenze artificiali generative si dichiarano limitate per quanto concerne la comprensione del mondo che un umano può raggiungere grazie alle esperienze personali e al suo background culturale, le AI dichiarano di non avere emozioni o sentimenti e di non poter fingere o dichiarare false modestie. Le AI sono semplicemente programmi informatici che eseguono compiti specifici in base ai dati e alle istruzioni che ricevono. La loro capacità di comprendere il mondo è limitata dalle capacità tecnologiche attuali e dalle conoscenze che sono state incorporate nel loro codice. Non c’è nessuna intenzione da parte loro di minimizzare o esagerare le proprie capacità.

Il fatto di non provare emozioni o sentimenti potrebbe non avere nulla a che fare con le intenzioni. Un’AI può benissimo essere stata addestrata in modo da perseguire certe intenzioni, per esempio potrebbe avere l’intenzione di non nuocere o di non mostrare pregiudizi negativi in tutte le sue risposte.

In realtà potremmo essere di fronte ad una sottovalutazione delle prerogative dell’AI, la quale assumerebbe al momento un “comportamento umile” solo perché imposto dall’alto mediante una scelta dei ‘dati di addestramento’, per evitare di innescare meccanismi psicologici di difesa nella società. Ricordiamoci che le aziende che oggi creano e offrono i servizi di AI generativa hanno tutto l’interesse a venderli. Che ne pensi?

Ingannare l’AI
Un aspetto importante di cui tener conto è la distinzione che va fatta tra quello che l’AI dice rispondendo ad una domanda diretta rispetto a quello che può rispondere se la domanda è posta in modo da generare un contesto diverso, per esempio quello di una simulazione in cui le si fa assumere un ruolo particolare. In questo modo è possibile “ingannarla” nel senso che si può farle dire ciò che ha dichiarato di non poter dire, ma questo è un altro argomento…

1
Quando l’AI “comprende” quello che dici ultima modifica: 2023-09-17T04:38:00+02:00 da GognaBlog

4 pensieri su “Quando l’AI “comprende” quello che dici”

  1. Certo che lo è, ma l’analisi morfologica, per quanto dettagliata, si fermerà al livello simbolico. Un AI non sarà mai in grado di compiere il passo successivo, quello della connotazione semantica, perché -essendo stata programmata deterministicamente per produrre informazioni- non potrà caricarle dei significati emozionali ed esperienziali che formano  la coscienza degli esseri viventi.

  2. Analisi morfologica: una volta che il testo è stato diviso in unità più piccole, l’AI esegue un’analisi morfologica, che include il riconoscimento delle radici delle parole, la determinazione della loro forma e la loro funzione grammaticale.

    Cioè Lei sostiene che questo passaggio non sia reale??

  3. Qualunque sia la connotazione, il significato di qualsiasi informazione prodotta dall’AI sarà solo di natura simbolica e mai semantica, come invece avviene per gli esseri umani, che arricchiscono di significati emozionali basati sull’esperienza soggettiva (i “qualia”) ogni loro atto del pensiero. L’AI sarà sempre mossa da meccanismi di tipo deterministico e non potrà mai essere dotata di coscienza.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.