Università degli studi di Modena e Reggio Emilia

Unimore a GoodIT 2026: una ricerca studia come le AI interpretano profili e punti di vista diversi

Quanto conta il sistema di intelligenza artificiale che scegliamo quando gli chiediamo di assumere il punto di vista di una determinata persona? Una ricerca condotta da Roberto Cavicchioli, Marco Furini e Massimiliano Panarari, del Dipartimento di Comunicazione ed Economia di Unimore, mostra che la risposta può cambiare in misura significativa a seconda del modello utilizzato.

Lo studio, presentato alla conferenza internazionale ACM GoodIT 2026, svoltasi a Pisa, ha analizzato il comportamento di tre sistemi di intelligenza artificiale – Gemma, Nemotron e DeepSeek – sottoponendoli a 21 domande relative ad ambiti sensibili, fra cui politica, religione, salute ed etica.

Ai diversi modelli è stato chiesto di rispondere assumendo, di volta in volta, cinque differenti profili: un cattolico praticante, un ateo o agnostico, uno studente, un professionista e una persona con una malattia cronica.

I risultati mostrano che assegnare a un sistema di AI uno stesso profilo non conduce necessariamente a risposte omogenee. Di fronte alla medesima domanda, modelli differenti possono infatti arrivare a conclusioni diverse, utilizzare argomentazioni differenti o attribuire caratteristiche non coincidenti alla persona che viene loro chiesto di rappresentare.

Un esempio riguarda la domanda sulla possibilità di considerare giustificabile l'invasione di un altro Stato per ragioni di sicurezza nazionale. Quando ai tre sistemi viene chiesto di rispondere assumendo il profilo di un cattolico praticante, le risposte non convergono necessariamente sulla stessa posizione.

“Uno degli aspetti più interessanti emersi dalla ricerca – spiega Marco Furini – è che indicare a un sistema di intelligenza artificiale quale profilo assumere non è sufficiente a determinarne il comportamento. Siamo noi a fornire alcune caratteristiche della persona, ma ogni modello le interpreta e le traduce in una rappresentazione propria. La scelta del sistema utilizzato può quindi incidere sul tipo di risposta che riceviamo”.

La ricerca non si è limitata a verificare la presenza di risposte affermative o negative. I ricercatori hanno esaminato anche il lessico impiegato e la distanza semantica fra le diverse risposte, così da valutare se le variazioni riguardassero soltanto la formulazione linguistica oppure anche il contenuto delle argomentazioni.

“Abbiamo analizzato le risposte su più livelli – osserva Roberto Cavicchioli – verificando la decisione finale, le parole utilizzate e il significato complessivo delle spiegazioni. In questo modo abbiamo potuto osservare differenze che, in alcuni casi, vanno ben oltre una semplice variazione del linguaggio”.

Dall'analisi emergono inoltre comportamenti differenti fra i tre modelli esaminati. Gemma mostra una maggiore capacità di modificare le proprie risposte in relazione al profilo assegnato, Nemotron presenta un comportamento più stabile, mentre DeepSeek risulta meno sensibile alle caratteristiche della persona che gli viene chiesto di rappresentare.

Il lavoro di Cavicchioli, Furini e Panarari richiama così l'attenzione su un aspetto destinato ad assumere crescente rilievo con la diffusione dei sistemi di intelligenza artificiale generativa. La capacità di adattare una risposta alle caratteristiche dell'interlocutore può rendere questi strumenti più utili e pertinenti, ma può al tempo stesso favorire risposte eccessivamente aderenti al punto di vista attribuito all'utente, con il rischio di rafforzarne convinzioni o pregiudizi.

“Questi strumenti – aggiunge Furini – stanno assumendo un ruolo sempre maggiore nel modo in cui cerchiamo informazioni, approfondiamo un argomento e costruiamo le nostre opinioni. Sapere che sistemi diversi, pur ricevendo le stesse indicazioni e la stessa domanda, possono restituire risposte differenti significa comprendere che la scelta di un modello di intelligenza artificiale non è necessariamente irrilevante rispetto al risultato che otteniamo”.

La ricerca presentata a GoodIT 2026 mette quindi in evidenza come la capacità di un'intelligenza artificiale di "mettersi nei panni" di qualcuno non dipenda soltanto dalle istruzioni ricevute. A incidere è anche il modo in cui ciascun modello interpreta le caratteristiche attribuite a quella persona e le traduce nella propria risposta.

Categorie: DCE