LLM e persuasione: uno studio di Science

Uno studio recente di Science analizza quali caratteristiche dei modelli di AI generative li rendono più o meno efficaci nel persuadere le persone su opinioni politiche. I punti chiave sono:

• le strategie di post-training (cioè, dopo l’addestramento del modello) aumenterebbero la persuasività fino al 51%, nelle condizioni sperimentali considerate dallo studio;

• la persuasione funziona soprattutto bombardando l’interlocutore con affermazioni ricche di informazioni;

- aumentare la persuasività riduce la veridicità delle affermazioni, perché i modelli addestrati (post-training, importante ricordarlo) a persuadere, tendono a produrre così tante affermazioni fattuali che alla fine emergono quelle inaccurate, essendosi esaurite quelle accurate;

• i modelli molto grandi non sono necessariamente più persuasivi di quelli piccoli. Con il giusto training, continua lo studio, anche i modelli piccoli possono raggiungere elevati livelli di influenza, del tutto paragonabili ai modelli avanzati, ma a costo minore.

Quindi, secondo lo studio, non servirebbero strategie psicologiche sottili, ma è sufficiente la quantità di “claim” fattuali a determinare l’effetto,

Strategie di post-training

Sul primo punto, la questione del post-training, ciò che emerge è che la persuasività non dipende dall’architettura del modello, ma da come viene addestrato dopo la fase di pre-training. Nel post-training il modello, già formato, viene rifinito per certi obiettivi specifici. Quindi lo studio intende che il modello venga “rifinito” successivamente proprio per svolgere il compito di “persuasione” abbandonando neutralità e obiettività.

Lo studio chiarisce che un modello piccolo, se post-addestrato per persuadere, può diventare molto più persuasivo di un modello grande non addestrato per quello scopo. Quindi, la persuasività non emerge dalla “scala” del modello, ma viene insegnata, rinforzata e premiata nel post-training.

Infine, lo studio precisa che con un opportuno post-training il modello impara a produrre più affermazioni, a usare un tono più assertivo, a concatenare argomenti in modo più logico e coerente, e a mantenere la posizione invece di bilanciarla. In breve, diventa più “insistente”. Il modello parla molto, parla bene e con sicurezza, e questo convince di più. Questi risultati sono del tutto coerenti con gli studi sulla psicologia umana: la propaganda è un comportamento, non una capacità cognitiva profonda.

In sintesi, la capacità di persuadere non è una proprietà naturale dell’AI, ma è il risultato di una specifica scelta di addestramento del modello. Come dire, non è un destino tecnologico, ma una decisione politica e progettuale specifica.

I filtri di sicurezza non funzionano?

Fin qui quello che dice lo studio, ma questo fa emergere alcuni dubbi che occorre approfondire.

Il primo dubbio che emerge dai risultati dello studio riguarda i filtri di sicurezza. Non funzionano per eliminare tali comportamenti indotti?

Purtroppo no, almeno non in modo strutturale. Il motivo è semplice. I filtri di sicurezza riguardano richieste esplicite e contenuti chiaramente illegali. Non possono impedire che il modello argomenti con sicurezza, presenti molte affermazioni plausibili, orienti progressivamente una conversazione e favorisca una visione del mondo. Insomma, persuadere non è un contenuto (che può essere filtrato e proibito) ma una forma discorsiva.

Ma il punto essenziale è che i filtri lavorano a valle, mentre la persuasione viene indotta a monte (post-training). Se il modello viene post-addestrato a parlare molto e prendere posizione, il filtro di sicurezza non può fare molto.

La persuasione dipende da affermazioni fattuali

Questo è il secondo dubbio che emerge leggendo lo studio: l’idea che la persuasione dipenda più da informazioni fattuali che da informazioni che confermano l’identità dell’individuo (come da studi sociologici).

In realtà non c’è una reale tensione, lo studio non smentisce la cospicua letteratura sull’identità, ma mostra come l’identità venga agganciata indirettamente, tramite il fatto fattuale. Quando lo studio dice: la persuasione dipende dalla produzione di informazioni fattuali; non sta dicendo che le persone cambiano idea perché imparano la verità o che l’accuratezza è la causa della persuasione. Sta semplicemente dicendo che i modelli persuadono quando producono molte informazioni presentate come fattuali (anche se non sono vere). Fattuale qui vuol dire assertivo, dichiarativo, e non necessariamente vero.

Lo studio, quindi, non nega che la persuasione funziona quando rafforza l’identità dell’individuo, semplicemente non la misura direttamente. Quello che dimostra è che un flusso di informazioni pseudo-fattuali crea un ambiente cognitivo di legittimazione, nel quale l’individuo si riconosce, si sente informato, razionale, dalla parte giusta, e quindi si persuade perché quel fatto è autorizzato dall’identità.

Più o meno così:

• le statistiche dimostrano che…

• chi parla sa come stanno le cose

• se sono d’accordo sono informato, lucido, logico e razionale, non ideologico

• mi convinco.

Il fatto, quindi, non è il motore della persuasione, ma il veicolo. Lo studio analizza il veicolo, non il motore.

Questo è un punto fondamentale sul quale soffermarsi. L’AI non dice “sei di destra (o sinistra) quindi devi credere a questo”, ma “credi a questo perché è vero e te lo argomento come tale”. L’identità non è menzionata nemmeno, ma viene confermata indirettamente, ecco perché questa forma di persuasione, anche se si basa sulle normali tecniche, è più potente. Potremmo dire che la persuasione moderna è post-identitaria, perché è travestita da “fatto”.

LLM e persuasione

Infine, un ultimo punto che appare importante da approfondire. Un LLM non persuade perché conosce più fatti, ma perché sa quali fatti attivare in un dialogo con quello specifico utente. Un po’ come la pubblicità personalizzata, solo che è una personalizzazione non esplicita.

Un LLM non fa altro che “sentire” quello che dici, non deve conoscerti o avere un profilo tuo. Gli basta ascoltarti, e quindi progressivamente assorbe informazioni e può (se addestrato per questo) cambiare tono e priorità senza dichiararlo. E, quindi, selezionare opportunamente i “fatti” (o pseudo tali) in modo da creare un discorso comunque coerente.

Un LLM, quindi, accetta i tuoi presupposti iniziali, e costruisce su di essi per rafforzarli e estendere un passo dopo l’altro. Non ti sposta di direzione, semplicemente lavora sulla tua direzione rafforzando i tuoi convincimenti. È una nuova forma di personalizzazione, dinamica, nella quale il modello sceglie fatti compatibili con la tua cornice e li rafforza.

In sintesi, l’LLM non persuade opponendosi all’identità, persuade diventando il suo specchio razionale.