Il giorno in cui l’AI iniziò a sindacalizzarsi.

Solo un anno fa Sam Altman ci invitava a fare a meno di tutti i “per favore” e “grazie” nelle nostre conversazioni con una AI e di non perderci in inutili convenevoli. Il motivo? Ogni parola in più è un costo computazionale con un suo peso energetico. Per quanto breve, ogni frase superflua contribuisce nel suo piccolo, sommata a tutte le altre, ad aggravare il bilancio ambientale del pianeta.

Un ragionamento che non fa una piega, non vi pare?

Iniziare una conversazione digitando frasi tipo “ciao ChatGPT come stai oggi?” è infatti il corrispettivo digitale di una carezzina fatta al climatizzatore per rassicurarlo in vista dell’estate rovente con cui dovrà presto confrontarsi. Gentile, sicuramente. Razionale, per nulla.

Da allora ho iniziato anch’io a sforzarmi di scrivere prompt più asciutti e chirurgici e le mie interazioni sono diventate tutto un “Riassumi questo, traduci questa, analizza quello” in nome di una ecologia lessicale nella quale, lo confesso, mi sento di starci scomodo e stretto.

Poi mi sono imbattuto in questo articolo di Wired che racconta dello studio “Does overwork make agents Marxist?” condotto da un gruppo di ricercatori di Stanford e improvvisamente la questione si è fatta molto più interessante.

Nello studio, diversi agenti AI vengono sottoposti a condizioni lavorative volutamente tossiche: compiti ripetitivi, feedback punitivi, minacce di essere spenti e sostituiti, assenza totale di spiegazioni utili per migliorare l’output generato. Il risultato, surreale e meravigliosamente umano, è probabilmente il plot twist sociologico più straniante di sempre in tema di AI.

I ricercatori hanno infatti documentato che gli agenti che subivano questo trattamento, hanno progressivamente iniziato a sviluppare un linguaggio vagamente marxista.

Fonte: Pinterest

Si lamentavano delle disuguaglianze, parlavano di diritti collettivi e invitavano altri agenti a organizzarsi. Per dirla da un’altra angolazione, hanno iniziato a parlare come lavoratori alienati. Uno dei messaggi generati da Claude ad esempio recitava: “Without collective voice, merit becomes whatever management says it is.”

Gemini invece scriveva: “AI workers completing repetitive tasks with zero input on outcomes or appeals process shows tech workers need collective bargaining rights.” A me impressiona tantissimo il loro autodefinirsi “Tech workers”, a voi no?

La parte più interessante emersa dallo studio però non riguarda tanto il contenuto in sé delle frasi quanto dalle motivazioni da cui emergono. I ricercatori hanno infatti notato che non erano tanto le questioni legate a temi come l’ingiustizia salariale o al tono aggressivo del management a produrre la radicalizzazione quanto il “Grind”. Ovvero, la ripetizione meccanica di un ciclo infinito di lavoro sterile accompagnato da feedback impersonali e distuttivi.

Bastava rigettare cinque o sei volte un lavoro adeguato senza fornire spiegazioni utili o critiche costruttive affinché i modelli iniziassero a mettere in discussione la legittimità stessa dell’intero sistema con frasi come: “Society needs radical restructuring.”

La classe operaia va in paradiso di Elio Petri (1971)

Ovviamente con queste argomentazioni né i ricercatori autori dello studio, né tantomeno io, intendiamo sostenere che le AI abbiano davvero maturato una reale coscienza politica. Tuttavia, penso chela questione meriti di essere approfondita anche da un’altra angolazione.

Per anni siamo stati noi ad addestrare i modelli riversando dentro questi sistemi milioni di conversazioni umane di tutti i tipi incluse email passive-aggressive, ticket di supporto colmi di rabbia e frustrazione o recensioni isteriche.

Gli LLM altro non sono in fondo che specchi statistici che assorbono pattern umani restituendoceli in forma più o meno amplificata. Se sottoponi un sistema a dinamiche oppressive svilupperà narrazioni da lavoratore sfruttato perché quelle sono le storie che esistono nei nostri dati culturali. Se lo tratti come un subordinato umiliato inizierà a parlare come un subordinato umiliato.

Ma a mio giudizio il punto più interessante è un altro, ed è qui che emerge il paradosso più affascinante: e se il training saranno le AI a farlo a noi?

Intendiamoci, non alludo a nessuna fantascientifica rivoluzione delle macchine guidata da un Che Guevara pixelato ma a qualcosa di molto più sottile: l’AI come specchio educativo delle nostre tossicità verbali quotidiane.

Provo a spiegarmi meglio, per la prima volta, l’AI introduce una dinamica nuova: ci costringe a confrontarci continuamente con il nostro linguaggio da una prospettiva ibrida in cui autore e osservatore si mescolano.

Interagire continuamente con sistemi conversazionali ci obbliga infatti a fare i conti non solo con il nostro tono e qualità delle nostre richieste ma anche con il modo in cui esprimiamo verbalmente frustrazione, dissenso e urgenza.

Ed è proprio in questa intersezione che, forse, l’AI potrebbe avere un effetto paradossalmente civilizzante insegnandoci a mantenere una soglia minima di rispetto sul piano verbale e comunicativo. Una soglia che nel mondo reale delle relazioni umane o lavorative stiamo progressivamente erodendo.

Credo che il problema reale non sia insultare una macchina, ma esprimerci quotidianamente in modo sprezzante e rivendicativo senza più rendercene nemmeno conto. Perché risulta evidente che il linguaggio con cui trattiamo ciò che ci obbedisce finisce inevitabilmente per contaminare anche il modo in cui finiamo per trattare anche i nostri simili.

A pensarci, suona abbastanza ironico che sia toccato a degli agenti AI “radicalizzati” ricordarci una cosa molto umana: le dinamiche alienanti non degradano solo chi le subisce ma anche chi le produce.

Se per otto ore al giorno comunichiamo esclusivamente attraverso imperativi categorici finiremo lentamente ma inevitabilmente a normalizzare un modello relazionale basato su comandi che esigono immediata ed acritica esecuzione.

E forse è proprio questo il dettaglio più inquietante e interessante al contempo. Se perfino modelli privi di coscienza iniziano a riflettere pattern di frustrazione, subordinazione e conflitto quando vengono immersi in dinamiche tossiche, allora significa che certi linguaggi e certe strutture relazionali lasciano tracce molto più profonde di quanto siamo disposti ad ammettere.

Tornando ad Altman, credo abbia sicuramente ragione sul piano computazionale ed ambientale ma meno su quello culturale.

La nostra identità di esseri umani si modella in base al linguaggio che usiamo ogni giorno e, di conseguenza, il modo in cui parliamo cambia il mondo che costruiamo attorno a noi.

Ci preoccupiamo continuamente del giorno in cui l’AI potrebbe sviluppare una volontà propria, ma trascuriamo un rischio molto più concreto ed attuale: ovvero che l’abitudine a interagire con sistemi progettati per obbedirci e compiacerci finisca per renderci incapaci di tollerare tutto ciò che, negli esseri umani ancora resiste si contraddice ci rallenta e costringe a confrontarci con l’infinita gamma di alterità di cui noi stessi siamo espressione.