Dovremmo essere diventati più bravi a usare l’IA, e invece…

Tra romanzi cancellati e multe legali, la mole di errori di metà anno dimostra il contrario:

L’altro giorno mi è caduto l’occhio su un documento aziendale che avrebbe dovuto essere così incredibilmente noioso da non essere letto quasi da nessuno.

Invece, la relazione sulla governance societaria di una compagnia canadese di esplorazione del litio, redatta poco prima del suo debutto alla borsa australiana, il mese scorso è diventata virale. Il motivo? Tra le sue pagine compariva questa frase:

“You will change in share are all ejaculated out your helpful girlfriend issue she asked the councils responsible.” (Un insieme di parole senza alcun nesso logico che accosta variazioni azionarie, fidanzate utili e consigli comunali).

Ho scritto alla società in questione, la Li-FT Power, per chiedere se la colpa fosse dell’intelligenza artificiale e, in caso contrario, come fosse stato possibile un simile pasticcio. Ma entro la scadenza della consegna dell’articolo non è arrivata risposta.

È difficile trovare un colpevole diverso da quello che molti ora chiamano semplicemente “Chat”. Questo mi ha spinto a rivedere il mio piano iniziale, concepito a gennaio, che prevedeva di scrivere un articolo a dicembre per riassumere un anno di fallimenti dell’IA.

Considerando che siamo solo a giugno e la galleria degli orrori dell’IA è già straripante, mi è sembrato più sicuro procedere con un aggiornamento di metà anno.

Questi episodi confermano quanto mi aveva detto l’amministratore delegato di un’azienda tecnologica all’inizio dell’anno a proposito dei grandi modelli linguistici: le imprese stanno correndo a utilizzare una tecnologia che non è stata progettata principalmente per scopi aziendali.

Politica, editoria e carriere a rischio

Le aziende non sono certamente le uniche a commettere passi falsi. Quest’anno sono passate poche settimane senza che un politico, un giornalista o uno scrittore venisse smascherato, licenziato, messo sotto inchiesta o ridicolizzato a causa dell’IA. La resistenza si sta rivelando inutile.

L’ex candidato del partito Reform UK, Matt Goodwin, ha insistito sul fatto che le accuse secondo cui l’IA avrebbe scritto parti del suo libro sull’immigrazione, Suicide of a Nation, fossero categoricamente false. Ciò non gli ha impedito di ricevere un soprannome che difficilmente riuscirà a scrollarsi di dosso: MattGPT.

Il deputato laburista Mike Reader è ancora noto come “ChatG-MP” a mesi di distanza dalle segnalazioni di chi lo aveva visto in treno mentre usava ChatGPT per rispondere ai suoi elettori.

Poteva andare peggio. A marzo, l’uscita negli Stati Uniti del romanzo horror Shy Girl è stata annullata dall’editore per il timore che fosse stata utilizzata l’IA nella scrittura. Nel frattempo, tra febbraio e aprile, si sono susseguite notizie di giornalisti licenziati o sospesi per l’uso di software di generazione testi da New York fino ai Paesi Bassi.

Maggio ha portato uno sviluppo ancora più singolare. L’imprenditore dei media americani Steven Rosenbaum ha ammesso che l’IA aveva inventato diverse citazioni false o errate all’interno di un libro ricco di elogi che porta un titolo ironico, vista la situazione: The Future of Truth: How AI Reshapes Reality (Il futuro della verità: come l’IA rimodella la realtà).

Il problema della fuffa giuridica nei tribunali

È facile comprendere come uno scrittore o un politico con i tempi stretti possa trovare irresistibile il richiamo dell’IA. Tuttavia, la crescente quantità di “slop” (testi spazzatura generati automaticamente) nelle citazioni legali all’interno dei tribunali continua a preoccupare, così come l’entità delle sanzioni che i giudici stanno imponendo.

A marzo è emerso che alcuni avvocati, che avevano citato diverse sentenze inesistenti in una controversia familiare legata a una cantina vinicola dell’Oregon, sono stati condannati a pagare 110.000 dollari di penale.

Il giudice magistrato Mark D. Clarke ha scritto nella sentenza: “Nell’universo in rapida espansione dei casi legati alle sanzioni per l’abuso dell’intelligenza artificiale, questo caso rappresenta un’anomalia evidente sia per gravità che per volume”.

Damien Charlotin, avvocato e accademico francese di 34 anni che gestisce un database sugli abusi dell’IA in ambito legale a partire dal 2023, mi ha spiegato che le sanzioni del caso della cantina vinicola sono le più alte che abbia registrato finora.

Dubito che saranno le ultime. Da quando l’IA ha preso piede, il numero di parti in causa che si presentano nei tribunali civili federali degli Stati Uniti senza il supporto di un avvocato è salito dall’11% al 17%. Questo fenomeno aumenterà i ritardi nei tribunali e ingrosserà il database di Charlotin, che contava meno di 700 casi a dicembre e che questa settimana ha superato quota 1.500.

Questo numero non è così elevato se inserito nel contesto generale, afferma Charlotin, che insegna automazione, scrive codice informatico in prima persona e apprezza il tempo extra che l’IA gli concede per concentrarsi sugli aspetti più umani del suo lavoro.

Tuttavia, Charlotin evidenzia anche un punto fondamentale: i modelli linguistici allucinano per impostazione predefinita. Devono essere gestiti con estrema attenzione e, in molti casi, limitati a compiti specifici. In altre parole, gli esseri umani non devono semplicemente supervisionare il processo, devono mantenerne fermamente il controllo operativo.

In futuro questo concetto potrebbe diventare ovvio. Nel frattempo, ci troviamo a vivere in un mondo in cui l’intelligenza artificiale viene usata eccessivamente e riceve troppa fiducia da parte di soggetti che dovrebbero operare con maggiore professionalità.

Ecco l’aggiunta al testo focalizzata sulla situazione in Italia e in Europa, mantenendo lo stile giornalistico e i criteri di formattazione richiesti.

L’Italia e i tribunali delle sentenze inventate

Anche nel nostro Paese la convinzione che l’intelligenza artificiale sia uno strumento infallibile si sta rivelando errata, specialmente nei tribunali, dove la mancanza di verifica da parte dei professionisti si scontra con il rigore dei giudici.

Recentemente, il Tribunale di Siracusa si è trovato a gestire una causa di risarcimento danni in cui una delle parti ha depositato atti contenenti ben quattro sentenze della Cassazione totalmente inventate dall’algoritmo. Nel respingere le richieste, il giudice ha precisato che i grandi modelli linguistici non sono banche dati giuridiche da cui estrarre precedenti, ma sistemi statistico-probabilistici che non hanno una vera conoscenza dei fatti né memoria reale. La conseguenza per l’uso acritico della tecnologia è stata una condanna al pagamento delle spese di giudizio che ha superato i 30.000 euro.

Questo non è un caso isolato. Al Tribunale di Ferrara, un avvocato ha tentato di allegare agli atti di un processo per un incidente stradale una stampa di una conversazione con ChatGPT, presentandola come prova documentale. Il giudice ha dichiarato l’atto inammissibile e privo di utilità giuridica, evidenziando che mancavano persino i prompt, ovvero le domande specifiche poste al chatbot per ottenere quelle risposte. Un errore analogo era già avvenuto al Tribunale di Firenze, dove un legale aveva citato precedenti inesistenti generati dall’IA in una causa sulla contraffazione di marchi.

La rincorsa alle regole e il nodo delle sanzioni in Europa

Mentre i professionisti commettono errori a causa delle allucinazioni dei chatbot, le istituzioni europee cercano di regolamentare la materia con l’entrata in vigore dell’AI Act. Il quadro normativo europeo prevede sanzioni severe per le aziende che utilizzano sistemi di intelligenza artificiale non conformi o considerati ad alto rischio: le multe teoriche possono raggiungere i 30 o 35 milioni di euro, oppure il 7% del fatturato globale annuo dell’impresa.

Tuttavia, l’applicazione pratica di queste regole genera forti scontri istituzionali. In Italia, il Garante per la protezione dei dati personali aveva inflitto una sanzione da 15 milioni di euro a OpenAI, contestando violazioni del GDPR legate alla raccolta dei dati per l’addestramento degli algoritmi e alla mancanza di filtri per i minori. Con una decisione recente, il Tribunale di Roma ha annullato la multa accogliendo il ricorso della società, dimostrando come il percorso per sanzionare l’uso scorretto dell’IA in Europa sia ancora complesso e privo di automatismi.

La conclusione, sia che ci si trovi negli Stati Uniti o in un tribunale italiano, rimane la medesima: delegare l’analisi dei dati e la ricerca a una macchina senza una successiva e rigorosa verifica umana non riduce i tempi di lavoro, ma aumenta il rischio di sanzioni economiche e di gravi danni professionali.

“Questo articolo ha beneficiato dell’assistenza di Gemini, un modello linguistico AI”