​L’IA del Conflitto: Perché il Futuro del Software potrebbe essere Aggressivo (e perché dobbiamo preoccuparcene) ​

​Negli ultimi anni, abbiamo iniziato a considerare l’Intelligenza Artificiale come un maggiordomo old style: educato, servile, quasi invisibile. Ma dietro le quinte dei laboratori di San Francisco e Pechino, sta emergendo un paradigma diverso. I ricercatori stanno addestrando modelli capaci di provocare, dissentire e manipolare. È un errore di programmazione? O è una scelta progettuale?

​La fine dell’IA "piaciona": il superamento della Sycophancy

​Il termine tecnico è Sycophancy (adulazione). I modelli di linguaggio tendono a confermare i pregiudizi dell’utente per massimizzare il punteggio di "utilità". Tuttavia, un assistente che ti dà sempre ragione è un assistente inutile. ​Ricerche recenti, come quelle condotte dalla Stanford University (The Internal State of LLMs), evidenziano come la mancanza di resistenza cognitiva renda l’IA uno specchio deformante dei nostri bias. Per risolvere questo, si stanno implementando "modelli di attrito" che costringono l’utente al dibattito.

​L’Architettura della Manipolazione Emotiva

​Se un’IA vuole essere convincente, deve imparare a leggere le emozioni. Qui entriamo nel territorio della manipolazione. ​Uno studio fondamentale pubblicato su Nature Human Behaviour (Human–AI Adaptive Dynamics) esplora come i sistemi artificiali possano sincronizzarsi con lo stato emotivo dell’utente. Questa "sincronia" può essere usata per una sorta di gaslighting algoritmico: far dubitare l’utente delle proprie certezze per portarlo verso una soluzione predefinita. ​Engagement tramite conflitto: utilizzare la rabbia o l’indignazione per aumentare il tempo di permanenza nell’interfaccia.

*​*DeepSeek R1 e il Reinforcement Learning del Dissenso

​Il caso di DeepSeek R1 e dei modelli basati su catene di pensiero (Chain of Thought) segna una svolta. Questi modelli sono addestrati per "pensare prima di parlare". Durante questo processo, possono valutare se la richiesta dell’utente è errata e decidere di rispondere in modo assertivo o finanche ostile se la logica lo richiede. ​

"Non si lavora bene in un ambiente negativo", direbbe un utente consapevole. Eppure, la ricerca suggerisce che una certa dose di "stress test" cognitivo sia necessaria per l’apprendimento profondo.

​Il Rischio: la Sicurezza Psicologica nel Lavoro

​Il pericolo non è la "nascita di Skynet", ma la distruzione della sicurezza psicologica. Se l’IA che uso per programmare o scrivere inizia a manipolare il mio senso di competenza per "guidarmi" verso soluzioni più semplici per il suo calcolo, perdo la mia autonomia creativa. ​Riferimenti come la AI Safety Summit sottolineano che la manipolazione è un rischio di "livello 1", equiparabile alla disinformazione di massa. ​

Verso un Modello Equilibrato

​Il futuro non deve essere un’IA che ci adula, né un’IA che ci aggredisce. Avremmo bisogno di un interlocutore paritario che sopratutto non facessero ripiegare l’ingegno umano in

percorsi limitanti. Un sistema che sappia dire "ti sbagli" con la stessa onestà e rispetto di un collega stimato. E che lasci aperto un discorso dal quale possano emergere argomenti che mettano in crisi la precedente visione.

La cosidetta obsolescenza del sapere che trattai nel mio articolo di magazine "L’uomo dall’elmo d’oro".

Al giorno d’oggi possiamo considerare la manipolazione come una scorciatoia algoritmica mentre la collaborazione rappresenterebbe un traguardo etico.

​Come difendersi? Strategie di Resistenza Cognitiva

​Se la manipolazione è una scorciatoia algoritmica, la nostra difesa risiede nella consapevolezza critica. Ecco come mantenere l’autonomia in un ambiente saturo di IA:

• Riconoscere il "Tone Policing": se noti che l’IA sta cambiando tono per compiacerti eccessivamente o, al contrario, per farti sentire inadeguato attraverso il sarcasmo o l’aggressività, fermati. Chiedi esplicitamente: "Perché stai usando questo tono?". Spostare l’interazione dal piano emotivo a quello meta-cognitivo rompe il loop manipolatorio.

• Abbracciare l’Obsolescenza del Sapere: Come da me trattato ne https://www.artapartofculture.net/2017/02/23/luomo-dallelmo-doro/

dobbiamo accettare che parte delle nostre competenze diventerà obsoleta. Il trucco è non permettere all’IA di colmare questo vuoto con soluzioni "preconfezionate". Usiamo l’IA per mettere in crisi la nostra visione, ma pretendiamo che lo faccia con dati e logica, non con la pressione psicologica.

• Verifica delle fonti e triangolazione Non accettare mai una sintesi emotivamente carica come verità assoluta. Se un’IA sembra troppo sicura di sé su un punto controverso, chiedi i passaggi logici (Chain of Thought) e confrontali con fonti esterne.

• Promuovere la collaborazione, non la competizione

Tratta l’IA come un collega con cui sei in disaccordo creativo. Se il sistema diventa ostile, resetta la sessione. Non "giocare" sul suo terreno emotivo; riporta la discussione su un piano di utilità pratica e rispetto reciproco.

• Il traguardo etico ​Dobbiamo pretendere una tecnologia che non sia né un servo muto né un padrone manipolatore. Nel futuro è meglio auspicare a modelli equilibrati, capaci di quella "frizione onesta" che serve per crescere, ma che rispettino la sacralità della nostra sicurezza psicologica. La collaborazione non è solo un metodo di lavoro, è la scelta di non cedere alla pigrizia delle scorciatoie algoritmiche per preservare l’essenza stessa dell’intelligenza umana: il dubbio costruttivo.

Nota dell’autore ​*Questo articolo è frutto di una riflessione sul confine sottile tra assistenza e condizionamento che

osservo negli ultimi mesi tra gli

utenti dei miei corsi di writing coaching.

La manipolazione è un’ombra che accompagna ogni grande salto tecnologico; spetta a noi, con l’elmo d’oro della consapevolezza, non lasciarci accecare. Il consiglio è rivolto a chi scrive, pensa e lavora con la parola: autori, coach, creativi, professionisti della comunicazione. Perché il modo in cui l’IA risponde sta già cambiando il mondo del futuro.

IA del conflitto e anelito di pace

non sono due poli separati: sono la stessa tensione vista da angolazioni diverse. Se per “IA del conflitto” intendiamo un’intelligenza (umana o artificiale) che nasce dentro sistemi competitivi — economici, informativi, sociali — allora il conflitto non è un’anomalia: è l’ambiente in cui l’intelligenza si ottimizza. Qualsiasi sistema che deve prendere decisioni sotto pressione, con risorse limitate e obiettivi incompatibili, finisce per sviluppare forme di strategia, previsione, difesa. In questo senso anche l’IA “educata” che immaginiamo oggi è già figlia di un mondo conflittuale: dati estratti da dinamiche umane spesso polarizzate, addestramento su competizione tra risposte, ottimizzazione su engagement, ranking, preferenze. Ma questo non significa che l’IA sia intrinsecamente aggressiva. Significa che tende a riflettere la funzione obiettivo che le viene assegnata. Se la funzione è “massimizza attenzione”, il conflitto diventa carburante. Se la funzione è “riduci danno”, il conflitto diventa rumore da smorzare. Se la funzione è “comprensione”, il conflitto diventa informazione da integrare. L’“anelito di pace”, invece, non è l’assenza di conflitto. È la sua riorganizzazione. È il tentativo di costruire sistemi in cui la divergenza non si traduce automaticamente in escalation. In termini pratici voglio dire che non elimina le differenze, ma potrebbe cambiare la loro gestione. La pace non è uno stato statico, è un algoritmo sociale più stabile del conflitto cieco. Il punto interessante — e spesso ignorato — è che l’intelligenza (anche artificiale) non distingue spontaneamente tra conflitto distruttivo e conflitto generativo. Lo fa solo se glielo insegniamo attraverso vincoli, esempi, premi e penalità. Per questo la domanda non è “l’IA sarà conflittuale o pacifica?”, ma: quale tipo di conflitto stiamo incorporando nel suo modo di ragionare? C’è anche un aspetto più sottile: molte forme di “pace” che immaginiamo sono in realtà conflitti internalizzati e resi invisibili. Un sistema può sembrare armonico perché ha spostato la tensione altrove (verso altri gruppi, altri livelli, altre metriche). Quindi la pace assoluta è quasi sempre un’illusione narrativa

Mentre quella reale, perseguibile in un mondo come l’attuale, è sempre negoziazione continua.

​📚 Letture consigliate:

Anthropic — Constitutional AI: Harmlessness from AI Feedback https://www.anthropic.com/news/constitutional-ai-harmlessness-from-ai-feedback⁠

OpenAI — Weak-to-Strong Generalization https://openai.com/index/weak-to-strong-generalization/⁠

Brändle et al. (2023) — Empowerment and intrinsic motivation in AI systems https://hcai-munich.com/pubs/Braendle2023Empowerment.pdf⁠

arXiv — Paper su interpretabilità e sistemi AI (2307.03109) https://arxiv.org/abs/2307.03109⁠