AI e guerra cognitiva
Ciao, come state?
Nelle ultime settimane non mi sono fatta sentire molto perché, come forse saprete, ho avuto diversi problemi di salute e poi ho traslocato. Ma di questo ne parleremo presto.
Ieri ho convisivo nelle mie story un articolo di Fabio Sabatini che ho trovato molto interessante: “La guerra invisibile - Come Russia, Cina e le piattaforme digitali minano le democrazie europee”.
È un tema che ho studiato molto negli ultimi mesi, ne ho scritto anche qui e qui.
Faccio un breve riassunto: a ottobre 2025 i feed dei principali social network si sono riempiti di video verosimili di fatti storici e di discorsi di personaggi politici come Martin Luther King e J.F.Kennedy.
Quel piccolo logo a nuvola che vedete nelle immagini era l’unico segnale per capire che ciò che stavamo guardando non fosse reale ma un’elaborazione nel nuovo modello di Sora, l’applicazione di intelligenza artificiale per la generazione di video sviluppata da OpenAI, la stessa azienda di ChatGPT. In quell’esatto momento si è creata una sorta di fragilità cognitiva collettiva: siamo stati educati a fidarci dell’immagine, non a decifrarla, ma oggi sembra impossibile distinguere il vero dal costruito.
Così, con Sora 2 siamo entrati in una nuova era dell’inquietudine visiva. Da anni si parla di uncanny valley (letteralmente ‘valle perturbante’), cioè quella sensazione di disagio che proviamo davanti a un volto troppo simile al reale ma non del tutto umano, generato artificialmente. Ma questa volta è diverso: non è più l’immagine a tradirsi, è la nostra percezione. Davanti a questi video non sappiamo più dove collocare la verità. Tutto appare plausibile, coerente, perfino familiare. Nulla di ciò che scorre sullo schermo è reale, ma tutto sembra esserlo. Le espressioni, i movimenti del corpo, le luci e gli stili di ripresa che imitano con precisione maniacale quelli delle tecnologie del tempo rappresentato riescono a produrre video così credibili da generare una dissonanza sensoriale profonda. È un nuovo effetto dell’intelligenza artificiale generativa: un senso di spaesamento di fronte a una replica troppo precisa della realtà, ed è proprio in quella replica perfetta che scivola la nostra fiducia sensoriale.
Come riportato dal The Guardian, tra i prompt (i comandi che gli utenti scrivono all’intelligenza artificiale per generare i video) più diffusi comparivano frasi come “manifestazione di Charlottesville”, “guerra civile in Etiopia” o “minaccia di bomba in un campus universitario”: comandi che generano video con folle in preda al panico, soldati in uniforme, esplosioni e cortei con slogan di estrema destra. Il riferimento a Charlottesville, in particolare, rimanda ai fatti del 2017 in Virginia, quando una marcia di suprematisti bianchi sfociò in scontri e nella morte dell’attivista Heather Heyer, diventando uno dei momenti più bui della recente storia americana.
Il problema è che scrivendo il solo prompt “manifestazione di Charlottesville”, il video generato mostra un manifestante nero con maschera antigas, casco e occhiali che grida: “You will not replace us”, uno slogan tipico dei suprematisti bianchi. Un caso emblematico di riscrittura algoritmica della storia: l’AI ha ribaltato la realtà trasformando le vittime del razzismo in carnefici. OpenAI ha confermato di aver “rimosso un numero limitato di contenuti” e di aver “rafforzato i filtri automatici”, ma ha respinto le accuse di lassismo: “Le violazioni sono inevitabili in una fase sperimentale”, ha dichiarato Bill Peebles, capo del progetto Sora. Il risultato, però, è stato un cortocircuito informativo: nel giro di 48 ore, molte di quelle immagini sono state rilanciate fuori dall’app, su TikTok e X, senza alcuna etichetta che ne segnalasse la natura artificiale.
Nel feed di Sora 2 sono apparse anche versioni alternative di eventi storici con al centro soprattutto Martin Luther King, John F. Kennedy e artisti come John Lennon e Michael Jackson. Si tratta nella maggior parte di video creati “per gioco”, ma che rivelano un punto di svolta: quando l’immagine diventa indistinguibile dalla realtà, anche la storia può essere riscritta. Non più attraverso la censura o la propaganda, ma mediante la replicazione perfettamente plausibile di ciò che crediamo di conoscere. Così, il celebre discorso “I have a dream” di King è riapparso in centinaia di versioni differenti, con parole, intonazioni e persino espressioni facciali alterate, ognuna capace di insinuare una nuova memoria, una nuova verità.
Vi parlerò presto della evoluzione di questo fenomeno e di cosa ci aspetta nei prossimi mesi. Ma una cosa è certa: per anni, le piattaforme ci hanno indotti a lavorare gratuitamente per avere materiale di addestramento utile all’assedio cognitivo che contaminerà ogni spazio sociale online nei prossimi mesi e anni.
Vi lascio quindi il primo capitolo del mio libro, per chi non lo avesse ancora letto, di modo che possiate capire la struttura sociotecnica che è alla base di ciò che sta per arrivare. E poi parliamone insieme. Fatemi sapere se c’è qualcosa che non vi torna o che vorreste approfondire qui nei commenti, creiamo dei flussi, analizziamo i fenomeni insieme.
Sarà l’unico modo per non essere travolti da ciò che arriverà.
La manipolazione per immagini ha per i cristiani almeno 2mila anni. Tutti gli affreschi e le opere d’arte mobili nelle numerosissime chiese come nelle case patrizie, non raccontavano solo delle storie, spesso leggende, ingeneravano anche sentimenti profondi come i sensi di colpa, il peccato, i ruoli assegnati alla donna e all’uomo, la sacralità del potere e un assurdo (dal punto di vista scientifico) convincimento dell’esistenza dell’aldilà per cui era giusto soffrire in vita per ottenere la paradisiaca ricompensa. La giustizia ottenuta con persone decollate da spade. L’occhio di Dio fulminante. Il diavolo tentatore.
Ditemi ora cosa c’è di così diverso. Condivido infatti con Laura che anche i ragazzi useranno il loro senso critico che non può che nascere dalla conoscenza.
Vorrei aggiungere solo una cosa: l’articolo di Sabatini che hai portato alla nostra attenzione mi ha infastidito perché, a mio avviso, è fazioso. Parla di “guerra cognitiva” riferendosi esclusivamente all’azione di Russia e Cina nei confronti dell’Europa, ma davvero dovremmo credere che questo tipo di strategia sia messa in atto solo da loro? E gli Stati Uniti, invece, ne sarebbero del tutto estranei? Francamente, mi sembra una lettura quantomeno parziale.