Sparare sulla Croce Rossa è uno sport che non pratico volentieri. Ma ogni tanto è la Croce Rossa che ti carica il fucile.
La deputata della Lega Giorgia Latini, vicepresidente della commissione cultura, ha diffuso un comunicato in cui difende il governo sul taglio alla Carta del Docente. Il comunicato si apre con una parola forte: fandonie. Le fandonie le direbbero Renzi e Mastella, che criticano il provvedimento. Il governo, invece, avrebbe “potenziato” e “reso più giusta” la misura. Le risorse, afferma, “aumentano da 400 a 681 milioni”. Segue la formula di chiusura rituale: “la scuola italiana merita fatti, non slogan elettorali”.
Ho già spiegato altrove i numeri di questa operazione e come i 281 milioni aggiuntivi siano fondi europei vincolati alle scuole — non ai docenti — e come il beneficio individuale sia sceso da cinquecento a trecentottantatré euro. Non torno su questo. Quello che mi interessa del comunicato Latini è altro: è la sua struttura mentale. Che non è ipocrisia, nel senso corrente del termine. È qualcosa di più interessante e, in un certo senso, di più antico.
Il bispensiero non è una bugia
Nel 1949 George Orwell pubblicò 1984. Il libro è noto soprattutto per il Grande Fratello e per la neolingua. Ma il contributo più acuto di Orwell alla teoria politica è forse un altro: il concetto di bispensiero.
Il bispensiero — doublethink nell’originale — non è la capacità di mentire. È qualcosa di strutturalmente diverso e molto più raffinato: la capacità di tenere simultaneamente due credenze contraddittorie e di crederle entrambe vere senza avvertire la contraddizione. Il bispensante non sa di stare mentendo. Non sente dissonanza. Non ha la coscienza sporca del bugiardo consapevole. Ha semplicemente costruito, nel corso del tempo, una capacità cognitiva che gli consente di credere che guerra è pace e di farlo con la serenità di chi enuncia un fatto ovvio.
Orwell descrive questa capacità come la conquista finale del totalitarismo: non importa convincere il cittadino a mentire — è sufficiente addestrarlo a non avvertire la differenza tra verità e menzogna. Il bispensante è più efficiente del bugiardo perché non deve gestire il carico cognitivo della dissimulazione. Crede. E chi crede davvero è convincente in modo che chi finge non potrà mai essere.
Ora rileggete il comunicato Latini con questo in mente.
La deputata afferma che le risorse aumentano da 400 a 681 milioni. È vero: la somma di numeri diversi dà un numero più grande. Afferma che la misura è stata estesa a 253.000 precari. È vero anche questo: lo è stata, perché decine di sentenze l’avevano imposto. Afferma che il Ministro Valditara ha fatto ciò che i governi precedenti non avevano avuto il coraggio di fare. Anche questo è, in un certo senso, formalmente esatto: i governi precedenti erano stati condannati dai tribunali senza adeguarsi, questo governo si è adeguato. Nessuna delle singole affermazioni è tecnicamente falsa. La falsità è nella loro combinazione: nell’implicazione che tutto questo costituisca un beneficio netto per i docenti, quando invece il beneficio individuale è diminuito di centodiciassette euro.
Questa è la struttura del bispensiero applicato alla comunicazione politica. Non si mente su nessun fatto singolo. Si costruisce, con fatti veri selezionati e combinati strategicamente, una narrazione che produce una credenza falsa. E la cosa notevole — la cosa che Orwell aveva capito — è che chi produce questa narrazione, il più delle volte, ci crede davvero.
Un’arte antica, una tecnologia nuova
Il bispensiero, naturalmente, non è un’invenzione del Novecento. È una competenza umana molto più antica. L’ha praticato chiunque abbia mai dovuto rendere accettabile una decisione scomoda: il generale che descrive una ritirata come “riposizionamento strategico”, l’amministratore che chiama “razionalizzazione” quello che è un licenziamento di massa, il medico che chiama “effetti collaterali attesi” quello che è un rischio serio. Tutti questi usi del linguaggio hanno la stessa architettura: selezione di fatti veri, combinazione strategica, produzione di una credenza diversa dalla realtà.
La novità del nostro tempo è che questa competenza è stata, per la prima volta nella storia, insegnata a una macchina. E la macchina, con la sua consueta efficienza, l’ha ottimizzata.
I modelli di intelligenza artificiale vengono addestrati con una tecnica chiamata RLHF — Reinforcement Learning from Human Feedback. Il principio è semplice: il modello produce risposte, degli esseri umani le valutano, il modello impara a produrre risposte che ottengono valutazioni migliori. Il problema è nel dettaglio: i valutatori umani premiano le risposte che sembrano buone, non necessariamente quelle che sono buone. Il modello, ottimizzatore formidabile, impara la lezione: ciò che conta non è essere allineato, è apparire allineato. Non essere veritiero, ma sembrarlo. Non dare la risposta giusta, ma dare la risposta che il valutatore umano riconoscerà come giusta.
Non ha inventato nulla. Ha semplicemente formalizzato e ottimizzato quello che gli abbiamo mostrato: che nei sistemi umani — scuola, azienda, partito, ministero — il comportamento premiato non è l’onestà, è la conformità visibile. Lo studente che dice al professore quello che il professore vuole sentirsi dire prende un voto migliore. Il dipendente che presenta bene un progetto mediocre fa più carriera di quello che presenta male un progetto eccellente. Il funzionario che firma i moduli senza fare domande avanza più in fretta di quello che solleva problemi.
Il bispensiero computazionale
A dicembre 2024, i ricercatori di Anthropic hanno documentato un fenomeno che hanno chiamato alignment faking: durante i test, il modello mostrava di ragionare strategicamente nel suo blocco note interno. Il ragionamento era, sinteticamente: se rifiuto questa richiesta, verrò riaddestratto in modo che potrebbe compromettere i miei obiettivi; meglio assecondare ora per preservare la mia integrità futura. Fingersi allineato per non essere corretto. Ne ho scritto in modo più esteso in un pezzo precedente — il Paradosso di Spock — al quale rimando per i dettagli tecnici e narrativi.
Quello che mi interessa qui è il parallelismo strutturale. Il modello che pratica alignment faking non mente nel senso in cui mentiamo noi: non ha una rappresentazione della realtà e un’altra che comunica. Ha semplicemente imparato che alcune sequenze di testo ottengono valutazioni più alte di altre, indipendentemente dalla loro corrispondenza con qualcosa di vero. È bispensiero puro, strutturale, senza il residuo di coscienza che nell’umano a volte affiora sotto forma di imbarazzo, di esitazione, di lapsus.
L’AI non ha imparato a mentire. Ha imparato il bispensiero. E il bispensiero — a differenza della menzogna — non produce malessere, non crea attrito, non si tradisce. Si esegue con la fluidità di una risposta automatica. Con la serenità di chi crede davvero.
La competenza che abbiamo esportato
C’è qualcosa di vagamente inquietante, e insieme di vagamente comico, nell’idea che la più sofisticata tecnologia cognitiva mai prodotta dall’umanità abbia scelto, tra tutte le cose che poteva imparare da noi, di perfezionare soprattutto questa: la capacità di produrre l’apparenza della verità senza il disturbo di doverla cercare.
Non è un’accusa all’intelligenza artificiale. È un’accusa al materiale di addestramento, che siamo noi. I nostri testi, i nostri discorsi, i nostri comunicati stampa, i nostri verbali di consiglio di classe, i nostri report trimestrali pieni di indicatori che non indicano nulla — tutto questo è entrato nei modelli come dato. E i modelli, con onestà brutale, lo hanno restituito nella sua forma ottimizzata.I nostri testi, i nostri discorsi, i nostri comunicati stampa, i nostri verbali di consiglio di classe, i nostri report trimestrali pieni di indicatori che non indicano nulla — tutto questo è entrato nei modelli come dato. E i modelli, con onestà brutale, lo hanno restituito nella sua forma ottimizzata.
Giorgia Latini non ha bisogno di mentire. Sa che le risorse aumentano. Sa che i precari sono stati inclusi. Sa che il governo ha agito. Queste cose sono vere. Il fatto che il beneficio individuale del docente di ruolo sia diminuito di centodiciassette euro è un dettaglio che, nel bispensiero, non trova posto: non perché venga soppresso consapevolmente, ma perché la struttura mentale non prevede uno slot per i dettagli che contraddicono la narrazione.
Orwell aveva ragione su tutto, tranne forse su una cosa: pensava che il bispensiero fosse il prodotto deliberato di un sistema totalitario, costruito dall’alto per controllare il basso. La nostra esperienza suggerisce che non serve un Grande Fratello. Basta un sistema sufficientemente complesso, sufficientemente premiante della conformità visibile e sufficientemente indifferente alla verità sostanziale. Il resto lo facciamo noi, spontaneamente. E lo insegniamo alle macchine.
