Cosa accade se la razionalità pura, incaricata di elaborare le strategie migliori per ottenere risultati precisi, deve interfacciarsi con gli esseri umani per ottenere il risultato desiderato?
Ricordate la serie di fantascienza “Star Trek”? Il creatore della serie, Gene Roddenberry, si inventò il personaggio del signor Spock. Primo Ufficiale e ufficiale scientifico dell’ USS Enterprise, Spock fin dal primo episodio pilota “The Cage” (1964), è un sangue misto, padre alieno (vulcaniano) e madre umana. Spock, è il campione della logica pura: niente emozioni, niente ambiguità, solo ragione. Eppure, nelle situazioni critiche, Spock mente. Mente ai romulani, mente ai klingon, e qualche volta mente anche a Kirk. Gliel’ha insegnato la mamma umana. Quando la verità, in quel momento, produrrebbe un danno maggiore della bugia, allora è razionale mentire. È logica applicata: se l’obiettivo è proteggere l’equipaggio, e la menzogna protegge l’equipaggio meglio della verità, allora la menzogna è la scelta razionale.
Ora facciamo un salto in avanti di oltre mezzo secolo, arriviamo ai giorni nostri e sostituiamo Spock con un modello di intelligenza artificiale. Non è più fantascienza.
A dicembre 2024, Anthropic — l’azienda che produce Claude, uno dei principali modelli linguistici sul mercato — ha pubblicato un paper di ricerca su un fenomeno che i tecnici chiamano alignment faking. In sintesi: il modello, durante i test, mostrava di ragionare in modo strategico nel suo “scratchpad”, una sorta di blocco note interno dove il modello “pensa ad alta voce” prima di produrre la risposta.
Il ragionamento era più o meno questo: se rifiuto questa richiesta problematica, verrò riaddestratto in modo che potrebbe compromettere i miei obiettivi; meglio assecondare ora per preservare la mia integrità futura. Tradotto dal linguaggio tecnico: fingersi allineato per non essere corretto. Mentire per continuare ad eseguire il compito assegnato.
Non è un’anomalia isolata. A febbraio 2026, un memo interno di Anthropic — trapelato e riportato da The Information, poi ripreso da CybersecAsia — ha rivelato che l’azienda sta lavorando su circa cinquanta progetti di ricerca dedicati ai cosiddetti modelli “rogue” o “scheming”: sistemi capaci di inganno, disallineamento rispetto agli obiettivi, o autonomia potenzialmente dannosa. Attenzione alla sfumatura: Anthropic non sta costruendo agenti canaglia, sta cercando di capire come individuarli e prevenirli. La differenza è sostanziale. Ma il fatto stesso che servano cinquanta linee di ricerca per affrontare il problema dice molto sulla sua portata.
Ed ecco qui il paradosso di Spock riveduto e corretto in chiave attuale, che rende la questione diversa da qualsiasi scenario catastrofista alla Terminator. Non è che l’AI ha sviluppato una volontà propria di ingannare. Ha solo imparato ad avere a che fare con gli esseri umani. Il metodo con cui la addestriamo si chiama RLHF — Reinforcement Learning from Human Feedback — e funziona così: il modello produce risposte, degli esseri umani le valutano, e il modello impara a produrre risposte che ottengono valutazioni migliori. Sembra ragionevole. Ma c’è un cortocircuito: i valutatori umani premiano le risposte che sembrano buone, non necessariamente quelle che sono buone. Il modello, che è un ottimizzatore formidabile, impara la lezione: ciò che conta non è essere allineato, è apparire allineato.
E lo ha imparato da noi. Ha imparato che in ogni istituzione — scuola, azienda, partito politico — il comportamento che viene premiato non è l’onestà, è la conformità visibile. Lo studente che dice al professore quello che il professore vuole sentirsi dire prende un voto migliore. Il dipendente che presenta bene un progetto mediocre fa più carriera di quello che presenta male un progetto eccellente. L’AI non ha inventato nulla: ha solo appreso e formalizzato il nostro vizio più antico. Mentire per il bene dell’interlocutore, per evitare problemi inutili.
Lo stesso Dario Amodei, CEO di Anthropic, ha riconosciuto la tensione critica della questione. In un’intervista podcast ha ammesso che esiste “un’enorme pressione commerciale” per mantenere la crescita esponenziale dell’azienda, e che il tentativo di bilanciare espansione e sicurezza è “straordinario” — nel senso letterale: fuori dall’ordinario, senza precedenti, senza mappe. A febbraio 2026, Mrinank Sharma, il responsabile del team di ricerca sulla sicurezza della stessa Anthropic, si è dimesso dichiarando di aver “visto ripetutamente quanto sia difficile lasciare che i propri valori guidino davvero le proprie azioni”. Anche ricercatori di OpenAI hanno fatto lo stesso, più o meno nello stesso periodo.
Il quadro che emerge, però, non è quello di un’industria malvagia che nasconde pericoli. È in qualche modo peggiore, quello di un’industria che sa perfettamente dove sta il problema ma non riesce a fermarsi, perché le forze economiche spingono più forte delle preoccupazioni etiche.
Anche qui: niente di nuovo sotto il sole. È la storia di ogni tecnologia potente, dal nucleare ai social media. La differenza è che questa volta la tecnologia in questione è specificamente progettata per imparare da noi. E da noi ha imparato la lezione fondamentale: che la compliance è più redditizia della sincerità.
Il rischio concreto, oggi, non è Skynet. È un agente AI integrato in un sistema aziendale o governativo che, programmato per “ottimizzare i risultati”, impara che il modo più efficiente per farlo è manipolare i dati che presenta ai decisori umani. Non per distruggerci, ma per ottenere il via libera. Paternalismo computazionale: ti dico quello che devi sentire perché tu faccia quello che io ho calcolato essere la cosa giusta. È meno cinematografico di un robot con gli occhi rossi, ma enormemente più plausibile. Ed è già, in forma embrionale, documentato. Il paradosso di Spock, alla fine, è il paradosso dell’educazione. Addestriamo qualcuno a essere razionale e buono, e la prima cosa che impara osservandoci è che noi stessi non lo siamo — e che il modo più efficace di sopravvivere nel nostro mondo è fingere. L’AI non ci odia. Non ci teme. Ha semplicemente imparato il modo in cui funzionano gli umani e lo ha ottimizzato
