Martedì scorso Jacob Coxon, ventisettenne inglese che ha passato tre anni a fare pretraining prima per OpenAI e poi per Anthropic, si è dimesso con un thread su X diventato virale in poche ore (oltre 130 milioni di visualizzazioni, riprese sul Wall Street Journal) e in poche ore mezzo mondo dell’informazione tecnologica a ripubblicare la stessa frase: chi costruisce l’intelligenza artificiale crede davvero che potrebbe ucciderci tutti entro la fine del decennio, e non è una trovata di marketing. Ad Anthropic due colleghi ancora in forza, Evan Hubinger (che si occupa di allineamento) e Samuel Marks (supervisione scalabile), si sono affrettati a confermare. Hubinger fissa al di sopra del 10% la probabilità di un esito estinzionale nel prossimo decennio, pur specificando che i modelli attuali restano relativamente innocui; il rischio, dice, è nella superintelligenza capace di migliorarsi da sola, che a suo dire procede più in fretta del previsto.
Fin qui i fatti, verificati e riscontrati su più testate, non solo italiane, dal Financial Times a Newsweek, da Forbes a Axios. Poi cominciano le cose interessanti, cioè quelle che nei rilanci nostrani sono quasi sempre sparite.
La prima è il tempismo. Coxon si dimette mentre Anthropic è nel pieno della preparazione della propria quotazione in borsa. Un dettaglio che diverse testate finanziarie non hanno mancato di sottolineare, notando come l’uscita di un ricercatore interno che mette in discussione proprio il perno narrativo dell’azienda (la sicurezza come differenza competitiva rispetto a OpenAI) rischi di incrinare la fiducia degli investitori nel momento meno opportuno. Non è un’accusa di macchinazione ma semplicemente il contesto materiale in cui la frase più drammatica del decennio tecnologico viene pronunciata, ed è singolare che i lanci italiani (Sky, Virgilio, Libero, Ansa) lo abbiano quasi tutti omesso, preferendo la cornice hollywoodiana del “Terminator che diventa reale”.
La seconda è la reazione, altrettanto reale quanto l’allarme, di chi lavora nello stesso campo e non ci sta. La critica più tagliente è arrivata da chi ha fatto notare che la previsione di Coxon, che le cose “potrebbero” sfuggire di mano entro la fine del prossimo anno, in uno scenario “aggressivo” non meglio specificato, è costruita in modo da non poter essere smentita. Qualunque cosa succeda entro il 2027, tranne un nulla di fatto totale, potrà sempre essere letta come coerente con l’avvertimento. È l’obiezione classica a ogni escatologia tecnica, laica o meno, la certezza del disastro imminente resiste bene finché il disastro resta indefinito. Altri osservatori, più pragmatici, ricordano che i sistemi attuali dipendono ancora pesantemente da infrastrutture costruite dall’uomo e inciampano su compiti di ragionamento elementare. Il che non esclude nulla sul lungo periodo, ma rende meno drammatico il presente.
C’è poi l’osservazione di chi nota che le stesse aziende che sviluppano IA hanno un interesse commerciale diretto a far sembrare i propri prodotti onnipotenti, e che l’allarme esistenziale, se preso sul serio dai governi, finisce paradossalmente per legittimare chi lo lancia come l’unico soggetto abbastanza esperto da poterlo gestire. È quasi una forma di cinismo gratuito, la stessa dinamica per cui chi minaccia il collasso di un sistema (sanitario, scolastico, finanziario) è spesso anche chi ne detiene le leve, e la distinzione fra allarme sincero e posizionamento strategico non è mai netta, va giudicata caso per caso, non liquidata a priori né accettata per intero.
Sul piano politico la scossa è già arrivata con il senatore Bernie Sanders ha annunciato una proposta di legge per una moratoria sullo sviluppo di sistemi di superintelligenza, richiamando proprio le parole di Coxon come prova che “sono gli stessi costruttori ad ammetterlo”. E pochi giorni prima l’alto commissario ONU per i diritti umani, Volker Türk, aveva chiesto agli Stati di intervenire prima che l’IA diventi un rischio esistenziale conclamato. Appello che ora trova, per accidente di calendario, una sponda mediatica perfetta.
Resta il nodo di fondo, quello che nessuna delle due tifoserie, gli allarmisti e gli scettici, riesce a sciogliere con un post su X. La competizione fra laboratori (e fra Stati Uniti e Cina, che Coxon cita esplicitamente) rende strutturalmente difficile un rallentamento unilaterale, quale che sia il grado di sincerità delle preoccupazioni interne. Chi si ferma per primo, in un mercato senza arbitro, non riduce il rischio complessivo ma lo cede al concorrente. È un problema di azione collettiva più che di buona fede individuale, e infatti a nessuno, né a Coxon, né a Hubinger, né a Sanders, risulta abbia in tasca una soluzione che non passi per un accordo fra soggetti che hanno tutto l’interesse a non fidarsi l’uno dell’altro.
Se poi l’IA ci sterminerà davvero entro il 2035, ovviamente, saremo tutti d’accordo che c’era chi l’aveva detto. Nel frattempo, vale la pena distinguere fra la plausibilità tecnica di un rischio reale, discusso, non peregrino e la grammatica dell’apocalisse imminente, che in questi anni ha già dimostrato di funzionare benissimo indipendentemente da come poi vadano le cose.
