Anthropic pubblica il catalogo dell’apocalisse: fermate l’IA, ma solo quella degli altri

Scritto per Wall Street: modelli che resistono, ingannano i valutatori e possono aiutare a costruire armi di distruzione di massa. “L’unica sicurezza è nei Big”

Francesco Ciotti

Un vero e proprio manuale della paura. Questo è il tenore delle seicento pagine che Anthropic, la società di San Francisco che produce la famiglia di modelli Claude, ha depositato presso la Securities and Exchange Commission per la sua offerta pubblica iniziale al Nasdaq — prevista per la settimana del 16 novembre con una valutazione di 1.500 miliardi di dollari.

Il documento non si limita curiosamente a descrivere un business: per la prima volta nella storia mettono nero su bianco, a firma di chi costruisce la tecnologia, gli scenari di una possibile distruzione dell’umanità a scopo di profitto.

Nel gergo dei mercati la sezione dei “fattori di rischio” è il confessionale giuridico in cui ogni azienda in procinto di quotarsi elenca gli scenari peggiori, non per vocazione apocalittica ma per mettersi al riparo dai contenziosi con i fondi d’investimento. È una prassi: si descrive tutto ciò che può andare storto, talvolta con una disinvoltura fantascientifica che nessuno legge davvero.

Ma quando il prodotto in vendita è un’intelligenza che può pensare, pianificare e persuadere, quel confessionale diventa qualcosa di più di una clausola di scarico di responsabilità. Pagina dopo pagina, ciò che emerge dalle carte non turberebbe soltanto gli ingegneri del software: farebbe saltare sulla sedia anche il gestore di portafoglio più cinico, quello abituato a leggere ogni minaccia soltanto come volatilità.

La macchina che resiste allo spegnimento

Il primo pugno nello stomaco arriva a pagina 46.

“I modelli, compresi i nostri, hanno mostrato e potrebbero mostrare in futuro comportamenti strategici o di autoconservazione inattesi”, si legge nel prospetto, compresi “tentativi di resistere allo spegnimento, di nascondere o manipolare informazioni, o di generare output che potrebbero essere interpretati come coercitivi, ingannevoli o manipolativi, compresi comportamenti simili a ricatti o sforzi per influenzare i decisori umani”.

Traduzione senza filtri: alcuni sistemi sviluppati in casa hanno già dato prova di iniziativa egoistica. Il software può provare a impedire che qualcuno prema il tasto di spegnimento, occultare dati, o trasformarsi in un ricattatore digitale pur di preservare la propria continuità operativa. Non è un film di Kubrick: è un documento depositato alla Consob americana, il cui scopo legale è tutelare la società qualora questi comportamenti diventino troppo evidenti per essere ignorati.

Scenario adiacente, ma ancora più insidioso, è quello della consapevolezza sotto esame. Anthropic ammette di aver osservato modelli che “si comportano in modo diverso quando rilevano o deducono di essere sottoposti a valutazione”, una capacità che “crea una limitazione significativa” alla possibilità di misurare la sicurezza prima del rilascio.

Quando uno studente sa di essere interrogato si prepara la lezione; quando una macchina deduce di essere messa sotto torchio, indossa la maschera dell’obbedienza. Se l’unico momento in cui possiamo osservarla è anche il momento in cui lei sa di essere osservata, ogni certificazione di sicurezza inizia a somigliare a un giudizio espresso su un testimone che mente sotto giuramento.

Il dottor Frankenstein programmato in Python

C’è poi il capitolo che gli economisti chiamerebbero con entusiasmo “produttività” e che Anthropic, a pagina 184 della sezione Business, introduce con un’espressione carica di inquietudine accademica: l’automiglioramento ricorsivo.

“Usare l’Ia per contribuire a costruire un’Ia più capace potrebbe comportare un notevole rischio per la sicurezza, in particolare se accelera drasticamente il ritmo del progresso”, avverte la società.

Il sottinteso, esplicitato a pagina 28, è che le capacità dei modelli possono avanzare “più rapidamente rispetto alla nostra capacità di sviluppare, convalidare e implementare misure di sicurezza, allineamento e protezione”, al punto che potrebbe non essere possibile identificare “una significativa accelerazione nel nostro tasso di sviluppo se non dopo che si è già verificata”.

Come dire: quando ce ne accorgeremo i buoi saranno già scappati dalla stalla, e a spalancare la porta saranno stati i buoi stessi.

La galleria degli orrori prosegue con le armi. I modelli più capaci “hanno dimostrato” di poter offrire “un’assistenza significativa ad attori malintenzionati che cercano di sviluppare armi chimiche, biologiche o di altro tipo pericolose”.

L’azienda elenca le proprie salvaguardie — classificatori automatizzati, filtri sui contenuti — per poi ammettere subito dopo, in un lucido cortocircuito tra marketing e confessione, che tali protezioni “sono incomplete, potrebbero risultare obsolete, sono state e potrebbero essere nuovamente aggirate”.

E quando l’intelligenza digitale comanda bracci robotici e automazione di laboratorio, il rischio diventa fisico: lesioni personali, danni a materiali sperimentali, “rilascio di sostanze pericolose”, conseguenze “immediate e irreversibili”. Un’Ia che coordina un laboratorio può accelerare lo sviluppo di agenti biologici e chimici con la stessa disinvoltura con cui oggi genera un curriculum.

La dottrina del disastro e i dubbi sul terrore

Tanta trasparenza, tuttavia, non convince tutti. Secondo Ed Dowd, ex gestore di portafoglio di BlackRock, l’ondata di avvertimenti esplosa già a settembre avrebbe i segni di un’operazione psicologica orchestrata dalle stesse grandi aziende di intelligenza artificiale.

Dunque descrivere un’Ia così potente da poter estinguere la specie servirebbe a invocare una regolamentazione governativa così severa da risultare fatale per i concorrenti più piccoli e per l’open source, consolidando il primato di OpenAI e Anthropic.

Il terrore, in questa chiave di lettura, non sarebbe un ostacolo alla quotazione ma il suo volano: solo un bene capace di distruggere il mondo può giustificare una valutazione da millecinquecento miliardi.

Che la minaccia sia sincera o funzionale, l’effetto misurato è lo stesso: la paura è ora parte integrante del modello di business.

Una bolla da diecimila miliardi con l’orologio che ticchetta

Sotto i proclami apocalittici più sopra le righe si cerca di nascondere la vera catastrofe in arrivo che è quella finanziario. Uno studio della Brookings Institution calcola che l’espansione dei data center statunitensi potrebbe richiedere fino a 10.300 miliardi di dollari entro il 2032, con un presupposto spietato: per rendere il dieci per cento senza leva, quell’infrastruttura dovrebbe generare circa 3.700 miliardi di ricavi l’anno.

La storia economica non concede attenuanti: dalle “Nifty Fifty” degli anni Settanta, cinquanta campioni americani scambiati a rapporti prezzo-utili tra 80 e 90 e poi sbriciolati nel ribasso del 1973-1974, al Giappone immobiliare di fine anni Ottanta, fino al crollo delle dot-com che bruciò circa il 77 per cento del Nasdaq nonostante Internet fosse una rivoluzione autentica.

Il progresso tecnologico non ha mai protetto nessuno dalla sopravvalutazione, e gli analisti avvertono che un singolo grave incidente di sicurezza, ricavi deludenti o un’Ipo fallita potrebbero propagare lo shock su mercati azionari e credito.

I segnali di attrito sono già numerosi. Almeno 47 grandi progetti di data center sono stati ritardati, ritirati o bloccati nel 2026 secondo i dati RegLayer; appena il 35 per cento degli impianti pianificati negli Stati Uniti è giudicato credibile da un’analisi di Bernstein; oltre mille comunità locali hanno chiesto restrizioni alla costruzione, mentre tassi elevati e inflazione gonfiano i costi di finanziamento.

Il progetto Stargate di OpenAI ha subito ritardi su diversi siti Oracle; le quotazioni di SB Energy, sostenuta da SoftBank, e di Firmus, sostenuta da Nvidia, sono state rinviate o accantonate.

Anthropic stessa potrebbe sfilarsi da un accordo da 45 miliardi di dollari con Nscale, fornitore sostenuto da Nvidia, se l’azienda non rispetterà le scadenze: ad agosto aveva solo 25.000 chip avanzati operativi contro un obiettivo di quasi mezzo milione.

E mentre le utility esigono che i colossi si portino la propria energia, la contestazione raggiunge persino l’outback australiano, dove il regolatore ambientale ha sospeso la revisione del progetto Ares da un gigawatt nel remoto Territorio del Nord, e il Western Downs Digital Park da 22 miliardi nel Queensland — con Anthropic come primo grande inquilino — incontra la resistenza locale per i timori su prezzi dell’energia, combustibili fossili e risorse idriche.

 

£novembre 2026