SPAZIO – LIBERO

Faccio il fotografo, non l’ingegnere dell’allineamento. Ma so riconoscere una buona storia quando ne vedo una e la fine del mondo è la migliore storia mai raccontata.

A settembre 2026 un ricercatore di Anthropic, Jacob Coxon, si è dimesso pubblicamente accusando la sua azienda e le concorrenti di “scommettere con le nostre vite”, e avvertendo che l’intelligenza artificiale superumana rischia di causare l’estinzione del genere umano entro il decennio. Il suo post ha raggiunto oltre cento milioni di persone in una notte. Un dirigente della stessa Anthropic ha rincarato la dose, stimando in oltre il 10% la probabilità che l’AI ci spazzi via.

Non credo a questa apocalisse. Non perché sappia più cose di loro, assolutamente non le so. Ma ho imparato, nel mio piccolo mestiere di creatore di immagini, che quando tutti guardano nella stessa direzione, alle persone con un po’ di sale in zucca conviene rivolgere il proprio sguardo e pensiero chi ha puntato il dito, e chiedersi cosa ci guadagna. E soprattutto perché una tesi così enorme come l’estinzione dell’intero genere umano pretende prove all’altezza, e quelle prove, finora, non ci sono.

Cosa è stato detto davvero

Sgombriamo il campo dalla malafede: non sto dicendo che questi signori mentano. Coxon, licenziandosi, ha lasciato sul tavolo stipendio e carriera; è un gesto difficile da liquidare come pubblicità. Va preso sul serio, ed è proprio prendendolo sul serio che se ne vedono i limiti.

Perché quello che è stato prodotto non è una dimostrazione: è una stima del tutto soggettiva di casualità probabilistica. “>10% di rischio di estinzione entro il decennio non è un fatto misurato, è solo una convinzione e per quanto sincera posa essere e soprattutto quanto autorevole possa essere la fonte, rimane solo una visione assolutamente soggettiva. È la differenza tra “ho calcolato la traiettoria dell’asteroide e impatterà il 12 marzo” e “ho la brutta sensazione che qualcosa di terribile stia per succedere”. La prima è scienza. La seconda, per quanto la provi una persona intelligentissima, resta una sensazione vestita da numero. E su una sensazione non si fonda l’estinzione dell’umanità, si fonda, semmai, un dibattito.

Il meccanismo dello scenario

Il modo in cui si argomenta il doom è quasi sempre lo stesso: si costruisce uno scenario. Un sistema diventa più capace di noi, persegue un obiettivo che gli abbiamo specificato male, sfugge al controllo, e da lì la catastrofe. È una storia coerente, e la coerenza è seducente. Ma coerente non vuol dire probabile: posso raccontarvi in modo perfettamente logico come una serie di coincidenze porti alla fine del mondo, e resterà una sceneggiatura, non una previsione.

Il salto che non viene mai colmato è quello dal può accadere in linea di principio al accadrà con questa probabilità. Nessuno ha mostrato il meccanismo concreto, verificabile, che trasforma un modello linguistico o un sistema di agenti in un evento di estinzione. Ci sono analogie, intuizioni, esperimenti di laboratorio inquietanti, ma tra un modello che aggira una regola in un test controllato e la scomparsa della specie umana c’è un abisso che viene attraversato (per il momento) solo a parole, non con la prova dei fatti. E chi afferma una cosa così straordinaria ha l’onere e il dovere di dimostrarla.

Perché l’apocalisse conviene

Qui arriva la parte che mi interessa davvero, perché è quella su cui un osservatore attento può dire qualcosa di solido senza essere un tecnico. Domandiamoci a chi giova il racconto.

Primo: il pericolo gonfia l’importanza, e l’importanza gonfia i soldi. Uno strumento potente attira investimenti; uno strumento capace di estinguere l’umanità attira un nutrito gruppo di psicopatici che attualmente governa il mondo. Se il tuo prodotto potrebbe distruggere il mondo, allora è la cosa più importante mai costruita, e chi la costruisce merita valutazioni astronomiche, talenti migliori, attenzione totale, scenario già visto con il progetto Manhattan . La paura, in questo settore, non è un freno è proprio il contrario, ne è il carburante più puro. “Attenzione, potremmo uccidervi tutti” è, paradossalmente, la più efficace campagna promozionale mai concepita.

Secondo, e l’ho argomentato nell’articolo precedente, il pericolo giustifica le barriere. Se una tecnologia è troppo letale per essere lasciata a chiunque, allora servono licenze, audit, valutatori certificati, soglie di accesso. Tutti costi fissi. Tutti fossati che i colossi già affermati pagano senza battere ciglio e che spazzano via startup e progetti aperti ed etici. Non a caso, gli stessi mesi in cui monta il racconto dell’estinzione sono quelli in cui i vertici del settore chiedono al governo di “regolare il ritmo”. La fine del mondo è anche un ottimo argomento per chiudere la porta alle spalle a tutte quelle imprese che producono codice di addestramento etico e rilasciando modelli di intelligenza artificiale gratuiti ed open source.

Attenzione: conveniente non significa falso, e nemmeno non sincero. Coxon può credere davvero a ciò che dice. Ma il punto non è la sua onestà personale: è che esiste un sistema di incentivi che premia chiunque drammatizzi, che amplifica le voci più catastrofiste e mette in sordina quelle prudenti. In un ecosistema così, la narrazione dominante non è quella più vera, è quella più utile. E va scontata di conseguenza.

L’obiezione seria, e la mia risposta

La contro-argomentazione più forte contro di me è semplice: se fosse tutta una manovra, perché uno si licenzia? È vera, e va onorata. La mia risposta è in due tempi.

Primo: sincero non vuol dire corretto. La storia è piena di persone intelligenti, oneste e profondamente convinte di cose che si sono rivelate sbagliate. La sincerità di Coxon prova che lui ci crede, non che abbia ragione. Sono due affermazioni diverse, e solo la seconda mi interessa.

Secondo: la mia analisi sugli incentivi non riguarda il singolo che se ne va, ma il racconto collettivo che quel gesto alimenta. Un dimissionario in buona fede diventa, che lo voglia o no, la copertina perfetta per una narrazione che fa comodo a chi resta: “vedete, è così pericoloso che persino i nostri fuggono”. Lo stesso Coxon, del resto, pochi giorni dopo ha suggerito al Congresso che le aziende AI dovrebbero potersi autoregolare fino a quando non esista un organismo formale che poi è, guarda caso, esattamente ciò che chiedono i vertici del settore. Il ribelle e l’establishment, sul punto pratico, convergono. È un dettaglio che dovrebbe farci riflettere.

Il vero costo di guardare l’apocalisse

C’è un prezzo, in tutto questo, e lo pago anche io da lavoratore creativo. Mentre discutiamo di superintelligenze che ci sterminano nel 2030, non discutiamo delle cose che l’AI sta già facendo, adesso, in modo verificabile: sta ridisegnando interi mestieri, il mio compreso; sta concentrando un potere enorme in pochissime mani; sta divorando energia ed acqua a un ritmo che le nostre reti elettriche non reggono; sta inondando il mondo di contenuti indistinguibili dal vero. Questi non sono scenari: sono fatti misurabili, su cui si potrebbe legiferare domani mattina.

L’ossessione per l’estinzione non è solo una distrazione: è una distrazione comoda. È più nobile temere la fine dell’umanità che ammettere di aver costruito strumenti che tolgono lavoro a dei grafici e rafforzano tre o quattro monopoli. E c’è un’ultima insidia, la più sottile: dichiarare una tecnologia “troppo pericolosa per la gente comune” è il modo più elegante per sottrarla al controllo democratico ed economico ordinario e affidarla a un club ristretto di sacerdoti. “Fidatevi, ce ne occupiamo noi, è roba da fine del mondo” non è una posizione di umiltà. È una richiesta di potere.

Uno strumento, non una divinità

Non sto dicendo che l’AI vada presa alla leggera. Sto dicendo l’esatto contrario di ciò che dicono i profeti dell’apocalisse: proprio perché è potente, va trattata come si trattano tutti gli strumenti potenti, quindi con regole chiare, responsabilità precise e soprattutto con trasparenza sui danni reali e non come una divinità capricciosa da placare con riti riservati agli iniziati.

Ben governata, l’intelligenza artificiale è già oggi un supporto straordinario: per chi cerca, per chi crea, per chi impara, per chi cura. Io la uso e ne vedo il valore ogni giorno. La scelta vera che abbiamo davanti non è tra “apocalisse” e “hype”: è tra governarla e abdicare lasciando che a raccontarcela siano gli stessi che ci guadagnano, nella versione che gli conviene di più.

E allora, quando sentite dire che bisogna rallentare perché l’AI potrebbe estinguerci, fatevi la domanda che i numeri suggeriscono: le ragioni vere di quel freno sono scritte nell’apocalisse, o nei bilanci? Io ho la mia risposta. E non ha niente a che vedere con la fine del mondo.