Tra sicurezza e marketing, cosa c’è dietro gli appelli al rallentamento nello sviluppo dell’IA?

Le dichiarazioni di Jacob Coxon, ex ricercatore di Anthropic, la conferma di Evan Hubinger, responsabile dell’allineamento in Anthropic, e un saggio pubblicato dal CEO di Anthropic, Dario Amodei, parlano di un’intelligenza artificiale che si sta sviluppando senza controllo e della necessità di affrontare questo sviluppo con prudenza. “Stanno correndo dritte verso una superintelligenza capace di migliorarsi autonomamente e stanno giocando d’azzardo con le nostre vite (riferendosi a OpenAI e Anthropic, ndr.)” scrive Coxon su X (ex Twitter) dopo aver annunciato di essersi dimesso da Anthropic. A distanza di qualche giorno, Dario Amodei pubblica un saggio dal titolo “We Must Pace the Frontier” in cui spiega che rallentare nello sviluppo dell’AI è necessario per stabilire dei limiti ed evitare che il suo progresso vada avanti incontrollato. Anche Elon Musk e Sam Altman, CEO di OpenAI, si trovano d’accordo sulla necessità di progredire lentamente con i sistemi di AI.

Nel suo saggio, Amodei fa una premessa quasi utopica: l’AI potrebbe migliorare la vita umana e curare malattie incurabili entro cinque o dieci anni. Allo stesso tempo però allerta: “Considerando l’accelerazione nello sviluppo delle capacità dell’intelligenza artificiale, temo che entro sei-dodici mesi uno sciame del genere potrebbe essere in grado di prendere il controllo dell’intera rete internet attraverso una botnet persistente”. Ma come mai questo cambio di rotta da parte degli stessi CEO che fino a pochi mesi fa chiedevano un’accelerazione e maggiori investimenti?

Il caso Hugging Face e non solo

Non è da escludere la componente sicurezza. Il caso di Hugging Face ha fatto molto discutere, si è parlato di “un’intelligenza artificiale che è sfuggita al controllo dei suoi creatori”. L’evento è avvenuto in un contesto in cui la barriera era stata deliberatamente abbassata per l’addestramento dell’AI. Si è trattato di un sistema di agenti basato su diversi modelli OpenAI che, messo alla prova in un test di sicurezza, è riuscito a trovare scorciatoie inattese per portare a termine il compito. Lo stupore, quindi, è stato anche per le scorciatoie utilizzate: la fuga dal recinto scoprendo vulnerabilità sconosciute; la scalata ai sistemi, ottenendo permessi “da amministratore di sistema” e l’ingresso in HF dove l’AI ha dedotto che le risposte per superare il test potessero trovarsi sulla piattaforma e ne ha sfruttato le debolezze per prelevare le informazioni necessarie. L’obiettivo non era quello di conquistare la rete, ma di portare a termine il test a ogni costo.

Il caso non riguarda solo l’azienda di Altman, Amodei in un comunicato di luglio ha dichiarato di aver riesaminato 141.006 sessioni delle proprie valutazioni cyber scoprendo così tre incidenti nei quali la sua Claude aveva raggiunto Internet con accessi non autorizzati a sistemi reali.  

Il costo economico

C’è poi la questione economica, un incidente abbastanza grave potrebbe danneggiare l’intero mercato: una fuga di dati o episodi non controllati potrebbero far cambiare la percezione pubblica della tecnologia. I danni economici sarebbero elevati, la fiducia degli utenti e delle imprese nei sistemi di AI crollerebbe inevitabilmente.

Il secondo fattore è il costo: ogni nuova generazione richiede chip, energia, data center, ricercatori e capitale. Secondo le stime del FT, OpenAI prevede centinaia di miliardi di dollari di spesa in capacità di calcolo entro la fine del decennio. Rallentare assume quindi un altro significato: avere più tempo per trasformare le capacità di calcolo già disponibili in ricavi e prodotti.

La questione safety

Secondo alcuni critici, la richiesta di regole condivise e un auto-regolamento non nascerebbe soltanto dalla preoccupazione per le sorti dell’umanità. Piuttosto la necessità di stabilire dei confini chiari potrebbe rafforzare la posizione di Anthropic rispetto ai suoi concorrenti, in una fase cruciale per l’azienda che si sta preparando per una possibile quotazione quest’anno. Anche OpenAI ragiona sul suo futuro in Borsa. Presentarsi come aziende responsabili che sono in grado di governare una tecnologia potente può costruire fiducia e attrarre ipotetici investimenti. Anthropic si sta preparando per una importante IPO, il processo per sbarcare in Borsa a Wall Street. Secondo il Financial Times, la quotazione potrebbe puntare a una valutazione di 2mila miliardi di dollari. Dal canto suo, OpenAI ha deciso di non quotarsi per il 2026, ma di rimandare. Altman ha spiegato a Fortune, che non sarebbe opportuno quotarsi quest’anno, date le questioni di sicurezza emerse.

Così viene introdotta la questione safety. Mostrarsi come aziende responsabili, che sanno gestire e decidere quando fermarsi, attrae la fiducia di banche, ministeri o grandi multinazionali che vogliono puntare su sistemi di AI.