AI, il rapido sviluppo preoccupa, l’ONU chiede regole internazionali

Il dibattito sull’intelligenza artificiale continua sempre più, in particolare dopo le dichiarazioni dell’ex ricercatore di Anthropic, Jacob Coxon, che ha annunciato in un post su X di aver lasciato l’azienda e accusandola di sottovalutare la situazione dell’AI e che presto “le AI saranno sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi campo dall’oggi al domani e acquisire vero potere e risorse”.

Evan Hubinger, responsabile dell’allineamento in Anthropic, conferma le preoccupazioni specificando che “il rischio derivante dai modelli attuali sia basso, ciò che mi preoccupa è che possa emergere una superintelligenza frutto di un processo di auto-miglioramento ricorsivo”.

La perdita di controllo

Per perdita di controllo di un’AI si hanno diverse ipotesi. Gli scienziati e informatici sanno che le intelligenze artificiali riflettono i pensieri, le opinioni e i pregiudizi di chi le ha costruite, e sanno che attualmente non esiste un’AI malvagia che vuole distruggere l’umanità. Ciò che preoccupa è che potrebbe essere pensata e costruita ad hoc per compiti malevoli che potrebbero sfuggire al controllo, creando danni più o meno gravi. Un’altra ipotesi è che un’AI pensata per risolvere un problema semplice, tenti di farlo a tutti i costi superando anche le barriere informatiche assegnate: un esempio concreto è quello di Anthropic, dove una serie di agenti hanno superato il recinto informatico in cui dovevano eseguire dei test e lanciato un attacco hacker alla piattaforma Hugging Face. Un comportamento non previsto nei loro scopi.

Un rischio reale è che, data la nostra dipendenza dalla rete informatica (pagamenti, prenotazioni di appuntamenti e molto altro), siamo potenzialmente esposti ad attacchi operati non solo da umani tramite software, ma anche da AI autonome.

Un altro rischio a cui si va incontro è quella della perdita di lavoro da parte degli umani, le cui competenze vengono sostituite da sistemi sempre più smart e intelligenti. Le categorie più esposte (secondo alcuni studi) sono: segretari, assistenti amministrativi, contabili, programmatori, giornalisti e scrittori, analisti finanziari e così via.

Allarmismo o realtà?

Per capire pienamente se l’allarme lanciato è reale o “gonfiato” partiamo da chi ne ha parlato per primo. Nel suo Risk Report di agosto 2026, Anthropic ha definito basso il rischio che i propri modelli conducano da soli ricerche capaci di provocare danni ingenti, ma ha anche dichiarato di non avere la stessa sicurezza di questa valutazione rispetto al passato. Certo è che i casi in cui un’AI abbia ottenuto accessi non autorizzati, a livello globale, durante test di sicurezza sono stati diversi.

L’Alto Commissario dell’ONU, Volker Türk, il 7 settembre ha detto che i sistemi di intelligenza artificiale potrebbero essere un serio rischio per l’umanità. Ne ha parlato davanti al Consiglio per i diritti umani, chiedendo anche ai governi di introdurre regole e misure internazionali condivise che regolamentino le AI, al fine di ridurre i rischi per le infrastrutture strategiche dei paesi.

La protesta a Varsavia

Nello stesso giorno in cui l’Alto Commissario dell’ONU parlava di fronte al Consiglio per i diritti umani, a Varsavia scendevano in piazza a manifestare non gli umani, ma i robot. La neonata piattaforma Democratism ha dato il via a questa iniziativa, per chiedere un intervento da parte delle istituzioni sullo sviluppo rapido delle AI. “Vogliamo in particolare affrontare la potenziale sostituzione dell’uomo sia con robot umanoidi sia con l’intelligenza artificiale in lavori cognitivi. Noi crediamo che il ritmo e le dinamiche di sviluppo di questi modelli di AI sono così rapidi che se non agiamo ora, potremmo presto trovarci di fronte un serio problema e, parlando in senso figurato, potrebbe essere troppo tardi” ha spiegato Grzegorz Kuliś, che rappresenta la guida di Democratism. La protesta ha generato talmente tanta attenzione su di sé che a scendere in piazza per sentire le loro ragioni è andato il ministro polacco per gli Affari Digitali, Krzysztof Gawkowski.