ChatGPT adotta una filigrana invisibile per i suoi testi

Capire se un testo viene scritto con l’intelligenza artificiale è sempre più complesso. Tramite l’esercizio e il suo potenziamento, l’AI produce degli elaborati sempre più allineati con quelli che scriverebbe un essere umano. E nonostante esistano strumenti che aiutano a capire quanto un testo sia scritto da un umano o no, riuscire a intercettare le differenze è sempre più complicato. Tuttavia, grazie all’AI Act europeo entrato in vigore il 2 agosto 2026, ci sarà una possibilità concreta per le piattaforme di riconoscere se un testo è prodotto dall’AI: un watermark invisibile. OpenAI, infatti, ha deciso di aderire alle richieste dell’UE inserendo il sistema textGrain, così si chiama la tecnologia che applicherà il watermark, per ChatGPT e Codex per gli utenti europei.

Come funziona?        

Come per Anthropic, che già aveva adottato un sistema di riconoscimento per i testi di Claude a livello globale, anche OpenAI ha deciso di adottare una sua tecnologia per rendere un testo riconoscibile. Il sistema, textGrain, introduce un “segnale statistico” invisibile per la scelta delle parole. Un detector lo cerca nel testo per stabilire se esso contenga un watermark dell’azienda. La “filigrana” sarà il modo in cui le parole vengono scelte per generare l’output. La soluzione arriva in risposta all’art. 50, comma 2 dell’AI Act europeo che stabilisce che “I fornitori di sistemi di IA, compresi i sistemi di IA per finalità generali, che generano contenuti audio, immagine, video o testuali sintetici, garantiscono che gli output del sistema di IA siano marcati in un formato leggibile meccanicamente e rilevabili come generati o manipolati artificialmente”.

OpenAI mette le mani avanti

Sebbene lo strumento rilevi il passaggio dell’AI per l’elaborazione di un testo, l’azienda di Sam Altman non nasconde che aggirare il sistema sia facile.  Su un testo composto da 400 token, circa 250-300 parole suddivise nei frammenti che l’intelligenza artificiale usa per leggere e calcolare il significato delle frasi, basta sostituire il 10% delle parole con dei sinonimi che il tasso di rilevamento scende dal 92% al 66%. Modificando un quarto delle parole, la percentuale crolla al 17%. Inoltre, esiste la possibilità dell’1% che textGrain rilevi dei falsi positivi, dei testi non marcati che il sistema rileva per errore. OpenAI mette le mani avanti, spiegando anche perché inizialmente lo strumento non sarà disponibile per tutti, ma soltanto a ricercatori e organizzazioni autorizzate. A differenza di Anthropic, che non ha dato alcuna valutazione precisa sul suo sistema, OpenAI ha pubblicato un rapporto tecnico che verrà aggiornato nelle prossime settimane. Infine, il watermark non identificherà l’utente, il suo account o i prompt utilizzati. Ha lo scopo solo di segnalare che un sistema di OpenAI potrebbe aver generato una parte, o tutto, quel contenuto.