OpenAI introduce il watermark nei testi generati dall’AI

OpenAI inizierà a inserire un watermark invisibile nei testi prodotti da ChatGPT e Codex nell’Unione europea. La novità sarà distribuita nelle prossime settimane agli utenti idonei di tutti i piani e nasce per adeguare i servizi dell’azienda agli obblighi di trasparenza previsti dall’EU AI Act. Il watermark non è un simbolo, una scritta o un carattere nascosto che il lettore può vedere. Il sistema interviene invece sul processo con cui il modello seleziona le parole durante la generazione, lasciando nel testo un pattern statistico che può essere riconosciuto da un detector dedicato. La misura resterà inizialmente limitata all’Unione europea. OpenAI ha chiarito che, almeno nella fase di lancio, il watermarking del testo non sarà attivato come impostazione predefinita a livello globale. Gli sviluppatori che utilizzano le API potranno invece abilitarlo per alcuni modelli anche fuori dall’Europa, ma l’opzione sarà disattivata di default.

Cosa prevede l’AI Act per i contenuti generati

La decisione è legata agli obblighi di trasparenza previsti dall’AI Act europeo. Dal 2 agosto 2026 le norme richiedono ai fornitori di determinati sistemi di intelligenza artificiale generativa di rendere identificabili in formato machine-readable i contenuti creati o manipolati dall’AI. L’obiettivo è consentire a piattaforme, ricercatori e altri sistemi automatici di distinguere più facilmente i contenuti sintetici.

L’obiettivo è consentire a piattaforme, ricercatori e altri sistemi automatici di distinguere più facilmente i contenuti sintetici.

Le disposizioni riguardano anche chatbot, deepfake e contenuti generati dall’intelligenza artificiale destinati all’informazione del pubblico. Per alcuni sistemi già presenti sul mercato sono previsti periodi transitori, ma la direzione normativa è chiara: la provenienza dei contenuti prodotti dall’AI deve poter essere verificata senza affidarsi soltanto a dichiarazioni visibili inserite dall’utente o dalla piattaforma. OpenAI è anche tra le aziende che hanno aderito al Code of Practice europeo dedicato alla trasparenza dei contenuti generati dall’intelligenza artificiale, insieme ad altri grandi operatori tecnologici come Anthropic, Google, Meta e Microsoft.

Come funziona textGrain

La tecnologia sviluppata da OpenAI si chiama textGrain. A differenza dei watermark tradizionali utilizzati nelle immagini, non aggiunge metadati visibili, caratteri speciali o sequenze riconoscibili a occhio. Il segnale nasce direttamente dalle scelte linguistiche effettuate dal modello. Durante la generazione, textGrain modifica leggermente la probabilità con cui il sistema sceglie determinate parole o token tra le alternative disponibili. Una singola scelta non dice quasi nulla. Quando però lo stesso meccanismo viene applicato centinaia di volte all’interno di un testo abbastanza lungo, emerge una distribuzione statistica che può essere riconosciuta conoscendo la chiave utilizzata per generarla.

Il segnale resta all’interno del testo anche quando il contenuto viene copiato e incollato.

Questo approccio ha un vantaggio pratico: il segnale resta all’interno del testo anche quando il contenuto viene copiato e incollato. Non dipende quindi da un file specifico o da un metadato che può andare perso durante la pubblicazione. OpenAI afferma inoltre di non aver osservato variazioni significative nelle performance dei modelli quando il watermark è attivo. La società ha pubblicato anche un technical report dedicato a textGrain. Il lavoro è stato realizzato con ricercatori della University of Pennsylvania e di Yale e descrive il metodo utilizzato per modificare in modo controllato le probabilità delle parole generate.

Basta modificare il testo per indebolire il watermark

Il limite più evidente è la resistenza alle modifiche. I test pubblicati da OpenAI mostrano che la capacità di rilevazione diminuisce quando una parte del testo viene riscritta. In uno degli esperimenti, sostituire circa il 10% delle parole con sinonimi ha ridotto il tasso di rilevazione da circa il 92% al 66%. Con interventi più pesanti il segnale si deteriora ancora di più.

I test pubblicati da OpenAI mostrano che la capacità di rilevazione diminuisce quando una parte del testo viene riscritta

Questo significa che un testo sottoposto a editing, paraphrasing o riscrittura può diventare molto più difficile da riconoscere. Anche la lunghezza incide. I passaggi brevi contengono meno informazioni statistiche e offrono quindi meno elementi al detector. Lo stesso problema riguarda risposte matematiche, contenuti con poca libertà lessicale e testi tradotti. Se il modello ha poche alternative possibili per formulare una frase, il sistema ha meno spazio per inserire il pattern. Il watermark va quindi interpretato come un indicatore probabilistico, non come una firma digitale impossibile da alterare.

Il detector non sarà disponibile al pubblico

OpenAI non distribuirà subito il detector a tutti gli utenti. Nella fase iniziale l’accesso sarà riservato a ricercatori approvati e organizzazioni specializzate, che potranno contribuire a valutarne l’affidabilità e i possibili utilizzi. La scelta dipende anche dal rischio di interpretare male i risultati. OpenAI specifica che l’assenza di un watermark non dimostra che un testo sia stato scritto da una persona. Il contenuto potrebbe essere troppo breve, potrebbe essere stato modificato in modo sostanziale oppure potrebbe provenire da un altro sistema di intelligenza artificiale. Vale anche il contrario. La presenza del segnale può indicare che un sistema OpenAI ha generato o elaborato almeno una parte del testo, ma non permette di stabilire quanto lavoro umano sia intervenuto successivamente. Un articolo potrebbe essere partito da una bozza prodotta da ChatGPT e poi essere stato riscritto quasi interamente da un autore. Il watermark, da solo, non quantifica quel contributo.

OpenAI precisa anche che il sistema non identifica l’utente che ha generato il contenuto e non rivela account, prompt o conversazioni associate al testo.

La provenienza dei contenuti diventa un problema di prodotto

Il watermark testuale rientra in un lavoro più ampio sulla content provenance. Per immagini e altri media esistono già tecnologie come C2PA e SynthID, che permettono di associare ai contenuti informazioni sulla loro origine. Con il testo il problema è più difficile perché poche modifiche possono cambiare profondamente la struttura statistica del contenuto senza alterarne il significato. Per startup, piattaforme editoriali e aziende che integrano modelli generativi, la novità ha una conseguenza concreta: la trasparenza sull’origine dei contenuti AI entra sempre più direttamente nei requisiti di prodotto e compliance nell’Unione europea. Non riguarda soltanto ciò che l’utente vede nell’interfaccia, ma anche ciò che altri sistemi devono poter rilevare automaticamente. textGrain prova a risolvere questo problema senza introdurre marcatori visibili nel testo.

Il watermark può funzionare bene su testi abbastanza lunghi e poco modificati, mentre perde efficacia quando il contenuto passa attraverso editing

I test pubblicati da OpenAI mostrano però il compromesso tecnico: il watermark può funzionare bene su testi abbastanza lunghi e poco modificati, mentre perde efficacia quando il contenuto passa attraverso editing, traduzione o riscrittura. È su questa distanza tra requisito normativo e affidabilità tecnica che si giocherà buona parte del lavoro nei prossimi mesi.

Il problema non è sapere se c’è ChatGPT dentro un testo

Immaginiamo un giornalista che passa una giornata a raccogliere documenti, parlare con le fonti, controllare date e ricostruire una vicenda. Alla fine scrive un articolo e usa ChatGPT per accorciare tre paragrafi. Quel pezzo è stato scritto dall’intelligenza artificiale?

Oppure prendiamo un dirigente che prepara cinque pagine di appunti, decide cosa comunicare, elimina alcune informazioni, ne aggiunge altre e chiede a un modello di trasformare tutto in una mail leggibile. Chi ha scritto la mail?

O ancora: preparo una prima bozza con un sistema generativo, la leggo, mi irrita, cancello metà del testo, riscrivo passaggi interi, verifico i dati e cambio la conclusione. A quel punto quale percentuale di “autorialità” dovrei assegnare alla macchina?

Sono domande apparentemente semplici che diventano rapidamente inutilizzabili. Il watermark può dirci che un sistema OpenAI è passato da quelle righe. Non può dirci che cosa sia successo prima e dopo. Ed è proprio lì che si trova la parte interessante.