Una nuova forma di trasparenza per i contenuti generati dall’AI
Il 5 ottobre 2026 OpenAI ha comunicato che, nelle prossime settimane, introdurrà textGrain, un watermark invisibile incorporato nei testi prodotti da ChatGPT e Codex per gli utenti dell’Unione europea. La misura è pensata per rispettare l’articolo 50 del nuovo AI Act, che richiede che gli output sintetici siano marcati in modo leggibile dalle macchine.
Come funziona il watermark textGrain
TextGrain non aggiunge caratteri visibili né spazi nascosti. Durante la generazione, modifica leggermente le probabilità di scelta dei token, inserendo un segnale statistico che, su una sequenza sufficientemente lunga, forma uno schema riconoscibile da un detector dedicato. Il risultato è un “impronta digitale” impercettibile al lettore, ma rilevabile da software specifici.
Rollout e opzioni per le API
Il watermark sarà attivo per gli utenti europei di ChatGPT e Codex entro poche settimane. Per i clienti delle API, OpenAI ha reso disponibile la possibilità di attivare volontariamente il watermark su alcuni modelli a livello globale, ma l’opzione rimane disabilitata per impostazione predefinita. L’accesso al detector sarà inizialmente limitato a ricercatori e organizzazioni autorizzate dall’azienda.
Il contesto normativo: articolo 50 dell’AI Act
L’articolo 50 stabilisce che i fornitori di sistemi capaci di generare contenuti sintetici (audio, immagini, video o testi) devono garantire che gli output siano marcati in un formato leggibile dalle macchine e riconoscibili come prodotti o manipolati artificialmente. Le soluzioni devono essere efficaci, interoperabili, robuste e affidabili nella misura tecnicamente possibile, tenendo conto dello stato dell’arte, dei costi e delle caratteristiche del contenuto. Gli obblighi entrano in vigore dal 2 agosto 2026.
Codice di pratica sulla trasparenza
Il 10 giugno 2026 la Commissione europea ha pubblicato il Codice di pratica sulla trasparenza dei contenuti generati dall’AI. L’adesione è volontaria, mentre gli obblighi dell’articolo 50 sono vincolanti. L’8 luglio la Commissione ha valutato il Codice come adeguato per facilitare l’applicazione delle regole, valutazione successivamente condivisa dall’AI Board.
Adozione del Codice da parte dei fornitori
A fine luglio circa 190 organizzazioni avevano aderito al Codice. Tra i firmatari della sezione dedicata ai fornitori figurano:
- OpenAI
- Microsoft
- Meta
- Anthropic
- Mistral
- Cohere
La Commissione presenta l’adesione come un percorso che può ridurre l’onere amministrativo e offrire maggiore prevedibilità nell’applicazione delle regole nei diversi Stati membri, senza trasformare la firma in una prova definitiva di conformità.
Confronto con altre soluzioni di watermarking
Il principio di textGrain è simile a quello di SynthID, sviluppato da Google DeepMind, che modifica le probabilità assegnate ai token senza introdurre segni percepibili. Google ha inoltre rilasciato open source la componente di watermarking testuale di SynthID e dal 2025 sperimenta un sistema di verifica dedicato ai propri modelli.
Performance di rilevazione: i risultati di OpenAI
Nei test pubblicati il 5 ottobre, il detector ha mostrato una dipendenza marcata da lunghezza, tipo di testo e modifiche successive. Con un tasso di falsi positivi fissato all’1 %:
- Testi di psicologia di 200 token: rilevamento ~80 %.
- Testi di 400 token: rilevamento ~95 %.
Per contenuti altamente vincolati, come testi matematici, la capacità di rilevamento è sensibilmente inferiore, poiché il modello ha meno libertà lessicale per inserire lo schema statistico.
Effetto delle modifiche post‑generazione
L’editing riduce drasticamente la rilevabilità. In una prova su testi di 400 token, sostituendo il 10 % delle parole con sinonimi, il tasso di rilevamento è sceso dal 92 % al 66 %; sostituendo un quarto delle parole, il rilevamento è sceso al 17 %. Parafrasi, riscritture e traduzioni rappresentano quindi variabili decisive: un documento originariamente generato da OpenAI può perdere il segnale al punto da non essere più identificabile.
Impatto sulle prestazioni dei modelli
Un possibile timore è che la condizione delle scelte dei token possa degradare la qualità delle risposte. OpenAI afferma di non aver osservato differenze significative sui benchmark principali per il modello frontier Astra. I risultati dei benchmark pubblicati mostrano variazioni marginali:
- Artificial Analysis Intelligence Index: da 49,57 a 49,76.
- DeepSWE v1.1: da 72,80 % a 71,68 %.
- Terminal‑Bench Science 0.1: da 56,90 % a 60 %.
- BrowseComp: da 87,92 % a 87,35 %.
Questi dati indicano che, nelle prove interne, il costo prestazionale dell’introduzione di textGrain non appare sistematicamente negativo, ma non escludono effetti in contesti diversi o su altre lingue.
Limiti del detector e implicazioni legali
OpenAI sottolinea che il detector segnala solo che un sistema dell’azienda ha generato o elaborato almeno una parte del testo, senza misurare il contributo umano. Un risultato positivo non stabilisce la paternità intellettuale, la responsabilità giuridica o l’identità dell’utente. Il segnale non contiene informazioni su account, prompt o conversazione e non è uno strumento di fact‑checking.
← Back to news