Il contesto del programma di ricompense di Google

Il Google Open Source Software Vulnerability Rewards Program (OSS VRP) è stato lanciato nel 2016 per incentivare la comunità di sviluppatori a individuare e segnalare vulnerabilità in progetti open source gestiti da Google, come TensorFlow, Angular e Chromium. Fino a oggi, il programma ha pagato più di 10 milioni di dollari a ricercatori di tutto il mondo, contribuendo a chiudere centinaia di falle critiche.

Il boom delle segnalazioni AI e le sue conseguenze

Nel 2023, l’adozione di modelli generativi come ChatGPT, Claude e Gemini ha permesso a molti ricercatori – sia professionisti sia dilettanti – di automatizzare la ricerca di vulnerabilità. Tuttavia, le piattaforme di bug bounty hanno cominciato a ricevere un numero crescente di segnalazioni automatizzate che spesso contenevano errori di interpretazione, risultati falsi o addirittura “allucinazioni” tipiche dei modelli linguistici.

Secondo un rapporto interno di Google pubblicato su security.googleblog.com, le segnalazioni AI sono aumentate del 350 % rispetto al 2022, mentre la percentuale di report ritenuti “non validi” è passata dal 12 % al 68 %. Questo ha generato un sovraccarico per gli ingegneri di sicurezza, che hanno dovuto dedicare ore preziose a filtrare, verificare e scartare falsi positivi.

Le ragioni della pausa e la risposta di Google

Nel comunicato ufficiale diffuso su X (ex‑Twitter) e sul sito del programma, Google ha spiegato che la pausa è stata necessaria “per riorganizzare i processi di valutazione e per mitigare l’impatto delle segnalazioni automatizzate non valide”. La società promette un “aggiornamento” entro il primo trimestre del 2027, con l’obiettivo di introdurre nuovi filtri basati su AI, migliorare la formazione dei revisori e potenziare i criteri di ammissibilità.

Esempi concreti di segnalazioni problematiche

Falsa vulnerabilità di XSS in Angular: un modello generativo ha prodotto una prova di concetto che mostrava un attacco cross‑site scripting, ma il codice suggerito era basato su una versione deprecata del framework, rendendo la vulnerabilità inesistente.
Segnalazione di overflow in TensorFlow: l’AI ha indicato un buffer overflow in una routine di preprocessing delle immagini, ma la funzione non esiste nella release corrente, causando confusione tra i revisori.
Allucinazione di backdoor in Chromium: una segnalazione automatizzata descriveva una presunta backdoor inserita da un “modulo di telemetria”, ma non c’erano prove di alcun codice maligno; il report è stato respinto dopo ore di analisi.

Impatto sui ricercatori e sulle comunità open source

Molti ricercatori hanno espresso preoccupazione per la sospensione, temendo una diminuzione delle risorse finanziarie e della motivazione a contribuire. Tuttavia, alcuni esperti vedono l’opportunità di rivedere le linee guida e di creare standard più chiari per l’utilizzo dell’AI nella scoperta di vulnerabilità. La community open source, in particolare, sta valutando l’introduzione di “badge di affidabilità” per i report, che indicano se una segnalazione è stata verificata da un umano prima di essere inviata.

Azioni consigliate per i ricercatori

Nel frattempo, Google suggerisce di orientarsi verso i suoi altri programmi di bug bounty, come Google Vulnerability Reward Program (VRP) per Android, Chrome e Cloud. Per chi desidera continuare a lavorare con l’AI in modo efficace, ecco alcune linee guida pratiche:

Validazione manuale: prima di inviare un report generato da AI, eseguire un controllo manuale del codice e replicare l’esploit in un ambiente di test isolato.
Documentazione dettagliata: includere log, screenshot e passi di riproduzione chiari, riducendo le ambiguità per i revisori.
Uso di prompt specifici: definire richieste precise all’AI, evitando termini generici che possono portare a risultati vaghi o errati.
Collaborazione con la community: condividere i risultati preliminari su forum dedicati (ad esempio, GitHub Discussions) per ottenere feedback prima della sottomissione ufficiale.
Formazione continua: partecipare a webinar e workshop su sicurezza AI, offerti da università e aziende specializzate.

Prospettive future e possibili evoluzioni del programma

Google sta valutando l’introduzione di un “AI‑assisted triage system” che utilizzi modelli di machine learning per filtrare le segnalazioni in entrata, classificandole per gravità e probabilità di validità. L’obiettivo è ridurre il tempo medio di revisione da 14 a 4 giorni, come indicato in un documento interno di Google Security. Inoltre, la società sta esplorando partnership con università per creare dataset di vulnerabilità reali, utili a “addestrare” meglio gli algoritmi di filtro.

In conclusione, la pausa del programma open source bug bounty di Google rappresenta un segnale di allarme per l’intero ecosistema di sicurezza informatica: l’AI è uno strumento potente, ma senza adeguati controlli può generare più problemi di quanti ne risolva. Il prossimo anno potrebbe vedere una versione rinnovata del programma, più resiliente e con processi di verifica più rigorosi, offrendo al contempo nuove opportunità per i ricercatori che sapranno coniugare intelligenza artificiale e competenza umana.