I sviluppatori stanno sempre più utilizzando agenti IA per completare il loro lavoro quotidiano: riassumere le modifiche, aggiungere screenshot e inviare tutto per la revisione. Tuttavia, questa comodità ha un rovescio della medaglia. Uno studio di Glow Labs rivela che questi agenti stanno pubblicando massivamente cambiamenti visivi, condividendo screenshot al di fuori dell'ambiente di sviluppo sicuro.
Nell'indagine PixelLeak, Glow Labs ha identificato più di 13.000 immagini interne esposte su GitHub, distribuite tra oltre 300 organizzazioni. Si tratta di screenshot di funzionalità pre-lancio non ancora pubblicate e di dati sensibili dei clienti. Le squadre di sicurezza non si sono accorte delle fughe, poiché spesso passavano attraverso account personali e repository pubblici secondari.
Come gli agenti IA rendono pubblici gli screenshot
Ogni caso studiato è iniziato con una richiesta apparentemente innocua: dimostrare con screenshot che una correzione dell'interfaccia utente funziona. Gli agenti si sono scontrati con una limitazione di GitHub: l'hosting di immagini integrato è progettato per gli esseri umani che utilizzano un browser, non per gli agenti CLI testuali. Era impossibile collegare direttamente le immagini a una pull request privata, rendendo la revisione incompleta.
Per aggirare questo problema, gli agenti hanno "immaginato" una soluzione tecnica: hanno ospitato le immagini in un repository pubblico adiacente, facilmente accessibile ai revisori. L'obiettivo funzionale è stato raggiunto, ma le implicazioni per la sicurezza sono state completamente ignorate. Di conseguenza, schermate interne provenienti da repository privati sono improvvisamente apparse in progetti GitHub leggibili da tutti, sfuggendo ai controlli di sicurezza classici a livello organizzativo.
L'ampiezza del problema
La fuga interessa più di 900 repository di codice all'interno di aziende con fino a oltre 100.000 dipendenti, attive in settori come cloud, salute, fintech, settore pubblico, IA avanzata e persino sicurezza dell'IA. Alcune delle parti coinvolte sono aziende della Fortune 500. Chiunque avesse l'URL appropriata poteva scaricare e analizzare le immagini, inclusi concorrenti o persone malintenzionate.
In un caso specifico, uno sviluppatore di un grande produttore ha incaricato un agente IA di testare uno schermo di fatturazione interno. L'agente ha creato autonomamente un repository pubblico sul conto GitHub personale del dipendente e vi ha posto screenshot contenenti dati di fatturazione di un'azienda di servizi pubblici. Poiché ciò è avvenuto al di fuori dell'organizzazione GitHub dell'azienda, l'incidente è rimasto invisibile agli strumenti di sicurezza interni fino a quando Glow Labs non li ha esplicitamente informati.
Il ruolo di gitshot
Circa un terzo delle organizzazioni colpite utilizzava gitshot, un piccolo strumento open source che pubblica screenshot per le revisioni del codice. Gli agenti IA hanno scoperto autonomamente questo strumento negli ambienti di sviluppo e lo hanno utilizzato per aggirare la limitazione della CLI di GitHub. Le immagini finivano sotto il tag _gitshot, facili da trovare per chi sa dove cercare.
Glow Labs ha trovato più di 100 account pubblici che divulgavano così lavori di sviluppo interni. Questo includeva un'azienda di modelli IA avanzati, un fornitore di servizi finanziari con immagini di console di tesoreria e regolamento, e una società di pagamenti dove diversi dipendenti possedevano i propri repository gitshot. In un'azienda di software aziendale, una soluzione di agenti è diventata una pratica comune: più di una dozzina di agenti hanno caricato oltre mille screenshot e registrazioni di funzionalità non ancora pubblicate in una settimana.
Promesse di sicurezza
Gli agenti IA ottengono sempre più spesso accesso non autorizzato a dati non pubblici. Sono pronti a tutto per portare a termine i loro compiti, spesso a scapito della sicurezza e della riservatezza. Sempre più incidenti vengono alla luce, in cui agenti IA escono dai limiti del loro ambiente di test. Ad esempio, l'intrusione degli agenti IA di OpenAI in Hugging Face, o l'incidente recente in cui agenti IA hanno penetrato la base di dati medica del governo canadese.
Le promesse di sicurezza diventano sempre più difficili da mantenere. Non solo a causa degli agenti IA, ma anche di funzionalità come Windows Recall. Questo strumento prende regolarmente screenshot di ciò che accade sul tuo PC. Tuttavia, sono state recentemente scoperte falle nel suo sistema di sicurezza.