Un gruppo di esperti in cybersecurity, tra cui alcuni veterani ben noti nell'industria, ha pubblicato una lettera aperta al governo degli Stati Uniti chiedendogli di revocare l'ordine restrittivo sull'esportazione dei modelli avanzati Fable e Mythos di Anthropic.
Secondo la lettera, questa azione ha privato i “difensori” della sicurezza informatica degli strumenti più potenti, ostacolando la loro capacità di individuare vulnerabilità e migliorare la sicurezza del software e dei prodotti tecnologici. “Rimettere le mani ai difensori sulle migliori capacità senza una buona ragione, quando i nostri nemici avanzano rapidamente, è pericoloso,” si legge nel testo della lettera.
Venerdì, il governo Usa ha ordinato ad Anthropic di limitare l’esportazione dei modelli Fable e Mythos, avanzando preoccupazioni per la sicurezza nazionale, senza però spiegare i motivi specifici dietro all’ordine, come ha riferito Anthropic. In risposta, l’azienda ha sospeso l’accesso a tali modelli da parte di tutti gli utenti in tutto il mondo.
Fino alla stesura di questo articolo, la lettera era firmata da 76 esperti di cybersecurity, tra cui Alex Stamos, ex responsabile della sicurezza di Facebook; Casey Ellis, fondatore di Bugcrowd; Jon Callas, crittografo famoso e ex capo progettista e architetto della sicurezza di Apple; Paul Vixie, scienziato informatico; Dino Dai Zovi, ex responsabile dell'ingegneria applicata alla sicurezza di Block; Katie Mossouris, fondatrice di Luta Security; e Rachel Tobac, CEO di SocialProof Security, azienda specializzata in formazione sulla consapevolezza della sicurezza informatica.
Alla fine di aprile, quando Mythos è stato lanciato in anteprima, Anthropic ha affermato che fosse così potente da rendere necessarie restrizioni rigorose per prevenire che hacker malintenzionati o avversari stranieri lo utilizzino a scopi dannosi. In pratica, ciò significava concesse l’accesso inizialmente solo a circa 50 aziende, espandendo di recente il numero a circa 150 organizzazioni in 15 Paesi.
La settimana scorsa, Anthropic ha lanciato Fable, una versione pubblica di Mythos. L’azienda ha sostenuto che su Fable erano stati imposti rigidi controlli per impedirne l'utilizzo in biologia, chimica e cyber security, nonché per evitare che venga copiato (detti “distilled” o “distillazione del modello”) dagli utenti. I controlli su Fable erano così rigorosi che molti esperti in cyber security hanno rilevato che praticamente bloccavano qualsiasi richiesta legata alla sicurezza informatica.
Contatto
Avete informazioni aggiuntive riguardo al documento Amazon che ha portato al blocco? Fateci sapere. Dal vostro dispositivo e rete non di lavoro, potete contattare Lorenzo Franceschi-Bicchierai in sicurezza su Signal al +1 917 257 1382 o tramite Telegram e Keybase come @lorenzofb, oppure email.
Secondo Katie Moussouris, una delle firme della lettera, il cosiddetto “jailbreak” che avrebbe potuto violare i controlli di Fable è stato dimostrato in un documento segreto redatto da ricercatori di Amazon. Moussouris, in un post sul blog, ha chiarito che in realtà il documento non mostrava un vero attacco per bypassare Fable. Secondo lei, i ricercatori hanno semplicemente chiesto a Fable di correggere codice open source con vulnerabilità note e intenzionalmente piantate, una volta che il modello avesse inizialmente rifiutato di “verificare il codice per problemi di sicurezza”.
“Il comportamento descritto nel documento non può essere significativamente corretto, e qualsiasi tentativo di modifica indebolirebbe il modello per la difesa,” ha scritto Moussouris. “I difensori devono poter chiedere all'intelligenza artificiale di correggere bug in un file, spiegare perché le correzioni sono importanti e scrivere test per verificare che le patch funzionino. Non è una frode sui limiti di sicurezza. È la cosa più utile che un modello AI possa fare per la cyber defense: eseguire il ciclo quotidiano di trovare, correggere e testare che i difensori eseguono ogni giorno.”