Man mano che le tecnologie AI di frontiera vengono utilizzate sempre più frequentemente per attività sensibili, come la sicurezza nazionale, diventa cruciale collaborare tra laboratori di AI, governi e società civile. Questo processo mira a definire insieme come utilizzare queste strumenti avanzate in contesti delicati.
Pensiamo che le democrazie debbano poter impiegare l'AI per proteggere i cittadini, difendere l’infrastruttura critica, garantire servizi pubblici e rispondere rapidamente alle minacce emergenti. Questo è particolarmente vero in aree come la difesa cibernetica e la sicurezza biologica, in cui l’AI offre vantaggi significativi ai difensori. Tuttavia, per garantire un impiego sicuro e democratico, i sistemi AI devono rafforzare la responsabilità democratica, il giudizio umano significativo e il rispetto della legge.
Gli obiettivi dei principi di sicurezza nazionale
Oggi OpenAI ha pubblicato i propri Principi di Sicurezza Nazionale al fine di fornire trasparenza nel modo in cui affrontiamo collaborazioni con il governo e nell’utilizzo della tecnologia AI per scopi di sicurezza. Questi principi riflettono uno sforzo concertato dell’azienda per sviluppare un approccio più completo al lavoro svolto nel campo della sicurezza nazionale e della polizia, man mano che le tecnologie AI si evolvono.
Una volta coinvolto David Kris, esperto di sicurezza nazionale, per facilitare il processo e fornire il proprio giudizio indipendente, abbiamo condotto sessioni di ascolto all’interno dell’azienda e interagito con dipendenti che rappresentano diversi team, tra cui ricerca e sicurezza, politiche e collaborazioni con il governo.
Collaborazioni chiave in ambito nazionale e internazionale
Pubblichiamo ora i principi mentre espandiamo il nostro lavoro con il governo degli Stati Uniti e con partner alleati in settori critici, in particolare per quanto riguarda la ciberdifesa e la biosicurezza. Negli ultimi mesi, abbiamo già stabilito collaborazioni in materia di ciberdifesa con Australia, Canada, Giappone, Corea del Sud, Francia, Germania, Polonia, Paesi Bassi e istituzioni europee come ENISA, nell’ambito del programma Daybreak di OpenAI.
Inoltre, abbiamo stretto un accordo di crescente fiducia con il governo del Regno Unito per la ciberdifesa, test ed valutazione. Stiamo seguendo un modello simile in biosicurezza. Lo scorso mese, abbiamo annunciato l’estensione del programma di accesso protetto al nostro modello GPT-Rosalind per partner governativi statunitensi e alleati che supportano missioni per la sanità pubblica e la difesa biologica.
Linee guida e restrizioni all’uso della tecnologia
I principi citati si applicano a tutti i nostri attuali e futuri accordi nel campo della sicurezza nazionale e della polizia, ad esempio quelli in essere con il Dipartimento della Difesa. Quando abbiamo annunciato l’accordo con il governo statunitense quest’anno, abbiamo chiarito alcune limitazioni contrattuali: nessun utilizzo della tecnologia OpenAI per la sorveglianza di massa, né per sistemi di armi autonomi, né per decisioni automatizzate di alto rischio. Queste limitazioni sono coerenti con i principi oggi esposti.
Supporto a normative democratiche
Noi riteniamo che l’informazione chiara su come la tecnologia AI può essere utilizzata o meno sia fondamentale, e dovrà andare a braccetto con la trasparenza. Tuttavia, molte delle questioni più importanti intorno alla diffusione e utilizzo dell’AI nella pubblica amministrazione devono essere affrontate democraticamente. L’azienda mira a supportare il processo decisionale democratico senza sostituirsi ad esso.
Per questo motivo, OpenAI è a favore di iniziative legislative che prevedono misure di controllo e regolamentazione sui casi di rischio più elevati, come la sorveglianza interna di massa, i sistemi di armi autonomi e altre applicazioni ad alto rischio che influenzano direttamente la sicurezza nazionale degli Stati Uniti. Questo approccio riflette una visione aperta, orientata a garantire un utilizzo sicuro e controllato dell’AI, che rafforzi le istituzioni democratiche, non le indebolisca.