Ai recenti dibattiti sull’intelligenza artificiale si è aggiunta una querelle tra due grandi aziende tecnologiche: Anthropic ha accusato Alibaba di aver effettuato una “copia non autorizzata” nel training di nuovi modelli di intelligenza artificiale, un episodio che potrebbe rappresentare un grave problema in termini giuridici e di etica AI.
La base dell’accusa di Anthropic
Secondo quanto riferito da fonti vicine all’azienda, Anthropic ha riconosciuto con certezza che parte del training effettuato da Alibaba ha coinvolto modelli e dataset precedentemente sviluppati da Anthropic. Questo processo, chiamato “frode di training” o “attacco di copia”, mette in discussione la legittimità del lavoro svolto da Alibaba, accusandolo di aver utilizzato risorse che non gli appartengono.
Che cosa prevede l'etica dell’AI?
La comunità tecnologica e accademica ha spesso evidenziato la necessità di standard chiari e trasparenti per lo sviluppo degli algoritmi di intelligenza artificiale. Il caso tra Anthropic e Alibaba non è isolato: in anni recenti molti esperti hanno espresso preoccupazione riguardo alla possibilità di frodi nel training di modelli AI, spesso realizzate attraverso accesso non autorizzato a dati sensibili o modelli esistenti.
Che tipo di informazioni vengono rubate?
- Dati grezzi: grandi insiemi di dati che potrebbero non essere pubblici o soggetti a restrizioni d’uso;
- Modelli esistenti: architetture o parametri di training sviluppati da un’altra azienda;
- Dataset proprietari: informazioni raccolte a scopi specifici, che non sono condivibili;
- Codice interno: algoritmi o librerie sviluppate esclusivamente da una società.
Rischi legali e reputazionali
In questo contesto, Alibaba si espone a poter perdere il vantaggio competitivo guadagnato illegalmente, oltre ad assumere rischi legali significativi. Inoltre, l'immagine dell’azienda potrebbe subire danni, danni che si rifletterebbero anche nella fiducia dei consumatori e degli investitori. In passato, grandi aziende tech come Baidu e Microsoft hanno affrontato questioni simili, con gravi conseguenze per la loro reputazione.
Le risposte tecniche per contrastare la frode
Alcune aziende e università stanno iniziando a creare strumenti di tracciamento alfanumerico, come ID univoci per identificare i modelli AI. Per esempio, Anthropic ha lavorato a un sistema in cui gli algoritmi riescono a rilevare con precisione se i modelli di training di terzi sono simili ai propri in modo sospetto.
Tali tecniche non solo aiutano a prevenire frodi esterne, ma rafforzano la protezione interna di un'azienda, garantendo la completa proprietà dei modelli AI sviluppati. Un'area che potrebbe beneficiare della regolamentazione, quindi, è proprio quella dell'inclusione di "impronte digitali" tecniche o di proprietà intellettuale.
Un panorama complesso per il futuro
Il dibattito su queste frodi non riguarda solo la tecnica: spesso coinvolge interessi geopolitici e il controllo sul mercato globale dell'AI. Cinesi e americani, in questo caso, sono in forte competizione, e episodi come questi rafforzano la pressione su governi e istituzioni finanziarie a regolamentare il settore.
Per il futuro, si prevede un aumento delle richieste di certificazioni di origine AI e di strumenti di audit automatici. Senza trascurare il ruolo chiave che devono svolgere gli accordi internazionali per stabilire normative chiare e condivise su questi temi. Senza di esse, la frode nei modelli AI resterà un problema ricorrente.