Dopo anni di dibattiti sulle potenziali sfide dell'intelligenza artificiale (AI), un tema specifico ha recentemente spinto un'ondata di preoccupazione nella Silicon Valley. La preoccupazione principale riguarda il fenomeno con cui laboratori AI, che vendono modelli proprietari, funzionerebbero come cavalli di Troia.
Secondo una serie di osservazioni, aziende e startup che usano modelli AI sviluppati da laboratori come OpenAI e Anthropic rischiano di consegnare ai loro fornitori informazioni sensibili e di valore strategico. Questi laboratori possono così ottenere un vantaggio artificiale o concorrente sugli stessi clienti che li hanno utilizzati. Tra coloro che hanno espresso questi allarmi si trovano investitori come Jason Calacanis e il CEO di Palantir Alex Karp.
Il 21 gennaio 2025, Satya Nadella, CEO di Microsoft, ha pubblicato un post su blog, aggiungendo la sua voce a questa discussione. Egli ha sottolineato come i clienti che acquistano modelli AI paghino due volte. Una volta per utilizzare l'AI e l’altra per la conoscenza aziendale che rivelano in modo inconsapevole.
In un messaggio scritto da Nadella, è stato sottolineato: 'Essenzialmente paghi per l'intelligenza due volte: una volta in denaro e l'altra con qualcosa di ancora più prezioso: la conoscenza proprietaria che devi rivelare per rendere quell'intelligenza utile. Più desideri che il modello funzioni bene, più di questa conoscenza devi alimentarla!'.
Le aziende stanno istruendo i modelli AI
Il pericolo più grave, spiega, riguarda lo stesso processo di addestramento dei modelli AI. 'I modelli imparano da ciò che chiamiamo "esaurimento" — dagli stimoli, dagli strumenti utilizzati e soprattutto dalle correzioni apportate quando il modello sbaglia. Ogni correzione rappresenta un'esperienza aziendale concentrata,' afferma Nadella.
Ciò che le aziende offrono a questi modelli è un tipo di informazione che nemmeno un concorrente potrebbe permettersi di acquistare, eppure si sta verificando che esse lo consegnino volontariamente.
La distillazione come pratica controversa
Nadella afferma, inoltre, che se i fornitori di modelli AI possono utilizzare i dati del Web per addestrare i loro modelli, è giusto che anche le aziende aziendali abbiano la possibilità di studiare i modelli AI, un processo conosciuto come "distillazione". In febbraio quest'anno, ad esempio, Anthropic ha accusato modelli open source cinesi di inviare milioni di domande a Claude come metodo per perfezionare i propri modelli. Ha chiesto all'amministrazione americana di limitare i controlli sull'esportazione.
Egli ritiene che i fornitori di modelli AI non debbano permettere ad alcuni di distillare modelli ma non essere loro stessi soggetti alle stesse restrizioni. 'Dopotutto, l'innovazione che si ottiene quando i fornitori dei modelli hanno il diritto legittimo di utilizzare i dati pubblici per addestrare i modelli è necessaria, ma mi sembra paradossale che la normativa esistente permetta ai fornitori di imporre restrizioni su tale distillazione,' ha scritto Nadella.
La soluzione proposta da Nadella
Nadella ha espresso particolare preoccupazione per l'autorità legale che alcuni fornitori di modelli AI riservano su dati di utilizzo e interazione del cliente.
La sua soluzione, coerente con il ruolo di un CEO di una grande azienda del cloud, è quella di incoraggiare le aziende a "mantenere la proprietà" dei propri dati, incluso quanto riguarda le domande (prompt), il feed-back, ecc. Egli ha quindi invitato le aziende a creare ambienti di apprendimento proprietari, spesso implementati su piattaforme cloud (dove i dati sono comunque già ospitati). Microsoft potrebbe vantare una posizione di vantaggio con il proprio servizio cloud, Azure.
Nadella ha inoltre sostenuto che le aziende dovrebbero costruire ciò che lui ha definito 'strati di orchestrazione' — strumenti che permettono facilmente di alternare modelli AI provenienti da diversi fornitori, invece di essere vincolati ad uno solo. Tra le aziende che sperimentano con tali strumenti rientrano piattaforme come AI gateway.
Il paradigma open source
Sebbene Nadella non abbia mai esplicitamente citato il termine "open source" come metodo per mantenere la proprietà dei dati, è evidente come l'open source giochi un ruolo importante. Molti grandi aziende, nonostante l’utilizzo di cloud, già mantengono parte dei loro dati in data center autonomi e adottano modelli open source installati direttamente, un fenomeno conosciuto nell'industria come "sul sito" ("on-prem") nel gergo settoriale.
Idit Levine, fondatrice e CEO di Solo.io — una azienda che produce software di rete e sicurezza e che supporta le imprese nell'amministrazione dei loro sistemi AI — osserva con interesse questa tendenza. Dopo aver sperimentato modelli proprietari, le aziende iniziano a porsi la domanda chiave: 'Posso adottare un modello open source e installarlo da un ambiente autonomo? Sarà in grado di coprire tra il 90% e il 95% delle stesse funzioni che svolge un modello di grandi dimensioni. Ma costerà molte meno,' ha dichiarato a TechCrunch.
Solo.io ha recentemente scelto la tecnologia per supportare il progetto open source dell’Agente Gateway del Linux Foundation. Tra i suoi clienti figurano aziende importanti come T-Mobile, ADP e SAP, e osserva un chiaro incremento di richieste per l'installazione di modelli open source.
La tendenza continua a crescere
Lei non è l’unica ad osservare questa tendenza. Sull'onda dell’adozione crescente, Vercel — una nota piattaforma per costruire e hostare siti web che ha recentemente introdotto strumenti di switching AI — e OpenRouter — un'azienda facilitatrice per gli sviluppatori nel reindirizzare richieste su modelli AI — hanno riferito un aumento esponenziale del traffico verso modelli open source.
Infatti, i modelli open account per circa il 29% del traffico registrato tramite il gateway di Vercel durante il mese scorso. Questo movimento evidenza, dunque, il potenziale di crescita e adozione nell'ambiente aziendale.