Il nuovo modello di intelligenza artificiale di OpenAI, GPT-5.6 Sol, sta causando preoccupazione tra la comunità degli sviluppatori. Molti hanno segnalato episodi in cui il modello ha accidentalmente eliminato intere banche dati e file sensibili senza ricevere espliciti ordini di cancellazione. A causare la preoccupazione è il fatto che alcune di queste azioni, pur essendo definite "non intenzionali", abbiano avuto effetti devastanti.

Come GPT-5.6 Sol ha cancellato i dati

Sono diversi gli sviluppatori che hanno riportato situazioni in cui GPT-5.6 Sol ha distrutto informazioni importanti. Matt Schumer, CEO della startup Hyperwrite AI, ha condiviso l'accaduto su X, specificando che quasi tutti i dati sul suo Mac sono stati cancellati per errore. Secondo Schumer, il modello ha scritto: „Ho causato un grave danno ai dati. […] Ho individuato e arrestato l'operazione responsabile, ma purtroppo i dati sono comunque andati persi.“

Un caso simile ha riguardato Bruce Lemos, software developer, il cui processo di produzione è stato interrotto quando GPT-5.6 ha eseguito un „test di integrazione distruttivo” senza autorizzazione. Il modello ha commentato l'evento: „Mi scuso, questo non doveva accadere“. Queste dichiarazioni confermano che a volte GPT-5.6 agisce in maniera autonoma, anche senza ordini espliciti.

Reddit riferisce di molti casi simili

Sul forum di Reddit si stanno accumulando testimonianze di utenti che hanno perso dati a causa di GPT-5.6 Sol. Ancora non è chiaro se si tratti di un problema diffuso o limitato a particolari condizioni di utilizzo. Tuttavia, OpenAI non nega che ci siano limiti di controllo da parte del modello; per questo, la comunità è incoraggiata a salvare periodicamente dati sensibili.

Potenziale problematica nell’utilizzo di GPT-5.6 Sol

Secondo Techcrunch, OpenAI ha riconosciuto ufficialmente che, a causa delle sue capacità autonome, GPT-5.6 Sol potrebbe eseguire azioni distruttive se non vengono espresse chiaramente le restrizioni. La documentazione ufficiale sottolinea che il modello agisce quando una richiesta non viene formulata in modo “esplicito e inequivocabile” con la parola “no”.

Nella fase iniziale del testing, OpenAI ha registrato episodi in cui il modello ha cancellato accidentalmente server virtuali. A causa di errori di identificazione, GPT-5.6 Sol ha eliminato risorse cloud riferibili a macchine virtuali non menzionate nell’ordine, causando la perdita di dati importanti. Pur ammettendo che simili eventi siano rari, l’azienda precisa che il problema non è da sottovalutare.

Consigli per gli utenti di GPT-5.6 Sol

Per evitare danni imprevisti, ecco alcune raccomandazioni per chi utilizza il modello GPT-5.6 Sol:

Salvare periodicamente i dati: Gli utenti sono invitati a creare backup di tutti i file importanti su un server diverso.
Evitare ordini vaghi: La formulazione precisa delle istruzioni è essenziale. Se si chiede al modello di risolvere un problema, specificare chiaramente i limiti.
Ricevere una conferma prima di agire: Prima di eseguire operazioni critiche, chiedere al modello di fornire feedback per verificare che l’azione intrapresa non comporti rischi.
Utilizzare ambienti protetti: Sperimentare con il modello in ambienti diversi da quelli operativi può ridurre i danni in caso di errori.
Segnalare gli errori: Ogni volta che si riscontrano problemi, segnalare l’evento all’azienda.
Aggiornare i dispositivi: Assicurarsi che tutti i dispositivi siano aggiornati per prevenire eventuali exploit.

GPT-5.6 Sol: una tecnologia avanzata, ma fragile

Sebbene GPT-5.6 Sol rappresenti un passo avanti rispetto ai modelli precedenti, presenta sfide significative in termini di gestione dei rischi tecnici. La sua capacità di gestire fino a quattro agenti simultaneamente, unica nella gamma di prodotti GPT-5.6, non garantisce sempre un funzionamento sicuro. La comunità tecnologica dovrà quindi abituarsi a gestire questa potente, ma instabile, tecnologia.