Contesto e motivi della restrizione

Nel corso dell’estate 2024, Goldman Sachs ha avviato un programma pilota interno che consentiva a trader, gestori di portafoglio e altri professionisti non tecnici di utilizzare strumenti di intelligenza artificiale per generare codice. Tra le piattaforme più diffuse vi erano Claude Code di Anthropic e GitHub Copilot di Microsoft, entrambe capaci di produrre script in Python, R e altri linguaggi tipici del settore finanziario.

Secondo fonti interne riportate da Bloomberg, a partire da ottobre 2024 le linee guida aziendali hanno vietato l’uso di questi tool a tutti, eccetto agli ingegneri del software. La motivazione ufficiale, fornita dal portavoce Nick Carcaterra, è stata una “varietà di fattori, tra cui produttività e gestione del rischio”.

Il rischio principale individuato riguarda la possibilità di introdurre bug o vulnerabilità di sicurezza in codice generato automaticamente, soprattutto in ambienti di trading ad alta frequenza dove anche un micro‑secondo di ritardo può tradursi in perdite significative.

Il modello “vibe coding” e le sue promesse

Nel luglio 2024, il Chief Investment Officer Marco Argenti aveva elogiato il cosiddetto “vibe coding”, un approccio che incoraggiava i dipendenti non tecnici a trasformare rapidamente un’idea in un prototipo funzionante grazie all’IA, per poi affidarlo a un ingegnere per la messa in produzione. Questo modello prometteva:

Riduzione dei tempi di sviluppo da settimane a ore.
Maggiore autonomia per i trader nella creazione di strumenti di analisi personalizzati.
Possibilità di sperimentare rapidamente nuove strategie di mercato.

In pratica, molti trader hanno iniziato a costruire script per monitorare flussi di ordini, generare report di performance e persino implementare algoritmi di arbitraggio basati su dati in tempo reale.

Esempi concreti di utilizzo

Un team di trading di equity ha utilizzato Claude Code per creare un modulo che aggregava dati da Bloomberg, Reuters e feed proprietari, trasformandoli in un dashboard interattivo. Un altro gruppo di investment banking ha impiegato GitHub Copilot per automatizzare la generazione di documenti di due diligence, risparmiando fino a 12 ore di lavoro settimanale per analista.

Questi risultati hanno alimentato l’entusiasmo interno, ma hanno anche evidenziato limiti: alcuni script producevano risultati incoerenti quando i dati di input cambiavano leggermente, e le revisioni manuali da parte degli ingegneri hanno richiesto più tempo del previsto.

Rischi di sicurezza e compliance

Le preoccupazioni di Goldman Sachs non sono infondate. Le autorità di vigilanza finanziaria, come la SEC negli Stati Uniti e la CONSOB in Italia, hanno intensificato l’attenzione su pratiche di sviluppo software non tracciate. Un codice generato da IA può contenere:

Backdoor non intenzionali introdotti da modelli di addestramento.
Violazioni di licenze software open source, se il modello riutilizza porzioni di codice protetto da copyright.
Incongruenze nella gestione dei dati sensibili, particolarmente critiche per le piattaforme di trading.

Goldman ha quindi deciso di centralizzare la responsabilità del ciclo di vita del software nelle mani di team di ingegneria certificati, riducendo la possibilità di errori non rilevati.

Impatto interno e reazioni dei dipendenti

La decisione ha generato frustrazione tra i professionisti che avevano già integrato gli strumenti di IA nei loro flussi di lavoro. Su forum interni, alcuni trader hanno lamentato una “perdita di agilità” e hanno chiesto soluzioni alternative, come l’adozione di tool di IA proprietari con audit di sicurezza più rigorosi.

Altri dipendenti hanno accolto la mossa come una necessità per proteggere la reputazione della banca. In particolare, i responsabili di compliance hanno sottolineato che la capacità di dimostrare una catena di controllo (chain of custody) sul codice è fondamentale per superare le verifiche regolamentari.

Strategie future e possibili scenari

Goldman Sachs sta valutando diverse opzioni per bilanciare innovazione e sicurezza:

Implementare una piattaforma interna di IA, addestrata su dataset proprietari e soggetta a revisione continua da parte del dipartimento di risk management.
Introdurre un programma di “AI stewardship”, in cui esperti di sicurezza e ingegneri collaborano con trader per co‑creare soluzioni controllate.
Stabilire linee guida più dettagliate sulla revisione del codice generato, includendo test automatici di vulnerabilità e audit di licenza.

Nel lungo termine, la banca potrebbe anche aprire un “sandbox” controllato, dove i dipartimenti non tecnici possono sperimentare in ambienti isolati, senza impatto sui sistemi di produzione.

Conclusioni

Il ritiro di Goldman Sachs dagli strumenti di IA per la programmazione riflette una tensione crescente nel settore finanziario: la spinta verso l’innovazione rapida contro la necessità di gestire rischi operativi e normativi. Se da un lato l’IA ha dimostrato di accelerare la prototipazione e di democratizzare l’accesso a capacità di coding avanzate, dall’altro ha evidenziato vulnerabilità che, in un contesto ad alta frequenza e alta esposizione, non possono essere ignorate.

Il futuro probabilmente vedrà un approccio ibrido, in cui le tecnologie di IA saranno integrate in modo più controllato, con team multidisciplinari che coniugano competenze tecniche, di business e di compliance. Solo così le istituzioni finanziarie potranno sfruttare appieno il potenziale dell’intelligenza artificiale senza compromettere la sicurezza e la fiducia dei propri clienti.