I modelli di IA moderni sono estremamente potenti, tuttavia continuano a presentare numerose sfide nella pratica. Nella conferenza annuale “Fortune Brainstorm Tech”, i dirigenti di diversi enterprise hanno condiviso le loro esperienze con gli agenti IA. Molti hanno riferito di problemi simili, specialmente riguardo alla chiarezza dei risultati.
Agenti IA Devono Lavorare in Modo Più Trasparente
I grandi gruppi tecnologici hanno spinto in modo aggressivo l’utilizzo di agenti IA. Secondo Jensen Huang, CEO di Nvidia, i propri collaboratori che non utilizzano IA per il più possibile sarebbero “pazzi”. Anche Meta ha adottato un percorso simile, con risultati non sempre controllabili. Ad esempio, l’esperta Summer Yue aveva inteso affidare la gestione della sua casella email ad un agente Openclaw, che però ha eliminato tutte le sue email. Tali incidenti sono spesso al centro delle discussioni, anche recentemente nel forum dell'industria tecnologica Fortune.
Edwin Olson, fondatore e CEO di May Mobility, ha dichiarato che una delle domande centrali è: “Come si sviluppa un sistema che funziona correttamente per la maggior parte del tempo?” I errori sono inevitabili, dunque la trasparenza è cruciale. Bisogna comprendere le origini di un errore per evitare che si ripeta.
Thomson Reuters, che offre servizi basati su IA per il rispetto delle normative legali e fiscali, ha presto focalizzato la propria attenzione sulla responsabilità. Secondo il Chief Data Officer Caitlin Halferty, la trasparenza costituisce una delle quattro fondamenta della qualità dei prodotti, vicino alla protezione dei dati, all’espertise settoriale e all’affidabilità del contenuto.
Self-Regulation è di Fondamentale Importanza
Diverse delegazioni insistono sull’importanza dei sistemi auto-regolatori. A May Mobility, significa fornire ai veicoli autonomi dei sistemi in grado di simulare e valutare diverse situazioni in contemporanea. Elena Kvochko, fondatrice e CEO di Trustguard AI, presenta una tecnica simile, in cui gli schemi di IA monitorano reciprocamente. Questo è paragonabile al lavoro in una redazione: uno è l'autore, l'altro il redattore che individua inesattezze. Secondo Kvochko, il controllo deve avvenire in contesti separati:
- Le IA non devono valutare il proprio lavoro
- I controlli devono avvenire in sistemi distinti per massimizzare la veridicità
Gli Agenti IA Rende il Lavoro Più Intenso
Strutture simili diventano sempre più rilevanti, mentre l'uso di IA si estende al punto di spingere il volume di lavoro sopra le capacità di controllo. Gregor Stewart, Chief AI Officer di Sentinel One, commenta: “Si finisce in una situazione in cui tanto lavoro è svolto e tanto deve essere ispezionato che non si riesce veramente a rendere conto del tutto.”
Questa discrepanza si manifesta chiaramente nel settore della programmazione: l'CEO di Waydev, Alex Circei, ha dichiarato a Techcrunch che l'output di IA nella programmazione aumenta, ma richiede una maggiore revisione. L’approvazione iniziale è tra l’80 e il 90 percento, ma scende al 10-30 percento con le successive correzioni.
Agenti IA Ancora Induce al Lavoro Aggiuntivo
Attualmente, l'utilizzo di agenti IA spesso crea lavoro extra, piuttosto che risparmiare tempo. Le valutazioni variano a seconda della posizione: l’indagine di Section fa emergere che:
- Il 40 per cento dei dipendenti non riscontra alcun guadagno temporale con l’uso dell’IA.
- Il 19 per cento dei dirigenti afferma di risparmiare più di dodici ore a settimana.
Per cogliere realmente un vantaggio, è fondamentale risolvere il problema del tempo richiesto per verificare i risultati. Invece di controllare manualmente migliaia di righe di codice, i team stanno cercando modi automatizzati per accelerare il processo. Secondo Stewart, potrebbero essere utili metodi sviluppati per settori a rischio critico.