Verifica manuale dei risultati prodotti dall'intelligenza artificiale richiede tuttora molto tempo. (Foto: PeopleImages / Shutterstock.com)
Sebbene i modelli di intelligenza artificiale moderni siano estremamente potenti, continuano a presentare sfide concrete nella pratica. Durante la conferenza Fortune Brainstorm Tech, i dirigenti di diverse aziende hanno condiviso le loro esperienze riguardo agli agenti IA. Molti hanno segnalato problemi comuni, in particolare relativamente alla comprensibilità dei risultati.
L'impiego aggressivo di agenti IA è una tendenza seguita da molte aziende tecnologiche. Il leader di Nvidia, Jensen Huang, ha dichiarato che i propri collaboratori sono "pazzi" se non utilizzano l'IA per il maggior numero possibile di attività. Anche aziende come Meta seguono un percorso simile. I risultati però non sono sempre positivi: ad esempio, la ricercatrice Summer Yue voleva lasciare gestire la sua casella email da un agent Openclaw, ma quest'ultimo ha cancellato tutta la sua posta. In considerazione di incidenti come questo, la comprensibilità e l'affidabilità degli agenti IA sono state le voci principali durante la conferenza tecnologica Fortune del 2026.
Gli agenti IA devono essere più trasparenti
"Una domanda chiave per noi è come creare un sistema che funzioni correttamente il più delle volte possibili," afferma Edwin Olson, fondatore e CEO di May Mobility. Secondo lui, errori inevitabili richiedono trasparenza. È importante capire i motivi per cui questi errori accadono, per poterli evitare in futuro. Anche Thomson Reuters, che offre servizi basati sull'IA per l'adempimento legale e fiscale, ha presto messo l'accento sulla responsabilità. Secondo Caitlin Halferty, Chief Data Officer, la trasparenza è una delle quattro colonne della qualità "trustee" all'interno dell'azienda, insieme alla protezione dei dati, all'espertise settoriale e al contenuto affidabile.
Poiché l'overriding è costoso
La conferma dei risultati richiede un investimento di tempo considerevole. Diversi partecipanti hanno sottolineato l'importanza di sistemi di autocontrollo autonomi. Presso May Mobility, ciò significa dotare i veicoli autonomi di sistemi in grado di simulare e valutare diversi scenari contemporaneamente. Elena Kvochko, fondatrice e CEO di Trustguard AI, descrive una metodologia simile, in cui sistemi IA si sovrintendono l'un l'altro. È paragonabile al lavoro in una redazione: un agente funge da autore e un altro da redattore il cui compito principale consiste nel trovare errori o imprecisioni. Secondo Kvochko, l'analisi deve avvenire in sistemi diversi: "Non si vuole che l'intelligenza artificiale si autovaluti," afferma.
Strutture simili stanno diventando sempre più rilevanti man mano che l'intelligenza artificiale assume un ruolo crescente e supera le capacità di controllo esistenti. "Se ti trovi in una situazione in cui tanto lavoro è stato svolto e tanto da controllare, non puoi veramente fornire una spiegazione soddisfacente," ha detto Gregor Stewart, Chief AI Officer di Sentinel One. Questa discrepanza è visibile in ambito di programmazione: Alex Circei, CEO di Waydev, ha dichiarato a Techcrunch che l'IA genera più codice, che però spesso richiede molte modifiche. L'accettazione iniziale si colloca tra l'80 e il 90 percento, mentre con le correzioni successive scende tra il 10 e il 30 percento.
I sistemi IA spesso generano lavoro in più
Gli agenti IA generano quindi spesso lavoro in più, piuttosto che risparmiare tempo. Le valutazioni variano però a seconda della posizione: Secondo un sondaggio effettuato dall’azienda di consulenza Section, il 40 percento dei dipendenti dichiara di non risparmiare tempo grazie all’IA. Tra i dirigenti, invece, il 19 percento afferma di risparmiare più di dodici ore a settimana. Per creare un reale vantaggio, è essenziale risolvere il problema dell’analisi manuale costosa. Invece di controllare a mano migliaia di righe di codice, i team stanno cercando metodi per automatizzare questo processo. Secondo Stewart, potrebbero applicarsi metodi precedentemente sviluppati esclusivamente per settori ad alta sicurezza.
Gli agenti IA spesso portano con sé una serie di sfide. Sebbene siano progettati per automatizzare e facilitare, i loro limiti e problemi evidenziati in questa conferenza tecnologica hanno posto la verifica manuale al centro della discussione. Il progresso nell'intelligenza artificiale non procede senza complicazioni. Una gestione responsabile e trasparente degli agenti IA diventa essenziale per affrontare gli errori in modo costruttivo e migliorare la produttività a lungo termine.