Un gruppo di esperti delle Nazioni Unite ha presentato un rapporto preliminare sui rischi della tecnologia dell'intelligenza artificiale, il primo tentativo di bilanciare scientificamente opportunità e minacce globali. Il rapporto ha messo in evidenza che lo sviluppo della tecnologia è più rapido di quanto la ricerca e le istituzioni siano in grado di gestire. Sette ambiti principali sono stati esaminati, tra cui economia, medicina, istruzione e sicurezza nazionale.

Yoshua Bengio, co-presidente del gruppo, ha espresso preoccupazione per la possibilità che sistemi avanzati di KI in futuro causino danni catastrofici, autonomi o voluti da soggetti malintenzionati. Sottolinea anche il rischio di una crescente disuguaglianza globale, poiché i benefici saranno per lo più concentrati nei paesi con istituzioni forti e dati disponibili, come Stati Uniti, Cina ed Europa, mentre nel Sud globale si rischiano di perdere opportunità ed essere messi a rischio in termini di occupazione in settori come i call center e l'industria tessile.

Agenti di KI come collaboratori umanizzati riducono la qualità del lavoro

Una crescente quantità di aziende introduce strumenti di intelligenza artificiale non in qualità di semplici strumenti software, ma come agenti dotati di nome, titolo e compiti specifici. Una ricerca della Boston University rivela che i dipendenti fanno più errori quando credono che le risposte abbiano origine da un "collaboratore KI" anziché da un chatbot.

Gli impiegati che vedono l'agente come un collega si sentono meno responsabili di verificare l'accuratezza dell'output, rischiando di inoltrare informazioni discutibili senza correggerle. Questo modello non genera efficienza in termini di tempo. A dispetto di ciò, aziende come Microsoft, OpenAI, Anthropic e Google promuovono attivamente i propri agenti come "colleghi digitali". Circa un terzo dei dirigenti coinvolti nel sondaggio concorda, alcuni anche considerandoli come posizioni integrate nel piano organizzativo.

Arthur Mensch: l'importanza dell'open-source nella KI

Arthur Mensch, fondatore dell'azienda francese KI Mistral, ha promosso recentemente attraverso LinkedIn il modello delle tecnologie aperte. La sua critica principale riguarda i sistemi KI chiusi, che, stando al suo punto di vista, accumulano dati e acquisiscono informazioni sui processi aziendali dei clienti. Alcuni fornitori di modelli chiusi hanno già utilizzato tali informazioni per minare la reputazione di clienti competitivi.

Mensch invita le aziende a depositare i propri dati in sistemi aperti e a costruire autonomamente la formazione necessaria. Lasciare il controllo a terzi significarebbe delegare il proprio successo a entità esterne. Allo stesso modo, il CEO di Palantir, Alex Karp, ribadisce che il controllo dei pesi del modello corrisponde al controllo del destino di un'azienda. Questi pesi rappresentano una sintesi dei saperi organizzativi acquisiti nel tempo.

KI generativa compromette i risultati scolastici

Una ricerca in Cina centrale ha rivelato che l'uso della KI generativa conduce a riduzioni significative delle prestazioni accademiche. Gli studenti completavano i compiti a casa in tempi ridotti e con voti più elevati, ma durante le verifiche le loro prestazioni peggioravano fino a un massimo del 24 percento. L'indagine ha incluso dati di 30 mesi relativi a oltre 26.000 studenti.

Risultati simili si osservano da altri studi internazionali. L'uso eccessivo di strumenti KI sembra determinare una dipendenza da parte degli studenti, che non esercitano autonomamente il processo di pensiero. La KI diventa quindi uno strumento di supporto, non un veicolo per lo studio attivo.

Risorse correlate

Podcast: Ascolta le ultime notizie su KI e tecnologia con il nostro KI-Update.

Abbonati al nostro newsletter e rimani aggiornato sugli sviluppi.

Alibaba vieta l'uso del modello Anthropic Claude

Può accadere che le politiche sui dati e l'ambiente geo-politico influenzino l'uso dei modelli KI avanzati. L'azienda cinese Alibaba ha vietato ai propri addetti di utilizzare il modello Anthropic Claude, sostenendo che vi fosse una funzione nascosta nel codice sorgente in grado di identificare l'utente come proveniente dalla Cina. Queste informazioni provengono dai dipendenti stessi, come riportato da The Information.

Anthropic aveva già vietato l'uso del proprio modello in Cina. Tuttavia, alcune aziende cinesi troverebbero comunque modi per aggirare tali limiti. Il mese precedente, Anthropic aveva accusato Alibaba di estrarre sistematicamente risposte da Claude per perfezionare il proprio modello Qwen.

Baidu sviluppa Unlimited OCR per la lettura di interi libri

Baidu, un colosso internet cinese, ha realizzato un modello di riconoscimento ottico del testo (OCR) che è in grado di riconoscere intere dozzine di pagine in un singolo passaggio. I modelli OCR tradizionali falliscono al di là di dieci pagine causa problemi di cache crescente. Il modello di Baidu tratta il testo come immagine, utilizzando solo gli ultimi 128 caratteri generati. La base è il modello open-source DeepSeek OCR, con un'accuratezza che si attesta intorno al 94 percento.

Modelli Gemini che descrivono l'ambiente stradale

Google sta testando una funzionalità grazie alla quale il modello Gemini identifica e spiega oggetti lungo la strada. In risposta a un comando vocale, la videocamera frontale invia le immagini a Gemini per l'elaborazione. L'accesso al modello è temporaneo e termina immediatamente dopo la risposta, per ridurre le preoccupazioni legate alla privacy.

In un test effettuato da Google, i risultati hanno incluso la descrizione nominativa di una scultura e informazioni contestuali su un'abitazione. Sebbene non sia chiaro al momento se questa tecnologia verrà introdotta nei veicoli commerciali, Google ha annunciato l'intenzione di integrare una tecnologia di gestione del cambio di corsia in-time in Google Maps.

La città di Bremen adotta la KI per sorvegliare le tram

Bremen utilizza la KI per proteggere i passeggeri dagli episodi di violenza nelle tram. Il sistema "AI-Watch" analizza in tempo reale video delle telecamere interne, identificando dispute e gesti aggressivi. Qualora venga rilevato un allarme, le immagini vengono trasmesse all'unità di controllo per una verifica umana.

La tecnologia impiega hardware locale per evitare di registrare o condividere dati in tempo reale, un differenziale rispetto ad inizi