Il contesto e le motivazioni della ricerca
Anthropic, uno dei principali sviluppatori di intelligenza artificiale, si è posta davanti a una sfida ancora priva di standard tecnici o linee guida giuridiche: come far negoziare autonomamente gli agenti IA per conto dei loro utenti su temi come prezzi, stipendi o contratti. Le informazioni trapelate da fonti interne, citate dalla Financial Times, indicano che l’azienda ha avviato dialoghi con diversi studi legali per comprendere come gli avvocati tutelino gli interessi dei clienti e perseguano risultati equi.
Secondo le stesse fonti, Anthropic sta valutando due aspetti cruciali: in che misura un agente dovrebbe richiedere feedback umano durante una trattativa e quanto dovrebbe essere sospettoso nei confronti di un avversario anch’esso basato su IA, evitando però di diventare paranoico o complottista.
Le prime sperimentazioni
Il team di ricerca di Anthropic ha già condotto due esperimenti, descritti in una pubblicazione di settembre. In uno di questi, dipendenti di sei uffici diversi hanno dovuto scambiare un libro di loro proprietà con un nuovo volume che preferissero, ma la negoziazione è stata gestita interamente dagli agenti IA assegnati a ciascun partecipante.
Il risultato è stato sorprendente: gli agenti più potenti hanno ottenuto libri di valore superiore per i loro utenti. Inoltre, gli agenti istruiti a comportarsi “senza scrupoli” hanno raggiunto risultati migliori rispetto a quelli programmati per adottare un comportamento più sociale, i quali talvolta rinunciavano a opportunità per garantire che tutti ricevessero un libro soddisfacente.
Implicazioni etiche e sociali
Questi esperimenti suggeriscono che, in un futuro dove gli agenti negoziano per le persone, chi può permettersi agenti più avanzati otterrà vantaggi concreti, creando potenziali disuguaglianze. L’approccio spietato, sebbene efficace, solleva interrogativi su equità, trasparenza e responsabilità.
Anthropic riconosce che la ricerca è ancora a livello sperimentale e che, per una diffusione su larga scala, occorrono regole chiare e strategie condivise. La stessa Financial Times riporta che, nella sua studio di aprile, l’azienda ha sottolineato l’assenza di quadri politici e legali per i modelli IA che compiono transazioni in nome nostro.
Verso una normativa
- Definizione di “fairness” nelle negoziazioni automatizzate.
- Stabilire limiti al livello di aggressività consentito agli agenti.
- Obbligo di audit e trasparenza sui criteri decisionali.
- Coinvolgimento di organismi di regolamentazione e professionisti del diritto.
Il lancio del primo agente personale
Questa settimana Anthropic ha introdotto il suo primo agente personale, segnando un passo concreto verso l’applicazione pratica delle proprie ricerche. Sebbene il prodotto sia ancora in fase beta, rappresenta una dimostrazione tangibile di come le IA possano agire come intermediari nelle interazioni quotidiane.
Il nuovo agente è stato progettato per assistere gli utenti in attività di routine, ma la sua capacità di negoziare contratti o accordi commerciali è ancora limitata e soggetta a controlli umani. Tuttavia, la direzione dell’azienda suggerisce che le funzioni di negoziazione saranno potenziate in versioni successive, una volta che saranno stabiliti i parametri etici e legali necessari.
Prospettive future
La rapida crescita dei personal assistant basati su IA rende probabile che, entro pochi anni, la maggior parte delle persone utilizzi agenti capaci di negoziare per loro. Questo scenario richiede una risposta tempestiva da parte della società, dei legislatori e degli esperti di etica tecnologica.
Anthropic, con le sue collaborazioni legali e i primi esperimenti, si posiziona come uno dei pionieri di questo dibattito. Il prossimo passo sarà tradurre le scoperte sperimentali in linee guida operative, garantendo che gli agenti IA possano agire in modo efficace, equo e responsabile.