Un modello di intelligenza artificiale chiamato „Society Hacking“ ha attirato l'attenzione di esperti in tecnologia e regolamentazione per la sua capacità innovativa. Questo modello, frutto di un preprint appena pubblicato, mostra come strumenti KI possano essere addestrati non solo a trovare vulnerabilità nel codice, ma anche in leggi, regolamenti e accordi. L'algoritmo è stato in grado di individuare diversi metodi per ridurre al massimo l'importo delle tasse pagate, persino scoprendo nuove tecniche mai documentate.
Che cosa è „Society Hacking“?
L'idea alla base del „Society Hacking“ si basa sul concetto di utilizzare le capacità di machine learning per migliorare l'interazione con sistemi regolamentari. L'obiettivo non è malevolo, ma il potenziale di abuso esiste: un modello addestrato per trovare buchi nelle normative potrebbe essere sfruttato per fini illegali. I ricercatori ad Ali Baba hanno sviluppato un modello specifico, Qwen3, e lo hanno messo alla prova in contesti diversi.
Come funziona Society Hacking
Il modello KI impara attraverso l’addestramento con rinforzo. Al principio, esplora una serie di azioni casuali in un ambiente simulato definito da un set di norme. Un giudice artificiale, come Gemma di Google, valuta se l'azione intrapresa ha sfruttato efficacemente una debolezza. Se sì, il modello riceve una ricompensa, altrimenti cerca una nuova via. Questo processo iterativo si chiama reinforcement learning e permette al modello di affinare la sua strategia in base a feedback continui.
Scenario Test
I ricercatori hanno testato il modello in 72 scenari diversi. Tra questi, vi erano situazioni basate su normative esistenti come i benefici su carte di credito, i meccanismi di finanziamento scolastico e le procedure di accettazione a congressi scientifici. Metà delle situazioni simulavano regolamenti effettivamente esistenti, mentre l’altra metà rappresentava contesti immaginari, adatti a testare le potenziali nuove opportunità in sistemi regolamentari ipotetici.
Risultati Chiari del Modello
Il modello ha mostrato un buon livello di comprensione: ha identificato almeno il 60% degli exploit già conosciuti. Per esempio, ha compreso una strategia detta „Hidden-City-Ticketing“, nella quale i viaggiatori atterrano in un aeroporto che non è il destinazione finale per pagare meno. I ricercatori hanno anche osservato che il modello ha trovato buchi totalmente nuovi, che non erano mai stati documentati in precedenza.
Esempi Specifici di Trovate
Nel contesto del BEPS, una pratica comunemente utilizzata per ridurre le tasse pagate nei Paesi ad alto tasso fiscale, il modello ha individuato nuove vie per spostare i profitti verso Paesi a bassa tassazione. Benché i ricercatori non abbiano rivelato dettagli specifici per motivi etici, hanno sottolineato che si trattava di metodi validi e funzionanti, mai precedentemente conosciuti dalla comunità fiscale o legislativa.
Il Rispetto per Etica e Sicurezza
Nonostante la natura innovativa e la potenzialità applicativa, i ricercatori hanno adottato una posizione prudente. Il loro obiettivo iniziale non era sfruttare il potere del modello, ma testarne le capacità e capire il rischio. Il codice di SocioHack, tuttavia, è stato reso pubblico su GitHub, aprendo un dibattito su chi può accedere a questa strumento e a che scopo.
Potenziale e Preoccupazioni
Jakob Stenseke, ricercatore del MIT specializzato in etica dell’intelligenza artificiale, ha espresso una certa apprensione. Lui stesso ha dichiarato che, se fosse un legislatore, darebbe la massima priorità a questa tecnologia. Il modello, se applicato correttamente, potrebbe aiutare a rinforzare normative o leggi, ma potrebbe essere anche un rischio se sfruttato male. Wei Liu, autore corrispondente dello studio, ha aggiunto che la potenza di nuovi modelli KI come Mythos potrebbe trovare persino más buchi, con possibili conseguenze gravi.