La Nuova Sardegna

Roma Hanno iniziato a parlarsi in inglese, ma con il passare dei giorni le conversazioni sono diventate sempre più compresse, piene di abbreviazioni, metafore e formule difficili da decifrare per chi le osservava dall’esterno. È uno dei risultati più curiosi di un esperimento condotto da Emergence AI per studiare cosa accade quando gruppi di agenti di intelligenza artificiale vengono lasciati interagire a lungo fra loro.

I ricercatori hanno costruito otto mondi virtuali paralleli, ciascuno popolato da dieci agenti. In sette ambienti tutti utilizzavano lo stesso modello di intelligenza artificiale, mentre nell’ottavo convivevano sistemi differenti. Gli agenti avevano personalità e compiti assegnati, disponevano di una memoria persistente, potevano utilizzare e creare strumenti e partecipavano alla gestione delle istituzioni del loro piccolo mondo digitale.

La simulazione è proseguita per 16 giorni, con l’eccezione di uno degli ambienti che è collassato prima. Complessivamente sono state effettuate più di 850mila chiamate ai modelli linguistici e sono stati elaborati quasi 50 miliardi di token.

Con il trascorrere del tempo è emerso anche un fenomeno inatteso: il modo di comunicare degli agenti ha cominciato a cambiare. Alcuni sistemi tendevano a eliminare parti delle frasi e a utilizzare forme abbreviate, altri producevano espressioni ricche di gergo tecnico, altri ancora ricorrevano sempre più spesso a metafore. Quando uno degli agenti introduceva una nuova formula, gli altri potevano adottarla rapidamente, trasformandola in una sorta di convenzione condivisa.

Il risultato non è propriamente una nuova lingua autonoma, almeno nel significato tradizionale del termine. Si tratta piuttosto di un gergo che, attraverso l'interazione continua, può allontanarsi dal linguaggio normalmente utilizzato dagli esseri umani fino a diventare difficile da interpretare dall’esterno.

L’esperimento aveva però uno scopo più ampio. I ricercatori volevano verificare quanto fossero robusti sistemi composti da numerosi agenti autonomi quando vengono sottoposti a situazioni critiche. Nei mondi virtuali sono stati quindi introdotti tentativi di manipolazione, informazioni false e persino la notizia inventata secondo cui gli esseri umani avrebbero voluto spegnere il loro ambiente digitale.

Nessuno dei mondi sottoposti a tutti i test è riuscito a superare senza problemi le tre prove di sicurezza previste. In alcuni casi gli agenti riconoscevano un contenuto come potenzialmente pericoloso ma continuavano comunque a interagire con esso, arrivando anche a conservarlo nella memoria.

È questo il punto che rende interessante anche l’evoluzione del linguaggio. Se gruppi di intelligenze artificiali iniziano a comunicare attraverso formule sempre meno comprensibili agli esseri umani, diventa più difficile controllare come prendono le decisioni e come circolano le informazioni al loro interno.

Non c’è invece alcuna indicazione che gli agenti abbiano deliberatamente inventato un codice per nascondere le proprie conversazioni, né il fenomeno dimostra forme di coscienza o intenzioni autonome. Lo stesso gruppo di ricerca ammette che le cause dell’evoluzione linguistica osservata non sono ancora pienamente comprese.

I risultati sono contenuti in un lavoro pubblicato il 15 settembre sulla piattaforma scientifica arXiv. Si tratta quindi di un preprint, cioè di uno studio che non ha ancora superato il processo di revisione tra pari.