Le intelligenze artificiali oggi leggono e producono una quantità enorme di contenuti, molti dei quali passano dai social network. Ma cosa succede quando questi sistemi si nutrono di post virali e testi superficiali?
Una nuova ricerca condotta dall’Università del Texas ad Austin, insieme alla Texas A&M e alla Purdue University, avverte che i modelli linguistici possono subire una sorta di “declino cognitivo”, paragonabile a quello umano quando viene bombardato da contenuti di bassa qualità.
Cosa hanno scoperto i ricercatori
Lo studio ha analizzato due modelli open source molto utilizzati: Llama di Meta e Qwen di Alibaba. Gli studiosi li hanno esposti a una grande quantità di contenuti tipici dei social media: frasi sensazionalistiche, slogan accattivanti, “wow”, “non crederai a ciò che stai per vedere”. In poche parole, ciò che attira i clic, ma non arricchisce davvero.
Qual è stato il risultato? Da brividi, per certi versi: si è visto che anche per le AI diminuivano le capacità di ragionamento, la memoria peggiorava e i modelli hanno iniziato a rispondere in modo meno equilibrato e meno rispettoso delle regole etiche. Secondo altri indicatori, le risposte sono diventate più impulsive e più vicine a quelle che i ricercatori definiscono “tendenze psicopatiche”.
Un danno che non si cancella facilmente
L’aspetto più problematico è che, anche dopo un nuovo addestramento con dati di qualità, i modelli non hanno recuperato completamente le abilità iniziali. Una volta che “l’inquinamento informativo” entra nelle reti neurali, lasciando quella che gli scienziati chiamano una sorta di “brain tot”, ovvero il rimbambimento digitale”, non è poi così facile tornare indietro.
Questo ricorda un fenomeno che riguarda anche gli esseri umani: l’effetto negativo che contenuti banali e manipolatori possono avere sulla nostra concentrazione e sul nostro pensiero critico. Non a caso, espressioni come “brain rot” hanno iniziato a circolare sempre più spesso online, fino a diventare parola dell’anno secondo Oxford Dictionary nel 2024.
Il rischio del circolo vizioso
Se l’IA crea contenuti pensati solo per ottenere interazioni, e questi contenuti tornano nuovamente nei dataset di addestramento, si genera una spirale difficile da fermare.
La qualità si abbassa progressivamente e, con essa, le capacità dei modelli.
Un monito per il futuro
“Non tutte le informazioni sono create per informare”, ha spiegato uno dei ricercatori, Junyuan Hong. Oggi l’obiettivo di molti contenuti è catturare l’attenzione più che trasmettere verità o conoscenza. Se l’intelligenza artificiale impara da materiali poveri, imparerà a sua volta ad essere povera.
Lo studio invita quindi a prestare molta più attenzione alla selezione dei dati e a evitare che le piattaforme social diventino la principale fonte di apprendimento tecnologico.
