L’analisi sui riassunti automatici di AI Overview rivela rischi concreti di disinformazione: accuratezza migliorata ma fonti spesso non verificabili
L’uso crescente dei sistemi di intelligenza artificiale (IA) nei motori di ricerca ha aperto nuovi scenari, ma ha anche sollevato preoccupazioni sulla diffusione di fake news su larga scala. È questo il caso di AI Overview di Google, un sistema che genera riassunti automatici in cima ai risultati di ricerca, ma che, secondo recenti analisi, potrebbe contribuire alla circolazione massiva di informazioni errate.
AI Overview di Google e la diffusione delle fake news
Secondo un’indagine condotta dalla startup Oumi per conto del New York Times, i riassunti prodotti da AI Overview risultano corretti solo nel 91% dei casi. Apparentemente alto, questo tasso di accuratezza assume un peso diverso se si considera che Google gestisce circa cinque trilioni di ricerche ogni anno. Questo significa che ogni ora si potrebbero generare decine di milioni di risposte errate, traducendosi in centinaia di migliaia di fake news che circolano ogni minuto.
L’analisi ha inoltre evidenziato che il passaggio da Gemini 2 a Gemini 3, versioni successive dell’IA di Google, ha migliorato l’accuratezza da 85% a 91%, ma ha anche aumentato la diffusione di risposte “non ancorate” a fonti verificabili, dal 37% al 56%. Ciò rende più difficile per gli utenti distinguere contenuti affidabili da quelli potenzialmente fuorvianti.
AI Overview: il ruolo della fiducia e della resa cognitiva degli utenti
Il problema si aggrava a causa del comportamento degli utenti: solo l’8% verifica le informazioni ottenute da AI, mentre l’80% tende comunque a seguire le risposte errate fornite dall’intelligenza artificiale. Questo fenomeno, chiamato “resa cognitiva”, descrive la tendenza a fidarsi dell’autorità percepita della macchina senza metterla in discussione.
Strategie per contrastare la disinformazione online
In un contesto dove la disinformazione si propaga rapidamente, è fondamentale sviluppare competenze di fact-checking. Gli esperti consigliano di verificare l’originalità dei contenuti, controllare le fonti e l’autore delle informazioni, e utilizzare strumenti di ricerca inversa per immagini e video. In particolare, checklist come il test CRAAP (Currency, Relevance, Authority, Accuracy, Purpose) e il test PROVEN (Purpose, Relevance, Objectivity, Verifiability, Expertise, Newness) aiutano a valutare la credibilità delle notizie.
Anche la conoscenza delle dinamiche che regolano la produzione e la diffusione delle fake news, soprattutto sui social media, è cruciale. La verifica della data, della fonte e la geolocalizzazione di foto e video possono svelare manipolazioni o contestualizzazioni errate.
Google: evoluzione e sfide attuali
Fondata nel 1997 da Larry Page e Sergey Brin, Google LLC si è affermata come il motore di ricerca più utilizzato al mondo, con decine di milioni di utenti mensili solo in Italia. L’azienda ha recentemente integrato nel suo ecosistema l’intelligenza artificiale avanzata, come il chatbot Bard, basato sul modello linguistico LaMDA, che attinge direttamente a dati aggiornati in rete.
Nonostante gli sforzi per migliorare l’accuratezza e la qualità delle risposte, Google ha respinto le critiche sulla diffusione di fake news da parte di AI Overview, definendo gli studi che ne parlano “viziati da gravi lacune” e non rappresentativi delle reali ricerche degli utenti.