Dentro il filtro di Google: Come il Machine Learning scova le recensioni false

Google non pubblica il suo manuale per il rilevamento delle recensioni false. Ma tra post ufficiali, documenti della FTC e ricerche di esperti, l'architettura è visibile — ed è più sofisticata di quanto si pensi.

Ogni giorno, 20 milioni di contenuti arrivano su Google Maps e Ricerca Google: recensioni, foto, modifiche, suggerimenti. La stragrande maggioranza è autentica. Una frazione misurabile, no. Ordinarli non è un problema risolvibile su scala umana. È un problema di machine learning, e la macchina è diventata molto brava a risolverlo.

Prima di capire come Google filtra le recensioni false, bisogna soffermarsi sui numeri. Venti milioni di contributi degli utenti al giorno. Sono circa 230 al secondo, 24 ore su 24, da ogni fuso orario, lingua e tipo di dispositivo del pianeta. L'idea che dei revisori umani possano elaborare anche solo una frazione di questo volume — per non parlare di applicare un giudizio coerente — è un errore di categoria. Questo problema non sarebbe mai stato risolto da persone.

Ciò che Google ha costruito, invece, è un sistema di applicazione a più livelli che non dorme mai. Nel 2023, ha rimosso 170 milioni di recensioni che violavano le norme, il 45% in più rispetto all'anno precedente. Entro il 2024, quel numero è salito a 240 milioni. La crescita anno su anno non è un segno che vengano scritte più recensioni false (anche se potrebbe essere vero). È un segno che il rilevamento sta migliorando più velocemente delle tecniche di evasione.

La posta in gioco per le aziende è enorme. Uno studio del 2023 pubblicato sul Journal of Business Research ha scoperto che le recensioni false negative colpiscono in modo sproporzionato i ristoranti ad alte prestazioni, minando le attività che più dipendono dalla loro reputazione duramente guadagnata. Dal lato dei venditori, il team legale di Google ha intentato cause legali contro le reti di recensioni false, inclusa un'azione del 2023 contro un operatore del Bangladesh il cui sito Bigboostup.com generava recensioni inventate per aziende locali in tutti gli Stati Uniti.

Perché le aziende vedono ancora recensioni false

Se Google rimuove centinaia di milioni di recensioni false all'anno, perché alcune appaiono ancora? La risposta è la stessa per cui lo spam finisce ancora in alcune caselle di posta nonostante i filtri avanzati: le tecniche di evasione si evolvono e il margine tra falsi positivi (recensioni legittime rimosse per errore) e falsi negativi (recensioni false che sfuggono al controllo) è stretto. Google ottimizza per non rimuovere recensioni autentiche, il che significa che le falsificazioni sofisticate possono persistere più a lungo di quelle ovvie.

Joy Hawkins, fondatrice di Sterling Sky e una delle ricercatrici più rigorose nel campo della SEO locale, ha documentato ampiamente questa asimmetria. Le sue ricerche mostrano che il filtro di Google a volte rimuove gruppi di recensioni legittime, in particolare in categorie come sanità e legge, dove più pazienti o clienti reali possono condividere lo stesso indirizzo IP della sala d'attesa. Il filtro non è perfetto in nessuna delle due direzioni.

Google non ha mai pubblicato un whitepaper tecnico sulla sua architettura di moderazione delle recensioni. Ciò che abbiamo sono post ufficiali sul blog, testimonianze alla FTC e il lavoro deduttivo di ricercatori che hanno osservato il comportamento del sistema sul campo. Insieme, suggeriscono una pipeline a cinque fasi che opera continuamente, in parallelo al normale utilizzo di Maps.

L'intuizione architettonica chiave — che Google ha discusso nella sua serie di blog ufficiali 'Keeping Reviews Authentic' — è che la pipeline non termina con la pubblicazione. Una recensione che supera lo screening iniziale può essere rivalutata giorni o settimane dopo, quando arrivano nuovi dati. Se l'Account A supera la fase di punteggio lunedì, ma giovedì diventa parte di un cluster con altri dodici account che hanno appena attivato una sanzione, le recensioni precedentemente pubblicate dall'Account A vengono inserite in una coda di rivalutazione. Questa applicazione retroattiva è il motivo per cui le aziende a volte vedono sparire le recensioni molto tempo dopo la loro pubblicazione.

Il ruolo degli investigatori umani

I sistemi automatizzati gestiscono i casi ad alto volume e ad alta confidenza. I casi limite — falsi intelligenti che sfruttano lacune statistiche o recensioni legittime che corrispondono a pattern sospetti — vengono inoltrati a investigatori umani. Si tratta di dipendenti di Google che analizzano le prove grezze: screenshot di comunicazioni di truffatori, pattern nelle segnalazioni dei commercianti, analisi forense linguistica. Le loro scoperte vengono reintrodotte nell'addestramento del modello, motivo per cui lo smantellamento della rete di truffa da 5 milioni di recensioni del 2023 è stato possibile: gli investigatori umani hanno caratterizzato il pattern, il modello lo ha appreso e i rilevamenti successivi sono avvenuti automaticamente.

Questo ciclo di feedback è la caratteristica strutturale più importante del sistema. L'obiettivo non è scrivere regole, ma costruire un modello abbastanza sofisticato da aggiornare la propria comprensione di come appare una frode, quasi in tempo reale.

Analisi del contenuto e NLP

Uno dei componenti meno discussi del rilevamento di recensioni false è ciò che accade a livello di testo. I modelli di elaborazione del linguaggio naturale (NLP) possono identificare marcatori linguistici associati a contenuti inventati: superlativi eccessivi, assenza di dettagli specifici, abuso della prima persona, ripetizione di modelli simili su più account. Una ricerca pubblicata sul Journal of Marketing Analytics ha scoperto che le caratteristiche psicolinguistiche — pattern nel carico cognitivo e nel registro emotivo — distinguono le recensioni false da quelle autentiche con alta precisione. I sistemi NLP di Google, potenziati dall'integrazione di Gemini nel 2024, eseguono questa analisi su larga scala.

Google non ha pubblicato un elenco completo dei segnali di rilevamento. Ma attraverso informative ufficiali, documenti della FTC, ricerche di esperti e l'osservazione sistematica di ciò che viene segnalato rispetto a ciò che passa, possiamo ricostruire il set di segnali principali. Dieci segnali sono responsabili della maggior parte delle azioni di enforcement.

Questi dieci segnali sono input ponderati in un modello probabilistico, non una checklist basata su regole. Un singolo segnale raramente attiva una sanzione. Il sistema cerca delle 'costellazioni', ovvero pattern in cui più segnali si rafforzano a vicenda. Un nuovo account che pubblica da un IP condiviso con un linguaggio da modello e senza attività fotografica colpisce quattro segnali contemporaneamente, e quella combinazione produce un punteggio di alta confidenza.

La raffica di account: il pattern più pericoloso per Google

Tra tutti i segnali, il rilevamento di raffiche di account è quello che smantella più costantemente le operazioni di recensioni su larga scala. Quando un venditore crea cinquanta account falsi e li invia a recensire l'attività di un cliente, quegli account — anche se usano dispositivi e IP diversi — spesso condividono metadati di creazione: domini email simili, timestamp di registrazione sequenziali, impostazioni iniziali identiche. Il clustering basato su grafi di Google è stato citato specificamente nelle informative sulla trasparenza del 2023 come la tecnologia dietro la rimozione di 5 milioni di recensioni false da una singola rete di truffa nel giro di poche settimane.

Perché alcune recensioni false riescono ancora a passare

Nessun sistema di rilevamento raggiunge il 100% di recall senza raggiungere anche tassi catastrofici di falsi positivi. Il sistema di Google è calibrato per minimizzare i danni alle recensioni legittime. Ciò significa che una recensione falsa sofisticata — una che utilizza un account autentico e datato, pubblicata da un IP residenziale nella città corretta, con uno storico di recensioni su più attività — può superare lo screening iniziale e persistere per settimane. L'integrazione di Gemini del 2024 nella pipeline mira specificamente a questo problema di 'coda lunga': un'analisi comportamentale profonda che può far emergere sottili incongruenze che anche i modelli statistici non colgono.

Non tutti i tentativi di recensioni false comportano lo stesso rischio di rilevamento. Lo spettro va da tattiche a bassa visibilità che il filtro spesso non nota, a comportamenti ad alto segnale che attivano un'azione quasi automatica. Capire dove si colloca un dato approccio in questo spettro è ciò che separa gli operatori ingenui da quelli sofisticati — e perché il tasso di rilevamento di Google continua a migliorare.

L'implicazione pratica per le aziende: il rischio di rilevamento non è lineare con la quantità. Comprare venti recensioni da un venditore di bassa qualità comporta un rischio esponenzialmente maggiore rispetto a comprarne cinque da una fonte di alta qualità, perché a venti, il solo picco di velocità supera le soglie di rilevamento indipendentemente dalla qualità dell'account. Il volume è la variabile che più di ogni altra fa passare i sistemi dalla modalità 'monitoraggio' a quella di 'applicazione'.

Le descrizioni astratte dei segnali di rilevamento sono utili. Ciò che le rende concrete è vedere come si manifestano in azioni di enforcement specifiche. I quattro casi seguenti sono ricostruiti da registri pubblici, documenti giudiziari e giornalismo — non scenari inventati, ma situazioni documentate in cui il filtro di Google ha identificato e agito su attività di recensioni false.

Un tema costante in tutti e quattro i casi: non è stata la qualità delle singole recensioni a scatenare la sanzione. Sono stati i pattern: velocità, geografia, struttura del grafo degli account, impronta cross-piattaforma. Il sistema non legge le recensioni come farebbe un essere umano. Legge i metadati che le circondano.

Nell'aprile 2024, Google ha annunciato l'integrazione di Gemini — il suo modello linguistico più avanzato — nella pipeline di moderazione di Google Business Profile. Non si è trattato di un aggiornamento minore. Le capacità di Gemini nel ragionamento multi-segnale e nell'analisi di contesti lunghi hanno affrontato la debolezza più persistente del sistema: la sofisticata recensione falsa 'singola'. Dove i modelli precedenti valutavano i segnali in modo indipendente, Gemini poteva ragionare sull'intero contesto del comportamento di un account: i suoi pattern temporali di recensione, la coerenza semantica delle recensioni tra diversi tipi di attività, la plausibilità delle traiettorie di attività.

Il risultato pratico è stato visibile nei numeri: 240 milioni di recensioni false rimosse nel 2024, un aumento del 40% rispetto al 2023. E, cosa fondamentale, un numero maggiore di esse è stato rimosso prima della pubblicazione, prima che qualsiasi utente le vedesse. Il passaggio dalla rimozione reattiva all'intercettazione proattiva è il segno distintivo di un modello più capace. Significa che meno aziende subiscono il picco di recensioni, meno utenti leggono contenuti inventati e l'intero ecosistema si avvicina allo stato che Google desidera.

L'etichetta 'Sospette recensioni false'

Oltre ai miglioramenti algoritmici, il 2024 ha visto Google implementare una nuova funzionalità rivolta ai consumatori: l'etichetta di avvertimento 'sospette recensioni false'. Quando un profilo aziendale mostra pattern anomali — un afflusso improvviso di recensioni da account a bassa credibilità — Maps ora mostra un banner che avvisa i potenziali clienti. La funzione è stata lanciata negli Stati Uniti, nel Regno Unito e in India alla fine del 2024 e ha iniziato il rollout globale a maggio 2025. Rappresenta un cambiamento di politica: dalla pura applicazione alla trasparenza. Anche quando Google non rimuove una recensione, ora può segnalare incertezza sulla sua autenticità al consumatore che la legge.

La traiettoria è inconfondibile. Nel 2021, una campagna di recensioni false sofisticata — account datati, IP residenziali, diffusione geografica varia — aveva una ragionevole possibilità di persistere per mesi. Entro il 2026, la stessa campagna si scontra con l'analisi comportamentale potenziata da Gemini, in grado di far emergere incongruenze invisibili ai modelli precedenti. L'emivita delle recensioni false diminuisce ogni anno. E le conseguenze collaterali — 'prigione delle recensioni', sanzioni agli account, esposizione alla FTC — sono in aumento.

Comprendere l'architettura di rilevamento di Google cambia i calcoli per qualsiasi azienda che stia pensando all'acquisizione di recensioni. Il filtro non cerca recensioni che 'sembrano false'. Cerca pattern innaturali. Questa distinzione è enormemente importante, perché molte aziende che non hanno mai acquistato una recensione falsa vedono comunque filtrate recensioni legittime, mentre alcune campagne di recensioni false sofisticate persistono temporaneamente.

L'implicazione è che la strategia di acquisizione di recensioni dovrebbe essere ottimizzata per la naturalezza a livello di pattern, non di contenuto. Una recensione che si legge perfettamente è inutile se l'account che la pubblica attiva un picco di velocità o non supera un controllo di coerenza geografica. Il segnale a cui Google tiene di più non è 'questa recensione sembra vera?', ma 'l'intero comportamento digitale di questo recensore ha senso per un cliente reale?'

Perché la velocità delle recensioni autentiche conta più del volume

La scoperta più duratura dallo studio del rilevamento di recensioni false di Google è questa: la velocità controlla più rischio di sanzione di qualsiasi altra singola variabile. Un'azienda che riceve 50 recensioni autentiche in 6 mesi non corre alcun rischio di rilevamento, indipendentemente da come ha incoraggiato quelle recensioni. Un'azienda che riceve 50 recensioni in una settimana — anche se tutte autentiche — può attivare il rilevamento di anomalie e vederne alcune filtrate. L'algoritmo non ha accesso alle interazioni reali che hanno generato una recensione. Ne deduce la legittimità dalla plausibilità statistica del pattern. Una velocità costante e naturale è il pattern che la generazione di recensioni legittime dovrebbe produrre.

Il circolo virtuoso delle recensioni autentiche

C'è un vantaggio cumulativo nel costruire una base di recensioni autentiche. Gli account con un'ampia attività su Maps e uno storico di recensioni su più attività segnalano legittimità a livello di grafo: quando recensiscono la tua attività, il loro contributo ha più peso ed è meno probabile che venga filtrato. Questo è precisamente il motivo per cui i servizi di acquisizione di recensioni che utilizzano account 'recensori' dedicati — account senza storico oltre alle recensioni false — falliscono così sistematicamente. Sono algoritmicamente trasparenti. Il vero vantaggio commerciale delle recensioni autentiche non è solo evitare sanzioni. È che gli account autentici generano segnali di recensione che si accumulano nel tempo, mentre gli account falsi producono segnali che si degradano sotto esame.

Risposte dirette alle domande che la documentazione dell'algoritmo di Google non fornisce, basate su informative pubbliche, ricerche di esperti e comportamento documentato del sistema.