A Google véleményszűrőjének titkai: Hogyan ismeri fel a gépi tanulás a hamis értékeléseket

A Google nem teszi közzé a hamis véleményeket felderítő rendszerének működési elveit. Azonban a hivatalos blogbejegyzések, FTC beadványok és szakértői kutatások alapján a felépítése láthatóvá válik – és sokkal kifinomultabb, mint azt a legtöbben gondolnák.

Minden nap 20 millió tartalom érkezik a Google Térképre és a Keresőbe – vélemények, fotók, szerkesztések, javaslatok. A túlnyomó többségük valódi. Egy mérhető hányaduk azonban nem. Ezek szétválogatása nem emberi léptékű feladat. Ez egy gépi tanulási probléma, és a gép már nagyon jó lett benne.

Mielőtt megértenénk, hogyan szűri a Google a hamis véleményeket, érdemes elgondolkodni a számokon. Húszmillió felhasználói hozzájárulás naponta. Ez másodpercenként nagyjából 230, éjjel-nappal, a Föld minden időzónájából, nyelvéről és eszköztípusáról. Az az elképzelés, hogy emberi ellenőrök ennek a mennyiségnek akár a töredékét is feldolgozhatnák – nem is beszélve a következetes ítélkezésről – kategóriahiba. Ezt a problémát soha nem emberek fogják megoldani.

Amit a Google helyette épített, az egy többrétegű, soha nem alvó végrehajtási rendszer. 2023-ban 170 millió, irányelveket sértő véleményt távolított el – 45%-kal többet, mint az előző évben. 2024-re ez a szám 240 millióra nőtt. Az évről évre történő növekedés nem azt jelzi, hogy több hamis vélemény születik (bár ez is igaz lehet). Azt jelzi, hogy a felderítés gyorsabban fejlődik, mint a kijátszás.

Az üzleti kockázat óriási. A Journal of Business Research folyóiratban 2023-ban megjelent tanulmány szerint a negatív hamis vélemények aránytalanul nagy mértékben célozzák a jól teljesítő éttermeket, aláásva azoknak a vállalkozásoknak a nehezen megszerzett hírnevét, amelyek a leginkább függenek ettől. Az eladói oldalon a Google saját jogi csapata indított pereket hamis véleményhálózatok ellen – köztük egy 2023-as eljárást egy bangladesi üzemeltető ellen, akinek Bigboostup.com oldala hamisított véleményeket generált amerikai helyi vállalkozások számára.

Miért látnak a vállalkozások mégis hamis véleményeket?

Ha a Google évente több százmillió hamis véleményt távolít el, miért jelennek meg mégis némelyek? A válasz ugyanaz, amiért a spam még mindig bekerül egyes postafiókokba a fejlett szűrők ellenére: a kijátszási technikák fejlődnek, és a téves pozitív (tévesen eltávolított valódi vélemények) és a téves negatív (átcsúszó hamis vélemények) közötti határvonal vékony. A Google arra optimalizál, hogy ne távolítson el valódi véleményeket, ami azt jelenti, hogy a kifinomult hamisítványok tovább maradhatnak fenn, mint a nyilvánvalóak.

Joy Hawkins, a Sterling Sky alapítója és a helyi SEO egyik legszigorúbb kutatója, részletesen dokumentálta ezt az aszimmetriát. Kutatásai azt mutatják, hogy a Google szűrője néha valódi vélemények csoportjait is eltávolítja – különösen olyan kategóriákban, mint az egészségügy és a jog, ahol több valódi páciens vagy ügyfél osztozhat egy várótermi IP-címen. A szűrő egyik irányban sem tökéletes.

A Google soha nem tett közzé műszaki tanulmányt a vélemény-moderálási architektúrájáról. Amink van, azok hivatalos blogbejegyzések, FTC tanúvallomások és olyan kutatók deduktív munkája, akik a rendszer viselkedését a gyakorlatban figyelték meg. Ezek együttesen egy ötlépcsős folyamatot sugallnak, amely folyamatosan, a normál Térkép-használattal párhuzamosan működik.

A kulcsfontosságú architekturális felismerés – amelyet a Google a hivatalos „Keeping Reviews Authentic” blogsorozatában is tárgyalt –, hogy a folyamat nem ér véget a közzététellel. Egy kezdeti szűrésen átjutott véleményt napokkal vagy hetekkel később újraértékelhetnek, amikor új adatok érkeznek. Ha az A fiók hétfőn átmegy a pontozási szakaszon, de csütörtökön egy olyan klaszter részévé válik, amely tizenkét másik, éppen végrehajtást kiváltó fiókot tartalmaz, az A fiók korábban közzétett véleményei bekerülnek egy újraértékelési sorba. Ez a visszamenőleges végrehajtás az oka annak, hogy a vállalkozások néha azt látják, hogy a vélemények jóval a közzétételük után tűnnek el.

Az emberi vizsgálók szerepe

Az automatizált rendszerek kezelik a nagy volumenű, nagy megbízhatóságú eseteket. A határesetek – az okos hamisítványok, amelyek kihasználják a statisztikai hiányosságokat, vagy a gyanús mintázatoknak megfelelő valódi vélemények – emberi vizsgálókhoz kerülnek. Ők a Google alkalmazottai, akik elemzik a nyers bizonyítékokat: képernyőképeket a csalók kommunikációjáról, mintázatokat a kereskedői jelentésekben, nyelvi kriminalisztikát. Eredményeik visszacsatolódnak a modell tanításába, ezért volt lehetséges az 5 millió véleményből álló csalóhálózat 2023-as felszámolása: az emberi vizsgálók jellemezték a mintázatot, a modell megtanulta azt, és a későbbi felderítések automatikusan történtek.

Ez a visszacsatolási hurok a rendszer legfontosabb szerkezeti eleme. A cél nem a szabályok írása, hanem egy olyan kifinomult modell építése, amely közel valós időben frissíti saját megértését arról, hogy hogyan néz ki a csalás.

Tartalomelemzés és NLP

A hamis vélemények felderítésének egyik kevésbé tárgyalt összetevője az, ami a szöveg szintjén történik. A természetesnyelv-feldolgozó modellek azonosíthatják a hamisított tartalomhoz kapcsolódó nyelvi jeleket: túlzó szuperlatívuszokat, a konkrét részletek hiányát, az első személy túlzott használatát, a sablonszerű ismétlődést a fiókok között. A Journal of Marketing Analytics folyóiratban megjelent kutatás szerint a pszicholingvisztikai jellemzők – a kognitív terhelés és az érzelmi regiszter mintázatai – nagy pontossággal különböztetik meg a hamis véleményeket a valódiaktól. A Google saját NLP rendszerei, amelyeket 2024-ben a Gemini integrációja erősített, ezt az elemzést nagy léptékben végzik.

A Google nem tett közzé teljes listát a felderítési jelzésekről. De a hivatalos közlések, FTC beadványok, szakértői kutatások és annak szisztematikus megfigyelése révén, hogy mi kerül megjelölésre és mi csúszik át, rekonstruálhatjuk az alapvető jelzéskészletet. Tíz jelzés felelős a végrehajtási intézkedések többségéért.

Ez a tíz jelzés súlyozott bemenet egy valószínűségi modellbe, nem pedig egy szabályalapú ellenőrzőlista. Egyetlen jelzés ritkán vált ki végrehajtást. A rendszer konstellációkat keres – olyan mintázatokat, ahol több jelzés erősíti egymást. Egy új fiók, amely megosztott IP-címről, sablonnyelvezettel és fotóaktivitás nélkül posztol, egyszerre négy jelzést is teljesít, és ez a kombináció magas megbízhatósági pontszámot eredményez.

A fióklétrehozási hullám – a Google legveszélyesebb mintázata

Az összes jelzés közül a fióklétrehozási hullámok felderítése az, amely a legkövetkezetesebben számolja fel a nagyszabású véleményezési műveleteket. Amikor egy szolgáltató ötven hamis fiókot hoz létre, és elküldi őket egy ügyfél vállalkozásának értékelésére, ezek a fiókok – még ha különböző eszközöket és IP-címeket is használnak – gyakran közös létrehozási metaadatokkal rendelkeznek: hasonló e-mail domainek, egymást követő regisztrációs időbélyegek, azonos kezdeti beállítások. A Google gráfalapú klaszterezését kifejezetten megemlítették a cég 2023-as átláthatósági jelentéseiben, mint azt a technológiát, amely mögött egyetlen csalóhálózatból 5 millió hamis vélemény eltávolítása állt néhány hét leforgása alatt.

Miért csúszik át mégis néhány hamisítvány?

Egyetlen felderítő rendszer sem ér el 100%-os visszahívást anélkül, hogy katasztrofális téves pozitív arányokat produkálna. A Google rendszere úgy van kalibrálva, hogy minimalizálja a valódi véleményeknek okozott kárt. Ez azt jelenti, hogy egy kifinomult hamisítvány – amely egy valódi, régi fiókot használ, egy helyes városban lévő lakossági IP-címről posztol, több vállalkozásra kiterjedő véleményelőzményekkel – átjuthat a kezdeti szűrésen és hetekig fennmaradhat. A Gemini 2024-es integrációja a folyamatba kifejezetten ezt a hosszú farok problémát célozza: a mély viselkedéselemzés felszínre hozhatja azokat a finom következetlenségeket, amelyeket még a statisztikai modellek is elvétenek.

Nem minden hamis véleményezési kísérlet hordoz egyenlő felderítési kockázatot. A spektrum az alacsony láthatóságú taktikáktól, amelyeket a szűrő gyakran elvét, egészen a magas jelzésértékű viselkedésekig terjed, amelyek szinte automatikus végrehajtást váltanak ki. Annak megértése, hogy egy adott megközelítés hova esik ezen a spektrumon, választja el a naiv operátorokat a kifinomultaktól – és ezért javul a Google felderítési aránya évről évre.

A gyakorlati következmény a vállalkozások számára: a felderítési kockázat nem lineáris a mennyiséggel. Húsz vélemény vásárlása egy alacsony minőségű szolgáltatótól exponenciálisan nagyobb kockázatot hordoz, mint öt vásárlása egy magas minőségű forrásból – mert húsznál már önmagában a sebességkiugrás is meghaladja a felderítési küszöböt, a fiók minőségétől függetlenül. A mennyiség az a változó, amely a legmegbízhatóbban billenti át a rendszereket a 'figyelés' állapotból a 'végrehajtás' állapotba.

A felderítési jelzések elvont leírásai hasznosak. Ami konkréttá teszi őket, az az, ha látjuk, hogyan nyilvánulnak meg konkrét végrehajtási intézkedésekben. Az alábbi négy eset nyilvános feljegyzésekből, bírósági dokumentumokból és újságcikkekből van rekonstruálva – nem kitalált forgatókönyvek, hanem dokumentált helyzetek, ahol a Google szűrője azonosította a hamis véleményezési tevékenységet és fellépett ellene.

Mind a négy esetben következetes téma: nem az egyes vélemények minősége váltotta ki a végrehajtást. Hanem a mintázatok – sebesség, földrajz, fiókgráf-struktúra, platformokon átívelő lábnyom. A rendszer nem úgy olvassa a véleményeket, mint egy ember. Az őket körülvevő metaadatokat olvassa.

2024 áprilisában a Google bejelentette a Gemini – a legfejlettebb nyelvi modellje – integrálását a Google Vállalkozásprofil moderálási folyamatába. Ez nem egy kisebb frissítés volt. A Gemini képességei a több jelzésből való következtetésben és a hosszú kontextus elemzésében a rendszer legmakacsabb gyengeségét orvosolták: a kifinomult, egyedi hamisítványt. Míg a korábbi modellek a jelzéseket egymástól függetlenül értékelték, a Gemini képes volt egy fiók viselkedésének teljes kontextusában gondolkodni – a véleményezési időzítési mintázatokban, a különböző üzlettípusokra adott vélemények szemantikai koherenciájában, a tevékenységi pályák hihetőségében.

A gyakorlati eredmény a számokban is látható volt: 240 millió hamis véleményt távolítottak el 2024-ben, ami 40%-os növekedés 2023-hoz képest. És ami kritikus, többet távolítottak el közzététel előtt – mielőtt bármely felhasználó láthatná őket. A reaktív eltávolításról a proaktív elfogásra való áttérés egy képességesebb modell ismérve. Ez azt jelenti, hogy kevesebb vállalkozás tapasztalja meg a vélemény-kiugrást; kevesebb felhasználó olvas hamisított tartalmat; az egész ökoszisztéma közelebb kerül a Google által kívánt állapothoz.

A 'Gyanús hamis vélemények' címke

Az algoritmikus fejlesztések mellett 2024-ben a Google egy új, fogyasztóknak szánt funkciót is bevezetett: a 'gyanús hamis vélemények' figyelmeztető címkét. Amikor egy vállalkozás profilja anomális mintázatokat mutat – hirtelen beáramló vélemények alacsony hitelességű fiókoktól –, a Térkép most egy szalaghirdetéssel figyelmezteti a potenciális ügyfeleket. A funkció 2024 végén indult az Egyesült Államokban, az Egyesült Királyságban és Indiában, és 2025 májusában kezdődött a globális bevezetése. Ez egy politikai váltást jelent: a tiszta végrehajtástól az átláthatóság felé. Még ha a Google nem is távolít el egy véleményt, most már jelezheti annak hitelességével kapcsolatos bizonytalanságát az olvasó fogyasztó felé.

A pálya egyértelmű. 2021-ben egy kifinomult hamis véleménykampánynak – régi fiókok, lakossági IP-címek, változatos földrajzi eloszlás – reális esélye volt hónapokig fennmaradni. 2026-ra ugyanez a kampány Gemini-alapú viselkedéselemzéssel néz szembe, amely a korábbi modellek számára láthatatlan következetlenségeket is felszínre hozhat. A hamis vélemények felezési ideje évről évre csökken. A járulékos következmények pedig – véleménybörtön, fiókbüntetések, FTC-kitettség – növekednek.

A Google felderítési architektúrájának megértése megváltoztatja a számításokat minden olyan vállalkozás számára, amely a véleményszerzésen gondolkodik. A szűrő nem 'hamisnak hangzó' véleményeket keres. Természetellenes mintázatokat keres. Ez a megkülönböztetés rendkívül fontos – mert sok olyan vállalkozás, amely soha nem vásárolt hamis véleményt, mégis szűrt valódi véleményekkel találkozik, míg néhány kifinomult hamis kampány ideiglenesen fennmarad.

A következtetés az, hogy a véleménygyűjtési stratégiát a mintázat szintjén kell a természetességre optimalizálni, nem a tartalom szintjén. Egy tökéletesen hangzó vélemény haszontalan, ha a posztoló fiók sebességkiugrást vált ki, vagy megbukik egy földrajzi konzisztencia-ellenőrzésen. A jelzés, amely a Google-t a leginkább érdekli, nem az, hogy 'valódinak hangzik-e ez a vélemény' – hanem az, hogy 'ennek a véleményezőnek a teljes digitális viselkedése ésszerű-e egy valódi ügyfél számára.'

Miért számít a hiteles véleményezési sebesség jobban, mint a mennyiség

A Google hamis véleményfelismerésének tanulmányozásából származó legmaradandóbb megállapítás a következő: a sebesség nagyobb végrehajtási kockázatot szabályoz, mint bármely más egyedi változó. Egy vállalkozás, amely 6 hónap alatt 50 valódi véleményt kap, nem néz szembe felderítési kockázattal, függetlenül attól, hogyan ösztönözte ezeket a véleményeket. Egy vállalkozás, amely egy hét alatt 50 véleményt kap – még ha mind valódi is –, anomália-észlelést válthat ki, és néhányat szűrhetnek. Az algoritmus nem fér hozzá a véleményt generáló tényleges interakciókhoz. A legitimitást a mintázat statisztikai hihetőségéből következteti ki. Az egyenletes, természetes sebesség az a mintázat, amelyet a legitim véleménygenerálásnak kellene produkálnia.

A hiteles vélemények pozitív körforgása

A valódi véleménybázis építésének halmozódó előnye van. A széles körű Térkép-tevékenységgel és több vállalkozásra kiterjedő véleményelőzményekkel rendelkező fiókok a gráf szintjén jelzik a legitimitást – amikor az Ön vállalkozását értékelik, hozzájárulásuk nagyobb súllyal bír, és kevésbé valószínű, hogy szűrik. Pontosan ezért buknak el olyan szisztematikusan a dedikált 'véleményező' fiókokat használó véleményszerző szolgáltatások – olyan fiókok, amelyeknek a hamis véleményeken túl nincs előzményük. Algoritmikusan átlátszóak. A hiteles vélemények valódi üzleti haszna nem csupán a végrehajtás elkerülése. Hanem az, hogy a valódi fiókok olyan véleményjelzéseket generálnak, amelyek idővel halmozódnak, míg a hamis fiókok olyan jeleket produkálnak, amelyek a vizsgálat során elenyésznek.

Közvetlen válaszok azokra a kérdésekre, amelyeket a Google algoritmusának dokumentációja nem ad meg – nyilvános közlések, szakértői kutatások és dokumentált rendszer-viselkedés alapján.