За лаштунками фільтра відгуків Google: як машинне навчання виявляє фейки

Google не публікує інструкцій щодо виявлення фейкових відгуків. Але завдяки офіційним блогам, документам FTC та дослідженням експертів, архітектура системи стає видимою — і вона набагато складніша, ніж більшість собі уявляє.

Щодня до Google Maps та Пошуку надходить 20 мільйонів одиниць контенту — відгуки, фотографії, редагування, пропозиції. Переважна більшість із них справжні. Але значна частина — ні. Сортування цього потоку — задача не для людей. Це задача для машинного навчання, і машина навчилася її вирішувати дуже добре.

Перш ніж зрозуміти, як Google фільтрує фейкові відгуки, потрібно усвідомити цифри. Двадцять мільйонів внесків користувачів щодня. Це приблизно 230 на секунду, цілодобово, з усіх часових поясів, мов та типів пристроїв на Землі. Ідея, що люди-рецензенти могли б обробити хоча б частину цього обсягу — не кажучи вже про застосування послідовних критеріїв — є категоричною помилкою. Цю проблему ніколи не можна було вирішити силами людей.

Натомість Google створив багаторівневу систему правозастосування, яка ніколи не спить. У 2023 році вона видалила 170 мільйонів відгуків, що порушували політику — на 45% більше, ніж роком раніше. До 2024 року ця цифра зросла до 240 мільйонів. Зростання з року в рік не є ознакою того, що пишеться більше фейкових відгуків (хоча це теж може бути правдою). Це ознака того, що виявлення покращується швидше, ніж методи ухилення.

Ставки для бізнесу величезні. Дослідження 2023 року, опубліковане в Journal of Business Research, показало, що негативні фейкові відгуки непропорційно націлені на успішні ресторани, підриваючи бізнеси, які найбільше залежать від своєї важко заробленої репутації. З боку продавців, власна юридична команда Google подала позови проти мереж фейкових відгуків — включно з позовом 2023 року проти бангладешського оператора, чий сайт Bigboostup.com генерував сфабриковані відгуки для місцевих бізнесів по всій території США.

Чому бізнеси все ще бачать фейкові відгуки

Якщо Google видаляє сотні мільйонів фейкових відгуків на рік, чому деякі все ще з'являються? Відповідь та сама, чому спам все ще потрапляє в деякі поштові скриньки, незважаючи на передові фільтри: методи ухилення розвиваються, а межа між хибно-позитивними (справжні відгуки, видалені помилково) та хибно-негативними спрацьовуваннями (фейкові відгуки, що прослизнули) є вузькою. Google оптимізує систему так, щоб не видаляти справжні відгуки, а це означає, що складні фейки можуть існувати довше, ніж очевидні.

Джой Хокінс, засновниця Sterling Sky та одна з найретельніших дослідниць у місцевому SEO, детально задокументувала цю асиметрію. Її дослідження показують, що фільтр Google іноді видаляє кластери справжніх відгуків — особливо в таких категоріях, як охорона здоров'я та юриспруденція, де кілька реальних пацієнтів або клієнтів можуть використовувати одну IP-адресу в залі очікування. Фільтр не є ідеальним в жодному напрямку.

Google ніколи не публікував технічної документації про архітектуру модерації відгуків. Все, що ми маємо, — це офіційні дописи в блогах, свідчення для FTC та дедуктивна робота дослідників, які спостерігали за поведінкою системи в реальних умовах. Разом вони вказують на п'ятиетапний конвеєр, що працює безперервно, паралельно зі звичайним використанням Maps.

Ключова архітектурна ідея, яку Google обговорював у своїй офіційній серії блогів 'Зберігаючи автентичність відгуків', полягає в тому, що конвеєр не закінчується на публікації. Відгук, що пройшов початкову перевірку, може бути переоцінений через дні або тижні, коли надійдуть нові дані. Якщо Акаунт А проходить етап оцінки в понеділок, але в четвер стає частиною кластера з дванадцятьма іншими акаунтами, які щойно спровокували санкції, раніше опубліковані відгуки Акаунту А потрапляють у чергу на переоцінку. Саме через це ретроактивне застосування санкцій бізнеси іноді бачать, як відгуки зникають через довгий час після публікації.

Роль фахівців з розслідувань

Автоматизовані системи обробляють великі обсяги справ з високим рівнем впевненості. Граничні випадки — розумні фейки, що використовують статистичні прогалини, або справжні відгуки, що відповідають підозрілим патернам — направляються до людей-слідчих. Це співробітники Google, які аналізують необроблені докази: скріншоти комунікацій шахраїв, патерни у звітах від продавців, лінгвістичну експертизу. Їхні висновки повертаються в систему для тренування моделей, і саме тому в 2023 році стало можливим викриття шахрайської мережі з 5 мільйонами відгуків: люди-слідчі схарактеризували патерн, модель його вивчила, і подальші виявлення відбувалися автоматично.

Цей цикл зворотного зв'язку є найважливішою структурною особливістю системи. Мета не в тому, щоб писати правила, а в тому, щоб створити модель, достатньо складну, щоб вона оновлювала власне розуміння того, як виглядає шахрайство, майже в реальному часі.

Аналіз контенту та NLP

Одним з менш обговорюваних компонентів виявлення фейкових відгуків є те, що відбувається на рівні тексту. Моделі обробки природної мови (NLP) можуть ідентифікувати лінгвістичні маркери, пов'язані зі сфабрикованим контентом: надмірне використання найвищих ступенів порівняння, відсутність конкретних деталей, зловживання першою особою, шаблонна повторюваність між акаунтами. Дослідження, опубліковане в Journal of Marketing Analytics, показало, що психолінгвістичні особливості — патерни в когнітивному навантаженні та емоційному регістрі — з високою точністю відрізняють фейкові відгуки від справжніх. Власні NLP-системи Google, підсилені інтеграцією Gemini у 2024 році, виконують цей аналіз у великих масштабах.

Google не публікував повного списку сигналів виявлення. Але завдяки офіційним заявам, документам FTC, дослідженням експертів та систематичному спостереженню за тим, що позначається, а що прослизає, ми можемо реконструювати основний набір сигналів. Десять сигналів відповідають за більшість застосованих санкцій.

Ці десять сигналів є зваженими вхідними даними для ймовірнісної моделі, а не чек-листом на основі правил. Один сигнал рідко призводить до санкцій. Система шукає сузір'я — патерни, де кілька сигналів підсилюють один одного. Новий акаунт, що публікує відгук зі спільного IP з шаблонною мовою та без фотографій, одночасно активує чотири сигнали, і ця комбінація дає високий бал впевненості.

Патерн 'вибуху' акаунтів — найнебезпечніший для Google

Серед усіх сигналів, виявлення 'вибуху' акаунтів є тим, що найпослідовніше руйнує масштабні операції з відгуками. Коли постачальник створює п'ятдесят фейкових акаунтів і відправляє їх залишати відгуки для бізнесу клієнта, ці акаунти — навіть якщо вони використовують різні пристрої та IP — часто мають спільні метадані створення: схожі домени email, послідовні часові мітки реєстрації, ідентичні початкові налаштування. Кластеризація на основі графів була спеціально згадана у звітах про прозорість компанії за 2023 рік як технологія, що стоїть за видаленням 5 мільйонів фейкових відгуків від однієї шахрайської мережі протягом кількох тижнів.

Чому деякі фейки все ще прослизають

Жодна система виявлення не досягає 100% повноти без катастрофічних показників хибно-позитивних спрацьовувань. Система Google налаштована на мінімізацію шкоди для справжніх відгуків. Це означає, що складний фейк — той, що використовує справжній 'старий' акаунт, публікує з житлового IP у правильному місті, з історією відгуків про різні бізнеси — може пройти початкову перевірку і протриматися тижнями. Інтеграція Gemini в конвеєр у 2024 році спеціально спрямована на цю довгохвосту проблему: глибокий поведінковий аналіз, який може виявити тонкі невідповідності, які пропускають навіть статистичні моделі.

Не всі спроби залишити фейковий відгук несуть однаковий ризик виявлення. Спектр простягається від тактик з низькою видимістю, які фільтр часто пропускає, до поведінки з високим рівнем сигналів, що запускає майже автоматичні санкції. Розуміння того, де певний підхід знаходиться на цьому спектрі, відрізняє наївних операторів від досвідчених — і пояснює, чому рівень виявлення Google продовжує зростати.

Практичний висновок для бізнесу: ризик виявлення не є лінійним до кількості. Купівля двадцяти відгуків у низькоякісного постачальника несе експоненційно більший ризик, ніж купівля п'яти у високоякісного джерела — тому що при двадцяти сам стрибок швидкості перевищує пороги виявлення незалежно від якості акаунтів. Обсяг — це змінна, яка найнадійніше перемикає системи з режиму 'моніторинг' в режим 'застосування санкцій'.

Абстрактні описи сигналів виявлення корисні. Але конкретними їх робить бачення того, як вони проявляються в конкретних санкціях. Чотири кейси нижче реконструйовані з публічних записів, судових документів та журналістських матеріалів — це не вигадані сценарії, а задокументовані ситуації, де фільтр Google ідентифікував та вжив заходів щодо фейкових відгуків.

Спільна тема у всіх чотирьох випадках: санкції спровокувала не якість окремих відгуків. Це були патерни — швидкість, географія, структура графа акаунтів, міжплатформний слід. Система не читає відгуки так, як це робить людина. Вона читає метадані навколо них.

У квітні 2024 року Google оголосив про інтеграцію Gemini — своєї найсучаснішої мовної моделі — в конвеєр модерації Google Business Profile. Це було не незначне оновлення. Можливості Gemini в багатосигнальному міркуванні та аналізі довгого контексту вирішили найстійкішу слабкість системи: складний одиночний фейк. Якщо попередні моделі оцінювали сигнали незалежно, Gemini може міркувати в повному контексті поведінки акаунта — його патерни часу публікації відгуків, семантична узгодженість відгуків для різних типів бізнесу, правдоподібність траєкторій активності.

Практичний результат був помітний у цифрах: 240 мільйонів фейкових відгуків видалено у 2024 році, що на 40% більше, ніж у 2023. І що критично, більше з них видалено до публікації — до того, як їх побачить будь-який користувач. Перехід від реактивного видалення до проактивного перехоплення є ознакою більш здатної моделі. Це означає, що менше бізнесів стикаються зі стрибками відгуків; менше користувачів читають сфабрикований контент; вся екосистема наближається до стану, якого прагне Google.

Позначка 'Підозрілі фейкові відгуки'

Поряд з алгоритмічними покращеннями, у 2024 році Google розгорнув нову функцію для споживачів: попереджувальну позначку 'підозрілі фейкові відгуки'. Коли профіль компанії показує аномальні патерни — раптовий наплив відгуків від акаунтів з низькою довірою — Maps тепер відображає банер, що попереджає потенційних клієнтів. Функція була запущена в США, Великій Британії та Індії наприкінці 2024 року і почала глобальне розгортання в травні 2025 року. Це свідчить про зміну політики: від чистого правозастосування до прозорості. Навіть коли Google не видаляє відгук, він тепер може сигналізувати про невпевненість у його автентичності споживачеві, який його читає.

Траєкторія безпомилкова. У 2021 році складна кампанія з фейковими відгуками — 'старі' акаунти, житлові IP, різноманітне географічне поширення — мала непогані шанси протриматися місяцями. До 2026 року та ж сама кампанія стикається з поведінковим аналізом на базі Gemini, який може виявити невідповідності, невидимі для попередніх моделей. Період напіврозпаду фейкових відгуків скорочується щороку. А побічні наслідки — 'в'язниця для відгуків', санкції для акаунтів, ризик від FTC — зростають.

Розуміння архітектури виявлення Google змінює розрахунки для будь-якого бізнесу, що думає про залучення відгуків. Фільтр не шукає відгуки, які 'звучать як фейкові'. Він шукає неприродні патерни. Ця відмінність має величезне значення — тому що багато бізнесів, які ніколи не купували фейкові відгуки, все одно стикаються з фільтрацією справжніх, тоді як деякі складні фейкові кампанії тимчасово залишаються.

Висновок полягає в тому, що стратегія залучення відгуків повинна бути оптимізована для природності на рівні патернів, а не контенту. Ідеально написаний відгук марний, якщо акаунт, що його публікує, викликає стрибок швидкості або не проходить перевірку географічної узгодженості. Сигнал, на який Google звертає найбільшу увагу, це не 'чи звучить цей відгук як справжній', а 'чи має вся цифрова поведінка цього рецензента сенс для справжнього клієнта'.

Чому автентична швидкість відгуків важливіша за їх кількість

Найстійкіший висновок з вивчення системи виявлення фейкових відгуків Google такий: швидкість контролює більше ризику санкцій, ніж будь-яка інша окрема змінна. Бізнес, який отримує 50 справжніх відгуків протягом 6 місяців, не стикається з ризиком виявлення, незалежно від того, як він заохочував ці відгуки. Бізнес, який отримує 50 відгуків за тиждень — навіть якщо всі вони справжні — може спровокувати виявлення аномалій і побачити, що деякі з них відфільтровано. Алгоритм не має доступу до реальних взаємодій, що породили відгук. Він робить висновок про легітимність зі статистичної правдоподібності патерну. Стабільна, природна швидкість — це патерн, який має створювати легітимна генерація відгуків.

Доброчесне коло справжніх відгуків

Існує накопичувальна перевага у створенні бази справжніх відгуків. Акаунти з широкою активністю в Maps та історією відгуків про різні бізнеси сигналізують про легітимність на рівні графа — коли вони залишають відгук про ваш бізнес, їхній внесок має більшу вагу і меншу ймовірність бути відфільтрованим. Саме тому сервіси залучення відгуків, що використовують спеціалізовані акаунти 'рецензентів' — акаунти без історії, крім фейкових відгуків — зазнають таких систематичних невдач. Вони алгоритмічно прозорі. Справжній бізнес-кейс для автентичних відгуків — це не просто уникнення санкцій. Це те, що справжні акаунти генерують сигнали відгуків, які з часом накопичуються, тоді як фейкові акаунти створюють сигнали, що розпадаються під пильним наглядом.

Прямі відповіді на запитання, яких немає в документації алгоритму Google — на основі публічних заяв, досліджень експертів та задокументованої поведінки системи.