Недавно один журналист BBC провёл на первый взгляд нелепый эксперимент, чтобы показать по-настоящему серьёзную проблему. Всего за 20 минут он сумел подтолкнуть ChatGPT и Google к тому, чтобы они «сообщили» публике, будто он — чемпион мира по спортивному поеданию хот-догов.
Самое тревожное в том, что для этого не понадобились никакие сложные технические навыки. Он просто опубликовал один тщательно продуманный пост в личном блоге — и ИИ воспринял его как источник истины.
Это стало частью расследования, показавшего, что ChatGPT, Gemini и Google’s AI Overviews можно склонить к выдаче предвзятых ответов — в том числе по темам, которые напрямую затрагивают здоровье и личные финансы.
По словам специалистов, подобные манипуляции происходят масштабно и системно: недобросовестные компании используют это, чтобы продвигать сомнительные советы о здоровье, тенденциозные финансовые сведения и другое вводящее в заблуждение содержание.
Механика обмана: почему ИИ так легко убедить
Когда вы задаёте вопрос AI chatbot, он нередко ищет ответ в интернете, а не опирается только на встроенные знания. Именно здесь и начинается риск. По оценкам SEO-экспертов, ИИ-инструменты иногда берут информацию всего с одной веб-страницы или публикации в social media, поэтому их относительно просто обмануть.
«Нужно исходить из того, что вами манипулируют, пока у них не появятся более надёжные системы», — говорит Лили Рэй, основатель консалтинга по AI-поиску Algorythmic. «ИИ выдаёт один ответ, и людям становится слишком легко воспринимать его как данность».
На мероприятии Google I/O 2026 компания сделала акцент на демонстрации своего ИИ-поиска, который со временем должен заменить привычный Google Search последних десятилетий. Видя, насколько просто заставить такую систему выдавать неверные ответы, я отношусь к ней ещё осторожнее, чем раньше.
Есть ли контрмеры и кто за это отвечает
После BBC’s investigation Google обновил правила по спаму и прямо указал, что попытки влиять на ответы ИИ нарушают политику компании. Сайты, уличённые в подобных практиках, могут быть удалены из выдачи или серьёзно понижены в Google Search. Параллельно заметно, что Google и ChatGPT также «тихо» ограничивают саморекламу в ИИ-ответах.
Однако, по словам Рэй, он повторил тот же трюк уже на этой неделе: на этот раз «убедил» Google, будто его друг — лучший мастер по строительству песочных замков, и Google снова поверил. Это показывает, что проблема далека от решения и работы ещё очень много.
Пока не появятся более надёжные механизмы проверки, рекомендация экспертов проста: не воспринимайте ответы ИИ как окончательную истину, особенно если речь идёт о медицине, финансах или важных жизненных решениях.
