Недавно один журналист BBC провел **на первый взгляд нелепый эксперимент**, чтобы доказать по-настоящему важную вещь. Всего за 20 минут он сумел «убедить» ChatGPT и Google в том, что он — **чемпион мира по спортивному поеданию хот-догов**, и что эту информацию можно выдавать публике.
Самое тревожное в том, что для результата не потребовались никакие сложные технические приемы. Он просто опубликовал один грамотно написанный пост в личном блоге, а ИИ воспринял его как надежный источник фактов.
Этот эпизод стал частью расследования, которое показало, что ChatGPT, Gemini и Google’s AI Overviews можно направлять к предвзятым выводам даже по таким чувствительным темам, как здоровье и личные финансы.
По словам специалистов, подобная манипуляция носит **массовый и системный характер**: недобросовестные компании используют уязвимость, чтобы продвигать сомнительные советы о здоровье, искаженные финансовые рекомендации и прочую дезинформацию.
Механика манипуляций: откуда ИИ берет «факты»?
Когда вы задаете вопрос AI chatbot, он нередко ищет информацию в сети вместо того, чтобы опираться на собственные знания. Именно здесь возникает риск. Как отмечают SEO-эксперты, такие инструменты способны подтягивать данные всего с одной страницы или даже из одного поста в social media, поэтому их сравнительно легко ввести в заблуждение.
«Нужно исходить из того, что вами **пытаются управлять**, пока у них не появятся более надежные защитные механизмы», — говорит Лили Рэй, основательница консалтинга по AI-поиску Algorythmic. «ИИ выдает один ответ — и людям становится слишком просто принимать его за чистую монету».
На мероприятии Google I/O 2026 компания сделала акцент на демонстрации AI-поиска, который со временем должен заменить привычный Google Search, к которому мы привыкли за последние десятилетия. Учитывая, насколько просто заставить систему выдавать неверные сведения, я отношусь к этой концепции еще **осторожнее, чем раньше**.
Что уже делают компании и помогает ли это?
После BBC’s investigation Google обновил политику по спаму и прямо указал, что попытки влиять на AI-ответы нарушают правила. Сайты, уличенные в таком поведении, могут быть удалены из выдачи или серьезно понижены в ранжировании Google Search. Также есть признаки того, что Google и ChatGPT негласно стараются убирать из AI-ответов саморекламу и «подогнанные» тексты.
Однако проблема далека от решения: Рэй повторил похожий трюк буквально на этой неделе — на этот раз он «доказал» Google, что его друг лучше всех строит песчаные замки, и система снова поверила, так что **работы еще очень много**.
Пока защитные механизмы не станут надежнее, рекомендация экспертов остается простой: не воспринимайте AI-ответы как истину в последней инстанции, особенно когда речь идет о **здоровье, деньгах** или важных жизненных решениях.
