AI-чатботи легко обманути – дослідження показало, як швидко вони поширюють фейки

Експеримент журналіста показав, що популярні AI-системи можуть швидко підхоплювати неправдиву інформацію з інтернету. Достатньо одного джерела, щоб чатботи почали видавати вигадані факти як реальні.

Журналіст BBC провів простий експеримент, який виявив серйозну проблему сучасних AI-систем, зокрема ChatGPT та Google. Він за 20 хвилин зміг змусити системи повірити, що є чемпіоном світу з поїдання хот-догів. Про це пише BBC.

Дивіться також ШІ не здатен адекватно оцінювати тексти, написані людиною – дослідження вчених Кембриджа

Як AI-чатботи почали поширювати фейки?

Секрет виявився дуже простим – журналіст опублікував один спеціально підготовлений блог-пост на особистому сайті. Після цього AI-моделі почали сприймати цю інформацію як достовірний факт і повторювати її у відповідях.

Подібна проблема була виявлена не лише у ChatGPT, а й у Google Gemini та AI-оглядах Google Search.

Читайте більше перевірених новин Додайте 24 Канал у вибрані джерела в Google Додати

Проблема виникає тоді, коли чатботи шукають інформацію в інтернеті в режимі реального часу. Замість перевірки великої кількості джерел система іноді покладається лише на одну вебсторінку або публікацію в соцмережах.

Експертка з SEO та AI-пошуку Лілі Рей пояснює, що такі системи надто легко маніпулювати. "Ви повинні вважати, що вас вводять в оману, доки не з'являться кращі системи захисту", – зазначає вона.

За її словами, проблема в тому, що AI часто видає одну готову відповідь, і користувачі сприймають її як абсолютну правду.

Як це виглядає на практиці

Під час експерименту журналіста BBC система повірила у вигаданий факт про "чемпіонство" у змаганнях з поїдання хот-догів. У інших тестах дослідники змогли змусити системи видавати неправдиву інформацію про різні теми – від спорту до фінансів.

Більше того, схожі маніпуляції працюють і в серйозніших сферах, включно з:

• медичними порадами;
• фінансовими рекомендаціями;
• новинними узагальненнями.

Чи визнає проблему Google?

Після розслідування BBC компанія Google оновила свої правила щодо спаму. Тепер спроби маніпуляції AI-відповідями офіційно вважаються порушенням політик.

Сайти, які штучно просувають неправдиву інформацію для впливу на AI-відповіді, можуть бути знижені в ранжуванні або повністю видалені з результатів пошуку. Водночас експерти зазначають, що цього недостатньо. Навіть після змін політик дослідники змогли повторити подібні маніпуляції, змусивши систему вірити в інші вигадані факти.

Як пише Digitaltrends, на конференції Google I/O 2026 компанія активно просувала нову модель пошуку, де AI відповідає користувачам замість класичного списку сайтів. Але експерти попереджають: якщо система легко піддається маніпуляціям, це може зробити новий формат пошуку менш надійним, ніж традиційний.

Дослідники наголошують, що поки технологія не стане більш захищеною, користувачам варто ставитися до відповідей AI обережно.

Фахівці підкреслюють, що AI може бути корисним інструментом, але не джерелом остаточної істини.