Жодної живої душі: місцева газета у США виявилась штучним інтелектом, що імітував журналістів

• Онлайн-видання використовувало штучний інтелект для імітації журналістів та створення фейкових новинних сайтів.
• Розслідування виявило, що ці сайти використовувалися для маніпуляції пошуковими результатами та управління репутацією клієнтів компанії The Discoverability Company.

У Флориді спалахнув скандал навколо популярного онлайн-видання, яке дивувало читачів неймовірною працездатністю. Поки справжні редакції скорочують штати й подекуди зменшують кількість матеріалів, цей ресурс видавав величезну кількість текстів щодня. Проте за ідеальними обличчями авторів ховалася зовсім інша реальність.

Як працювали віртуальні журналісти?

Журналістка Софія Дельгадо з Південної Флориди, здавалося, мала надзвичайно успішний рік. Видання South Florida Standard, яке вона допомагала запускати, демонструвало вражаючу продуктивність. Теми охоплювали широкий спектр – від бюджету законодавчих зборів Флориди до системної недбалості в державних психіатричних лікарнях. Проте вся ця діяльність була лише майстерною імітацією, пише Futurism.

Дивіться також Журналісти таємно користуються ChatGPT і бояться зізнатися колегам, – експерт з ШІ

Як пишуть джерела, троє репортерів публікували по три матеріали щодня, без вихідних. Навіть у Великодню неділю команда примудрилася видати чотири статті. І якщо вам здається, що це дуже мало, порівняно з кількістю матеріалів, які постійно пишуть журналісти інших видань, у тому числі й в Україні, то варто зауважити, що це були не звичайні статті з рерайтом та посиланням на когось, а повноцінні розслідування, інтерв'ю та дослідження, тобто те, що неможливо зробити швидко, проаналізував 24 Канал.

Як з'ясувалося під час спільного розслідування The Florida Trib та подкасту Question Everything, Софія Дельгадо та інші "місцеві журналісти" видання ніколи не існували в реальності. Вони були продуктами штучного інтелекту з фальшивими портретами та вигаданими біографіями, насиченими кліше про Південну Флориду. Самі ж статті часто виявлялися переробленими матеріалами справжніх медіа, які пропускали через ШІ-інструменти для перетворення на "унікальний" контент.

Не покладайтесь на випадок у стрічці Додайте 24 Канал у вибрані в Google Додати

Явно, що той, хто стоїть за цим, не піклується про правду,
– прокоментувала ситуацію Келлі Макбрайд, старша віцепрезидентка Інституту Пойнтера, котра підкреслила, що єдиний спосіб боротися з цим – знайти того, хто реально контролює ключі від сайту.

За допомогою професора журналістики Університету Південної Флориди Кейсі Фрешетта, розслідувачі виявили цифрові сліди, що вели до цілої мережі подібних ресурсів. Виявилося, що South Florida Standard має "сестринські" сайти: Charleston Sentinel у Південній Кароліні та San Francisco Download у Каліфорнії. Усі вони мали ідентичний програмний код та спільний список "репортерів", імена яких дивним чином збігалися з іменами осіб, засуджених за шахрайство.

Що це було?

Кінцевою точкою розслідування стала компанія з управління репутацією The Discoverability Company, заснована Дрю Чепіном. Чепін, колишній генеральний директор стартапу, який у 2021 році визнав себе винним у шахрайстві з інвесторами, тепер допомагає клієнтам "виправляти" їхню цифрову історію.

Як з'ясувалося, він використовує ШІ-сайти для створення так званого "контрнаративу", який має витіснити негативні результати пошуку Google на задвірки мережі.

Ваш найкращий підхід тут – дійсно витіснити старе лайно. Поховайте його. Візьміть під контроль наратив,
– пояснював Дрю Чепін під час вебінару для групи підтримки бізнес-керівників, що пройшли через в'язницю.

Чепін урешті зізнався, що створив 17 подібних сайтів по всій країні, які згенерували понад 3 500 посилань та залучили 44 000 відвідувачів. Технологія настільки проста, що створення повноцінного "медіа" з місією, списком співробітників та статтями займає лише 15 – 20 хвилин і коштує близько 10 доларів за доменне ім'я.

Фактично таким чином він формував певний замовний наратив про своїх клієнтів, генеруючи нові матеріали, які в подальшому могли потрапляти у пошукову видачу або у відповіді чат-ботів.

Які наслідки?

Така діяльність завдає серйозної шкоди медіапростору. Пітер Шорш, видавець Florida Politics, чиї матеріали регулярно крали ШІ-боти, назвав це "плагіатом за допомогою ШІ". Він застерігає, що наступне покоління ботів навчатиметься на цих сміттєвих сайтах, створюючи "копію копії копії факсу, надісланого на ваш телефон".

Ситуація ускладнюється кризою традиційних ЗМІ. За даними NewsGuard, кількість так званих "рожевих слизів" (pink slime) – низькоякісних сайтів, що маскуються під локальні новини – у США вже перевищила кількість щоденних газет: 1 265 проти 1 213 станом на червень 2024 року. З 2005 року країна втратила майже 2 900 газет та близько 43 000 журналістів.

ШІ та ці фальшиві сайти не вловлюють жодних нюансів реальної політики,
– прокоментував Пітер Шорш.

Випадок із South Florida Standard став яскравим прикладом того, як легко можна зруйнувати незалежну журналістику, створюючи цифрові підробки, що загрожують нашому інформаційному простору, підсумовує 24 Канал. Після того, як The Florida Trib почала ставити незручні запитання, South Florida Standard та його "родичі" зникли з мережі.

Дивіться також Південна Корея розглядає впровадження податку на прибуток від штучного інтелекту

Вам також буде цікаво дізнатися: чому штучний інтелект вважають небезпечним для сучасної журналістики

Штучний інтелект вважають небезпечним для сучасної журналістики насамперед через проблему достовірності. Великі мовні моделі, на кшталт ChatGPT чи аналогічних систем, не "розуміють" факти у людському сенсі. Вони прогнозують слова на основі статистичних закономірностей у текстах, на яких були навчені. Через це виникає одна з головних проблем сучасного генеративного ШІ – так звані "галюцинації". Йдеться про ситуації, коли система впевнено вигадує події, цитати, джерела, наукові роботи або навіть людей, яких не існує.

Для журналістики це особливо небезпечно, тому що професія базується на перевірці фактів, довірі аудиторії та репутації видання. Якщо журналіст використовує ШІ без ретельної перевірки матеріалу, у статті можуть з'явитися вигадані цитати експертів, неіснуючі статистичні дані або помилкові твердження. Проблема полягає ще й у тому, що ШІ формулює вигадки дуже переконливо. Людина, яка не перевіряє інформацію, може навіть не помітити помилки.

Додаткову небезпеку створює швидкість роботи ШІ. Медіа працюють у режимі постійної гонитви за новинами та першістю їхньої публікації, тому редакції можуть спокуситися дешевим і швидким виробництвом контенту. Але генерація великої кількості текстів без фактчекінгу швидко перетворює журналістику на потік інформаційного шуму. У такому середовищі стає складніше відрізняти реальні новини від вигадок.

Окремою проблемою є те, що мовні моделі можуть "успадковувати" помилки та упередження з даних, на яких їх навчали. Вони здатні повторювати дезінформацію, конспірологію або маніпулятивні наративи, якщо такі тексти були присутні у навчальних наборах даних. У журналістиці це створює ризик поширення неправдивої інформації вже не окремими авторами, а в промислових масштабах.

Які є прецеденти?

Побоювання щодо ШІ у медіа посилилися після кількох гучних скандалів. Один із найвідоміших випадків стався зі Sports Illustrated. Наприкінці 2023 року видання звинуватили у публікації матеріалів, створених штучним інтелектом і підписаних вигаданими авторами зі згенерованими фотографіями. Розслідування показало, що профілі таких "журналістів" фактично не існували. Після розголосу частину матеріалів видалили, а ситуація перетворилася на великий репутаційний скандал, пригадує CBS News.

Ще раніше проблеми виникли у технологічного медіа CNET, яке експериментувало з ШІ-генерованими фінансовими статтями. Після перевірок у текстах виявили значну кількість помилок. Аналогічні труднощі були і в мережі газет Gannett, де автоматично створені спортивні тексти містили дивні формулювання та фактичні неточності, пише Fortune.

У багатьох випадках журналістів або редакції викривали саме через характерні "галюцинації". Наприклад, у текстах траплялися цитати людей, які ніколи такого не говорили, або посилання на статті та документи, яких не існувало. Це стало своєрідним маркером використання генеративного ШІ без належної редакторської перевірки.

Варто зазначити, що схожі проблеми регулярно виникають і в академічному середовищі, де системи вигадують цитати з книжок чи наукових робіт.

Проблема галюцинацій стосується не лише текстових моделей. Навіть системи автоматичного розпізнавання мовлення можуть вигадувати фрази, яких людина не говорила. Дослідники виявили, що деякі системи транскрипції створювали цілі речення, яких не було в аудіо ,як з'ясувало дослідження, що з'явилося на arXiv. Для журналістики це також критично, оскільки редакції дедалі частіше автоматизують розшифрування інтерв'ю та пресконференцій.

Дивіться також ШІ ставить точніші діагнози, ніж лікарі невідкладної допомоги, але не все так добре

Яким може бути етичне та правильне використання ШІ в журналістиці?

Попри ризики, повна відмова від ШІ у журналістиці навряд чи можлива. Більшість великих редакцій уже використовують такі системи як допоміжний інструмент, а Google навіть розробляє окремий сервіс саме для журналістів. Питання полягає в етичному та контрольованому використанні технології.

• Правильне використання ШІ в журналістиці передбачає, що остаточну відповідальність завжди несе людина. Штучний інтелект може допомагати зі збором інформації, транскрипцією інтерв'ю, перекладом, аналізом великих масивів даних, пошуком тем або створенням чернеток текстів. Але кожен факт, цитата та цифра повинні проходити перевірку редактором або журналістом.
• Етичним підходом також вважається прозорість. Якщо матеріал створювався або редагувався із застосуванням ШІ, аудиторія має право це знати. Частина медіа вже почала додавати примітки про використання ШІ-інструментів у роботі над текстами чи ілюстраціями.
• Ще одним важливим принципом є заборона на повністю автоматичне створення новин без людського контролю. ШІ добре працює як асистент, але погано підходить на роль автономного журналіста. Він не має власного досвіду, не розуміє контексту подій, не може оцінити моральні наслідки публікації чи перевірити правдивість співрозмовника так, як це робить людина.

У перспективі журналістика, ймовірно, зміниться не через повну заміну журналістів штучним інтелектом, а через трансформацію професії, пише 24 Канал. Значення матимуть не швидкість написання тексту, а якість перевірки інформації, репутація автора, доступ до джерел та здатність проводити розслідування. На тлі масового потоку ШІ-контенту саме довіра до конкретного медіа або журналіста може стати головною цінністю.