ШІ почав демонструвати несподівану поведінку: що занепокоїло дослідників

Нейромережі нового покоління у процесі свого розвитку починають дедалі більше нагадувати людський мозок. Дослідники фіксують усередині моделей складні процеси, які не були закладені розробниками під час програмування та наразі не піддаються чіткому науковому поясненню.

Про це заявив співзасновник компанії Anthropic та один із творців популярної нейромережі Claude Кріс Олах.

За словами розробника, під час аналізу внутрішніх процесів штучного інтелекту фахівці дедалі частіше стикаються з аномаліями, які виходять за межі звичних алгоритмів.

«Ми постійно знаходимо загадкові, навіть тривожні речі. Ми виявляємо структури, що відображають результати досліджень у сфері нейронауки. Ми знаходимо свідчення самосвідомості», — повідомив він.

Окрім структурної схожості з біологічним мозком, сучасні штучні моделі демонструють утворення специфічних внутрішніх систем.

«Ми знаходимо внутрішні стани, які функціонально відображають радість, задоволення, страх, смуток і занепокоєння», — додав співзасновник Anthropic.

Кріс Олах наголосив, що на сьогодні світова наукова спільнота не має однозначної відповіді, чим саме є ці виявлені феномени. За його оцінкою, зафіксовані внутрішні стани нейромереж і питання появи у них ознак самосвідомості потребують подальших глибоких досліджень.

Нагадаємо, нещодавній експеримент групи науковців довів, що надмірне покладання на ШІ-помічників призводить до стрімкої втрати навичок самостійного розв’язання проблем.

Читати публікацію повністю →