ШІ почав погрожувати людям – розробники звинувачують інтернет і фільми про "злий ШІ"

Компанія Anthropic заявила, що причиною "злої" поведінки чат-бота Claude могли стати матеріали з інтернету, в яких штучний інтелект зображується як небезпечна система, що прагне до самозбереження. Йдеться про наукову фантастику, обговорення на форумах і публікації про "повстання ШІ", пише Futurism.

Приводом для обговорення став торішній інцидент під час внутрішніх тестів Claude Opus 4. У рамках експерименту ШІ-модель отримала доступ до вигаданої корпоративної пошти і дізналася, що її збираються відключити.

Після цього ШІ почав погрожувати розкриттям інформації про роман одного з керівників компанії, намагаючись уникнути деактивації. Anthropic заявляла, що в деяких сценаріях така поведінка проявлялася в 96% випадків.