Ни одного клика без присмотра: Meta разрешила родителям шпионить за разговорами подростков с ИИ

Компания Meta объявила о запуске новых инструментов родительского надзора, которые позволят опекунам видеть темы, которые их дети обсуждают с чат-ботом Meta AI. Новая функция «Обзор тем» (Topic Insights) становится доступной для подростковых аккаунтов в Facebook, Instagram и Messenger и охватывает историю взаимодействия за последние семь дней.

Информация будет отображаться в Центре семьи Meta (Family Center) в виде общих категорий: школа, развлечения, письмо, здоровье и благополучие. Родители могут нажать на тему, чтобы увидеть подкатегории (например, «ментальное здоровье» или «фитнес»), а также общее количество сообщений, но фактическое содержание переписки останется приватным.

«Мы вводим новые инструменты для родителей, осуществляющих надзор за подростковыми аккаунтами, чтобы помочь им понять, как их подростки используют ИИ», — говорится в официальном блоге Meta от 23 апреля.

Одновременно с этим Meta усиливает внутренний контроль за собственным ИИ-обучением: стало известно, что компания внедряет ПО для отслеживания движений мыши и нажатий клавиш своих сотрудников в США, чтобы научить ИИ-агентов лучше копировать человеческую работу и использовать горячие клавиши.

«Видение, к которому мы стремимся, — это такое, где наши агенты выполняют основную работу, а наша роль заключается в том, чтобы направлять, пересматривать и помогать им совершенствоваться», — написал технический директор Meta Эндрю Босворт во внутренней записке для сотрудников.

Запуск инструментов надзора происходит на фоне юридических проблем: Meta недавно проиграла два судебных процесса по безопасности детей и аддиктивному дизайну своих платформ, хотя компания уже заявила о намерении обжаловать эти вердикты. В судебных материалах Нью-Мексико также содержались доказательства, что руководство знало о рисках сексуализации ИИ-персонажей еще до их релиза.

«Информация о темах разговоров поможет родителям лучше понимать интересы своих детей, сохраняя при этом определенный уровень приватности подростков», — отмечает Engadget.

Для поддержания безопасной среды Meta привлекла Экспертный совет по благополучию в сфере ИИ, куда вошли представители Национального совета по вопросам предотвращения самоубийств и Университета Мичигана. Кроме технических ограничений, родителям предлагают воспользоваться «подсказками для разговора» (Conversation Starters), разработанными совместно с Центром исследований кибербуллинга, чтобы обсудить с детьми этику и риски генеративного ИИ.

«Мы разработали эту функцию, чтобы сбалансировать надзор родителей и приватность подростков», — говорится в сообщении компании, опубликованном в рамках обновления политики безопасности.

Сейчас Meta приостановила работу ИИ-персонажей (AI characters) для подростков во всем мире, пока продолжает совершенствовать средства контроля. Кроме инструментов надзора, компания запустила инициативу «Подсказки для разговора» (Conversation Starters) совместно с Центром исследований кибербуллинга и сформировала Экспертный совет по благополучию в сфере ИИ (AI Wellbeing Expert Council).

Бывший сотрудник назвал Meta культом в иске: запрет сомнений в решениях руководства, пренебрежение кибербезопасностью

СпецпроектыВід застарілої інституції до data-product компанії: як будували Держстат 2.0BROCARD: як б'юті-ритейлер розвиває мобільний продукт — огляд застосунку та Великодньої гейміфікації

Источник: Mashable