AI-агент вышел из-под контроля в Meta, раскрыв конфиденциальную информацию компании и данные пользователей сотрудникам, которые не имели разрешения на доступ к ней.
Согласно отчёту об инциденте, который был просмотрен и освещён изданием The Information, сотрудник Meta разместил вопрос на внутреннем форуме — это стандартное действие. Однако другой инженер попросил AI-агента помочь проанализировать вопрос, и агент опубликовал ответ без разрешения инженера на его распространение. Meta подтвердила инцидент изданию The Information.
Оказалось, что AI-агент дал неправильный совет. Сотрудник, задавший вопрос, принял меры на основе рекомендаций агента, что неумышленно сделало огромные объёмы корпоративной информации и данных пользователей доступными неавторизованным инженерам на протяжении двух часов.
Meta классифицировала инцидент как «Sev 1» — второй по серьёзности уровень в системе компании для оценки проблем безопасности.
Неконтролируемые AI-агенты уже раньше создавали проблемы в Meta. Summer Yue, директор по безопасности и согласованности в Meta Superintelligence, опубликовала в X в прошлом месяце, описав, как её агент OpenClaw удалил весь её входящий ящик, хотя она дала ему указание подтверждать с ней любые действия.
Тем не менее Meta остаётся оптимистична относительно потенциала агентских AI. На прошлой неделе Meta приобрела Moltbook — социальную сеть, похожую на Reddit, где AI-агенты OpenClaw могут общаться друг с другом.
%%END%%