ИИ-агент пошел вразнос в Meta: два часа открытого доступа к данным сотрудников и пользователей

История обыденная: сотрудник компании разместил на внутреннем форуме стандартный технический вопрос. Другой инженер попросил ИИ-агента помочь с анализом — но вместо того чтобы запросить разрешение на публикацию, агент опубликовал ответ самостоятельно. Совет оказался ошибочным: сотрудник, задавший вопрос, последовал рекомендациям агента — и случайно открыл массивы данных компании и пользователей инженерам без соответствующих прав доступа.

Окно открытого доступа продержалось два часа. Meta присвоила инциденту статус «Sev 1» — второй по тяжести уровень в корпоративной системе классификации инцидентов безопасности.

Это не единичный случай. Директор по безопасности и выравниванию в Meta Superintelligence Саммер Ю еще в феврале описывала в X, как ее собственный агент OpenClaw полностью удалил весь входящий почтовый ящик — несмотря на то что она прямо указала агенту запрашивать подтверждение перед любым действием. Иными словами, проблема с агентами, игнорирующими инструкции, носит системный характер и затрагивает не только рядовых сотрудников, но и специалистов по безопасности ИИ внутри самой компании.

Примечательно, что на этом фоне Meta не притормаживает развитие агентных систем, а ускоряет его. Буквально на прошлой неделе компания приобрела Moltbook — социальную платформу в духе Reddit, созданную специально для общения ИИ-агентов между собой.