Meta заменяет тысячи модераторов ИИ — и одновременно запускает чат-бот поддержки для пользователей

В 2025 году Meta потратила на модерацию около $5 млрд — преимущественно на оплату сторонних контракторов. Переход на ИИ — это прежде всего история сокращения расходов.

Новые ИИ-системы в тестах показывают меньше ошибок «избыточного удаления» и лучше выявляют наиболее критичные нарушения. Еще одно преимущество: ИИ обслуживает языки 98% пользователей онлайн — против нынешних 80 языков в арсенале человеческой модерации. При этом люди не исчезнут полностью: Meta оставляет за ними «критические решения» — апелляции по блокировке аккаунтов, запросы в правоохранительные органы и оценку случаев наивысшего риска.

ИИ-бот поддержки для пользователей

Параллельно Meta начала глобальный запуск ИИ-бота поддержки Meta AI Support в приложениях Facebook и Instagram. Бот умеет: принимать жалобы на мошенничество и выдачу себя за других, объяснять причины удаления контента, управлять апелляциями, сбрасывать пароли и менять настройки аккаунта. В перспективе — помогать пользователям восстанавливать заблокированные аккаунты, начиная с отдельных случаев в США и Канаде. Журналист Кейси Ньютон из Platformer, однако, скептичен: по его оценке, бот «лучше, чем то, что было раньше, — но по-прежнему не решает главную проблему»: незаслуженно заблокированные пользователи по-прежнему не смогут достучаться до реального человека.

Масштаб и риски

Это одно из крупнейших в истории отраслевых развертываний ИИ в корпоративной среде: 3,2 млрд ежедневных пользователей — и ни одна другая платформа не делала ничего сопоставимого по масштабу замены живых проверяющих алгоритмом. Критики (в том числе Наблюдательный совет Meta) предупреждают о рисках неравного правоприменения в кризисных регионах мира и возможной эрозии доверия пользователей, если ИИ-системы будут ошибаться без механизма обжалования у живого человека.