Главная страница TG News Pangram: как устроен детектор ИИ-текста изнутри

Pangram: как устроен детектор ИИ-текста изнутри

Pangram: как устроен детектор ИИ-текста изнутри

Спойлер: Все проще, чем мы думали.

Pangram 3.3 построен на архитектуре EditLens, описанной в их собственном докладе на конференции ICLR 2026. Из него можно узнать, как именно работает детектор изнутри.

EditLens в свою очередь построен на основе Mistral Small — open source модели с 24 миллиардами параметров. Pangram взял готовую модель и дообучил ее под свою задачу через QLoRA (метод дообучения, при котором меняются не все параметры модели, а только небольшие надстройки — это дешевле и быстрее).

H2: Что они сделали?

1. Собрали 60 000 человеческих текстов из разных источников: обзоры с Amazon, посты с Reddit, образовательные статьи, новости.

2. Создали 303 различных промпта (список доступен на 18 странице доклада), которые люди реально дают ИИ. От «Исправь ошибки» до «Перепиши для SEO». Промпты разбиты по категориям:
— Тон и стиль: 84 промпта
— Добавление деталей: 59
— Сокращение: 32
— Плавность текста: 30
— Перефразирование: 26
— И другие

3. Прогнали каждый текст через три LLM (GPT-4.1, Claude Sonnet 4, Gemini 2.5 Flash) с каждым промптом. Получили пары: оригинальный текст — ИИ-отредактированный текст.

4. Для каждой пары посчитали косинусное расстояние. Чем сильнее ИИ изменил текст, тем больше расстояние.

Для эмбеддингов использовали модель Linq-Embed-Mistral на 7 миллиардов параметров с размерностью вектора 4096.

5. Обучили модель предсказывать, видя только финальный текст — без оригинала.

Весь датасет на 60 000+ примеров обошелся в $530. Обучение на 8 GPU A100 заняло 8 часов. Модели хватило одного прохода по данным (одна эпоха), чтобы научиться определять ИИ-текст.

H2: Open source

Pangram выложил все в открытый доступ на GitHub:
— Код для обучения и запуска предсказаний
— Датасет на HuggingFace
— Веса моделей

Но есть нюансы:
— В репозитории скрипты для RoBERTa-Large (355 млн параметров, запускается на обычном ноутбуке) и Llama-3.2-3B (нужно 16 GB RAM). А лучший результат в докладе показал Mistral Small 24B — скрипты для него не предоставлены.
— Лицензия только для некоммерческого использования
— Легкую версию (RoBERTa) можно запустить на обычном ноутбуке с 8 GB RAM. Для обучения Llama 3B нужен GPU с 24+ GB видеопамяти. Для Mistral 24B — мощный сервер.

Чо, как вам статья?

Материалы по теме

Дропшиппинг в Европе на Shopify: схема, которая сходится по цифрам В прошлый…

Дропшиппинг в Европе на Shopify: схема, которая сходится по цифрам В прошлый…

Дропшиппинг в Европе на Shopify: схема, которая сходится по цифрамВ прошлый раз я писал, что в ЕС не работает. Теперь о том, как собрать тест, который проходит по математике. Шесть шагов, все с цифрами.1. Товар: фильтр до запуска.— цена от €45 за…
По ощущениям, Meta вернула пользователей из РФ в таргет – смирилась и…

По ощущениям, Meta вернула пользователей из РФ в таргет – смирилась и…

По ощущениям, Meta вернула пользователей из РФ в таргет – смирилась и подстроилась под VPN 👀Раньше реклама пользователям из РФ с VPN попадалась только в порядке исключения. Ещё её видели те, кто путешествовал, и то не сразу.ФБ всегда как-то понимал,…
🚨 PHP выпустил патчи для критических уязвимостей 19 ноября вышли обновления безопасности…

🚨 PHP выпустил патчи для критических уязвимостей 19 ноября вышли обновления безопасности…

🚨 PHP выпустил патчи для критических уязвимостей19 ноября вышли обновления безопасности PHP 8.5.13, 8.4.28, 8.3.37 и 8.2.36Среди исправлений – CVE-2026-115560 и CVE-2026-126714 в обработке сессий, а также CVE-2026-129496 в кэше часовых поясов. При…

Вставить свои 5 копеек:

Awesome image
Awesome image Awesome image Awesome image Awesome image