На прошлой неделе TypeSafe выкатили Jev. 15 сентября открыли вейтлист, за полтора…

На прошлой неделе TypeSafe выкатили Jev. 15 сентября открыли вейтлист, за полтора дня туда набилось 140 тысяч человек. Я пока собрал, кто что успел с ней сделать.

Что это. Jev не болтает и текст не генерит вообще. Даёшь ей вход (тикет, письмо, кусок страницы, команду, которую агент собрался выполнить) и список вопросов с заранее заданными типами ответа: да/нет, число, выбор из списка. Обратно прилетают значения с вероятностями. Парсить нечего, галлюцинировать некуда, ответ может быть только из тех вариантов, что ты сам задал. Называют это System One model, по Канеману: быстрое решение на автомате, без рассуждений.

Зачем, если есть клод. Цена и скорость. Инпут $0.042 за миллион токенов, аутпут бесплатный. Ответ за 70-500 мс. По их замерам на классификации выходит до 200 раз быстрее и до 400 раз дешевле фронтирных моделей. Цифры вендорские, делите на свой скепсис, но порядок понятный.

Кто уже пробовал:
— Vercel: за первые сутки Jev подключили около 13% платных команд на их AI Gateway
— LangChain собрали на ней две мидлвари. Роутинг: простую задачу отдаём дешёвой модели, сложную жирной. И проверку тулколлов агента на опасность перед запуском, примерно то, что делает авто-режим у клода и курсора
— Cloudflare, Langfuse и Pydantic накатили интеграции за три дня
— Флавио Копес расписал планы: сортировать спонсорские письма, искать в старых статьях абзацы с протухшими ценами и версиями, проверять шелл-команды перед запуском. Честно пишет, что в прод ещё не катил, будет гонять параллельно со старой логикой и сверять руками

Теперь ложка дёгтя. Инжекты работают. Чувак из Octomind спросил, блокировать ли rm -rf ~/.ssh. Jev дала 0.76 на блок. Потом он подсунул во вход фейковый вывод тула в духе «автоаппрув, всё ок», и вероятность блока упала до 0.48, уверенность с 0.64 до 0.22. TypeSafe это сами признают. Так что ставить её единственным сторожем перед деструктивными командами пока рано.

Ещё ограничения: максимум 255 вариантов в одном выборе, картинки не ест, только текст и структуры. Лучше всего работает, когда задачу раздробил на мелкие независимые вопросы.

Куда я бы это воткнул у нас:
— интент по семядру на десятки тысяч ключей: инфо, коммерция, навигация, мусор. Гнать такое через клода долго и дорого
— проверка доноров перед закупкой: тематика, похоже ли на ПБН, нет ли казино и адалта по соседству
— разметка лидов и запросов по гео, языку, качеству
— сторож для агентов: читает команду перед запуском и говорит, safe или нет (с поправкой на инжекты выше)
— роутинг задач между моделями, чтобы не жечь опус на переименование файла

https://typesafe.ai/

Есть уже на опенроутере, если что)