После бана моего аккаунта в Claude всё чаще смотрю в сторону локальных…

После бана моего аккаунта в Claude всё чаще смотрю в сторону локальных моделей. И тут попался Odysseus — проект PewDiePie. Да, того самого. У репозитория уже больше 88 тысяч звёзд на GitHub. Проект (https://github.com/odysseus-dev/odysseus), автор (https://github.com/pewdiepie-archdaemon).
Больше всего зацепила штука под названием Cookbook. Она определяет железо машины, на которой запущена, и рекомендует подходящие модели. Дальше можно скачать модель и запустить её прямо из интерфейса. На сайте заявлен каталог из 270+ моделей. Демо и описание (https://odysseus-dev.github.io/odysseus/).
Для локальных LLM это прям нужная история. Потому что первый вопрос обычно: «А что вообще потянет мой комп?» И дальше начинается чтение про размеры моделей, память и варианты сжатия. Здесь подбор под железо встроен в саму программу.
Поверх локальной модели получаешь рабочую среду: чат, агентов с инструментами, память, документы, поиск и исследование. Можно ещё отправить один запрос нескольким моделям и сравнить ответы.
После блокировки Claude перспектива запускать всё это на своём железе особенно приятна. Заходишь в собственный AI без ожидания, разрешат ли тебе сегодня пользоваться оплаченным аккаунтом.
Теперь интересно проверить, какую модель он предложит под мою машину и насколько её хватит для ежедневных задач.