Локальные нейросети: какие модели поставить на свой компьютер
26 открытых языковых моделей, которые работают без интернета и подписки: требования к Mac и Windows, бенчмарки и команда запуска.
Подборка открытых языковых моделей, которые можно скачать и запустить у себя: текст не уходит в чужое облако, нет лимитов и подписки, работает без интернета. В карточке — что умеет модель, сколько весит файл, на каком компьютере она запустится и на каком будет работать быстро, цифры бенчмарков от разработчика и команда для Ollama. Выберите свой компьютер в блоке над списком — каталог отметит, что на нем пойдет.
Как читать требования. «Запустится» — модель целиком помещается в память и пишет не медленнее 5 токенов в секунду: примерно со скоростью чтения. «Летает» — от 20 токенов в секунду; на Windows — только с видеокартой, в которую входит хотя бы половина модели: на одном процессоре длинный запрос читается долго. Токен — часть слова. Это оценка по формуле, а не замер каждой модели: файл в сжатии Q4_K_M (gpt-oss — в родном формате MXFP4, GLM-OCR — без сжатия) и кэш контекста на 8 тыс. токенов по конфигурации модели (у TranslateGemma конфигурация закрыта — оценкой). Скорость пересчитана через пропускную способность памяти: для Mac — по замерам llama.cpp, по самому медленному чипу, который продавался с таким объемом памяти, начиная с M2, и отдельно для M5 и новее (чипы M1 еще медленнее); для видеокарт — по замеру RTX 4090, пересчитанному на RTX 5060 8 ГБ, RTX 3060 12 ГБ, RTX 5060 Ti 16 ГБ, RTX 3090 или 4090 и RTX 5090 32 ГБ (у RTX 4060 Ti 16 ГБ память медленнее, и оценка для нее завышена); без видеокарты и для моделей «смесь экспертов» — грубая оценка без отдельного замера. Длинные документы требуют больше памяти, а модели в режиме рассуждений дольше думают перед ответом.
Команды в карточках — с явным тегом сжатия там, где у Ollama есть другие сборки той же модели, например для Mac: у них другой размер и другая скорость. Кнопка «Скачать» ведет на страницу модели в Ollama, название — на карточку разработчика на Hugging Face: там лежат полные веса, обычно они в несколько раз больше файла из карточки. Бенчмарки — цифры из карточек и технических отчетов разработчиков: методики у всех разные, поэтому сравнивать модели по ним можно только грубо. Лицензии прочитаны по текстам на Hugging Face и на сайтах разработчиков на 16 ноября 2026 года; если у модели есть правила использования с запретами, они в карточке. Новые DeepSeek V4, Kimi K3 и GLM-5 в подборку не вошли: в Ollama они доступны только облаком, а открытые веса слишком велики для домашнего компьютера. Скачивайте модели через Ollama или со страницы разработчика: перезаливки от неизвестных авторов могут быть испорчены. Запустить модель проще всего через Ollama или LM Studio, а еще — через Pinokio; программы для работы с моделями собраны в подборке инструментов с GitHub. Как мы работаем с фактами — в редакционной политике.
Материалы по теме
Турция: государство давит офшор, а он держит 86,5% спроса
Инструменты с открытым кодом для маркетинга: подборка с GitHub
Вставить свои 5 копеек: