Главная страница Подборки Локальные нейросети: какие модели поставить на свой компьютер
Локальные нейросети: какие модели поставить на свой компьютер

Локальные нейросети: какие модели поставить на свой компьютер

26 открытых языковых моделей, которые работают без интернета и подписки: требования к Mac и Windows, бенчмарки и команда запуска.

Подборка открытых языковых моделей, которые можно скачать и запустить у себя: текст не уходит в чужое облако, нет лимитов и подписки, работает без интернета. В карточке — что умеет модель, сколько весит файл, на каком компьютере она запустится и на каком будет работать быстро, цифры бенчмарков от разработчика и команда для Ollama. Выберите свой компьютер в блоке над списком — каталог отметит, что на нем пойдет.

Для ноутбука и слабого компьютера
Liquid AI
Крошечная модель для простых помощников и вызова функций: файл около 1 ГБ
файл 1,1 ГБконтекст 256 тыс.лицензия с условиями
Режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 8 ГБоколо 74 т/сM-чип, 8 ГБоколо 74 т/сWindowsбез видеокарты, ОЗУ 8 ГБоколо 41 т/сRTX 5060 8 ГБбольше 100 т/с
IFEval 96,66 · LiveCodeBench 73,46 · GPQA Diamond 63,37 — по данным разработчика
Бесплатно и в коммерческой работе, пока годовая выручка компании меньше 10 млн долларов.
ollama run lfm3:1.7b-q4_K_M
Mistral AI
Малая модель Mistral для слабых устройств: чат, картинки, вызов функций
файл 3 ГБконтекст 256 тыс.свободная лицензия
Понимает картинки, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 8 ГБоколо 27 т/сM-чип, 8 ГБоколо 27 т/сWindowsбез видеокарты, ОЗУ 16 ГБоколо 15 т/сRTX 5060 8 ГБоколо 90 т/с
Arena Hard 30,5 · WildBench 56,8 · MATH 83,0 — по данным разработчика
ollama run ministral-3:3b
Alibaba
Малая модель Qwen с режимом рассуждений, понимает картинки
файл 3,3 ГБконтекст 262 тыс.свободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 8 ГБоколо 25 т/сM-чип, 8 ГБоколо 25 т/сWindowsбез видеокарты, ОЗУ 16 ГБоколо 14 т/сRTX 5060 8 ГБоколо 81 т/с
MMLU-Pro 79,1 · GPQA Diamond 76,2 · LiveCodeBench 55,8 — по данным разработчика
ollama run qwen3.5:4b-q4_K_M
Google
Самая легкая Gemma 4: текст и картинки, вызов функций
файл 4,6 ГБконтекст 128 тыс.свободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 8 ГБоколо 39 т/сM-чип, 8 ГБоколо 39 т/сWindowsбез видеокарты, ОЗУ 16 ГБоколо 22 т/сRTX 5060 8 ГБбольше 100 т/с
MMLU-Pro 60,0 · GPQA Diamond 43,4 · LiveCodeBench 44,0 — по данным разработчика
ollama run gemma4:e2b-it-q4_K_M
Mistral AI
Компактная модель Mistral: чат, картинки, вызов функций
файл 6 ГБконтекст 256 тыс.свободная лицензия
Понимает картинки, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 16 ГБоколо 14 т/сM5, 16 ГБоколо 20 т/сWindowsбез видеокарты, ОЗУ 16 ГБоколо 7 т/сRTX 5060 8 ГБ + ОЗУ 16 ГБоколо 31 т/с
Arena Hard 50,9 · WildBench 66,8 · MATH 87,6 — по данным разработчика
ollama run ministral-3:8b
Google
Gemma 4 для ноутбука: текст и картинки, вызов функций
файл 6,6 ГБконтекст 128 тыс.свободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 16 ГБоколо 22 т/сM-чип, 16 ГБоколо 22 т/сWindowsбез видеокарты, ОЗУ 16 ГБоколо 12 т/сRTX 5060 8 ГБ + ОЗУ 16 ГБоколо 60 т/с
MMLU-Pro 69,4 · GPQA Diamond 58,6 · LiveCodeBench 52,0 — по данным разработчика
ollama run gemma4:e4b-it-q4_K_M
Alibaba
Средняя модель Qwen с режимом рассуждений, понимает картинки
файл 6,6 ГБконтекст 262 тыс.свободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 16 ГБоколо 12 т/сM Pro, 16 ГБоколо 22 т/сWindowsбез видеокарты, ОЗУ 16 ГБоколо 7 т/сRTX 5060 8 ГБ + ОЗУ 16 ГБоколо 32 т/с
MMLU-Pro 82,5 · GPQA Diamond 81,7 · LiveCodeBench 65,6 — по данным разработчика
ollama run qwen3.5:9b-q4_K_M
Универсальные: тексты и анализ
Google
Gemma 4 среднего размера: текст и картинки, вызов функций
файл 8 ГБконтекст 256 тыс.свободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 16 ГБоколо 10 т/сM Pro, 24 ГБоколо 24 т/сWindowsбез видеокарты, ОЗУ 16 ГБоколо 6 т/сRTX 3060 12 ГБоколо 27 т/с
MMLU-Pro 77,2 · GPQA Diamond 78,8 · LiveCodeBench 72,0 — по данным разработчика
ollama run gemma4:12b-it-q4_K_M
Mistral AI
Старшая модель линейки Ministral: чат, картинки, вызов функций
файл 9,1 ГБконтекст 256 тыс.свободная лицензия
Понимает картинки, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 24 ГБоколо 9 т/сM Pro, 24 ГБоколо 21 т/сWindowsRTX 5060 8 ГБ + ОЗУ 16 ГБоколо 10 т/сRTX 3060 12 ГБоколо 24 т/с
Arena Hard 55,1 · WildBench 68,5 · MATH 90,4 — по данным разработчика
ollama run ministral-3:14b
OpenAI
Открытая модель OpenAI с режимом рассуждений и вызовом функций; понимает только текст
файл 14 ГБконтекст 131 тыс.свободная лицензия
Режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 24 ГБоколо 24 т/сM-чип, 24 ГБоколо 24 т/сWindowsбез видеокарты, ОЗУ 32 ГБоколо 13 т/сRTX 3060 12 ГБ + ОЗУ 16 ГБоколо 32 т/с
MMLU 85,3 · GPQA Diamond 71,5 · AIME 2025 91,7 — по данным разработчика
ollama run gpt-oss:20b
Alibaba
Свежая плотная модель Qwen: рассуждения, код, долгие задачи агента, картинки
файл 18 ГБконтекст 262 тыс.свободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 32 ГБоколо 5 т/сM5 Max, 48 ГБоколо 25 т/сWindowsRTX 5060 Ti 16 ГБ + ОЗУ 16 ГБоколо 7 т/сRTX 3090 или 4090 24 ГБоколо 31 т/с
GPQA Diamond 89,2 · LiveCodeBench 90,3 · SWE-bench Pro 61,7 — по данным разработчика
ollama run qwen3.8:27b-q4_K_M
Смесь экспертов Gemma 4: текст и картинки при скорости небольшой модели
файл 18 ГБконтекст 256 тыс.свободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 32 ГБоколо 24 т/сM-чип, 32 ГБоколо 24 т/сWindowsбез видеокарты, ОЗУ 32 ГБоколо 12 т/сRTX 3060 12 ГБ + ОЗУ 16 ГБоколо 21 т/с
MMLU-Pro 82,6 · GPQA Diamond 82,3 · LiveCodeBench 77,1 — по данным разработчика
ollama run gemma4:26b-a4b-it-q4_K_M
Открытая модель Meta для агентов на своем компьютере: вызов функций, долгие задачи, картинки
файл 18 ГБконтекст 131 тыс.свободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 32 ГБоколо 5 т/сM5 Max, 48 ГБоколо 25 т/сWindowsRTX 5060 Ti 16 ГБ + ОЗУ 16 ГБоколо 7 т/сRTX 3090 или 4090 24 ГБоколо 31 т/с
GPQA Diamond 83,5 · AIME 2026 94,7 · SWE-bench Verified 76,0 — по данным разработчика
У Meta есть правила использования: среди прочего запрещены спам, накрутка отзывов и выдача текста модели за написанный человеком.
ollama run muse-glimmer:30b
Google
Старшая Gemma 4: рассуждения, код, картинки, вызов функций
файл 20 ГБконтекст 256 тыс.свободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM Pro, 36 ГБоколо 6 т/сM5 Max, 48 ГБоколо 23 т/сWindowsRTX 5060 Ti 16 ГБ + ОЗУ 16 ГБоколо 5 т/сRTX 3090 или 4090 24 ГБоколо 28 т/с
MMLU-Pro 85,2 · GPQA Diamond 84,3 · LiveCodeBench 80,0 — по данным разработчика
ollama run gemma4:31b-it-q4_K_M
Быстрая модель NVIDIA для агентов: рассуждения, вызов функций, контекст до 1 млн токенов
файл 25 ГБконтекст 1 млнсвободная лицензия
Режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM Pro, 48 ГБоколо 53 т/сM Pro, 48 ГБоколо 53 т/сWindowsбез видеокарты, ОЗУ 32 ГБоколо 13 т/сRTX 5060 Ti 16 ГБ + ОЗУ 32 ГБоколо 25 т/с
MMLU-Pro 81,94 · GPQA Diamond 75,44 · SWE-bench Verified 51,56 — по данным разработчика
ollama run nemotron-3.5-lightning:30b-a3b-q4_K_M
Код и агенты
Mistral AI
Модель Mistral для программирующих агентов: ходит по коду и правит сразу несколько файлов
файл 15 ГБконтекст 256 тыс.свободная лицензия
Понимает картинки, вызывает функции
КомпьютерЗапуститсяЛетаетMacM-чип, 32 ГБоколо 6 т/сM5 Max, 36 ГБоколо 23 т/сWindowsRTX 3060 12 ГБ + ОЗУ 16 ГБоколо 6 т/сRTX 3090 или 4090 24 ГБоколо 37 т/с
SWE-bench Verified 68,0 · SWE-bench Multilingual 55,7 · Terminal-Bench 2 22,5 — по данным разработчика
ollama run devstral-small-2:24b
Z.ai (Zhipu)
Смесь экспертов Z.ai для кода и агентов: быстрая при 30 млрд параметров
файл 19 ГБсвободная лицензия
Режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM Pro, 48 ГБоколо 70 т/сM Pro, 48 ГБоколо 70 т/сWindowsбез видеокарты, ОЗУ 64 ГБоколо 17 т/сRTX 5060 Ti 16 ГБ + ОЗУ 32 ГБоколо 30 т/с
SWE-bench Verified 59,2 · LiveCodeBench 64,0 · AIME 2025 91,6 — по данным разработчика
ollama run glm-4.7-flash
Alibaba
Смесь экспертов Qwen для кода и агентов: быстрая, понимает картинки
файл 24 ГБконтекст 262 тыс.свободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM Pro, 48 ГБоколо 65 т/сM Pro, 48 ГБоколо 65 т/сWindowsбез видеокарты, ОЗУ 32 ГБоколо 15 т/сRTX 5060 Ti 16 ГБ + ОЗУ 32 ГБоколо 31 т/с
SWE-bench Verified 73,4 · LiveCodeBench 80,4 · MMLU-Pro 85,2 — по данным разработчика
ollama run qwen3.6:35b-a3b-q4_K_M
Модель Qwen для программирования агентами: 80 млрд параметров, быстрая как малая
файл 52 ГБконтекст 262 тыс.свободная лицензия
Вызывает функции
КомпьютерЗапуститсяЛетаетMacM Max, 96 ГБоколо 78 т/сM Max, 96 ГБоколо 78 т/сWindowsбез видеокарты, ОЗУ 64 ГБоколо 16 т/сRTX 5090 32 ГБ + ОЗУ 32 ГБоколо 37 т/с
Цифры бенчмарков разработчик показывает картинками
ollama run qwen3-coder-next
Картинки, документы и перевод
OpenBMB
Карманная модель для картинок: 1,3 млрд параметров, файл меньше 2 ГБ
файл 1,6 ГБсвободная лицензия
Понимает картинки
КомпьютерЗапуститсяЛетаетMacM-чип, 8 ГБоколо 51 т/сM-чип, 8 ГБоколо 51 т/сWindowsбез видеокарты, ОЗУ 16 ГБоколо 28 т/сRTX 5060 8 ГБбольше 100 т/с
Бенчмарки разработчик показывает картинками; текстом — только индекс Artificial Analysis (13), по данным разработчика
ollama run minicpm-v4.6
Z.ai (Zhipu)
Распознает документы: текст, таблицы, формулы и поля по шаблону — это не чат
файл 2,7 ГБсвободная лицензия
Понимает картинки
КомпьютерЗапуститсяЛетаетMacM-чип, 8 ГБоколо 30 т/сM-чип, 8 ГБоколо 30 т/сWindowsбез видеокарты, ОЗУ 16 ГБоколо 17 т/сRTX 5060 8 ГБоколо 100 т/с
OmniDocBench V1.5 94,62 — по данным разработчика
ollama run glm-ocr
Переводчик Google на 55 языков, русский в списке; переводит и текст на картинках
файл 3,3 ГБконтекст 128 тыс.лицензия с условиями
Понимает картинки
КомпьютерЗапуститсяЛетаетMacM-чип, 8 ГБоколо 25 т/сM-чип, 8 ГБоколо 25 т/сWindowsбез видеокарты, ОЗУ 16 ГБоколо 14 т/сRTX 5060 8 ГБоколо 81 т/с
MetricX, англ.→рус. (меньше — лучше) 3,25 · COMET22, 55 пар 80,1 — по данным разработчика
Условия Google: есть список запрещенных применений.
ollama run translategemma:4b
Переводчик Google на 55 языков покрупнее: точнее на паре английский — русский
файл 8,1 ГБконтекст 128 тыс.лицензия с условиями
Понимает картинки
КомпьютерЗапуститсяЛетаетMacM-чип, 16 ГБоколо 10 т/сM Pro, 24 ГБоколо 23 т/сWindowsбез видеокарты, ОЗУ 16 ГБоколо 6 т/сRTX 3060 12 ГБоколо 27 т/с
MetricX, англ.→рус. (меньше — лучше) 2,48 · COMET22, 55 пар 83,5 — по данным разработчика
Условия Google: есть список запрещенных применений.
ollama run translategemma:12b
Тяжелые: для мощного железа
OpenAI
Большая открытая модель OpenAI: рассуждения, код и агенты; понимает только текст
файл 65 ГБконтекст 131 тыс.свободная лицензия
Режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM Max, 96 ГБоколо 53 т/сM Max, 96 ГБоколо 53 т/сWindowsбез видеокарты, ОЗУ 128 ГБоколо 11 т/сне летает: в видеокарту входит меньше половины модели; лучшее — RTX 5090 32 ГБ + ОЗУ 64 ГБоколо 20 т/с
MMLU 90,0 · GPQA Diamond 80,1 · SWE-bench Verified 62,4 — по данным разработчика
ollama run gpt-oss:120b
Крупная смесь экспертов Qwen: знания, код и агенты, картинки
файл 81 ГБконтекст 262 тыс.свободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM Max, 128 ГБоколо 23 т/сM Max, 128 ГБоколо 23 т/сWindowsRTX 5060 8 ГБ + ОЗУ 128 ГБоколо 5 т/сне летает; лучшее — RTX 5090 32 ГБ + ОЗУ 64 ГБоколо 7 т/с
MMLU-Pro 86,7 · GPQA Diamond 86,6 · SWE-bench Verified 72,0 — по данным разработчика
ollama run qwen3.5:122b-a10b
Крупная модель NVIDIA: рассуждения, код, документы и картинки, контекст до 1 млн токенов
файл 90 ГБконтекст 1 млнсвободная лицензия
Понимает картинки, режим рассуждений, вызывает функции
КомпьютерЗапуститсяЛетаетMacM Max, 128 ГБоколо 17 т/сM5 Max, 128 ГБоколо 36 т/сWindowsRTX 5090 32 ГБ + ОЗУ 128 ГБоколо 5 т/сне летает; лучшее — RTX 5090 32 ГБ + ОЗУ 128 ГБоколо 5 т/с
GPQA Diamond 89,52 · LiveCodeBench 88,22 · SWE-bench Verified 71,10 — по данным разработчика
ollama run nemotron-3.5-super:120b-a12b-q4_K_M

Как читать требования. «Запустится» — модель целиком помещается в память и пишет не медленнее 5 токенов в секунду: примерно со скоростью чтения. «Летает» — от 20 токенов в секунду; на Windows — только с видеокартой, в которую входит хотя бы половина модели: на одном процессоре длинный запрос читается долго. Токен — часть слова. Это оценка по формуле, а не замер каждой модели: файл в сжатии Q4_K_M (gpt-oss — в родном формате MXFP4, GLM-OCR — без сжатия) и кэш контекста на 8 тыс. токенов по конфигурации модели (у TranslateGemma конфигурация закрыта — оценкой). Скорость пересчитана через пропускную способность памяти: для Mac — по замерам llama.cpp, по самому медленному чипу, который продавался с таким объемом памяти, начиная с M2, и отдельно для M5 и новее (чипы M1 еще медленнее); для видеокарт — по замеру RTX 4090, пересчитанному на RTX 5060 8 ГБ, RTX 3060 12 ГБ, RTX 5060 Ti 16 ГБ, RTX 3090 или 4090 и RTX 5090 32 ГБ (у RTX 4060 Ti 16 ГБ память медленнее, и оценка для нее завышена); без видеокарты и для моделей «смесь экспертов» — грубая оценка без отдельного замера. Длинные документы требуют больше памяти, а модели в режиме рассуждений дольше думают перед ответом.

Команды в карточках — с явным тегом сжатия там, где у Ollama есть другие сборки той же модели, например для Mac: у них другой размер и другая скорость. Кнопка «Скачать» ведет на страницу модели в Ollama, название — на карточку разработчика на Hugging Face: там лежат полные веса, обычно они в несколько раз больше файла из карточки. Бенчмарки — цифры из карточек и технических отчетов разработчиков: методики у всех разные, поэтому сравнивать модели по ним можно только грубо. Лицензии прочитаны по текстам на Hugging Face и на сайтах разработчиков на 16 ноября 2026 года; если у модели есть правила использования с запретами, они в карточке. Новые DeepSeek V4, Kimi K3 и GLM-5 в подборку не вошли: в Ollama они доступны только облаком, а открытые веса слишком велики для домашнего компьютера. Скачивайте модели через Ollama или со страницы разработчика: перезаливки от неизвестных авторов могут быть испорчены. Запустить модель проще всего через Ollama или LM Studio, а еще — через Pinokio; программы для работы с моделями собраны в подборке инструментов с GitHub. Как мы работаем с фактами — в редакционной политике.

Чо, как вам статья?

Материалы по теме

Турция: государство давит офшор, а он держит 86,5% спроса

Турция: государство давит офшор, а он держит 86,5% спроса

Государство блокирует сайты десятками тысяч и расширило запрет на рекламу, а доля легальных брендов в Турции как была около 13%, так и осталась. Разбираем на данных Blask третий рынок мира по потенциальной выручке.
Инструменты с открытым кодом для маркетинга: подборка с GitHub

Инструменты с открытым кодом для маркетинга: подборка с GitHub

85 инструментов с открытым кодом: нейросети, картинки и видео, автоматизация рекламы, SEO, аналитика и парсинг. Поиск, звезды GitHub и пометка, как запустить.
Юнит-экономика на маркетплейсах: как посчитать и калькулятор для Ozon, WB и Яндекс Маркета

Юнит-экономика на маркетплейсах: как посчитать и калькулятор для Ozon, WB и Яндекс Маркета

Книга за 500 ₽ приносит продавцу до рекламы 16,50 ₽ на Ozon, 91,52 ₽ на WB и 9,88 ₽ на Маркете. Посчитали по тарифам площадок на 5 ноября 2026 года и показали, где в расчете теряются деньги.

Вставить свои 5 копеек:

Awesome image
Awesome image
Awesome image Awesome image Awesome image Awesome image
Awesome image