Стример PewDiePie выкатил проект для локального запуска ИИ-моделей и агентовОдин из крупнейших…
Стример PewDiePie выкатил проект для локального запуска ИИ-моделей и агентов
Один из крупнейших в мире блогеров продолжает перевоплощаться в AI-разработчика. Больше 10 лет он снимал летсплеи, прохождения и всякую развлекаловку и был самым подписываемым на YouTube, а потом – заинтересовался ИИ, и пошло-поехало.
В ноябре он объявил, что собрал себе суперкомпьютер для запуска локальных LLM за 20к долларов. Он призывал всех перестать пользоваться ChatGPT и остальными чат-ботами и переходить на локальные модели, чтобы не делиться своими данными с "нечестными" корпорациями и не переплачивать.
Затем он дообучил собственную модель, которая по какому-то бенчмарку даже превосходила фронтиры.
И вот сейчас – выпускает полноценную опенсорсную оболочку Odysseus для локального запуска агентов и моделей: https://youtu.be/rAzT5lcezPs.
Кратко, это попытка сделать полноценный self-hosted ChatGPT, то есть внутри интерфейс, память, инструменты, хранение данных, всякие агенты и тд. Модели можно подключать через Ollama, llama.cpp или vLLM, и давать им доступы на усмотрение.
За день его проект на GitHub набрал почти 18к звезд: github.com/pewdiepie-archdaemon/odysseus.
Ждем, когда уже вайбкодить начнет MrBeast
Вставить свои 5 копеек: