Локальные ИИ-агенты на своём компьютере
Агенты, которые ставятся на ваш компьютер или сервер и работают с локальной моделью. Рядом — с какими движками совместимы, сколько памяти просят и как поставить.
Какие агенты запускаются локально
| Агент | С чем работает | Открытый код | Установка |
|---|---|---|---|
| встроенный менеджер ставит llama.cpp и модель под ваше железо; также Ollama, LM Studio, vLLM | NousResearch/hermes-agentMIT · ★ 263,3 тыс. | Linux, macOS, WSL2: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bashWindows (PowerShell): iex (irm https://hermes-agent.nousresearch.com/install.ps1)Docker: docker run -it --rm -v ~/.hermes:/opt/data nousresearch/hermes-agent setupHermes Desktop, macOS · 7 МБ Hermes Desktop, Windows · 8 МБ | |
| Локальные модели через провайдеров Models.dev | anomalyco/opencodeMIT · ★ 226,8 тыс. | macOS, Linux: curl -fsSL https://opencode.ai/v2/install | bashnpm: npm install -g @opencode/cliHomebrew: brew install anomalyco/tap/opencode-v2 | |
| управляемый сервер llama.cpp, Ollama, LM Studio, vLLM, SGLang или любой OpenAI-совместимый серверПамять: от 8 ГиБ для самой малой модели llama.cpp с контекстом 64K | openclaw/openclawMIT · ★ 394,4 тыс. | macOS / Linux / WSL2: curl -fsSL https://openclaw.ai/install.sh | bashWindows (PowerShell): iwr -useb https://openclaw.ai/install.ps1 | iexWindows Hub · 141 МБ npm: npm install -g openclaw@latest --allow-scripts=openclaw | |
| Community Edition в Docker на своём сервере, модели через узел Ollama Chat Model | n8n-io/n8nSustainable Use License (fair-code) · ★ 210,5 тыс. | Docker: docker volume create n8n_data; docker run -it --rm --name n8n -p 5678:5678 -v n8n_data:/home/node/.n8n docker.n8n.io/n8nio/n8n | |
| Community Edition в Docker Compose на своём сервереПамять: 4 ГиБ, процессор от 2 ядер | langgenius/difyDify Open Source License (Apache 2.0 с доп. условиями) · ★ 161,1 тыс. | Docker Compose: docker compose up -d (в папке docker репозитория langgenius/dify) | |
| Python-пакет, Docker или Langflow Desktop; локальные модели через OllamaПамять: 2 ГБ, рекомендуют 4 ГБ | langflow-ai/langflowMIT · ★ 156,6 тыс. | Python (uv): uv pip install langflow -UDocker: docker run -p 7860:7860 -e LANGFLOW_SUPERUSER_PASSWORD langflowai/langflow:latestDesktop (macOS, Windows) | |
| LM Studio, Ollama, vLLM или SGLang; рекомендована Qwen3.6-35B-A3BПамять: От 4 ГБ для OpenHands; модели Qwen3.6-35B-A3B нужна видеокарта от 24 ГБ или Mac с 64 ГБ | OpenHands/OpenHandsMIT · ★ 93,5 тыс. | macOS, Linux, Windows (WSL): uv tool install openhands --python 3.12 | |
| Модели через Ollama, LM Studio или Atomic Chat на вашем компьютере | cline/clineApache-2.0 · ★ 71,6 тыс. | VS Code JetBrains CLI: npm i -g cline | |
| через провайдеров Ollama и LM Studio с открытыми моделями | openinterpreter/openinterpreterApache-2.0 · ★ 68,9 тыс. | macOS и Linux: curl -fsSL https://www.openinterpreter.com/install | shWindows (PowerShell): irm https://www.openinterpreter.com/install.ps1 | iex | |
| встроенный llama.cpp через Lemonade, также Ollama, LM Studio и Foundry Local на WindowsПамять: рекомендуют 16 ГБ и 8-ядерный CPU | Mintplex-Labs/anything-llmMIT · ★ 68,3 тыс. | Windows · 403 МБ macOS (Apple Silicon) · 584 МБ Linux: curl -fsSL https://cdn.anythingllm.com/latest/installer.sh -o installer.sh | |
| фреймворк на Python с моделью в Ollama на localhost:11434 | crewAIInc/crewAIMIT · ★ 60,9 тыс. | Терминал: uv tool install crewai | |
| Локальные модели через провайдера Ollama | aaif-goose/gooseApache-2.0 · ★ 56,6 тыс. | CLI: curl -fsSL https://github.com/aaif-goose/goose/releases/download/stable/download_cli.sh | bashmacOS (Homebrew): brew install --cask block-gooseПриложение | |
| Локальные модели через Ollama: aider --model ollama_chat/<модель> | Aider-AI/aiderApache-2.0 · ★ 50,1 тыс. | Python: python -m pip install aider-install && aider-installmacOS, Linux: curl -LsSf https://aider.chat/install.sh | sh | |
| встроенный движок llama.cpp, модели скачиваются с Hugging FaceПамять: macOS: 8 ГБ для моделей 3B, 16 ГБ для 7B, 32 ГБ для 13B | janhq/janApache-2.0 · ★ 45,7 тыс. | Windows · 572 МБ macOS · 116 МБ Linux (.deb) · 1063 МБ Linux (Flatpak) | |
| Локальная модель через Ollama или vLLM | QwenLM/qwen-codeApache-2.0 · ★ 30,1 тыс. | macOS, Linux: curl -fsSL https://qwen-code-assets.oss-cn-hangzhou.aliyuncs.com/installation/install-qwen-standalone.sh | bashWindows: irm https://qwen-code-assets.oss-cn-hangzhou.aliyuncs.com/installation/install-qwen-standalone.ps1 | iexnpm: npm install -g @qwen-code/qwen-code@latestHomebrew: brew install qwen-code | |
| Локальные модели через Ollama или LM Studio | Kilo-Org/kilocodeMIT · ★ 28 тыс. | VS Code CLI: npm install -g @kilocode/cli | |
| поставка ПАК: сервер с 8 GPU H200 в контуре компании, доступ в интернет не нужен | закрытый | Веб | |
| on-premise в корпоративном контуре или программно-аппаратный комплекс по подписке | закрытый | — | |
| встроенная модель около 5 ГБ скачивается при первом запуске; также Ollama и LM StudioПамять: 8 ГБ, рекомендуют 16 ГБ | закрытый | Windows · 392 МБ macOS (Apple Silicon) · 174 МБ Linux (.deb, amd64) · 348 МБ |
Сколько памяти нужно
Сам агент лёгкий: ему хватает обычного ноутбука. Тяжёлая часть — модель. Если агент подключён к облачной модели по ключу API, требования к компьютеру минимальные, но запросы уходят провайдеру.
Полностью локальная схема — агент плюс модель в Ollama, LM Studio или llama.cpp на вашем компьютере. Модели на 7–9 млрд параметров в 4-битном сжатии занимают около 5–6 ГБ памяти видеокарты или общей памяти Mac; для длинных задач агенту нужен контекст от 32 тыс. токенов, и он добавляет к этому ещё несколько гигабайт. Точные требования каждого агента — в колонке «С чем работает». Какая модель пойдёт на вашей видеокарте или Mac, показывает подбор локальной нейросети.