Llama 4 от Meta: новая серия мультимодальных моделей, 16x17B и 128x17B.
ollama run llama4:16x17b19 моделей Llama в Ollama: сколько весит каждый размер, какая видеокарта или Mac нужны и какой командой поставить.
Llama 4 от Meta: новая серия мультимодальных моделей, 16x17B и 128x17B.
ollama run llama4:16x17bLlama 3.2 Vision: модели Meta для работы с изображениями на 11B и 90B.
ollama run llama3.2-vision:11bCogito v1 Preview от Deep Cogito: гибридные модели с рассуждением от 3B до 70B.
ollama run cogito:3bDolphin 3.0 на базе Llama 3.1 8B: дообучена для кода, математики, агентов и вызова функций.
ollama run dolphin3:8bHermes 3: новая версия серии Hermes от Nous Research, от 3B до 405B.
ollama run hermes3:3bLlama 3.3 от Meta на 70B: по заявлению Meta, близка к Llama 3.1 405B.
ollama run llama3.3:70bМодель Meta третьего поколения, версия 3.1: размеры 8B, 70B и 405B.
ollama run llama3.1:8bLlama Guard 3: модели Meta для проверки запросов и ответов на безопасность.
ollama run llama-guard3:1bМалые модели Meta Llama 3.2 на 1B и 3B параметров.
ollama run llama3.2:1bМодели Groq на базе Llama 3 для вызова инструментов и функций, 8B и 70B.
ollama run llama3-groq-tool-use:8bCode Llama от Meta: генерирует код и обсуждает его по текстовым запросам.
ollama run codellama:7bMeta Llama 3 на 8B и 70B параметров.
ollama run llama3:8bDolphin 2.9 от Eric Hartford на базе Llama 3: инструкции, диалог и код, 8B и 70B.
ollama run dolphin-llama3:8bChatQA от NVIDIA на базе Llama 3: ответы на вопросы в диалоге и RAG.
ollama run llama3-chatqa:8bLLaVA на базе Llama 3 Instruct для работы с изображениями.
ollama run llava-llama3:8bLlama 3 8B с контекстом, расширенным с 8K до 1M токенов.
ollama run llama3-gradient:8bTinyLlama: компактная модель Llama на 1,1B, обучена на 3 трлн токенов.
ollama run tinyllama:1.1bLlama 2 от Meta: базовые языковые модели от 7B до 70B.
ollama run llama2:7bLlama 2 без цензуры от George Sung и Jarrad Hope.
ollama run llama2-uncensored:7bВведите свою видеокарту или Mac в инструменте подбора и выберите задачу — он покажет подходящие варианты Llama и других моделей.
Памяти под модель нужно больше размера файла: сверху идёт кэш контекста и рабочие буферы. Мы считаем так: размер файла из реестра Ollama + 0,6 ГБ и ещё 0,03 ГБ на каждый миллиард параметров на 8K токенов контекста + 0,4 ГБ. Для Mac берём около двух третей объединённой памяти до 36 ГБ и три четверти — от 48 ГБ: столько видеоядру обычно отдаёт macOS. Без видеокарты из оперативной памяти вычитаем 4 ГБ на систему. Это оценка: точную картину покажет команда ollama ps — в колонке PROCESSOR видно, сколько модели легло на видеокарту.