Gemma в Docker и на своём сервере: термины и чек-лист

Подробности, цифры, термины и чек-лист по теме «Gemma в Docker и на своём сервере». Страница справочника целиком: Gemma в Docker.

Коротко о теме

Gemma в Docker: контейнер ollama/ollama или Model Runner, сколько видеопамяти просят 12B и 26B A4B, контекст до 256 тыс. токенов и лицензия.

Подробности по разделам

Какие размеры есть у Gemma 4 и что значат E2B и A4B

Буква E означает «эффективные» параметры: часть веса малых моделей приходится на таблицы эмбеддингов, которые почти не нагружают вычисления. A4B у средней модели значит, что на каждый токен работают около 4 млрд параметров из 25.

Сколько видеопамяти нужно Gemma 4

Когда процессора хватает, а когда нет, разобрано в разделе сервер под ИИ. Выберите размер Gemma 4, сжатие и контекст; у малых моделей считаются параметры вместе с эмбеддингами

Gemma 4 на сервере с vLLM для многих пользователей

Если сервер падает при запуске, ограничьте контекст флагом --max-model-len до того, что реально нужно задаче.

Лицензия Gemma 4 и доступ по API

AI Gateway Таймвеб Клауд работает по протоколу OpenAI с оплатой в рублях за токены; сервер с картой там стартует с аванса от 5 000 ₽ на 14 октября 2026.

Ключевые цифры

Файл весит 6,6-9,5 ГБ, модель работает на процессоре при 16 ГБ памяти, но отвечает медленнее, чем на карте.

Термины на странице

Ollama: Ollama запускает языковые модели на своём компьютере или сервере одной командой.
GPU: GPU это видеокарта. На сервере её используют для нейросетей, рендера и расчётов.
Apache: Apache это веб-сервер. На хостинге с ним работают файлы .htaccess.
Видеопамять: Видеопамять ограничивает, какая модель нейросети поместится на видеокарту.
Tier: Tier это класс дата-центра по уровню резервирования питания и охлаждения, от I до IV.
ЦОД: ЦОД это дата-центр: здание с серверами, питанием, охлаждением и сетью.

Что проверить

Посчитайте видеопамять под модель до заказа сервера.
Начните с почасовой оплаты и выключайте сервер после работы.
Проверьте драйверы и версию CUDA под ваш фреймворк.
Выберите конфигурацию по памяти и диску под задачу, процессор обычно вторичен.
Проверьте тип виртуализации: KVM даёт свою систему и гарантированные ресурсы.
Уточните, входит ли IPv4 и сколько стоит трафик сверх пакета.