Self hosted AI: нейросети на своём сервере, термины и чек-лист

Подробности, цифры, термины и чек-лист по теме «Self hosted AI: нейросети на своём сервере». Страница справочника целиком: Self hosted AI.

Коротко о теме

Self hosted AI на своём сервере: Ollama и Open WebUI для чата, AnythingLLM для базы знаний, ComfyUI для картинок, набор n8n. Лицензии и железо.

Подробности по разделам

Какое железо нужно своему ИИ: процессор или видеокарта

Облачные серверы с GPU оплачиваются по часам, цена по запросу, аванс от 5 000 ₽ (на 14 октября 2026). Если своя модель не обязательна, а нужен только интерфейс у себя, подключите Open WebUI к OpenAI-совместимому API и платите за токены: так данные чатов остаются на вашем сервере, а модель работает у провайдера.

Self hosted база знаний с ИИ на своих документах

Для ответов клиентам оставьте проверку человеком и показывайте ссылку на источник рядом с ответом.

Ключевые цифры

Термины на странице

GPU
GPU это видеокарта. На сервере её используют для нейросетей, рендера и расчётов.
n8n
n8n это программа для автоматизации: связывает сервисы сценариями без программирования.
Ollama
Ollama запускает языковые модели на своём компьютере или сервере одной командой.
LLM
LLM это большая языковая модель. Для запуска на своём сервере ей нужна видеопамять или много оперативной.
PostgreSQL
PostgreSQL это база данных для приложений с большими объёмами и сложными запросами.
Self-hosted
Self-hosted значит, что программа работает на вашем сервере, а данные остаются у вас.
SSH
SSH это защищённое подключение к серверу через командную строку. Вход по ключу безопаснее, чем по паролю.
Облачный сервер
Облачный сервер это VPS, ресурсы которого можно менять на ходу, а оплата часто почасовая.

Что проверить

  1. Посчитайте видеопамять под модель до заказа сервера.
  2. Начните с почасовой оплаты и выключайте сервер после работы.
  3. Проверьте драйверы и версию CUDA под ваш фреймворк.
  4. Выберите конфигурацию по памяти и диску под задачу, процессор обычно вторичен.
  5. Проверьте тип виртуализации: KVM даёт свою систему и гарантированные ресурсы.
  6. Уточните, входит ли IPv4 и сколько стоит трафик сверх пакета.

Связанные страницы