Self hosted перевод: свой переводчик на сервере, термины и чек-лист

Подробности, цифры, термины и чек-лист по теме «Self hosted перевод: свой переводчик на сервере». Страница справочника целиком: Self hosted перевод.

Коротко о теме

Self hosted перевод без Google и DeepL: LibreTranslate на движке Argos Translate, офлайн-модели без интернета и перевод нейросетью через Ollama.

Подробности по разделам

LibreTranslate: свой переводчик с API

Все тексты при этом остаются на вашем сервере.

Перевод нейросетью на своём сервере

Модель, которая хорошо пишет по-русски, требует видеопамяти, иначе перевод страницы на процессоре растянется надолго. Для старта подойдут многоязычные семейства вроде Qwen, а сколько памяти им нужно, считает калькулятор на странице сервер для LLM.

Когда своего переводчика достаточно, а когда нет

Договоры, медицинские и юридические тексты после любого переводчика, своего или облачного, читает специалист. Если текстов немного, а видеокарты нет, сравните свой LibreTranslate с переводом через нейросеть по API на одном и том же наборе документов. Разница в качестве на ваших текстах покажет, нужен ли сервер с GPU.

Термины на странице

LLM
LLM это большая языковая модель. Для запуска на своём сервере ей нужна видеопамять или много оперативной.
GPU
GPU это видеокарта. На сервере её используют для нейросетей, рендера и расчётов.
Ollama
Ollama запускает языковые модели на своём компьютере или сервере одной командой.
Self-hosted
Self-hosted значит, что программа работает на вашем сервере, а данные остаются у вас.
n8n
n8n это программа для автоматизации: связывает сервисы сценариями без программирования.
Видеопамять
Видеопамять ограничивает, какая модель нейросети поместится на видеокарту.

Что проверить

  1. Выберите конфигурацию по памяти и диску под задачу, процессор обычно вторичен.
  2. Проверьте тип виртуализации: KVM даёт свою систему и гарантированные ресурсы.
  3. Уточните, входит ли IPv4 и сколько стоит трафик сверх пакета.
  4. Посчитайте видеопамять под модель до заказа сервера.
  5. Начните с почасовой оплаты и выключайте сервер после работы.
  6. Проверьте драйверы и версию CUDA под ваш фреймворк.

Связанные страницы