LibreChat: установка на свой сервер, термины и чек-лист

Подробности, цифры, термины и чек-лист по теме «LibreChat: установка на свой сервер». Страница справочника целиком: LibreChat установка на сервер.

Коротко о теме

Установка LibreChat через docker compose: контейнеры с MongoDB и Meilisearch, файл librechat.yaml для Ollama и любого API, регистрация и ключи в.env.

Подробности по разделам

Как подключить к LibreChat Ollama и OpenAI-совместимый API

Модели по API не требуют от сервера ни карты, ни лишней памяти.

Термины на странице

Ollama
Ollama запускает языковые модели на своём компьютере или сервере одной командой.
Nginx
Nginx это веб-сервер и обратный прокси. Его часто ставят перед приложением, чтобы раздавать статику и держать HTTPS.
Docker
Docker запускает программы в контейнерах: всё нужное для работы упаковано в образ.
HTTPS
HTTPS это защищённая версия HTTP: данные между браузером и сайтом шифруются.
vCPU
vCPU это виртуальное ядро процессора. Его мощность зависит от модели процессора и от того, делится ли ядро с соседями.
Домен
Домен это имя сайта в интернете, например example.ru. Его регистрируют на срок и продлевают.

Что проверить

  1. Храните данные контейнеров в томах.
  2. Закрепляйте версии образов, а не latest.
  3. Ограничьте ресурсы контейнеров, чтобы один не съел весь сервер.
  4. Входите только по адресу из закладки.
  5. Включите подтверждение входа.
  6. Сохраните почту и телефон, к которым привязан аккаунт.

Связанные страницы