Векторная база данных Chroma: установка и Docker, термины и чек-лист

Подробности, цифры, термины и чек-лист по теме «Векторная база данных Chroma: установка и Docker». Страница справочника целиком: Векторная база данных Chroma.

Коротко о теме

Векторная база данных Chroma на своём сервере: pip install chromadb или образ chromadb/chroma, том /data, проверка heartbeat и защита порта.

Подробности по разделам

Три режима работы Chroma и какой выбрать

Новые версии пакетов выходят по понедельникам, поэтому версию в рабочем проекте лучше закрепить.

Chroma в Docker: том /data и docker compose

Тот же адрес удобно отдать в мониторинг вроде Uptime Kuma.

Как закрыть Chroma от чужих запросов

Открытый порт 8000 позволит любому читать и стирать коллекции.

Ключевые цифры

Термины на странице

Python
Python это язык программирования. На сервере на нём часто пишут ботов и скрипты.
Apache
Apache это веб-сервер. На хостинге с ним работают файлы .htaccess.
Nginx
Nginx это веб-сервер и обратный прокси. Его часто ставят перед приложением, чтобы раздавать статику и держать HTTPS.
Ollama
Ollama запускает языковые модели на своём компьютере или сервере одной командой.
Docker
Docker запускает программы в контейнерах: всё нужное для работы упаковано в образ.
VPS
VPS это виртуальный сервер: часть физической машины с выделенными ядрами, памятью и диском и собственной операционной системой.

Что проверить

  1. Выберите конфигурацию по памяти и диску под задачу, процессор обычно вторичен.
  2. Проверьте тип виртуализации: KVM даёт свою систему и гарантированные ресурсы.
  3. Уточните, входит ли IPv4 и сколько стоит трафик сверх пакета.
  4. Храните данные контейнеров в томах.
  5. Закрепляйте версии образов, а не latest.
  6. Ограничьте ресурсы контейнеров, чтобы один не съел весь сервер.

Связанные страницы