CrewAI в Docker на своём сервере: термины и чек-лист

Подробности, цифры, термины и чек-лист по теме «CrewAI в Docker на своём сервере». Страница справочника целиком: CrewAI в Docker.

Коротко о теме

CrewAI в Docker на VPS: Python от 3.10 до 3.13, свой Dockerfile на uv, API на FastAPI, фоновые воркеры, модели через OpenAI-совместимый API или Ollama.

Подробности по разделам

Что такое CrewAI и что разворачивают на сервере

Управляемый деплой у разработчиков есть только в коммерческом наборе CrewAI AMP. Своя установка означает другое: вы сами упаковываете проект в контейнер и решаете, как задачи попадают к агентам. Если код писать не хочется, начните с визуальных инструментов на странице конструктор ИИ-агентов.

Какие модели подключить к CrewAI на сервере

Локальные модели идут через Ollama строкой вида ollama/llama3:70b. Помните про размер: модель на 70 млрд параметров требует сервер с видеокартой, на обычном VPS её ответов придётся ждать слишком долго. Инструмент CodeInterpreterTool убран из crewai-tools, а параметры исполнения кода у агента объявлены устаревшими.

Ключевые цифры

Термины на странице

Python
Python это язык программирования. На сервере на нём часто пишут ботов и скрипты.
Ollama
Ollama запускает языковые модели на своём компьютере или сервере одной командой.
GPU
GPU это видеокарта. На сервере её используют для нейросетей, рендера и расчётов.
LLM
LLM это большая языковая модель. Для запуска на своём сервере ей нужна видеопамять или много оперативной.
Docker
Docker запускает программы в контейнерах: всё нужное для работы упаковано в образ.
VPS
VPS это виртуальный сервер: часть физической машины с выделенными ядрами, памятью и диском и собственной операционной системой.

Что проверить

  1. Выберите конфигурацию по памяти и диску под задачу, процессор обычно вторичен.
  2. Проверьте тип виртуализации: KVM даёт свою систему и гарантированные ресурсы.
  3. Уточните, входит ли IPv4 и сколько стоит трафик сверх пакета.
  4. Храните данные контейнеров в томах.
  5. Закрепляйте версии образов, а не latest.
  6. Ограничьте ресурсы контейнеров, чтобы один не съел весь сервер.

Связанные страницы