Установка Jupyter на свой сервер: термины и чек-лист

Подробности, цифры, термины и чек-лист по теме «Установка Jupyter на свой сервер». Страница справочника целиком: Установка Jupyter на сервер.

Коротко о теме

Установка Jupyter на VPS: JupyterLab через pip или образ Docker, вход по токену и паролю, SSH-туннель, JupyterHub и TLJH для команды.

Подробности по разделам

Зачем держать Jupyter на сервере, а не на ноутбуке

Данные лежат рядом с вычислениями, а коллега открывает тот же блокнот по ссылке. Для обучения нейросетей сервер берут с видеокартой, обзор карт на странице аренды видеокарты.

Запуск Jupyter Notebook на сервере через pip

Число пользователей и размер данных решают больше, чем сам Jupyter

Jupyter в Docker: образы Jupyter Docker Stacks

Закрепляйте тег с датой, как в примере: так обновление образа не сломает окружение посреди работы. В том же семействе есть образы с PyTorch и TensorFlow. Чтобы они увидели видеокарту, на хосте нужен драйвер и NVIDIA Container Toolkit, а в команду добавляют --gpus all.

Установка JupyterHub для команды

Чтобы пускать нескольких пользователей, JupyterHub запускают от root. Если нужно, чтобы каждый работал в своём контейнере, используют DockerSpawner, отдельный пакет для JupyterHub. Для небольшой группы проще The Littlest JupyterHub (TLJH): установщик сам ставит JupyterHub, окружение и администратора.

Ключевые цифры

Ему нужно от 1 ГБ памяти, root-доступ и SSH, установка идёт 5-10 минут: Перед JupyterHub с доступом из интернета ставят HTTPS: домен и сертификат, например через Caddy.
TLJH ставится от 1 ГБ, но память считают по пользователям: каждый открытый блокнот держит свои данные.
Для 10-20 студентов с pandas закладывайте 16 ГБ и больше.

Термины на странице

GPU: GPU это видеокарта. На сервере её используют для нейросетей, рендера и расчётов.
Linux: Linux это семейство операционных систем для серверов: Ubuntu, Debian, AlmaLinux и другие.
SSH: SSH это защищённое подключение к серверу через командную строку. Вход по ключу безопаснее, чем по паролю.
Python: Python это язык программирования. На сервере на нём часто пишут ботов и скрипты.
LLM: LLM это большая языковая модель. Для запуска на своём сервере ей нужна видеопамять или много оперативной.
Node.js: Node.js это среда для запуска JavaScript на сервере.

Что проверить

Выберите конфигурацию по памяти и диску под задачу, процессор обычно вторичен.
Проверьте тип виртуализации: KVM даёт свою систему и гарантированные ресурсы.
Уточните, входит ли IPv4 и сколько стоит трафик сверх пакета.
Храните данные контейнеров в томах.
Закрепляйте версии образов, а не latest.
Ограничьте ресурсы контейнеров, чтобы один не съел весь сервер.