Установка LM Studio на компьютер и сервер: термины и чек-лист

Подробности, цифры, термины и чек-лист по теме «Установка LM Studio на компьютер и сервер». Страница справочника целиком: Установка LM Studio.

Коротко о теме

Установка LM Studio на Windows, macOS и Linux: процессор с AVX2 и 16 ГБ памяти, модели через lms get, API с токенами и llmster для VPS.

Подробности по разделам

Требования LM Studio к компьютеру

Внутри LM Studio модели считает движок llama.cpp, поэтому требования к памяти те же: размер файла GGUF плюс контекст. Выберите модель, сжатие и контекст: расчёт покажет, хватит ли вашей видеокарты

LM Studio на VPS без экрана: llmster вместо Docker

Наружу сервер публикуйте через Nginx с HTTPS и включёнными токенами.

Ключевые цифры

Термины на странице

GPU
GPU это видеокарта. На сервере её используют для нейросетей, рендера и расчётов.
Linux
Linux это семейство операционных систем для серверов: Ubuntu, Debian, AlmaLinux и другие.
Ollama
Ollama запускает языковые модели на своём компьютере или сервере одной командой.
Nginx
Nginx это веб-сервер и обратный прокси. Его часто ставят перед приложением, чтобы раздавать статику и держать HTTPS.
Tier
Tier это класс дата-центра по уровню резервирования питания и охлаждения, от I до IV.
n8n
n8n это программа для автоматизации: связывает сервисы сценариями без программирования.
Облачный сервер
Облачный сервер это VPS, ресурсы которого можно менять на ходу, а оплата часто почасовая.
ЦОД
ЦОД это дата-центр: здание с серверами, питанием, охлаждением и сетью.

Что проверить

  1. Выберите конфигурацию по памяти и диску под задачу, процессор обычно вторичен.
  2. Проверьте тип виртуализации: KVM даёт свою систему и гарантированные ресурсы.
  3. Уточните, входит ли IPv4 и сколько стоит трафик сверх пакета.
  4. Посчитайте видеопамять под модель до заказа сервера.
  5. Начните с почасовой оплаты и выключайте сервер после работы.
  6. Проверьте драйверы и версию CUDA под ваш фреймворк.

Связанные страницы