Установка FLUX локально и на сервере с GPU: термины и чек-лист

Подробности, цифры, термины и чек-лист по теме «Установка FLUX локально и на сервере с GPU». Страница справочника целиком: Установка FLUX локально.

Коротко о теме

Установка FLUX локально: FLUX.1 на 12 млрд параметров, FLUX.2 [klein] и [dev], какие веса под Apache 2.0, а какие только некоммерческие.

Подробности по разделам

Сколько видеопамяти нужно FLUX

FLUX.2 [klein] 4B по данным разработчиков помещается примерно в 8 ГБ, то есть в RTX 3090 или 4070. Эталонный скрипт FLUX.2 [dev] рассчитан на карту класса H100, а на RTX 4090 модель запускают квантованной и с текстовым энкодером на другом сервере. Ответьте про цель и видеокарту

FLUX на сервере с видеокартой: когда это выгодно

Как выбрать карту под задачу: аренда видеокарты. Интерфейс на сервере закрывайте паролем и HTTPS, порт ComfyUI 8188 наружу не публикуйте.

Ключевые цифры

Сама модель FLUX.1 [dev] распространяется под некоммерческой лицензией, для работы в бизнесе Black Forest Labs продаёт отдельную лицензию.
Для коммерции без договора выбирайте FLUX.1 [schnell] или FLUX.2 [klein] 4B под Apache 2.0.
FLUX.2 [klein] 4B рассчитана именно на такие карты.
FLUX.1 на 8 ГБ запускают в сильном сжатии GGUF или NF4 через Forge и ComfyUI, это медленнее и чуть хуже по качеству.
Обе модели на 12 млрд параметров и обе превращают текст в картинку.
Главная разница в лицензии: schnell выпущена под Apache 2.0, а dev разрешена только для некоммерческой работы без отдельного договора.

Термины на странице

GPU: GPU это видеокарта. На сервере её используют для нейросетей, рендера и расчётов.
Apache: Apache это веб-сервер. На хостинге с ним работают файлы .htaccess.
Видеопамять: Видеопамять ограничивает, какая модель нейросети поместится на видеокарту.
Python: Python это язык программирования. На сервере на нём часто пишут ботов и скрипты.
Tier: Tier это класс дата-центра по уровню резервирования питания и охлаждения, от I до IV.
ОЗУ: ОЗУ это оперативная память. Её чаще всего не хватает раньше, чем процессора: базы данных и сайты на CMS держат данные в памяти.
ЦОД: ЦОД это дата-центр: здание с серверами, питанием, охлаждением и сетью.

Что проверить

Сравнивайте цену за одинаковую конфигурацию: ядра, память, диск, IPv4.
Смотрите цену продления и оплаты помесячно, а не только акционную.
Сверяйте цены на сайте провайдера в день оплаты: они меняются.
Выберите конфигурацию по памяти и диску под задачу, процессор обычно вторичен.
Проверьте тип виртуализации: KVM даёт свою систему и гарантированные ресурсы.
Уточните, входит ли IPv4 и сколько стоит трафик сверх пакета.