Локальная нейросеть для генерации видео: термины и чек-лист

Подробности, цифры, термины и чек-лист по теме «Локальная нейросеть для генерации видео». Страница справочника целиком: Локальная нейросеть для генерации видео.

Коротко о теме

Локальная нейросеть для генерации видео: Wan 2.1 и 2.2, HunyuanVideo 1.5 и Mochi, сколько видеопамяти просит каждая и чем отличаются лицензии.

Подробности по разделам

Что реально сгенерировать локально: длина и время

Отсюда практический вывод: локальная генерация удобна для серий коротких планов, анимации готовых иллюстраций и экспериментов с очередью заданий на ночь. Длинный ролик собирают из кусков в монтажной программе.

Как запустить видео-модель на сервере

У Wan 2.2 младшая модель запускается так: Флаги offload_model, convert_model_dtype и t5_cpu нужны картам на 24 ГБ: на 80 ГБ их убирают, и генерация идёт быстрее. Какие карты сдаются в аренду и сколько у них памяти, разобрано на странице аренда видеокарты.

Лицензии видео-моделей: где есть ограничения

Если ролики пойдут клиентам в этих странах, выбирайте Wan.

Ключевые цифры

Его умеют Wan 2.1 I2V-14B, Wan 2.2 TI2V-5B и I2V-A14B и HunyuanVideo 1.5.
Младшим из них нужно от 14 до 24 ГБ видеопамяти.
Минимум 8 ГБ для Wan 2.1 1.3B в 480P, 24 ГБ для Wan 2.2 TI2V-5B в 720P и от 80 ГБ для моделей Wan 2.2 на 14 млрд параметров.
По данным разработчиков, Wan 2.1 1.3B делает 5 секунд 480P на RTX 4090 примерно за 4 минуты, дистиллированная HunyuanVideo 1.5 оживляет картинку в 480P за 75 секунд.

Термины на странице

GPU: GPU это видеокарта. На сервере её используют для нейросетей, рендера и расчётов.
LLM: LLM это большая языковая модель. Для запуска на своём сервере ей нужна видеопамять или много оперативной.
Видеопамять: Видеопамять ограничивает, какая модель нейросети поместится на видеокарту.
ОЗУ: ОЗУ это оперативная память. Её чаще всего не хватает раньше, чем процессора: базы данных и сайты на CMS держат данные в памяти.
152-ФЗ: 152-ФЗ это закон о персональных данных. Вместе с требованием локализации он обязывает хранить базы с данными россиян на серверах в России.
Apache: Apache это веб-сервер. На хостинге с ним работают файлы .htaccess.
Tier: Tier это класс дата-центра по уровню резервирования питания и охлаждения, от I до IV.
ЦОД: ЦОД это дата-центр: здание с серверами, питанием, охлаждением и сетью.

Что проверить

Посчитайте видеопамять под модель до заказа сервера.
Начните с почасовой оплаты и выключайте сервер после работы.
Проверьте драйверы и версию CUDA под ваш фреймворк.
Выберите конфигурацию по памяти и диску под задачу, процессор обычно вторичен.
Проверьте тип виртуализации: KVM даёт свою систему и гарантированные ресурсы.
Уточните, входит ли IPv4 и сколько стоит трафик сверх пакета.