Технически
Какая видеокарта нужна для локальной генерации
Главное ограничение — объём видеопамяти, а не скорость. Что происходит при её нехватке и как обойти.
Коротко
Решает объём видеопамяти, а не производительность. Не хватило памяти — генерация не запустится вовсе; не хватило скорости — просто придётся подождать.
Почему память важнее скорости
Модель загружается в видеопамять целиком. Не поместилась — не запустится, и никакая производительность этого не компенсирует.
Скорость влияет только на время ожидания. Медленная карта с достаточной памятью работает. Быстрая с недостаточной — нет.
Отсюда правило выбора: сначала объём памяти, потом всё остальное.
Что влияет на потребление памяти
Размер модели. Крупные модели требуют больше.
Квантизация. Огрублённая сборка занимает существенно меньше при небольшой потере качества. Именно она делает возможным запуск на потребительских картах.
Разрешение. Растёт квадратично: удвоение стороны кадра учетверяет требования.
Размер пакета. Четыре кадра за раз требуют примерно вчетверо больше памяти, чем один.
Дополнительные модули. ControlNet, уточняющая модель, апскейлер — каждый добавляет своё.
Что делать, если памяти не хватает
По порядку, от самого дешёвого:
Уменьшить разрешение и увеличить готовый кадр тайловым апскейлом. Самый эффективный приём.
Уменьшить размер пакета до одного.
Взять квантованную сборку модели.
Отключить дополнительные модули, оставив только базовый проход.
Арендовать видеокарту в облаке — если задача разовая, это дешевле покупки.
Про наши цифры
Конкретных таблиц «модель против видеокарты против времени генерации» мы не публикуем: своего замера у нас пока нет, а переписывать чужие числа без проверки — ровно то, чего мы стараемся не делать.
Замер времени генерации на разных картах входит в план работ. До его проведения в этом материале нет ни одной цифры о производительности — и это осознанно.
Как проявляется нехватка памяти
Ошибка одна, а видов у неё четыре, и на первом запуске их обычно путают.
| Что видите | Почему так | Что делать |
|---|---|---|
| Запуск падает сразу после загрузки весов | Модель не поместилась в память целиком | Взять огрублённую сборку того же чекпоинта |
| Первый кадр выходит, второй роняет процесс | Память не освобождается между проходами | Перезапускать процесс между сериями, пакет держать в единице |
| Кадр считается минутами, карта простаивает | Вычисление ушло на процессор: в видеопамять не влезло | Проверить, куда загрузились веса, прежде чем менять настройки |
| Схема работала, после правки перестала | Добавленный узел тянет в память свою модель | Смотреть потребление по блокам узловой сборки |
Сокращать начинайте с разрешения, а не с числа шагов: шаги меняют время расчёта, а не пик потребления. Если задача не помещается принципиально, дальше решает выбор между своим железом и арендой.
Частые вопросы
- Что важнее — объём видеопамяти или скорость карты?
- Объём. Не хватило памяти — генерация не запустится вовсе, а нехватка скорости означает лишь ожидание.
- Как снизить требования к памяти?
- Уменьшить разрешение и добрать размер тайловым апскейлом — самый эффективный приём. Дальше: пакет из одного кадра, квантованная сборка, отключение дополнительных модулей.
- Почему у вас нет таблицы с временем генерации?
- Своего замера мы пока не проводили, а переписывать чужие числа без проверки не будем.