Технически
Какая видеокарта нужна для локальной генерации
Главное ограничение — объём видеопамяти, а не скорость. Что происходит при её нехватке и как обойти.
Коротко
Решает объём видеопамяти, а не производительность. Не хватило памяти — генерация не запустится вовсе; не хватило скорости — просто придётся подождать.
Почему память важнее скорости
Модель загружается в видеопамять целиком. Не поместилась — не запустится, и никакая производительность этого не компенсирует.
Скорость влияет только на время ожидания. Медленная карта с достаточной памятью работает. Быстрая с недостаточной — нет.
Отсюда правило выбора: сначала объём памяти, потом всё остальное.
Что влияет на потребление памяти
Размер модели. Крупные модели требуют больше.
Квантизация. Огрублённая сборка занимает существенно меньше при небольшой потере качества. Именно она делает возможным запуск на потребительских картах.
Разрешение. Растёт квадратично: удвоение стороны кадра учетверяет требования.
Размер пакета. Четыре кадра за раз требуют примерно вчетверо больше памяти, чем один.
Дополнительные модули. ControlNet, уточняющая модель, апскейлер — каждый добавляет своё.
Что делать, если памяти не хватает
По порядку, от самого дешёвого:
Уменьшить разрешение и увеличить готовый кадр тайловым апскейлом. Самый эффективный приём.
Уменьшить размер пакета до одного.
Взять квантованную сборку модели.
Отключить дополнительные модули, оставив только базовый проход.
Арендовать видеокарту в облаке — если задача разовая, это дешевле покупки.
Про наши цифры
Конкретных таблиц «модель против видеокарты против времени генерации» мы не публикуем: своего замера у нас пока нет, а переписывать чужие числа без проверки — ровно то, чего мы стараемся не делать.
Замер времени генерации на разных картах входит в план работ. До его проведения в этом материале нет ни одной цифры о производительности — и это осознанно.
Частые вопросы
- Что важнее — объём видеопамяти или скорость карты?
- Объём. Не хватило памяти — генерация не запустится вовсе, а нехватка скорости означает лишь ожидание.
- Как снизить требования к памяти?
- Уменьшить разрешение и добрать размер тайловым апскейлом — самый эффективный приём. Дальше: пакет из одного кадра, квантованная сборка, отключение дополнительных модулей.
- Почему у вас нет таблицы с временем генерации?
- Своего замера мы пока не проводили, а переписывать чужие числа без проверки не будем.