Технически

Аренда видеокарты вместо покупки

Когда облако дешевле своего железа и что считать при сравнении.

Олег Красин··2 мин чтения

Коротко

Аренда выигрывает при нерегулярной нагрузке и на разовых задачах вроде обучения надстройки. Своё железо выигрывает при постоянной работе — но окупается дольше, чем кажется.

Аренда видеокарты вместо покупки

Что сравнивается

Не «цена карты против цены часа», а полная стоимость владения против полной стоимости аренды.

У покупки: цена карты, блок питания под неё, электричество, время на настройку и обслуживание, потеря стоимости при перепродаже.

У аренды: цена часа, время на развёртывание окружения при каждом запуске, хранение данных между сессиями, зависимость от связи.

Когда выгодна аренда

Разовая задача. Обучение LoRA — несколько часов работы, ради которых карта не нужна.

Нерегулярная нагрузка. Пара дней в месяц.

Нужна карта мощнее вашей. Задача, которая не помещается в вашу видеопамять, решается арендой без покупки.

Проверка перед покупкой. Арендовать на несколько часов ту карту, которую собираетесь купить, — самый дешёвый способ убедиться, что она подходит.

Когда выгодно своё

Ежедневная работа. Задачи с чувствительными материалами, которые не должны покидать ваш компьютер. Работа без стабильной связи.

Что упускают при расчёте

Время развёртывания. Каждый запуск арендованной машины требует поднять окружение и загрузить модели. Полчаса перед каждой сессией на коротких задачах съедают всю выгоду.

Хранение между сессиями. Модели весят десятки гигабайт. Хранить их у провайдера — отдельная статья расходов, загружать заново каждый раз — время.

Оплата простоя. Часть провайдеров считает время, пока машина запущена, а не пока она работает. Забытая на ночь машина — распространённая история.

Практический подход

Начните с аренды, даже если планируете покупку. Несколько недель работы покажут реальную нагрузку — и она почти всегда отличается от предполагаемой.

Считайте по факту, а не по плану: обычно генерируют реже, чем собирались.

Частые вопросы

Что дешевле — арендовать или купить?
Аренда при нерегулярной нагрузке и на разовых задачах, своё железо при ежедневной работе. Покупка окупается дольше, чем кажется.
Что чаще всего упускают в расчёте?
Время развёртывания окружения перед каждой сессией, хранение моделей между запусками и оплату простоя запущенной машины.
Как выбрать карту перед покупкой?
Арендовать ту же модель на несколько часов и прогнать свои реальные задачи.

Олег Красин псевдоним

Псевдоним автора технического раздела. Отвечает за локальный запуск моделей, требования к железу и за замеры, которые издание проводит само.

Отвечает за: локальный запуск, требования к железу, методика замеров