Дорогие комплектующие и много месячное ожидание поставок должны были окончательно подтолкнуть компании к публичным облакам. На практике интерес к физическим серверам не исчез, а развитие искусственного интеллекта только усилило его. ИИ-проектам нужны производительные GPU, большой объем видеопамяти и стабильный доступ к вычислительным ресурсам, которые не всегда удается быстро арендовать в подходящей облачной конфигурации.
Новые серверы дорожают быстрее, чем их успевают поставить
В текущем году закупка нового сервера требует не только значительного бюджета, но и готовности ждать. По оценкам участников российского рынка, с лета минувшего года серверная DRAM подорожала примерно в четыре раза. Стоимость отдельных конфигураций Dell выросла на 15-20%, Lenovo — на 10-15%. Еще заметнее изменилась цена GPU-серверов с ускорителями Nvidia H100 и B200: рост по некоторым позициям достигает 30-50%.
На стоимость и сроки одновременно влияют несколько факторов:
-
Производители памяти перераспределяют мощности в пользу HBM, необходимой для современных ИИ-ускорителей;
-
Высокопроизводительные GPU поставляются ограниченными партиями и распределяются между крупнейшими заказчиками;
-
Доставка оборудования в Россию проходит через сложные логистические цепочки и может занимать восемь-десять месяцев.
Для бизнеса такое ожидание превращается в отдельный финансовый риск. Запуск проекта приходится откладывать, а временную нагрузку — переносить в облако и оплачивать по повышенному тарифу. Поэтому компании все чаще стремятся выбрать б/у сервер с гарантией от поставщика, чтобы быстрее получить рабочую конфигурацию. При этом обязательными условиями остаются диагностика, стресс-тестирование и заранее прописанный порядок замены неисправных компонентов.
ИИ возвращает интерес к выделенному железу
Основным двигателем спроса на физические серверы стали проекты в области искусственного интеллекта и машинного обучения. Современные модели требуют не просто высокой вычислительной мощности, а постоянного доступа к определённому типу GPU и достаточному объему видеопамяти.
Флагманские ускорители Nvidia B200 и B300 пока ограниченно представлены в стандартных каталогах публичных облаков. Нередко такие мощности предоставляются по предварительной заявке, в рамках индивидуальной конфигурации или долгосрочного контракта. Это снижает главное преимущество облака — возможность получить ресурсы практически сразу.
В прошлом году объем российского рынка аренды GPU-серверов оценивался примерно в 17 млрд рублей. В этом году показатель может увеличиться до 34 млрд, причем около 60% спроса приходится на ИИ-задачи. Собственная или арендованная физическая инфраструктура особенно оправдана, когда:
-
GPU работают с высокой загрузкой большую часть суток;
-
Требования к производительности известны заранее;
-
Проект рассчитан на длительный срок;
-
Данные нельзя передавать во внешнее публичное облако.
При постоянной нагрузке выделенный сервер нередко оказывается предсказуемее по стоимости и стабильнее по доступности ресурсов.
Б/у серверы закрывают часть дефицита
Сервер б/у может использоваться не только как временная замена оборудованию, задержавшемуся в поставке. Для ряда задач он становится полноценной постоянной платформой. Это особенно актуально для инференса — применения уже обученной модели, компьютерного зрения, тестирования алгоритмов и запуска небольших нейросетей.
Восстановленный сервер можно задействовать в нескольких сценариях:
-
как основной вычислительный узел для умеренной нагрузки;
-
как резервную систему на случай отказа новой платформы;
-
как тестовый контур для разработки и проверки обновлений;
-
как вспомогательный сервер для хранения данных и предварительной обработки информации.
Однако refurbished-оборудование нельзя считать универсальной альтернативой новым GPU-системам. При обучении крупных моделей ограничения старых процессоров, шин PCIe, памяти и межсерверных соединений могут существенно замедлить работу.
Перед покупкой проверяют состояние GPU, материнской платы, охлаждения, блоков питания и накопителей. Не менее важна совместимость платформы с нужными ускорителями, версиями драйверов, CUDA и выбранной программной средой. Даже исправный сервер окажется бесполезным, если его BIOS, питание или корпус не рассчитаны на установку требуемых видеокарт.
Гибридная инфраструктура становится основным сценарием
Выбор между физическим сервером и облаком постепенно уступает место комбинированной модели. Постоянную и хорошо прогнозируемую нагрузку компании размещают на собственном или арендованном оборудовании. Разработку, эксперименты и кратковременные пики переносят в публичное облако, где ресурсы можно быстро увеличить и отключить после завершения задачи.
Внутри физического контура оборудование также распределяется по приоритетам. Новые серверы обслуживают наиболее ресурсоемкие и критичные процессы. Восстановленные платформы берут на себя резервирование, тестирование, хранение данных и умеренно нагруженные сервисы.
Такая архитектура уменьшает зависимость от поставок, которые растягиваются на несколько месяцев, и одновременно помогает контролировать облачные расходы. Компания не переплачивает за постоянно арендованные GPU, но сохраняет возможность быстро получить дополнительные мощности в период пикового спроса.
Сначала нагрузка, затем оборудование
Возвращение интереса к физическим серверам не означает отказа от облачных технологий. Решение нужно принимать после оценки загрузки GPU, требуемого объёма видеопамяти, продолжительности проекта, требований к данным и допустимых сроков запуска.
Для объективного выбора стоит сравнить три сценария: публичное облако, новый сервер и восстановленный сервер. Учитывать необходимо не только цену покупки или аренды, но и сроки поставки, масштабируемость, обслуживание, энергопотребление и возможные простои.
