ITGLOBAL.COM (международное облачное направление корпорации ITG) запустила GPU-инфраструктуру для обучения ML-моделей одной из российских компаний в финтех-секторе. Это решение помогло устранить ограничения, которые замедляли работу команд специалистов по машинному обучению и аналитике данных, сообщила пресс-служба ITG.
Таким образом, компания, для которой была создана инфраструктура, развивает цифровые сервисы в области скоринга, персонализированных предложений и прогнозной аналитики. Для функционирования этих продуктов заказчик регулярно обучал ML-модели на обширных массивах транзакционных, поведенческих и CRM-данных. С увеличением числа сервисов и объема данных существующей инфраструктуры стало недостаточно: обучение моделей заняло чрезмерно много времени, вычислительные ресурсы приходилось распределять между командами, а запуск новых инициатив тормозился.
До перехода на облачную GPU-инфраструктуру часть моделей обучалась на CPU-ресурсах, а часть – на локальных GPU с ограниченным доступом. В результате обучение отдельных моделей занимало до 30-36 часов, а командам приходилось ожидать свободные мощности.
Для решения этой проблемы ITGLOBAL.COM предоставила заказчику облачную GPU-инфраструктуру на базе NVIDIA H200 с несколькими конфигурациями для разных этапов работы – от пилотного тестирования до полноценных production-нагрузок. Выбор H200 был обусловлен характером задач заказчика: 141 ГБ памяти HBM3e и высокая пропускная способность позволяют обучать крупные модели без значительных ограничений по размеру пакета данных, а поддержка технологии MIG (разделения одного GPU на несколько изолированных экземпляров) позволила нескольким командам работать параллельно на одном графическом процессоре, не мешая друг другу.
Таким образом, переход на GPU Cloud позволил сократить среднее время обучения моделей в 3-5 раз – с десятков часов до 5-7 часов. Время дообучения на обновленных данных уменьшилось с 8–10 часов до 2–3 часов. Благодаря MIG команды перестали ждать своей очереди и смогли запускать эксперименты параллельно, что увеличило общее количество проверяемых гипотез более чем на 60%. Срок вывода новых ML-сценариев в продакшн сократился примерно на 40%.
Ранее агентство J’son & Partners Consulting представило отчет о исследовании российского рынка серверного ПО для видеоконференцсвязи. В документе определены ключевые факторы развития рынка и описан конкурентный ландшафт. Наибольшую долю в сегменте заняли IVA Technologies (29,6%) и «МТС Линк» (7,5%).
«Точка Банк»: в РФ растет число ИТ-компаний, но не их прибыль
