Международное облачное направление ITGLOBAL.COM (корпорация ITG) предоставило инфраструктуру GPU для запуска ИИ-ассистента, который взаимодействует с корпоративными знаниями. Это решение способствовало ускорению доступа сотрудников к внутренним документам и уменьшению нагрузки на сервисные команды на 37%. Об этом сообщила компания IT Speaker в ITG.
Заказчиком выступила организация с несколькими направлениями бизнеса, филиальной сетью и значительным количеством внутренних регламентов, шаблонов и технической документации. С увеличением числа систем поиск информации стал более сложным, а стандартные вопросы продолжали поступать в службу поддержки. Необходимо было разработать ИИ-ассистента в рамках корпоративной среды для диалогового поиска документов и предоставления ответов на типичные запросы с гарантией стабильной производительности.
ITGLOBAL.COM развернул GPU-инфраструктуру на базе NVIDIA RTX 6000 Blackwell Server Edition с поддержкой механизма RAG, что позволило находить актуальную информацию во внутренних источниках и формировать ответы. Ассистента интегрировали с корпоративными системами, включая базу сервисных обращений. В результате сотрудники начали получать ответы с ссылками на первоисточники.
Среднее время поиска информации сократилось с 15 минут до 40 секунд, а нагрузка на сервисные команды уменьшилась на 37%, что дало возможность перераспределить ресурсы на более сложные задачи.
«В GPU Cloud от ITGLOBAL.COM реализована поддержка vGPU, что позволяет заказчику использовать как полный профиль видеокарты, так и виртуализированный GPU-профиль с настраиваемым объемом памяти и вычислительных ресурсов. Это дало возможность начать с минимально необходимой конфигурации, протестировать архитектуру на реальных данных и перейти к продуктивной нагрузке с нужным объемом ресурсов, избежав избыточных затрат на этапе пилотного проекта. Актуальные графические карты были у нас в наличии, а скорость активации услуг позволила быстро перейти к развертыванию, что особенно важно, когда бизнес ожидает оперативной проверки гипотезы и быстрого принятия решения о масштабировании», – отметил директор облачного направления ITGLOBAL.COM, корпорация ITG Евгений Свидерский.
Ранее ITGLOBAL.COM развернул GPU-инфраструктуру для обучения ML-моделей для одной из отечественных компаний в финтех-секторе. Это решение помогло устранить ограничения, которые замедляли работу специалистов по машинному обучению и аналитике данных.
Выручка поставщиков временного Wi-Fi вырастет на 1 млрд руб.
