Независимый провайдер ИТ-инфраструктуры в России Selectel анонсировал ИИ-роутер, который представляет собой универсальный сервис-шлюз для доступа к популярным генеративным языковым моделям. Это решение включает в себя более 300 ИИ-моделей и позволяет вызывать их через единую точку входа, исключая необходимость создания собственной специализированной инфраструктуры для работы с задачами в области ИИ. Об этом IT Speaker сообщили в Selectel.
Одним из примечательных аспектов технологии является встроенная маршрутизация запросов и механизм автоматического восстановления. Таким образом, в случае сбоя или недоступности одного из провайдеров система автоматически перенаправляет нагрузку на резервную модель, обеспечивая непрерывность критически важных процессов. Все запросы и ответы моделей проходят через ИИ-роутер, не логируются и не используются для дообучения нейросетей. Данные обрабатываются на инфраструктуре Selectel в России, что соответствует требованиям регуляторов.
ИИ-роутер предлагает унифицированный доступ через единственный мастер-ключ для работы с открытыми ИИ-моделями. Пользователи могут создавать и настраивать отдельные API-ключи для различных команд и проектов в личном кабинете.
Подключение к сервису не требует наличия собственной команды ML-специалистов и не создает сложных технических барьеров. Для интеграции применяется привычный API-формат, что исключает необходимость переписывания существующего кода или переобучения специалистов. Решение идеально подходит для быстрой интеграции ИИ-моделей в рабочие процессы команд и ускорения внедрения ИИ-приложений.
Сервис предоставляет возможность настройки гибких лимитов по использованию ИИ-моделей с учетом бюджета, что позволяет контролировать расходы и защищает от нецелевого использования. Оплата осуществляется на основе фактического потребления токенов в рамках единого договора и счета в рублях, что устраняет основной платежный барьер для российских компаний. Аналитика и метрики в реальном времени предлагают детальный мониторинг потребления и доступности моделей, формируя полную картину использования ИИ по моделям и ключам внутри компании.
«ИИ-роутер Selectel является не просто сервисом доступа к ИИ-моделям, а дополнительным инфраструктурным слоем, который обеспечивает централизованное управление подключенными моделями. Более того, система обеспечивает стабильность работы, предотвращая простои важных бизнес-процессов, а также безопасность данных», – отметил Ярослав Павлов, менеджер продукта в Selectel.
Ранее стало известно, что Selectel и Университет ИТМО запускают совместное предприятие, нацеленное на развитие искусственного интеллекта. Как рассказали IT Speaker, объем инвестиций Selectel в новый проект превысит 1 миллиард рублей.
«МегаФон» первым выпустил роутер с eSIM
