Cloud.ru представил исходный код Guardrails Filter – инструмента, разработанного для предотвращения утечек конфиденциальной информации при взаимодействии с большими языковыми моделями. Теперь любой российский бизнес может бесплатно внедрить этот инструмент на своей платформе и интегрировать его с ИИ-продуктами сторонних производителей. Об этом сообщили в пресс-службе облачного провайдера IT Speaker.
Ранее фильтр использовался в цифровой среде AI Factory для очистки запросов к сервису Foundation Models, а также в пилотных и текущих проектах клиентов и внутренних разработках Cloud.ru.
Генеральный директор Cloud.ru Михаил Лобоцкий подчеркнул, что, несмотря на большой интерес к генеративному ИИ, вопросы безопасности замедляют его широкое внедрение. По его словам, Guardrails Filter был создан как часть внутренней платформы компании, а публикация кода предназначена для помощи бизнесу в более быстром создании защищенных ИТ-структур для работы с языковыми моделями.
Открытая версия не привязана к экосистеме Cloud.ru и совместима с любыми LLM. Ее можно установить на собственной инфраструктуре и управлять через веб-интерфейс: изменять правила фильтрации, проводить тестирование, просматривать логи и события. Инструмент встраивается между корпоративными приложениями и моделью, анализируя пользовательские запросы и ответы нейросети. Перед передачей данных в модель он маскирует личную информацию, API-ключи, пароли и другую критически важную информацию, заменяя их тестовыми значениями. После получения сгенерированного ответа фильтр возвращает исходные данные, так что пользователь получает полный результат, а реальные данные остаются в защищенной среде.
Пользователи опенсорс-версии могут использовать встроенные шаблоны для обнаружения конфиденциальной информации или создавать собственные правила – для уникальных форматов контрактов, клиентских идентификаторов или внутренних кодов проектов. В инструменте также предусмотрены функции ведения логов и режим Ghost Mode, который позволяет протестировать все настройки до полноценного запуска. Эффективность работы Guardrails Filter подтверждена независимым тестом pii-bench: результат по метрике F1 составил 93,1 балла, а точность обнаружения достигла 99,9% – это означает, что из тысячи проверок только одна оказывается ложной.
Ранее Cloud.ru запустил EvoClaw – облачный сервис собственной разработки для работы с OpenClaw и другими ИИ-агентами. Новинка доступна клиентам на основе предлагаемых тарифов.
От хайпа к профиту: как считать ИИ-эффективность
