TrojAI

TrojAI — это платформа, которая специализируется на защите моделей и приложений Искусственного Интеллекта (AI) от рисков и потенциальных атак. Платформа состоит из двух ключевых компонентов: TrojAI::DETECT и TrojAI::DEFEND. TrojAI::DETECT интегрируется с AI и MLOps рабочими процессами для автоматического проведения тестирования на проникновение AI моделей перед их запуском в производство, помогая бизнесу выявлять скрытые риски и уязвимости для обеспечения плавного внедрения AI и соблюдения норм. TrojAI::DEFEND защищает от атак в реальном времени с помощью движка правил, основанного на данных. Он также позволяет безопасно использовать публичные AI-сервисы, фильтруя трафик к сервисам и от них, чтобы блокировать, редактировать и аудировать активность. Кроме того, платформа помогает организациям ориентироваться в сложных регуляторных рамках и стандартах для AI, обеспечивая соблюдение норм без замедления внедрения AI. Она тестирует модели перед развертыванием, чтобы предотвратить возможную утрату конфиденциальных данных после начала работы приложений.