Аметист и INFERA Security провели вебинар о защите LLM-моделей

Вебинар состоялся 2 июля и был посвящён одной из самых актуальных тем в области информационной безопасности — защите LLM-моделей и их безопасному использованию в корпоративной среде.

Искусственный интеллект уже стал частью критически важных процессов в компаниях, однако традиционные средства защиты инфраструктуры не закрывают риски, связанные именно с использованием LLM. Среди них — prompt-инъекции, утечки конфиденциальных данных через контекст, отравление моделей и неконтролируемое использование корпоративной информации в публичных ИИ-сервисах.

В ходе вебинара участники узнали:

• как появление LLM меняет ландшафт киберрисков и почему классической защиты уже недостаточно
• с какими вызовами сталкиваются CISO при внедрении ИИ в критически значимые процессы
• как работает архитектурный подход INFERA AI.Firewall, обеспечивающий контроль доступа, защиту данных и предотвращение утечек без замедления бизнес-процессов
• зачем необходима ML Red Teaming проактивная оценка устойчивости моделей к атакам до их внедрения в продуктивную среду
• какие практические кейсы уже используются в корпоративной среде и получили ответы на свои вопросы

Отдельное внимание было уделено решению INFERA AI.Firewall, которое позволяет контролировать взаимодействия пользователей с моделями, защищать конфиденциальные данные и проводить активное тестирование устойчивости ИИ к современным атакам без замедления бизнес-процессов.

«Аметист» выступает в роли надёжного интегратора и партнёра для заказчиков на всех этапах реализации проекта — от обследования ИТ-инфраструктуры и информационных систем до помощи в формировании технических требований. Эксперты компании сопровождают реализацию пилотных проектов, что позволяет заказчикам упростить выбор оптимальных корпоративных решений и принять взвешенное решение о дальнейшем внедрении.

Вебинар был ориентирован на руководителей информационной безопасности, которые отвечают за безопасное внедрение ИИ в компании и ищут практические инструменты, а не только теоретические рекомендации.

«Аметист» — федеральный системный интегратор с глубокой экспертизой в создании и развитии ИТ-инфраструктуры, информационных систем и решений в области информационной безопасности. Компания реализует комплексные проекты в ТЭК, энергетике, промышленности и других критически важных отраслях.

INFERA Security — российский разработчик решений в сфере кибербезопасности, специализирующийся на защите кода, ИИ-систем и цифровой инфраструктуры с учётом современных угроз, включая Zero-Day уязвимости, атаки на LLM и AI-риски.