Медиацентр: Безопасное использование ИИ в инфраструктуре компаний

Здравствуйте. Ещё недавно безопасность ИТ-контура любого бизнеса была была ориентирована на защиту от угроз, связанных с физической инфраструктурой, сетями и пользовательскими данными.

Однако, с распространением технологий искусственного интеллекта, появляются новые векторы угроз, которые требуют разработки специализированных механизмов защиты, специфичных именно для нейросетей. Комментирует генеральный директор компании INFERA Security Игорь Бирюков:

«Многие уже отлично осознают риски искусственного интеллекта, но пока не знают как их полностью контролировать. О самых заметных угрозах, таких как промт-инъекции слышали уже многие. При этом ИИ сильно увеличивает поверхность атаки, а утечка конфиденциальных данных через LLM и атаки на цепочки поставок становятся главными угрозами. Именно поэтому ИИ требует комплексного подхода, который включает внедрение новых средств защиты, аудит и настройку правил и прав доступа, контроль целостности используемых моделей, а также регулярное тестирование для выявления уязвимостей и аномалий. Только так можно эффективно предотвращать атаки, защищать инфраструктуру, сами модели и ценные данные при использовании ИИ в корпоративной среде».

Эксперты отмечают, что особенно важно контролировать и проверять входящие запросы, а также ответы, генерируемые моделью. Создание же специальной многоуровневой защиты минимизирует эти риски, обеспечивая безопасность на всех этапах работы с ИИ.

Аудиозапись выпуска можно прослушать на нашем сайте с помощью встроенного плеера: