Медиацентр: О рынке защиты систем искусственного интеллекта

Здравствуйте. Российский рынок защиты систем искусственного интеллекта еще формируется, но уже в этом году его объём может превысить 1 млрд руб. Крупнейшие компании начинают внедрять инструменты анализа защищенности ИИ-систем на фоне громких утечек персональных данных и коммерческих тайн из чат-ботов.

При этом участники рынка предупреждают о новых серьезных угрозах: злоумышленники все чаще маскируют кибератаки под легитимный трафик больших языковых моделей, что резко увеличивает их скрытность. О том, насколько остро стоит проблема промт-инъекций и несанкционированного доступа к языковым моделям для бизнеса рассказывает директор по кибербезопасности СберТеха Всеслав Соленик:

«Задача действительно актуальна для всех отраслей и секторов. Для комплексной защиты необходимы и новые практики, и новые инструменты. Мы в СберТехе разработали такое решение, которое позволяет контролировать и защищать взаимодействие с большими языковыми моделями от угроз взлома через промпты или от утечек персональных данных. Такое решение у нас уже внедрено, применяется в масштабах нашей группы, и мы предлагаем его нашим клиентам».

Это особенно актуально, если компания планирует создание собственных безопасных ИИ-агентов. Такой поход также поможет снизить затраты на их разработку и эксплуатацию, а также обеспечить соответствие регуляторным требованиям и ускорить вывод на рынок.

Аудиозапись выпуска можно прослушать на нашем сайте с помощью встроенного плеера: