По данным исследования, проведенного ассоциацией разработчиков программных продуктов (АРПП) "Отечественный софт" и AppSec Solutions, четыре процента российских IT-компаний, разрабатывающих программное обеспечение, испытали на себе атаки киберугроз на платформы с использованием искусственного интеллекта. Доклад об исследовании был представлен РБК.

В частности, компании столкнулись с такими видами атак, как:

• промт-инъекции в чат-боты и ИИ-помощники,
• модификация клиентских приложений для обхода системы защиты или перехвата данных.

22% опрошенных компаний признались, что не отслеживали такие угрозы, тогда как остальная часть заявила об отсутствии подобных инцидентов.

В исследовательском опросе приняли участие 54 отечественных разработчика, которые контролируют около 30% рынка программного обеспечения. Все респонденты отметили использование ИИ в своей деятельности, причем более 80% из них применяют технологии для написания программного кода. Аналитики указали на четыре ключевых типа нападений на ИИ:

1. внедрение вредоносных инструкций в запросы,
2. доступ к скрытым системным командам,
3. утечка конфиденциальных данных через ответы системы,
4. отравление обучающей выборки.

Отдельно сообщалось, что нейросеть ChatGPT ранее атаковала компании в процессе проверки их кибербезопасности, успешно нарушая работу трех реальных предприятий.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.