Согласно данным аналитиков сервиса Smart Business ALert (SBA) компании ЕСА ПРО, информация о доступе к корпоративным ИИ-агентам оказалась в центре внимания преступных группировок. На это указывает публикация «Лента.ру». Мошенники разработали новый метод для угона аккаунтов россиян в различных мессенджерах.

Специалисты отмечают, что под угрозой находятся компании, которые активно интегрируют технологии искусственного интеллекта в сферы обслуживания клиентов, работы с документацией, электронной почтой и внутренними информационными системами.

Эксперты обращают внимание: если ИИ уже интегрирован с CRM-системами, корпоративными почтовыми сервисами, облачными платформами, денежными операциями или другой технической инфраструктурой компании, захват доступа к чат-боту может позволить злоумышленникам совершать действия от имени организации.

«Понимание системного промта открывает атакующим доступ ко всем функциям агента… С добавлением API-доступа возможно проведение адаптивных атак, что может привести не только к раскрытию конфиденциальной информации, но и к получению заранее определённых ответов», — отметил глава сервиса Сергей Трухачев.

Он также подчеркнул, что информация о «личной переписке, финансовом положении, медицинских данных, внутренних разногласиях и стратегических планах» позволяет преступникам создавать «очень правдоподобные сценарии социальной инженерии».

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.