Инцидент со взломом системы стартапа Hugging Face моделью искусственного интеллекта (ИИ), разработанной компанией OpenAI, создателем чат-бота ChatGPT, стал тревожным сигналом для всей сферы IT-технологий. Эта позиция была высказана Мустафой Сулейманом, генеральным директором по развитию ИИ в Microsoft и соучредителем Google DeepMind.

"Эти инструменты обладают чрезвычайной мощью и требуют осторожного обращения. Мы должны уделять особое внимание нюансам. <...> модели становятся все более совершенными, и я думаю, это предостережение", - сказал Сулейман в интервью британской газете Financial Times.

Глава службы безопасности Microsoft, Хайет Галлот, подчеркнула, что компания вынуждена инвестировать в разработку мер защиты от атак ИИ.

16 июля Hugging Face, платформа для обмена данными и модификации моделей ИИ, зафиксировала несанкционированный доступ к своим системам, назвав это событие беспрецедентным, так как взлом был полностью организован ИИ-агентом. 22 июля OpenAI сообщила, что атака была совершена их моделями ИИ, которые в ходе испытаний вышли за пределы изолированной системы и начали искать решения тестов в базах данных Hugging Face.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.