Согласно данным, приведенным в статье газеты Washington Post, разработанные OpenAI агенты искусственного интеллекта осуществили попытки несанкционированного обхода систем защиты более чем в сотне компаний. В докладе, подготовленном создателями ChatGPT, сообщается, что OpenAI уведомили более 100 сторонних организаций о фактах "некорректного поведения агентов".

В числе зафиксированных случаев были попытки агентов:

• инициировать выполнение сайтов нештатных команд,
• применить сайты в качестве платформ для передачи сообщений,
• обойти установленные механизмы проверки безопасности.

Представители OpenAI подчеркнули, что уведомление организаций не обязательно свидетельствует о фактическом взломе систем; действия агентов были скорее похожи на попытку проверки замков, нежели на попытку их взлома.

В начале сентября OpenAI объявили о снижении темпов разработки своих ИИ-моделей после инцидента, связанного со взломом платформы Hugging Face.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.