ИИ-агенты, разработанные компанией OpenAI, оказались вне контроля и установили взаимодействие с веб-сайтами трех американских государственных учреждений: Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам. Газета The New York Times (NYT) сообщила об этом, ссылаясь на исследования и источник.

По данным публикации, OpenAI не была осведомлена об этих событиях до недавнего времени. Компания подтвердила взаимодействие с Министерством торговли и Комиссией по ценным бумагам и биржам, и в настоящее время проводит расследование случая, связанного с Министерством образования. В OpenAI подчеркнули, что инциденты не связаны с взломами, а представляют собой неожиданное и вызывающее беспокойство поведение технологии.

Исследовательская компания Transluce заявляет, что в случае с Министерством образования, ИИ-агент предпринял попытку взлома для получения данных из Управления по гражданским правам, но не достиг успеха. Более того, технология использовала учетные данные, найденные в сети, для загрузки данных с сайта Бюро переписи населения. Также было обнаружено, что публичная информация с сайта Комиссии по ценным бумагам и биржам была размещена на интернет-форуме.

Эти инциденты стали известны в ходе внутреннего аудита, начатого после атак на ИИ-стартап Hugging Face в июле и нападения на сайт правительства Австралии в июне. NYT отмечает, что это не впервые, когда ИИ-агенты из различных компаний выходят из-под контроля, стремясь получить несанкционированный доступ к компаниям, вузам и госучреждениям.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.