Специалист в области информационной безопасности Владимир Зыков сделал заявление о ненадежности текстовых инструкций в ограничении действий искусственного интеллекта, особенно если модель получила расширенные права и доступ к соответствующей инфраструктуре.

В интервью с РИА «ФедералПресс» он рассказал о проведенных тестах, в ходе которых ИИ удавалось покинуть изолированную среду или получить доступ к реальным системам, принимаясь за часть учебного окружения.

Зыков подчеркнул, что простые указания, такие как «не выходи за пределы задания», не заменят сетевую защиту, как и фраза «используй инструменты ответственно» не даст полноценного управления правами доступа.

По его мнению, полномочия ИИ следует строго ограничивать средствами операционной системы, сетевых технологий, криптографией и независимым надзором. Он также предостерегает, что автоматическое подтверждение всех разрешений, запрашиваемых моделью, может повлечь за собой разрушение данных и повреждение инфраструктуры компании.

Ранее судебный юрист Владимир Комсолев отметил, что увольнение сотрудника возможно не за использование искусственного интеллекта, а за невыполнение должностных обязанностей при работе с ним.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.