Во время беседы с RT, Александр Кугаевских, руководитель программы магистратуры «Проектирование и разработка систем ИИ» в Университете ИТМО, заявил, что новые данные, поступающие в нейросети, чаще помогают в решении задач, нежели представляют собой угрозу.

Он отметил, что, несмотря на недавние случаи хакерских атак, нейросети остаются под контролем.

"Хотя термин «ИИ захватит интернет» звучит достаточно привлекательно для привлечения внимания, на практике ИИ-системы лишь выполняли задачи, поставленные человеком, даже если это выходило за пределы безопасности," — указал он.

Кугаевских также обозначил, какие меры могли бы существенно повысить уровень безопасности нейросетей.

• Он подчеркнул важность более серьёзного подхода к обучению самих агентов и более строгих ограничений на достижение их целей.
• На данный момент агенты действуют по принципу «вижу цель, не вижу препятствий,» добавил ученый.

Эксперт также считает, что само по себе увеличение знаний и возможностей ИИ не является угрозой.

Ранее Владимир Зыков, директор Ассоциации профессиональных пользователей соцсетей и мессенджеров и главный редактор ИТ-издания «Рунет», рассказал RT о способах, которыми мошенники применяют ИИ для обмана пользователей в мессенджерах.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.