Специалисты из Института интеллектуальных систем им. Макса Планка и Тюбингенского университета проводили очередные тесты беспилотных автомобилей на предмет безопасности. В этот раз инженеры проверяли, как авто справляются с распознаванием человеческих фигур.

Это очень важно для автомобилей, так как от правильного быстрого реагирования зависит жизнь не только пассажиров, но и пешеходов. У беспилотных авто часто находят уязвимости, когда система ошибочно воспринимает изображения на плакатах за настоящих людей или не видит людей в темноте.

Команда инженеров решила провести дополнительную проверку, чтобы найти новые уязвимости.

В ходе испытаний выяснилось, что камеры беспилотных авто некорректно реагируют на яркие цветные вспышки.

Эксперимент показал, что если камера фиксирует яркий неподвижный рисунок, то система начинает считать, что это разные объекты, которые движутся в противоположные стороны. Из-за этого нейросеть выдает ошибку и перезагружает систему, — сообщили разработчики.

Из себя систему может вывести даже обычный рисунок. В ходе эксперимента ученые сделали абстрактные разноцветные аппликации, из-за которых камера переставала видеть происходящее.

На видео можно посмотреть, как изображение становится сильно засвеченным, а силуэт людей еле просматривается.

Авторы исследования подчеркнули, что такой баг возникает с вероятностью всего несколько процентов, но этого достаточно, чтобы беспилотник стал вести себя непредсказуемо. Эксперимент показал, что, если камера авто несколько раз увидит одно и то же пятно, ее реакция будет каждый раз особенной.

Такие цветовые пятна могут случайно встретиться на придорожных афишах. Также их могут использовать злоумышленники, чтобы вывести авто из строя, — заключили специалисты.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.