Ученые выяснили, как можно запутать автопилот

Используя несколько цветных стикеров и дорожных знаков, они смогли вызвать неадекватную реакцию беспилотника, запутав его системы. Это позволило исследователям определить, как автопилот воспринимает слегка видоизмененные картинки, в значительной мере определяющие его поведение. Практически во всех случаях они спровоцировали неожиданные реакции системы.

Например, знак «Stop» с несколькими небольшими прямоугольными стикерами, не перекрывающими основное изображение, автопилот воспринял как ограничение скоростного режима. Тот же знак «Stop» с двумя небольшими надписями над и под словом «Stop» и просто несколько затемненную картинку того же знака автопилот воспринял как сигнал для ограничения скорости.

Измененный с помощью серых стикеров знак «Движение только направо», автопилот воспринял как «Stop». Проводили ученые и другие эксперименты, которые продемонстрировали, насколько легко можно повлиять на поведение автопилота с помощью самых простых вещей. В опытах не использовался автопилот какого-то конкретного производителя. Речь идет о алгоритмах, использующихся в системах автономного управления.

Источник