Исследователи из Вашингтонского Университета (University of Washington) провели серию интересных тестов с участием беспилотных автомобилей. В ходе исследования выяснилось, что системы автомобиля могут неверно трактовать значение дорожных знаков, если на тех есть дополнительные надписи.
В примере исследователей на знак Stop были нанесены слова «love» и «hate». Автомобиль не смог верно «прочесть» знак — он снизил скорость, но без остановки проехал перекресток.
Ученые обращают внимание, что для злоумышленников не составит труда распечатать для знака наклейки с различными словами, которые могут сбить с толку беспилотный автомобиль, заставив его трактовать знак неверно и в результате спровоцировать аварийную ситуацию на дороге.
В качестве одного из решений данной проблемы ученые рекомендуют использование сопутствующей контекстной информации, с помощью которой автомобиль может определять верен и уместен ли какой-либо знак на конкретной дороге. То есть автомобиль будет анализировать должен или нет знак Stop находиться посреди оживленного шоссе, а знак ограничивающий скорость на пустынной проселочной дороге.