Автопилот Tesla обманули с помощью незаметной фальшивой разметки

Китайская компания Tencent Keen Security Lab взломала систему автопилота Tesla электрокара Model S 75 благодаря размещению незаметных для водителя стикеров на дороге с целью проверки системы безопасности.

ИИ-система воспринимает наклеенные стикеры за дорожную разметку, в результате чего автомобиль может свернуть со своей полосы и выехать на встречную. Данную ситуацию запечатлели на видеоролике.

Электрокар Tesla Model S 75 работал на системе автопилота версии 2.5 от 2018.6.1. Заметим, что автопилот Tesla распознает объекты с помощью нейросетей, однако благодаря специальным изображениям можно сбить работу алгоритма, что приведет к некорректному определению объектов.