В McAfee обманули автопилот Tesla кусочком скотча

В лаборатории McAfee нашли способ обмануть функцию распознавания дорожных знаков Speed Assist на некоторых электромобилях Tesla. Автопилот заставили превысить скорость на 80 км/ч, пишет TechSpot.

4 комментария

В лаборатории McAfee нашли способ обмануть функцию распознавания дорожных знаков Speed Assist на некоторых электромобилях Tesla. Автопилот заставили превысить скорость на 80 км/ч, пишет TechSpot.

Исследователи всего лишь наклеили кусок тёмного скотча на цифру три на знаке ограничения скорости до 35 миль в час. В итоге система приняла «3» за «8» и разрешила себе дополнительные 50 миль в час.

Проблеме подвержены камеры MobilEye EyeQ3 в электрокарах Model S и X 2016 года выпуска — более новые авто так провести не удастся.

Это далеко не единственный метод ввести в заблуждение автопилот Tesla. Не так давно израильские исследователи придумали для этой цели закрепить на дроне лазерный проектор. Дальше они выводили на дорогу 2D-изображение какого-либо объекта — человека, мотоцикла или же фейковый дорожный знак или разметку. Система распознавала голограмму как настоящее препятствие и тормозила или сворачивала на соседнюю полосу.

Причём оба этих хака не требуют дорогостоящего оборудования и реализовать их может любой желающий. В прошлом году команда Keen Labs похожим образом заставила автопилот Tesla выехать на встречную полосу, нарисовав на дороге три прямоугольника, уводящих авто в сторону.

К слову, уязвимости могут крыться не только в системе распознавания, но и в датасетах, на которых её обучают. Специалисты Roboflow вручную проверили датасет Udacity Dataset 2 на 15 тысяч изображений. Оказалось, что почти на трети из них были не отмечены присутствующие там объекты. Невидимыми для AI остались тысячи автомобилей, сотни пешеходов и велосипедистов.

dev.by проводит новое исследование рынка труда в белорусском ИТ — заполните анонимную анкету, и скоро мы поделимся результатами.​​​​​​​​​​​​​​​​​​

Работа в ИТ в Беларуси​

1. Заполните анонимную форму — 5 минут.
2. Укажите зарплатные (и другие) ожидания.
3. Выберите желаемую индустрию или область деятельности.
4. Получайте релевантные предложения​​.

Хотите сообщить важную новость? Пишите в Телеграм-бот.

А также подписывайтесь на наш Телеграм-канал.

Горячие события

Dell Technologies Forum CEE
26 ноября

Dell Technologies Forum CEE

HRgile.club
2 декабря

HRgile.club

Минск

Читайте также

Tesla Model X взломали за 90 секунд через уязвимости брелока и Bluetooth
Tesla Model X взломали за 90 секунд через уязвимости брелока и Bluetooth
Tesla Model X взломали за 90 секунд через уязвимости брелока и Bluetooth
1 комментарий
Илон Маск стал вторым в рейтинге миллиардеров, обошёл Билла Гейтса
Илон Маск стал вторым в рейтинге миллиардеров, обошёл Билла Гейтса
Илон Маск стал вторым в рейтинге миллиардеров, обошёл Билла Гейтса
2 комментария
Tesla начала продавать фирменные флешки
Tesla начала продавать фирменные флешки
Tesla начала продавать фирменные флешки
1 комментарий
Илон Маск обогнал Марка Цукерберга в рейтинге миллиардеров
Илон Маск обогнал Марка Цукерберга в рейтинге миллиардеров
Илон Маск обогнал Марка Цукерберга в рейтинге миллиардеров

Обсуждение

1

Дальше они выводили на дорогу 2D-изображение какого-либо объекта — человека, мотоцикла или же фейковый дорожный знак или разметку. Система распознавала голограмму как настоящее препятствие и тормозила или сворачивала на соседнюю полосу.

Человек бы тоже свернул

1

Нет, ну вот ржака, они на знак нарисовали 8 вместо 3 , и что вообще ожидали??? Пиар чистой воды, исследователи от Бога.

0

Человек все равно не поедет 85. Даже если будет настоящий знак.
Знаки стоят не просто так, и у каждого водителя в фоне работает проверка на адекватность ограничения.

0

Это всё решается глобальной цифровой картой. Видимо пока ещё пользователей маловато, чтобы её запускать.

Спасибо! 

Получать рассылки dev.by про белорусское ИТ

Что-то пошло не так. Попробуйте позже