В McAfee обманули автопилот Tesla кусочком скотча

В лаборатории McAfee нашли способ обмануть функцию распознавания дорожных знаков Speed Assist на некоторых электромобилях Tesla. Автопилот заставили превысить скорость на 80 км/ч, пишет TechSpot.

4 комментария

В лаборатории McAfee нашли способ обмануть функцию распознавания дорожных знаков Speed Assist на некоторых электромобилях Tesla. Автопилот заставили превысить скорость на 80 км/ч, пишет TechSpot.

Исследователи всего лишь наклеили кусок тёмного скотча на цифру три на знаке ограничения скорости до 35 миль в час. В итоге система приняла «3» за «8» и разрешила себе дополнительные 50 миль в час.

Проблеме подвержены камеры MobilEye EyeQ3 в электрокарах Model S и X 2016 года выпуска — более новые авто так провести не удастся.

Это далеко не единственный метод ввести в заблуждение автопилот Tesla. Не так давно израильские исследователи придумали для этой цели закрепить на дроне лазерный проектор. Дальше они выводили на дорогу 2D-изображение какого-либо объекта — человека, мотоцикла или же фейковый дорожный знак или разметку. Система распознавала голограмму как настоящее препятствие и тормозила или сворачивала на соседнюю полосу.

Причём оба этих хака не требуют дорогостоящего оборудования и реализовать их может любой желающий. В прошлом году команда Keen Labs похожим образом заставила автопилот Tesla выехать на встречную полосу, нарисовав на дороге три прямоугольника, уводящих авто в сторону.

К слову, уязвимости могут крыться не только в системе распознавания, но и в датасетах, на которых её обучают. Специалисты Roboflow вручную проверили датасет Udacity Dataset 2 на 15 тысяч изображений. Оказалось, что почти на трети из них были не отмечены присутствующие там объекты. Невидимыми для AI остались тысячи автомобилей, сотни пешеходов и велосипедистов.

dev.by проводит новое исследование рынка труда в белорусском ИТ — заполните анонимную анкету, и скоро мы поделимся результатами.​​​​​​​​​​​​​​​​​​

Работа в ИТ в Беларуси​

1. Заполните анонимную форму — 5 минут.
2. Укажите зарплатные (и другие) ожидания.
3. Выберите желаемую индустрию или область деятельности.
4. Получайте релевантные предложения​​.

Горячие события

Конкурс EY Entrepreneur Of The Year 2020
31 мая — 31 мая

Конкурс EY Entrepreneur Of The Year 2020

GoWayFest 4.0
11 июля — 11 июля

GoWayFest 4.0

Минск

Читайте также

Как крупные ИТ-компании помогают бороться с коронавирусом
Как крупные ИТ-компании помогают бороться с коронавирусом

Как крупные ИТ-компании помогают бороться с коронавирусом

Маск: Tesla начнёт производить аппараты ИВЛ в случае дефицита (обновлено)
Маск: Tesla начнёт производить аппараты ИВЛ в случае дефицита (обновлено)

Маск: Tesla начнёт производить аппараты ИВЛ в случае дефицита (обновлено)

4 комментария
Tesla выпустила миллионный автомобиль
Tesla выпустила миллионный автомобиль

Tesla выпустила миллионный автомобиль

1 комментарий
Топ-5 технологических компаний потеряли $320+ млрд капитализации за день
Топ-5 технологических компаний потеряли $320+ млрд капитализации за день

Топ-5 технологических компаний потеряли $320+ млрд капитализации за день

Обсуждение

1

Дальше они выводили на дорогу 2D-изображение какого-либо объекта — человека, мотоцикла или же фейковый дорожный знак или разметку. Система распознавала голограмму как настоящее препятствие и тормозила или сворачивала на соседнюю полосу.

Человек бы тоже свернул

1

Нет, ну вот ржака, они на знак нарисовали 8 вместо 3 , и что вообще ожидали??? Пиар чистой воды, исследователи от Бога.

0

Человек все равно не поедет 85. Даже если будет настоящий знак.
Знаки стоят не просто так, и у каждого водителя в фоне работает проверка на адекватность ограничения.

0

Это всё решается глобальной цифровой картой. Видимо пока ещё пользователей маловато, чтобы её запускать.