Группе хакеров удалось обмануть автопилот Tesla первого поколения, заставив его разогнаться с 35 до 85 миль в час с помощью измененного знака ограничения скорости, который люди могли бы прочитать правильно.
Хакеры из McAfee Advanced Threat Research провели эксперимент.
Они объясняют, что они поставили себе цель, в своем блоге:
McAfee Advanced Threat Research (ATR) ставит перед собой конкретную цель: выявлять и освещать широкий спектр угроз в современном сложном ландшафте. Благодаря взлому моделей, исследованию того, как противники могут нацеливаться на искусственный интеллект и уклоняться от него, у нас есть невероятная возможность влиять на осведомленность, понимание и разработку более безопасных технологий, прежде чем они будут реализованы таким образом, который имеет реальную ценность для противника.
Исходя из этого, они решили нацелиться на систему камер MobilEye, поскольку она используется более чем в 40 миллионах автомобилей, включая автомобили Tesla с автопилотом первого поколения, которые использовались для этого конкретного эксперимента.
Они решили попробовать изменить знаки ограничения скорости таким образом, чтобы человек мог по-прежнему знать лимит, но автоматизированная система могла сбиться с толку:
В конечном итоге им удалось заставить автомобиль Tesla на автопилоте разогнаться на 50 миль в час выше установленного лимита:
Главный вывод здесь заключается в том, что нам удалось достичь первоначальной цели. Сделав небольшую модификацию нашего знака ограничения скорости с помощью наклеек, мы смогли вызвать целевую неправильную классификацию камеры MobilEye на Tesla и использовать ее, чтобы заставить автомобиль автономно разогнаться до 85 миль в час при чтении знака 35 миль в час. Из соображений безопасности в видеодемонстрации показано, как скорость начинает резко возрастать, а TACC ускоряется на пути к 85 милям в час, но при наших тестовых условиях мы применяем тормоза задолго до достижения целевой скорости. Стоит отметить, что это, по-видимому, возможно только при первой реализации TACC, когда водитель дважды нажимает на рычаг, активируя TACC. Если неправильная классификация успешна, автопилот активируется на 100% случаев. Это короткое демонстрационное видео показывает все эти концепции вместе.
Они выпустили короткое видео одного из экспериментов:
McAfee подтвердил, что раскрыл свои выводы как Tesla, так и MobilEye перед их публикацией:
McAfee раскрыл выводы Tesla 27 сентября 2019 года, а MobilEye — 3 октября 2019 года. Оба поставщика проявили интерес и были благодарны за исследование, но не выразили никаких текущих планов по решению проблемы на существующей платформе. MobilEye указал, что более новые версии системы камер решают эти сценарии использования.
В предыдущих случаях уязвимостей, обнаруженных белыми хакерами, Tesla довольно быстро их исправляла.
В 2016 году мы сообщали о том, что китайская группа белых хакеров Keen Security Lab при Tencent сумела удаленно взломать Tesla Model S через вредоносную точку доступа Wi-Fi. Считается, что это был первый удаленный взлом автомобиля Tesla.
Хакеры сообщили об уязвимости Tesla перед публикацией, и автопроизводитель довольно быстро выпустил обновление.
Взгляд Electrek
Хотя это технически уязвимость, ее сложнее исправить, поскольку она, по сути, требует лучшей системы распознавания изображений.
Готов поспорить, что Tesla не торопится ее исправлять, поскольку она затрагивает только автопилот первого поколения, но я думаю, что владельцам важно хотя бы знать, что такое может произойти.
Что думаете? Сообщите нам в разделе комментариев ниже.