Главный тренер команды «Сан-Франциско 49ers» Кайл Шанахан 14 июля попал в аварию на своем Tesla Model S, когда машина двигалась на автопилоте. Он отвлекся от дороги, чтобы достать упавший телефон, до которого не мог дотянуться.
В результате аварии он получил сотрясение мозга, перелом носа, трех ребер, левой руки, а также 40 швов над правым глазом. И надо отдать ему должное, он не винит в случившемся автомобиль.
На этой неделе во время тренировочного лагеря 49ers Шанахан подробно рассказал репортерам об инциденте. Это произошло около 18:12 возле Альма-стрит и Гамильтон-авеню в Пало-Альто, когда он возвращался домой в Лос-Альтос после приема у мануального терапевта. Его iPhone соскользнул и застрял между сиденьем и консолью. Он опустил взгляд примерно на две секунды, чтобы подобрать его, выехал на встречную полосу на скорости около 20 миль/ч (32 км/ч) и столкнулся с внедорожником, которым управляла 21-летняя девушка. Она не получила серьезных травм.
В полицейской базе данных изначально виновной в ДТП была указана другой водитель. Шанахан исправил это сам. «Я врезался в нее. Я не знаю, почему это было так задокументировано», — сказал он. Позже полиция Пало-Альто назвала эту запись канцелярской ошибкой, а прибывший на место офицер решил никого не штрафовать.
Шанахан берет вину на себя, и это правильный подход
Именно здесь тренер вызывает уважение. Он не стал прятаться за технологиями.
«Виноват всегда ты. Независимо от того, включен у тебя автопилота или нет, нельзя сводить глаз с дороги», — заявил Шанахан.
Слово «всегда» тут, пожалуй, слишком категорично. Мы видели случаи, когда системы ADAS совершали ошибки, которые не смог бы исправить даже самый внимательный водитель, но в целом он прав.
Он также честно признался в том, чего не знает: «Произошел ли сбой или я сам что-то задел, я пока не знаю. Кто знает, что случилось, когда я отвернулся?»
Это гораздо более честное признакое, чем то, на которое способны большинство водителей Tesla после аварии. Шанахан потянулся за телефоном, отвел взгляд и признал последствия. Он даже добавил то, о чем говорить никто не заставляет: «Когда ты устраиваешь аварию, которой можно было избежать, чувствуешь себя полным дураком, особенно когда есть риск навредить кому-то другому».
Но в этом-то и заключается главная ловушка систем помощи водителю
Самая важная деталь кроется в собственном объяснении Шанахана: «У меня автопилот уже девять лет, так что я к нему привык».
И эта уверенность — как раз и есть проблема.
Автопилот — это система помощи водителю 2-го уровня (Level 2) от Tesla. Второй уровень означает, что автомобиль может самостоятельно рулить, тормозить и разгоняться, но человек остается полностью ответственным и должен быть готов мгновенно, в любой момент и без предупреждения взять управление на себя.
Вся проблема в том, что эти системы работают настолько хорошо большую часть времени, что водители перестают быть начеку. Девять лет поездок, когда машина справляется с вождением за вас, приучают ей доверять. Поэтому, когда падает телефон, взгляд вниз на две секунды не кажется чем-то рискованным. Но это риск.
В этом и заключается фундаментальный изъян автоматизации 2-го уровня, о котором исследователи безопасности предупреждают уже много лет. Чем лучше система справляется с рутинным вождением, тем больше она провоцирует водителя расслабиться и потерять бдительность. А затем она внезапно возвращает управление в самый неподходящий момент. Человек, который последние 20 минут был просто пассажиром, не может превратиться в бдительного водителя за полсекунды, пока машина пересекает разделительную полосу.
Собственные данные Tesla показывают масштабы проблемы. Количество ДТП с участием автопилота и системы FSD, о которых сообщалось регуляторам, достигло рекордных 207 за один месяц. И при этом Tesla продолжает гнуть свою линию в отношении внимания водителя. Илон Маск заявлял, что водители с FSD теперь могут писать СМС за рулем, что прямо противоречит требованиям систем 2-го уровня к человеку за рулем.
Мнение Electrek
Шанахан попал в серьезную аварию, не стал скрывать правду и исправил информацию, когда в отчете ошибочно обвинили 21-летнюю девушку, которая была абсолютно ни в чем не виновата. Это проявление большей ответственности, чем демонстрируют большинство водителей, и, честно говоря, большей, чем сама Tesla обычно проявляет, когда ее софт работает во время аварии.
Но его собственный рассказ — это идеальная иллюстрация того, почему современный автопилот 2-го уровня работает именно так. Девять лет использования автопилота притупили его бдительность — настолько, что он позволил себе отвлечься на скорости 20 миль/ч. Это опытный, аккуратный человек, и тем не менее он попал в аварию. Это проблема не Шанахана. Это проблема проектирования. Я сам говорил после тестирования FSD v14: система FSD от Tesla <настолько хороша, что вызывает опасную самоуверенность>
Неприятная правда об автопилоте и FSD заключается в том, что они достаточно хороши, чтобы вас убаюкать, но недостаточно хороши, чтобы оставить их без присмотра. Они берут на себя скучные аспекты вождения вплоть до того самого момента, когда им внезапно требуется полностью вовлеченный человек — ровно в тот момент, когда этот человек наименее к этому готов. Шанахану повезло. Скорость была 20 миль/ч, и никто не погиб. Теперь же Tesla рекламирует FSD как то, чему можно доверять, даже теряя зрение, при этом машина движется на скорости 45, 65 и 75 миль/ч.
###NON_TRANSLATABLE_1###