Система Full Self-Driving v14.3.6 от Tesla попыталась свернуть на съезд с шоссе, который моя машина уже проехала, на скорости 110 км/ч, и это могло отправить нас прямо в кювет.
Я был готов взять управление на себя и сделал это, но было страшно. Моя девушка, сидевшая на пассажирском сиденье, закричала от испуга.
Что запечатлел видеорегистратор
Это произошло в воскресенье вечером на Автомагистрали 55 в регионе Мориси в Квебеке, когда была активирована FSD (Supervised) v14.3.6 — новейшая и самая продвинутая сборка Tesla FSD на самом современном «железе».
Машина движется со скоростью 110 км/ч по правой полосе. Сухое дорожное покрытие, никакого трафика в обоих направлениях, свежепокрашенная разметка, светоотражающие дорожные знаки над дорогой. Идеальные условия для FSD. Когда мы проезжаем под рамкой съезда № 217, включается правый указатель поворота, и автомобиль начинает смещаться к обочине, при этом на экране по-прежнему отображается надпись «Self-Driving».
Проблема в том, что съезд уже остался позади. Поворот на такой скорости в последний момент привел бы к тому, что мы влетели бы прямо в кювет.
Показатели скорости меняются со 110 до 109, 107, 104 км/ч, так как система продолжает выполнять маневр. Именно тогда я схватился за руль. Надпись «Self-Driving» исчезает с дисплея на отметке 102 км/ч.
Это не было случайным колебанием в полосе или моментом нерешительности. Машина сама решила включить поворотник и взять съезд, на который ей вообще не нужно было сворачивать.
Это были идеальные условия для FSD
Если бы вы сами разрабатывали максимально простой сценарий для системы Tesla, это был бы именно он.
Разделенное шоссе. Ночь, поэтому фары встречных машин и светоотражатели на полосе отлично видны. Абсолютное отсутствие трафика. Четкая разметка. Крупные, хорошо освещенные указатели.
Судя по всему, что я видел в версии v14, ночные поездки по пустой загородной трассе — это то, в чем система проявляет себя наилучшим образом. Я проехал тысячи километров в точно таких же условиях, вообще не прикасаясь к управлению. Именно поэтому я был уверен в системе. И эта уверенность — настоящая ловушка.
Я писал именно об этом риске в июне
Два с половиной месяца назад я опубликовал статью, в которой утверждал, что FSD v14 настолько хороша, что это вызывает у меня опасную самоуспокоенность. Тогда я писал, что «система, которая работает почти идеально, создает ловушку: водители доверяют ей ровно настолько, чтобы перестать следить за дорогой, но при этом она все равно дает непредсказуемые, а иногда и критические сбои».
Я подтверждаю каждое свое слово, и воскресный вечер стал тому доказательством. Пара тысяч миль между критическими вмешательствами водителя — это действительно впечатляющая инженерная работа. Но это точно такой же интервал, который приучает ваш мозг перестать сканировать обстановку.
В примечаниях к релизу собственной версии v14.3.6 компании Tesla говорится, что она «модернизировала этап обучения с подкреплением (RL) нейронной сети FSD», переписала ИИ-компилятор с использованием MLIR для «увеличения скорости реакции на 20%» и улучшила реакцию автомобиля на ухудшение условий работы системы, «сократив количество ненужных отключений». Отключений становится меньше, когда софт работает лучше, но их также становится меньше, когда водитель перестает вмешиваться. Tesla не публикует никаких данных, которые позволяли бы сторонним наблюдателям отличать одно от другого.
А официальная статистика, которая все же доступна, не внушает оптимизма. Tesla отчиталась о рекордных 207 авариях с участием Autopilot и FSD, о которых было сообщено в NHTSA всего за один месяц, причем детали происшествий были скрыты в 99,9% из ее 3 763 отчетов об авариях систем помощи водителю с 2019 года. Илон Маск по-прежнему заявляет инвесторам, что беспилотная FSD без участия водителя получит широкое распространение в США к концу года, в то время как со-генеральный директор Waymo продолжает объяснять, почему автопилот, использующий только камеры, не дотягивает до того, что на самом деле необходимо для полностью автономной системы.
Мнение Electrek
Один близкий к аварии инцидент — это частный случай, а не статистика, но я считаю его важным напоминанием о необходимости сохранять бдительность.
Как я уже неоднократно говорил, Tesla FSD v14 — поистине впечатляющий продукт. Конечно, он меркнет, если сравнивать его с тем, как изначально позиционировалась FSD: как полностью автономное вождение без участия человека. До этого еще далеко и, возможно, не дойдет никогда. Это останется проблемой и, вероятно, худшим маркетинговым ходом в истории Tesla.
Но если отбросить это и рассматривать FSD как систему помощи водителю при передвижении из точки А в точку Б, она действительно невероятна.
Тем не менее, сейчас она настолько невероятна, что порождает самоуспокоенность. Ситуацию не улучшают и высказывания генерального директора Илона Маска вроде «теперь во время ее использования можно смотреть в телефон».
Очевидно, что это безрассудство. По мере того как система совершенствуется, Tesla должна уделять больше внимания тому, чтобы убеждать водителей не терять бдительность именно из-за этой проблемы самоуспокоенности. А не наоборот.
Если вы водите электромобиль, самое дешевое топливо для него вырабатывается на вашей собственной крыше. Учитывая, что тарифы на электроэнергию выросли почти на 10% в прошлом году и продолжают расти, переход на солнечную энергию — один из лучших способов защитить себя от растущих расходов. Благодаря вариантам аренды и соглашениям о покупке электроэнергии (PPA) вы можете сделать это с нулевыми первоначальными затратами и сразу же начать экономить. Если вы хотите найти лучшее предложение, воспользуйтесь сервисом EnergySage. Это бесплатный сервис с сотнями проверенных установщиков, борющихся за вашего клиента, что позволяет сэкономить от 20 до 30% по сравнению с самостоятельным поиском. Никаких звонков от менеджеров по продажам, пока вы сами не выберете подрядчика. Получите бесплатные расценки здесь.