Я был первым журналистом, который протестировал Tesla Autopilot еще до его запуска более десяти лет назад. С тех пор я испытал каждую версию Autopilot и «Full Self-Driving» (FSD). FSD v14 — самая впечатляющая из всех, и именно это делает её наиболее опасной.
Опасность заключается не в том, что FSD v14 плохая. Опасность в том, что она достаточно хороша, чтобы заставить вас перестать следить за дорогой, — а Tesla делает недостаточно для того, чтобы предотвратить эту самоуверенность.
Более того, я бы сказал, что компания активно поощряет беспечность своим маркетингом.
Десятилетие прогресса — и десятилетие бдительности
За последние 10 лет я бесчисленное количество раз корректировал работу Autopilot и FSD в опасных ситуациях. Я наблюдал, как система превращается из базового ассистента удержания полосы, требующего постоянного вмешательства, в нечто, способное по-настоящему ориентироваться в сложных городских условиях. На протяжении всего этого времени я повторял на этом сайте одно и то же: FSD — это система помощи водителю 2-го уровня, и водитель несет ответственность в любой момент времени.
Я всегда помнил об этом. Я всегда сохранял бдительность.
Но ежедневное использование FSD v14 в течение последних нескольких недель что-то изменило. Система выходит на действительно впечатляющий уровень. Теперь я часто проезжаю сотни миль, не вмешиваясь в управление. Когда делаешь это достаточно часто, сохранять бдительность становится всё сложнее.
Даже я, человек, который более десяти лет призывал к осторожности в этом вопросе, замечаю, что становлюсь более беспечным. И мне это не нравится.
Это проблема «иронии автоматизации», о которой исследователи предупреждали еще с 1980-х годов: ненадежная система заставляет вас быть начеку, потому что она ошибается достаточно часто, чтобы требовать вашего внимания. Идеальная система не нуждается в контроле. Но система, которая работает почти идеально, создает ловушку: водители доверяют ей ровно настолько, чтобы перестать следить за дорогой, но она все равно ошибается непредсказуемо, а иногда и критически.
Данные начинают подтверждать наличие проблемы
Сейчас мы получаем данные, свидетельствующие о том, что FSD v14 может проехать пару тысяч миль между критическими вмешательствами. Это звучит впечатляюще — и так оно и есть. Но подумайте, что это значит для бдительности водителя.
Если вы проезжаете 2000 миль без необходимости вмешиваться, это примерно 30–40 часов вождения, когда система справляется сама. Человеческая психология просто не приспособлена к тому, чтобы сохранять бдительность так долго. Психологи называют это «снижением бдительности»: наблюдение за почти идеальной системой утомляет, скука ведет к потере концентрации, а исследования показывают, что водителю требуется от 5 до 8 секунд, чтобы мысленно переключиться после того, как автоматизированная система возвращает контроль.
Когда возникает критическая ситуация — внезапное препятствие, запутанный перекресток, зона дорожных работ, которую FSD не понимает, — если вы не следите за дорогой в эти несколько секунд, это может быть крайне опасно. Даже если FSD v14 в 3 раза лучше предыдущих версий, одного момента невнимательности в неподходящее время может оказаться достаточно для фатального исхода.
Мы видели это на драматичном примере, когда Раффи Крикорян, бывший глава подразделения беспилотных автомобилей Uber, разбил свою Tesla Model X, используя FSD. Это человек, который буквально создавал системы автономного вождения, — но почти идеальная работа FSD все равно усыпила его бдительность. Когда система внезапно потеряла ориентацию на повороте, он не успел среагировать. Машина была полностью уничтожена.
Если беспечность из-за автоматизации может поймать бывшего главу подразделения беспилотников Uber, она может поймать кого угодно.
Страховой институт дорожной безопасности (IIHS) предупредил, что автопроизводителям необходимо фундаментально переосмыслить конструкцию систем 2-го уровня, чтобы защититься от этой конкретной проблемы. NHTSA расширило требования к отчетности об авариях для ADAS 2-го уровня. А Reuters недавно выяснило, что собственные ИИ-тренеры Tesla не доверяют этой системе — семеро из девяти бывших разметчиков данных заявили, что не доверили бы FSD вождение своего автомобиля.
Маркетинг Tesla усугубляет проблему
Я твердо убежден, что Tesla делает недостаточно для решения этой проблемы самоуверенности. На самом деле, компания активно ее усугубляет.
Официальные аккаунты Tesla в X ведут постоянную кампанию, которая преподносит FSD как нечто, что едет за вас, а не то, что вы контролируете. Вот что пишут Tesla и Илон Маск:
Утверждения, что это «возвращает время» и «дает свободу»:
Tesla опубликовала пост о том, что «FSD Supervised может вернуть вам свободу» и «снимает стресс от вождения, чтобы вы могли наслаждаться поездками». Компания назвала это «вашим личным шофером». Маск заявил: «Беспилотное вождение Tesla значительно улучшает качество жизни и безопасность в течение тысяч часов, которые вы проводите в машине».
Каждый из этих постов говорит водителю: расслабься, машина справится. Это противоположно тому, что следует говорить людям, управляющим системой 2-го уровня.
Продвижение FSD среди людей, которые не всегда могут контролировать систему:
И вот здесь начинается настоящая безответственность. Официальный аккаунт Tesla прорекламировал 71-летнего покупателя с плохим зрением, который приобрел Cybertruck ради FSD, подписав пост словом «Свобода». Они показали 93-летнюю женщину, использующую FSD для поездок в церковь, потому что она может «ехать без страха или усталости, которые естественно приходят с возрастом». Они растиражировали историю мужчины, родившегося без рук, назвавшего FSD «доступностью, меняющей жизнь». Они написали, что FSD «поможет нам оставаться независимыми, когда мы стареем и уже не можем водить сами».
Я считаю, что автоматизированное вождение окажет невероятное влияние на жизнь людей с ограниченными возможностями, но, несмотря на название, «Full Self-Driving» от Tesla — это не то. Это система помощи водителю 2-го уровня.
Система 2-го уровня требует полностью дееспособного водителя, готового взять управление на себя в любой момент. Это прямо противоречит профилю каждого человека, которого Tesla выбирает для своих рекламных роликов. Как я писал еще в марте, эти твиты в конечном итоге станут доказательствами в суде по делу об аварии с участием Tesla FSD. Адвокат истца покажет их и скажет: «Официальный аккаунт Tesla рекламировал отзыв слабовидящего покупателя, который купил автомобиль именно потому, что поверил, будто FSD может водить за него, — и Tesla распространила это сообщение среди миллионов».
Советы водителям писать сообщения за рулем:
Маска спросили, позволяет ли FSD переписываться за рулем, и он ответил: «В зависимости от контекста окружающего трафика, да». Использование телефона за рулем запрещено почти во всех 50 штатах. Собственные условия Tesla по-прежнему требуют полного контроля со стороны водителя.
Называние машины «разумной»:
Маск заявил, что «к версии V14.3 ваша машина будет казаться разумной». Это не техническое заявление — это психологическая установка, призванная заставить водителей очеловечить систему и доверять ей больше, чем следует.
Мнение Electrek
Я освещаю Autopilot и FSD от Tesla дольше, чем кто-либо другой. Я писал еще в октябре 2024 года, что FSD становится опаснее по мере того, как становится лучше. Сейчас, полтора года спустя, система стала значительно совершеннее, а проблема беспечности стала значительно острее.
FSD v14 — это действительно впечатляющая технология. Я использую ее каждый день. Но чем лучше она становится, не достигая подлинной автономности, и при том, что Tesla продолжает настаивать на ответственности водителя, тем опаснее становится разрыв между тем, что водители считают возможным для системы, и тем, что она действительно может делать в каждой ситуации.
У Tesla есть два пути. Она может продолжать ослаблять контроль за водителем, публиковать рекорды «нулевого вмешательства», рассказывать слепым людям, что FSD дает им «свободу», и поощрять водителей писать сообщения за рулем — и все это при том, что мелкий шрифт по-прежнему гласит: «Уровень 2, водитель несет ответственность в любое время». Или же она может отнестись к проблеме беспечности серьезно: усилить контроль за водителем, перестать рекламировать FSD как замену внимательному водителю и быть честной с клиентами относительно реальных ограничений системы.
Прямо сейчас Tesla выбирает первый путь. И это должно беспокоить всех, кто ездит по дорогам общего пользования — владеют они Tesla или нет. Потому что, когда беспечный водитель FSD пропустит то самое одно критическое вмешательство за 2000 миль, человек, в которого он врежется, не подписывался на участие в бета-тесте Tesla.
Если вы владелец Tesla и хотите сократить расходы на вождение, переход вашего электромобиля на питание от домашней солнечной энергии — один из самых разумных шагов. Поскольку тарифы на электроэнергию в прошлом году выросли почти на 10%, домашние солнечные панели защищают вас от будущего повышения цен. А благодаря вариантам лизинга и PPA вы можете установить солнечные батареи с нулевыми первоначальными вложениями и сразу начать экономить. Если хотите найти лучшее предложение, загляните на EnergySage. Это бесплатный сервис, где сотни проверенных установщиков конкурируют за ваш заказ, что позволяет сэкономить от 20 до 30% по сравнению с самостоятельным поиском подрядчика. Никаких навязчивых звонков, пока вы сами не выберете исполнителя. Получите бесплатные сметы здесь.