Роботакси Cruise в кризисе: увольнения, отзыв и обнаружение «слепого пятна» алгоритма к детям

Новости для роботакси Cruise в последние недели были просто ужасающими. Дочерняя компания GM, занимающаяся беспилотными автомобилями, на этой неделе объявила о волне увольнений, причем генеральный директор Кайл Вогт, по сообщениям, сообщил об этом сотрудникам на общем собрании. Кроме того, расследования выявили тревожные сведения о том, что алгоритм программного обеспечения испытывал трудности с обнаружением детей.

На этой неделе компания, в которой работают 4000 сотрудников, начала увольнять временных работников, поддерживающих беспилотный парк, с последующими увольнениями, как сообщает TechCrunch. Сотрудники, вероятно, не слишком удивлены, учитывая череду катастроф, с которыми компания сталкивается с момента инцидента, когда роботакси Cruise протащило пешехода в Сан-Франциско более чем на 20 футов, прежде чем остановиться – несчастный пешеход был ранее сбит автомобилем, управляемым человеком, и отброшен на траекторию движения автомобиля Cruise.

Департамент автотранспортных средств Калифорнии аннулировал разрешение Cruise на эксплуатацию, заявив, что автомобили «небезопасны для эксплуатации общественностью» и «исказили» информацию о технологии автомобиля. Через несколько недель Cruise приостановила всю свою деятельность в других городах, включая Остин, Хьюстон, Даллас, Майами и Финикс.

Это спровоцировало федеральное расследование и независимые проверки компании, которые, к сожалению, выявили внутренние документы, подробно описывающие, что у алгоритма автомобиля были проблемы с идентификацией детей. По-видимому, сотрудники компании знали об этом, но роботакси все еще находились на улицах. Согласно внутренним документам по безопасности, изученным The Intercept, «автомобили Cruise могут не проявлять дополнительной осторожности в отношении детей», которые рассматриваются как особая категория пешеходов из-за их непредсказуемого поведения, и роботакси могут «нуждаться в возможности отличать детей от взрослых, чтобы мы могли проявлять к ним дополнительную осторожность».

Эрик Мозер, директор по связям с общественностью Cruise, ответил: «Наша беспилотная эксплуатация всегда превосходила человеческие показатели, и мы постоянно оцениваем и смягчаем новые риски для непрерывного совершенствования… У нас самый низкий допустимый уровень риска при контакте с детьми, и мы относимся к ним с наивысшим приоритетом безопасности. Ни один автомобиль — управляемый человеком или автономный — не будет полностью свободен от риска столкновения». Мозер добавил, что «риск потенциального столкновения с ребенком может возникать один раз на каждые 300 миллионов миль пробега парка, и с тех пор мы его улучшили. Столкновений с детьми на дороге не было».

Из The Intercept:

Реклама — прокрутите дальше для получения большего количества контента

В материалах отмечаются результаты симулированных испытаний, в которых автомобиль Cruise находится в непосредственной близости от маленького ребенка. «По результатам симуляции мы не можем исключить, что полностью автономный автомобиль мог бы сбить ребенка», — говорится в одной из оценок. В другом тестовом заезде автомобиль Cruise успешно обнаружил манекен размером с малыша, но при этом сбил его боковым зеркалом на скорости 28 миль в час.

General Motors добровольно отозвала весь парк из 950 роботакси Cruise, а вчера Cruise опубликовала пост в блоге в ответ на недавние события. Интересно, что в посте говорилось, что компания ищет директора по безопасности и привлекает юридическую фирму Quinn Emmanuel, которая работала с Илоном Маском, для анализа своей реакции на октябрьский инцидент с пешеходом в Сан-Франциско.

С момента покупки Cruise в 2016 году за 1 миллиард долларов General Motors несет огромные убытки. С января по сентябрь GM потеряла 1,9 миллиарда долларов на расходах Cruise за этот период, в дополнение к убытку в размере 732 миллиона долларов в третьем квартале.