Tesla подала патент на метод сбора данных из большого парка клиентских автомобилей для обучения своей нейронной сети автопилота.
Патент был подан от имени Tesla, однако Андре Карпати, руководитель отдела ИИ и программного обеспечения автопилота Tesla, указан единственным изобретателем в заявке.
В заявке он описывает проблему сбора данных для обучения глубокого обучения:
«Системы глубокого обучения, используемые в таких приложениях, как автономное вождение, разрабатываются путем обучения модели машинного обучения. Обычно производительность системы глубокого обучения ограничена, по крайней мере, частично, качеством обучающего набора, используемого для обучения модели. Во многих случаях значительные ресурсы вкладываются в сбор, кураторство и аннотирование обучающих данных. Усилия, необходимые для создания обучающего набора, могут быть значительными и часто утомительными. Более того, часто бывает трудно собрать данные для конкретных случаев использования, в которых модели машинного обучения требуется улучшение».
Подход Tesla к разработке системы автопилота существенно отличается от подходов большинства других компаний.
В то время как большинство других компаний используют относительно небольшие парки тестовых автомобилей для сбора данных и тестирования своих систем, Tesla использует свой парк из сотен тысяч автомобилей клиентов, оснащенных набором датчиков, для сбора дорожных и ездовых данных, а также для тестирования своей системы автопилота в «теневом режиме».
Эти данные, собранные парком автомобилей, чрезвычайно ценны для Tesla при обучении ее нейронной сети для автопилота.
Однако они должны быть осторожны с тем, что они собирают и передают сети.
Карпати отмечает в патентной заявке:
«По мере того, как модели машинного обучения становятся все более сложными, например, более глубокие нейронные сети, необходимость в больших обучающих наборах данных соответственно возрастает. Эти более глубокие нейронные сети могут требовать большего количества обучающих примеров по сравнению с более мелкими нейронными сетями, чтобы гарантировать высокую обобщающую способность. Например, хотя нейронная сеть может быть обучена быть высокоточной в отношении обучающих данных, нейронная сеть может плохо обобщаться на невиданные будущие примеры. В этом примере нейронная сеть может выиграть от дополнительных примеров, включенных в обучающие данные».
Таким образом, инженер объясняет свой запатентованный метод классификации потенциальных обучающих данных в источнике перед их передачей:
«Примерный метод включает получение данных с датчиков и применение нейронной сети к этим данным. Классификатор срабатывания применяется к промежуточному результату нейронной сети для определения оценки классификатора для данных датчиков. На основе, по крайней мере, частично, оценки классификатора определяется, следует ли передавать по компьютерной сети по крайней мере часть данных датчиков. При положительном решении данные датчиков передаются и используются для генерации обучающих данных».
Вот некоторые чертежи из патентной заявки, объясняющие метод:
Полная заявка Tesla на новый патент:
[scribd id=452883322 key=key-I7h96nwg1wM7XLeBOLGM mode=scroll]