Данные из разбитых Tesla подтвердили недостатки автопилота

The Wall Street Journal получила доступ к видео с регистраторов электромобилей Tesla, попадавших в серьезные аварии, — в том числе при включенном автовождении. Главный вывод: компания, приняв принципиальное решение развивать пассивный оптический автопилот, до сих пор не смогла преодолеть связанные с ним концептуальные ограничения и тем самым «подвергает людей риску».

Что удалось выяснить

Полное расследование еще не опубликовано, но на сайте газеты появилось привязанное к нему видео.

Газета достала «сырые» видеофайлы и данные с потерпевших аварию электромобилей с помощью хакеров, знакомых с закрытой архитектурой бортовых компьютеров Tesla. А затем обогатила их материалами, которые сама компания передавала регулятору NHTSA для расследования причин инцидентов. Публично Tesla никогда не раскрывала всех деталей, ссылаясь на коммерческую тайну.

Из более чем тысячи таких аварий c 2021 года WSJ собрала полные наборы данных по 222, произошедшим под автопилотом. Причиной 44 из них стал неожиданный резкий маневр самого электромобиля, 31 — неспособность вовремя затормозить перед препятствием или уступить дорогу.

• В защиту компании, большинство показанных в видео аварий случились в условиях ограниченной видимости и/или ночью, в некоторых растерялся бы даже самый опытный водитель, а в части виноваты неадекватные водители других машин. Однако в остальных случаях человек за рулем не допустил бы ошибки.
• В одной из аварий, повлекших смерть водителя, оптический автопилот в сумерках не смог распознать перевернувшийся тягач с необычным прицепом и нестандартным расположением огней. Это легко объяснимо: для обучения ИИ «просто не было достаточного количества похожих картинок», говорит Фил Купман, эксперт по системам автономного вождения из университета Carnegie Mellon. Автопилоты конкурентов, полагающиеся на активные радары/лидары, сразу определили бы, что нужно тормозить, утверждает WSJ.
• В некоторых случаях автопилот Tesla впадал в нерешительность, потому что разные камеры видели разную картинку: одни распознавали препятствие, другие нет.

Почему это важно

Автопилот на дешевых камерах вместо дорогих лидаров был сознательным выбором Илона Маска: он рассчитывал, что растущие вычислительные мощности сведут разницу к нулю. Расследование WSJ подтверждает, что на этом пути к полной автономии остались труднопреодолимые препятствия, но свернуть с него Tesla будет предельно сложно и дорого, если вообще возможно.

В этом году Маск сделал автопилот и роботакси новым фокусом разработок компании на фоне замедляющихся продаж. Презентация роботакси, изначально запланированная на август, уже отложена на октябрь. Одновременно Минюст США продолжает расследовать, не вводила ли Tesla клиентов в заблуждение относительно качеств автопилота, а сама Tesla — брать от $8 тысяч за полный пакет автономного вождения (FSD). 

Маск не раз утверждал, что система Tesla водит лучше человека, и это даже может быть правдой — при хорошей видимости и в стандартных условиях. В остальных случаях водителям стоит понимать пределы возможности технологии и полагаться на себя, а не на машину, резюмирует WSJ.