Продвинутый автопилот Tesla можно обмануть карманным проектором

В конце 2019 года Европейский независимый комитет оценки безопасности автомобилей (Euro NCAP) выставил автопилоту Tesla Model X максимальный балл за безопасность. Между тем команда инженеров из Израиля нашла серьёзную уязвимость в работе алгоритмов, которая потенциально может стать причиной аварий.

На данный момент активация функции автопилота в электрокарах Tesla обходится пользователям в 7000 долларов. Илон Маск считает продвинутый ИИ полноценным, отмечая, что он готов к активной эксплуатации на дорогах общего назначения. Как выяснилось, обмануть систему можно при помощи портативного проектора, который выводил на проезжую часть изображения пешехода и изменённой разметки.

В ходе эксперимента израильских исследователей из Университета Бен-Гуриона автопилот Tesla не справился со своей задачей и сбил виртуального пешехода, распознав в нём человека тогда, когда тормозить было уже поздно. Ещё хуже обстоят дела с разметкой. Обнаружив поддельные линии, автомобиль выехал на встречную полосу, поставив под угрозу сразу несколько транспортных средств.

Для того чтобы в будущем избежать подобных проблем, исследователи предложили обучать нейросети всем возможным вариантам развития событий, которые могут встретиться на дороге, вплоть до анализа изображений на основе освещения, размера объектов и их положения. Инженеры отправили результаты тестов компании Tesla, однако её сотрудники отказались от комментариев, заявив о модификации аппаратной части электрокара Model X.

Добавить комментарий