3

Шутка над беспилотными автомобилями выявила у машин серьезные проблемы

Исследовательская группа из Калифорнийского университета в Ирвайне (UCI) выяснила, что автономные транспортные средства можно легко заставить вести себя нежелательным образом. С этой целью ученые организовали шуточный эксперимент — они решили проверить реакцию беспилотных автомобилей, работающих под управлением систем с открытым исходным кодом Apollo и Autoware.

Для этого самые обычные предметы, такие как велосипеды, коробки, мусорные баки и дорожные конусы разместили по обеим сторонам дороги, где проезжали самоуправляемые автомобили. Это привело к тому, что беспилотные транспортные средства реагировали на них неустойчивым поведением во время езды. К сожалению, случались даже внезапные остановки, которые потенциально могли создать опасность на дороге или повлиять на доставку пассажиров и грузов.

Это означает, что беспилотные авто фактически беззащитны перед лицом физических атак типа «отказ в обслуживании» (DDoS), когда объект намеренно помещается на пути транспортного средства, чтобы вызвать сбои. Проще говоря, на дорогу можно специально бросить предмет наподобие коробки — и беспилотник с большой степенью вероятности в нее врежется.

Пример HTML-страницы

Предметы на обочине наподобие дорожных конусов могут спровоцировать внезапную остановку беспилотного автомобиля

Исследователи выяснили, что текущая версия автопилота Apollo использует так называемый «пространственный буфер» для предотвращения столкновений. То есть автомобиль резко тормозит, когда до препятствия остается определенное критическое расстояние. В конечном результате этот алгоритм может привести к неожиданной остановке из-за статических объектов, расположенных вне полосы движения, если дорога узкая. Этого можно было избежать, если бы «пространственный буфер» был не фиксированным, а динамическим и зависел от скорости транспортного средства.

В целом, исследователи считают, что проектировщики и разработчики систем автономного вождения должны больше задумываться о компромиссе, особенно с учетом сложности сценариев вождения.

Чтобы сделать окончательные выводы, такого эксперимента недостаточно —  потребуется более широкая выборка. В целом, автопроизводители все еще находятся на экспериментальной стадии, поскольку они пытаются научить автономные системы вождения работать в реальных условиях, где часто могут возникать нестандартные ситуации. Это требует времени, потому что в идеале беспилотные автомобили должны иметь настолько сложный уровень искусственного интеллекта, что могли бы экстраполировать опыт водителя-человека.

Чтобы добиться прогресса в обучении автопилота, разработчикам нужно рассмотреть возможность использования более разнообразных тестов, включающих подобные ситуации.  В конечном итоге, злоумышленники или просто шутники, целенаправленно пытающиеся сбросить автопилот, — это то, что автопроизводителям придется принять во внимание. Достаточно даже вспомнить другие примеры, когда светоотражающая лента, прикрепленная к дорожным знакам, блокировала беспилотные автомобили.

Источник

admin
Оцените автора
Добавить комментарий