Прежде чем беспилотные грузовики и такси смогут выехать на трассы, их производителям придется решить проблемы гораздо более сложные, чем предотвращение аварий и настройка навигации.
Этим машинам необходимо научиться защищать себя от целого ряда вредоносных взломщиков, которые используют как традиционные кибератаки, так и новое поколение атак, основанное на так называемом враждебном машинном обучении. В мире растет понимание того, что беспилотный транспорт через несколько лет уже будет ездить по городу и на скоростных трассах, чтобы ослабить туманящую разум водителей скуку от долгих поездок на грузовиках. Но риск возможных атак в основном упускается из виду.
Ситуация напоминает бесчисленные статьи, продвигавшие в 1990-х годах электронную почту, перед тем как новый мир электронной коммуникации затопило нежелательным спамом. Еще тогда обещанное машинное обучение считалось решением мировой задачи по борьбе со спамом. И действительно, сегодня проблема спама в основном преодолена, однако на это ушло несколько десятилетий.
До сих пор не было никаких докладов о враждебных хакерах, нацеленных на беспилотные машины. Однако ирония в том, что это, тем не менее, проблема. Когда в 1990-х годах стартапы dot-com разрабатывали первые электронные платформы, там тоже не было злобных хакеров. Однако после первого большого ряда взломов электронной почты Билл Гейтс потребовал от Microsoft серьезно отнестись к вопросам безопасности. Результат: сегодня Windows — одна из самых безопасных операционных систем, а компания Microsoft ежегодно тратит больше миллиардов долларов на кибербезопасность. Тем не менее, хакеры продолжают находить проблемы с ОС Windows, веб-браузерами и приложениями.
Автомобильные компании, скорее всего, будут двигаться по схожему пути. Если ранее разработчики шины CAN, запатентованной еще в 1980-х годах, не имели никакого представления об идентификации, то теперь они стали обращать на это внимание. Когда хакеры продемонстрировали, что автомобили на дорогах являются уязвимыми для некоторых специфических угроз безопасности, автопроизводителям пришлось отозвать и усовершенствовать прошивку миллионов машин. В прошлом июле гендиректор GM, Мэри Барра (Mary Barra) сказала, что защита машин от инцидентов в области кибербезопасности «является вопросом общественной безопасности».
Однако подобные усилия на сегодняшний день упускают из виду важный тренд. Разработка систем компьютерного слежения и предотвращения столкновений для беспилотных автомобилей строится на сложных алгоритмах машинного обучения, которые еще не до конца понятны даже компаниям, которые их используют.
В прошлом году исследователи из Университета Карнеги-Меллона продемонстрировали, что ультрасовременные алгоритмы распознавания лица можно обмануть, если надеть очки с необычным узором на ободке. Что-то в этом узоре заставило алгоритм «увидеть» то, чего на самом деле не было. «Мы доказали, что взломщики могут обойти современные алгоритмы распознавания лица, основанные на нейронных сетях, с целью выдать себя за желаемого человека, или просто может произойти ошибка в идентификации», — написал исследователь Махмуд Шариф (Mahmood Sharif).
Так же в прошлом году исследователи из Университета Южной Каролины, китайского Университета Zhejiang и китайской фирмы по безопасности Qihoo 360 продемонстрировали, что они могут создать помехи для различных сенсоров автомобиля Tesla S, делая объекты невидимыми для его навигационной системы.
Многие недавние статьи о беспилотных автомобилях принижают или даже игнорируют возможность активных, адаптирующихся и вредоносных программ, пытающихся заставить автомобили попасть в аварию. В интервью для MIT Technology Review, председатель Национального совета по безопасности транспорта, Кристофер Хэрт (Christopher Hart) сказал, что он выдает «очень оптимистичные» прогнозы, что беспилотные автомобили сократят количество аварий на дорогах. Обсуждая вопросы безопасности, Хэрт сосредоточился на необходимости запрограммировать машины, чтобы они могли принимать этические решения, например, когда многотонный грузовик внезапно блокирует дорогу другому автомобилю.
Зачем кому-то взламывать беспилотные автомобили, зная, что это может привести только к смерти? Одна из причин заключается в том, что распространение беспилотного транспорта вызовет увеличение количества безработных, и некоторые из них будут очень рассержены.
В августе 2016 года гендиректор корпорации Ford Марк Филдс (Mark Fields), заявил о своих планах выпустить на городские дороги полностью беспилотные такси уже к 2021 году. Google, Nissan и другие компании планируют создать похожие беспилотные автомобили уже к 2020 году. Эти автоматизированные такси и машины для доставки будут уязвимы для опасного излучения мощного лазера в руках лишившегося работы доставщика пиццы или бывшего таксиста Uber, которому все еще надо выплачивать кредит за машину, или просто кучки скучающих подростков.
Когда представителя Uber, Сару Эббоуд (Sarah Abboud), спросили о планах компании по предотвращению угрозы враждебного машинного обучения, она ответила: «Наша команда экспертов по безопасности постоянно исследует новые методы защиты для будущих беспилотных машин, включая сохранение целостности данных и обнаружение вторжения. Однако технологии беспилотного управления развиваются так же, как и модели угрозы, поэтому некоторые современные проблемы с безопасностью скорее всего будут отличаться от тех, которые придется решать в настоящем беспилотном окружении».
Потребуется всего несколько аварий, чтобы приостановить распространение беспилотных машин. Это, возможно, не удержит наступление автопилотных систем, однако станет значительным устрашающим фактором для распространения машин без человека за рулем.
Источник: MIT Technology Review
Автор: Simson Garfinkel
