Автор AS²Guard Research Group @ UC Irvine
Обновление (28.07.2021):
В этом году AutoDriving CTF будет проходить вместе с DEFCON 29 в Лас-Вегасе в качестве гибридного конкурса ( как онлайн, так и на месте)! На этот раз наша группа организует его совместно с Baidu Security - Присоединяйтесь к нам, чтобы выиграть награду DEFCON!
AutoDriving CTF. Безопасность - приоритет №1 для автономного вождения. Этот конкурс поощряет усилия по эксплуатации и защите автономных транспортных средств всеми средствами, включая, помимо прочего, следующие: надежные физические состязательные атаки и защиту в виде камуфляжных наклеек, дорожных граффити; подмена / угон датчика; и мультисенсорные манипуляции слияниями. Мы можем выявить непредвиденные угрозы безопасности автономного вождения за счет глубокого понимания поверхностей атаки и предложить практические решения по устранению таких угроз.
Время конкурса:
PST: 5 августа, 18:00 - 6 августа, 18:00
UTC: 6 августа, 01:00 - 7 августа, 01:00
Веб-сайт AutoDriving CTF: https://autodrivingctf.org/
Форум DEFCON 29: https://forum.defcon.org/node/238185
Twitter: @autodrivingctf
Демо-видео: https://www.youtube.com/channel/UCPP...wk -464KIzr8xKw
CTF (Capture The Flag), пожалуй, самый известный хакерский конкурс в мире компьютерной безопасности. В DEFCON, одном из крупнейших и наиболее известных хакерских съездов в мире, соревнования CTF проводятся с 1996 года и всегда были в центре внимания профессионалов и практиков компьютерной безопасности. Как организатор DEFCON China, Baidu Security в последние несколько лет проводит соревнования CTF под названием BCTF. В этом году, на фоне бума индустрии автономного вождения, 26 сентября 2020 года Baidu организовала первый в мире CTF автономного вождения, AutoDriving CTF. Являясь частью BCTF, AutoDriving CTF привлекла внимание многих известных китайских команд CTF, таких как известная команда ChaMd5, команда WatchAndLearn из энтузиастов отраслевой безопасности, а также команды из академических кругов, таких как Университет Цинхуа.
Наша команда под названием AS²Guard (Autonomous & Smart Systems Guard) заранее зарегистрировалась для участия в этом конкурсе. После 24 часов напряженной борьбы мы в итоге выиграли Чемпиона, победив еще 23 команды. Эта статья представляет собой краткое изложение нашего опыта от первого лица в этом первом в своем роде событии CTF.
AutoDriving CTF: первый в мире CTF, посвященный автономному вождению
Автономное вождение (AD) - это междисциплинарный предмет, объединяющий искусственный интеллект, робототехнику, управление, автомобилестроение, датчики, сети и многое другое. Для такой сложной системы ее безопасность - важная проблема, которую нельзя игнорировать. AutoDriving CTF придерживается темы безопасности AD на протяжении всего соревнования. Предлагаемые проблемы варьируются от традиционных задач CTF, таких как двоичные и реверсивные, до совершенно новых типов задач, таких как состязательное машинное обучение (AML) и алгоритмы планирования и управления AD (Mad Race). Такие проблемы тесно связаны с проблемами безопасности AD, которые проявляются в реальной жизни. Например, Подмена GPS - это практический метод атаки на модуль локализации AD; вредоносные заплатки, которые могут заставить грузовики исчезнуть также являются большой проблемой для обнаружения препятствий в системах AD, что вдохновлено недавней аварией Tesla на шоссе . Такой тип CTF предоставляет разработчикам AD и исследователям безопасности прекрасную возможность практиковать наступательные и защитные технологии в контексте AD.
24 часа интенсивного курса
Так как в соревнованиях участвует более 20 команд, в том числе известные из индустрии и академических кругов, наша команда почти не останавливалась на достигнутом на протяжении всего соревнования, чтобы догнать других. В первые несколько часов CTF мы почти не понимали, как решать проблемы, а к этому времени другие команды уже начали забивать. Мы решили первую проблему только через 3 часа. С тех пор наша команда вступила в бурный период - члены команды последовательно решали проблемы, за которые они несут ответственность, и наш рейтинг быстро поднялся до 1 место.
CTF AutoDriving стартовал в 19:00 по тихоокеанскому времени, и большинство членов нашей команды в это время находились в Калифорнии. В 4–5 утра все были слишком сонными после работы над проблемами в течение 9–10 часов подряд и могли только начать спать. К счастью, один из членов нашей команды все еще находится в Китае, и он может постоянно улучшать свои показатели. Несмотря на это, мы все равно не смогли опередить другие команды - к 9 часам утра уже опустились на 3-е место. На данный момент осталось всего три задачи, но это самые сложные во всей CTF. После этого следует 6-часовой тяжелый период, когда мы изо всех сил пытались решить эти проблемы. Только до последних 2 часов мы смогли последовательно решить 2 из 3 сложных вопросов, что вернуло нас на 1-е место и удерживало на нем до конца CTF.
Самые интересные проблемы в AutoDriving CTF
Пункт чемпионата: гоночная игра Mad Race. Эта новая проблема никогда раньше не возникала в других CTF. Это требует, чтобы команды внедрили алгоритмы планирования и контроля AD и соревновались друг с другом на одном и том же пути. Наивысший балл получает тот, кто первым финиширует по маршруту. Всего в рамках CTF было проведено четыре матча.
Эти матчи очень важны для окончательных результатов CTF. В последнем матче Mad Race 1-е место может получить 80 очков, 2-е место 40 очков, 3-е место 20 очков и так далее. В то время разница в счете между тремя лучшими командами составляла ровно 80 очков, поэтому результат этого матча почти напрямую определит титул чемпионата и рейтинг топ-3. Хотя наша команда имеет самый высокий общий балл на тот момент, мы никогда не занимали 1-е место в предыдущих матчах Mad Race - мы бы пропустили чемпионат, если бы не смогли занять 1-е место в этом матче. Поэтому в последние несколько часов члены команды, ответственные за проблему, потратили много времени на корректировку алгоритма управления. Разумеется, наша гоночная машина лидировала всю дорогу в матче - чего никогда не случалось с нашей командой в предыдущих матчах - и вылетела с финиша первой. Это обеспечили себе чемпионство!
Интересно, что позже мы узнали, что в этой гоночной игре была скрытая уязвимость, которую команды могли использовать, чтобы атаковать другие машины. Мы подозреваем, что какая-то другая команда уже добавила атакующий код для атаки на другие команды. Но вполне возможно, что, поскольку наш алгоритм управления был хорошо оптимизирован, наша машина работала слишком быстро, так что их код атаки не мог ответить вовремя. Это означает, что сосредоточение внимания на улучшении алгоритма автономного вождения вместо наступательной и оборонительной тактики в этом матче также может быть выигрышной стратегией, что также может быть интересной частью этого нового тип задачи CTF.
Ключевая проблема: потерянный грузовик.. В этом вопросе командам необходимо отправить противоборствующий патч, который может сделать грузовик необнаружимым с помощью широко используемой DNN (глубокой нейронной сети). детектор объектов. Система оценки помещает нашивку на грузовик, позволяя автономному транспортному средству постепенно приближаться к грузовику. В этот период грузовик не может быть обнаружен ни в одном кадре. В отличие от традиционных атак и защиты ИИ, сложная часть этой проблемы состоит в том, что состязательный патч должен вводить в заблуждение непрерывные кадры, что требует, чтобы метод генерации патча учитывал перспективу и изменения расстояния вдоль траектории транспортного средства, а также практические аспекты, такие как размытие камеры, предварительная обработка изображения и т. д. Это очень близко к техническим задачам для атаки на автономные системы восприятия транспортного средства в реальной жизни. В результате только 2 команды смогли решить эту проблему, вероятно, из-за этих трудностей. С нашей стороны, это как раз тема исследования некоторых членов нашей команды, поэтому мы используем наш опыт, чтобы сделать патч как можно более надежным. Решение этой проблемы помогло нам вернуться на 1-е место, когда до окончания CTF оставалось 2 часа.
Последняя нерешенная проблема: подделка GPS. Эта проблема относится к типу двоичных и реверсивных, требуя от групп атаковать серверную программу обнаружения подделки GPS для получения содержимого файл «флага» на сервере. У этой задачи самый высокий балл во всем CTF. К сожалению, на протяжении всего CTF ни одна команда не решила эту проблему. Фактически, в последний момент любая команда из 4-х лучших может сразу же занять 1-е место, если решит эту задачу. Другими словами, наличие этой проблемы сохраняет неопределенность в чемпионате. конец конкурса.
Сама по себе эта проблема не слишком сложна по сравнению с традиционными CTF, поскольку это, по сути, эксплуатация уязвимости строки формата. Однако трудность состоит в том, что требуется понимание конкретного формата данных GPS и некоторые знания атак с подделкой GPS, чтобы создать конкретные данные GPS для использования уязвимости. Это еще один аспект, который сделал этот CTF специфичным для контекста AD и, следовательно, отличным от традиционных CTF. Некоторые из членов нашей команды провели исследование спуфинга GPS в системах AD. В последний момент мы смогли построить требуемый формат данных GPS. К сожалению, мы не решили эту задачу из-за нехватки времени.
О команде
Большая часть нашей команды - доктора философии. студенты из Калифорнийского университета в Ирвине, входящие в исследовательскую группу AS²Guard (Autonomous & Smart Systems Guard) под руководством профессора Qi Alfred Chen. В числе участников - капитан команды и кандидат 5-ти курсов. студентка Цзюньцзе Шэнь, 2-й курс Ph.D. студенты Таками Сато, Нинфэй Ван и Цзивен Ван, докторантура 1-го курса. студент Юнпэн Луо, который в настоящее время находится в Цинхуа из-за COVID-19, и М.С. студентка Зеюан Чен, которая в этом году окончила Калифорнийский университет в Ирвине и сейчас учится в CMU. Руководитель группы - профессор Ци Альфред Чен.
Поскольку исследования нашей группы сосредоточены на безопасности систем автономного вождения (AD), нашим самым большим преимуществом является то, что исследовательский опыт и навыки членов команды охватывают все типы проблем в этой CTF. Например, темы исследований некоторых членов команды: атаки и защита моделей машинного обучения в системах AD; некоторые опубликовали доклад на конференции высшего уровня о локализации AD при подмене GPS; у одного студента даже есть диплом бакалавра в области автоматизации и управления. Таким образом, разделение труда очень четкое: среди членов команды Цзюньцзе, Цзивэнь, Юнпэн и Цзэюань отвечают за проблемы, связанные с двоичной системой, реверсированием и безумной гонкой, а Таками и Нинфэй отвечают за проблемы, связанные с состязательным машинным обучением. (AML). Поэтому мы считаем, что наша победа во многом связана с имеющимся у нас опытом и знаниями в области исследований в области безопасности AD.
Во время соревнований большинство членов команды находятся в лаборатории, Юнпэн и Цзэюань подключены удаленно из Цинхуа и CMU соответственно. На фотографиях ниже изображены члены команды AutoDriving CTF. Люди на верхнем фото слева направо - это Цзюньцзе, Нинфэй, Таками и Цзивэнь. На картинке внизу слева изображен Юньпэн, внизу посередине - Зеюань, а внизу справа - наш советник Альфред:
В целом, мы получили массу удовольствия от этой новой темы CTF. Возможность решить эти проблемы была действительно интересной и значимой, поскольку они представляют собой реальные проблемы, с которыми сталкивается автономное вождение. Надеюсь, что в будущем будет больше CTF по этой теме, чтобы больше людей могли узнать о новых технологиях автономного вождения и своевременно присоединиться к ним.
