Этика в области искусственного интеллекта, машинного обучения и робототехники

Два возможных преступника, которые захватят человечество: зомби и роботы. Если бы сегодня это была гонка, роботы бы выиграли, но я просто рад, что концептуально зомби не умеют водить.

Однако роботы репетируют вождение по нашим улицам в виде беспилотных автомобилей. Uber и Tesla очень громко заявили о своем намерении заполнить дороги автономными транспортными средствами. Waymo от Google недавно похвастался тем, что проехал 8 миллионов миль.

Естественно, люди — и будущие пассажиры этих машин-роботов — беспокоятся о безопасности. И на это автопроизводители ответили банальностями высокотехнологичных датчиков, молниеносного времени отклика и продвинутого искусственного интеллекта своих автомобилей. Это здорово, отвечают люди, но в случае аварии кто будет нести ответственность?

В беспилотных автомобилях хорошо то, что они не пьют за рулем. Они никогда не устают и не спят. И они не отвлекаются на любимые песни, звучащие по радио. Мы можем убрать из уравнения аварии, вызванные действиями водителей.

Но что, если по какой-то механической причине у машины отказали тормоза, и ее ИИ должен принять решение: продолжать движение и врезаться в бабушку, переходящую улицу, или свернуть на другую полосу и сбить ребенка, гоняющегося за мячом через дорогу.

Способны ли ИИ принимать такие сложные решения?

Решение проблемы тележки

Как человек, я до сих пор не уверен, как отвечу на эту «проблему тележки», популярный мысленный эксперимент в этике. Общая форма задачи о троллейбусе такова: сбежавший троллейбус мчится навстречу пяти привязанным к путям людям. У вас есть время только для того, чтобы потянуть за рычаг, который определяет, по какой дорожке пойдет тележка. На другой дорожке также связан еще один человек.

Вы можете ничего не делать, трамвай продолжит свой путь, и пять человек погибнут. Или вы можете изменить курс вагонетки, и она поедет по другому пути, где погибнет один человек. Вы спасете пять жизней или спасете одну?

Это усложняется, когда вы ставите лица перед этими вариантами: мужчина или женщина, доктор или вор, ребенок или бабушка. Если единственный связанный человек — ваш друг, вы автоматически спасаете друга?

В сценарии с беспилотным автомобилем не человек оценивает ситуацию, прежде чем нажать на рычаг, а машина. Будут ли наши машины достаточно разумны, чтобы вообще учитывать этику?

Будем надеяться, что у автономных автомобилей будет время, чтобы поискать в Интернете решения и мнения, которые помогут взвесить их решения, как мы и собираемся сделать в этой статье.

Машина морали

Моральная машина — это платформа, созданная исследователями Массачусетского технологического института. Он представляет пользователю сценарии, эквивалентные нашей дилемме беспилотного автомобиля, и заставляет вас выбирать, какие жизни следует сохранить, а какие менее удачливы. Молодые против старых. Мужчина против женщины. Домашние животные против людей.

Некоторые сценарии пронизаны потенциальными предубеждениями пользователя: ударили бы вы кого-нибудь подтянутого или толстого; кто-то, законно переходящий дорогу, или пешеход; честный гражданин, как врач, или преступник, как грабитель.

И некоторые сценарии просто загадка: вы бы спасли пешеходов или себя?

В конце теста пользователю будет представлен анализ его склонностей. Затем Moral Machine сравнивает его с пользователями из остального мира. Например, в целом индивидуалистические страны, такие как США, склонны щадить жизни молодых, в то время как страны, почитающие пожилых людей, такие как Япония, склонны щадить жизни стариков.

Однако исследование на самом деле не дает ответа на вопрос «что этично». Он только подсчитывает баллы, чтобы увидеть, что большинство людей в данном месте считают приемлемым.

Программируем ли мы тогда наши беспилотные автомобили в соответствии с нашими культурными традициями? Должны ли тогда правительства принимать законы, регулирующие эти автомобили?

Благополучие многих против блага одного

В простейшей форме задачи о тележке нам нужно только выбрать между спасением жизней пятерых или жизни одного, иначе известный как утилитарный подход к дилемме. Звучит просто — если мы рассматриваем людей только как количество тел.

Еще в 2015 году люди рассматривали этот подход. В статье Беспилотные автомобили и проблема троллейбуса автор представил сценарий, в котором пятеро связанных людей — грабители, а один человек на другом пути — ученый (предположим, что он занимается исследованием рака). , а не создающий ядерную бомбу). Здесь спасение жизни ученого означает, что у него или у нее будет возможность спасти еще миллионы жизней. Поэтому жизнь ученого необходимо спасти.

Создадим ли мы тогда мир, похожий на Черное зеркало, в котором каждого из нас оценивают в соответствии с нашим вкладом в общество, нашей популярностью и, возможно, даже количеством подписчиков в Instagram?

Если это так, то китайская система социального кредита легко совместима с беспилотными автомобилями. Легко — если общее количество социальных кредитов пассажиров превышает количество бегунов на пути автомобиля с отказавшими тормозами, безопасность пассажиров имеет приоритет. Сейчас самое время подружиться с учеными во время путешествия.

Во многом это не закончится красиво. Правительства могут иметь автономию системы подсчета очков, как в Китае, и использовать ее, чтобы диктовать действия граждан, и все ради того, чтобы иметь достаточно высокий балл, чтобы его спасли автомобили. Тревожно думать, что та же система ранжирования может использоваться в других приложениях, таких как самолеты, банки или правительственные учреждения, для определения вашего уровня приоритета в сохранении или получении кредита.

И до каких крайностей мы доходим, чтобы убедиться, что наш индивидуальный социальный кредит достаточно высок?

Без осуждения

Оказывается, руководящий орган уже пытался установить правила поведения автономных транспортных систем. Федеральное министерство транспорта и цифровой инфраструктуры Германии (BMVI) опубликовало свой первый отчет в 2017 году.

Некоторые ключевые моменты:

  • Основной целью автоматизированных транспортных систем является повышение безопасности для всех участников дорожного движения. Другая цель состоит в том, чтобы улучшить мобильность и освободить место для других возможных преимуществ.
  • В неизбежных аварийных ситуациях машинам не разрешается распознавать различия, основанные на личных характеристиках, таких как возраст, пол, физическое или психическое состояние. Стороны, участвующие в создании рисков мобильности, не должны жертвовать незадействованными сторонами.
  • Безопасность человека важнее, чем причинение вреда имуществу или животным.
  • Государственный сектор отвечает за лицензирование и мониторинг автоматизированных транспортных средств. Ущерб, причиненный автоматизированной системой вождения, будет рассматриваться как ответственность за качество продукции и, следовательно, относится на счет производителя.
  • Машину нельзя ставить в ситуацию, когда ей приходится решать дилемму. Не существует стандартизированного способа программирования решения таких задач. Независимая группа должна отвечать за обработку информации, извлеченной из таких ситуаций.

В последнем пункте ясно сказано, что машины не способны принимать сложные решения, с которыми может столкнуться водитель-человек на дороге, — да и не должны. Если человек на мгновение решит защитить себя в пользу пешехода, переходящего дорогу, возможно, что он будет привлечен к суду за свое решение, и в этом случае он может быть признан или не признан виновным.

Кого мы привлекаем к суду в эпоху беспилотных автомобилей? Согласно первоначальным рекомендациям Федерального министерства транспорта Германии, ответственность несет производитель продукции. Зная, что эти производители являются крупными корпорациями, как мы, обычные люди, можем победить?

Внимания заслуживает еще один пункт в отчете BMVI: «Стороны, вовлеченные в создание рисков мобильности, не должны жертвовать незадействованными сторонами».

Покупатели автономных автомобилей явно купились на подразумеваемые риски мобильности при выборе транспорта — значит ли это, что в первую очередь нужно спасать невинных пешеходов, не участвовавших в выборе пассажира?

Собираетесь ли вы прокатиться на беспилотном автомобиле?

Представьте, что ваш беспилотный автомобиль соревнуется с водителями-ветеранами автобусов Metro Manila, ежедневными пассажирами и пешеходами — какие знания приобретет ваша машина и как она сможет применить эти знания в непредсказуемых ситуациях внутри и за пределами метро? Не говоря уже об автономных автомобилях, таких как Siri и OK Google, которые полагаются на быстрое мобильное интернет-соединение, если нужно получать данные и использовать знания других автомобилей в системе. Насколько быстро он может принимать решения за доли секунды?

Однако мы можем рассматривать автономный транспорт как систему — то есть вопрос не в том, какой производитель делает лучший и самый безопасный самоуправляемый автомобиль. Естественно, такие компании, как «Мерседес» и «Вольво», будут обещать безопасность и инновации — они хотят продать как можно больше автомобилей и хотят продать их первыми. Но руководящие принципы BMVI показывают некоторые перспективы в этом: автомобили с самостоятельным вождением не должны ставиться в ситуацию, когда им приходится выбирать между двумя человеческими жизнями.

Поэтому следует по инициативе правительства использовать потенциальные преимущества автономной транспортной системы.

Возможно, не должно быть таких пешеходов, переходящих дорогу, чтобы компьютеру приходилось выбирать, задавит ли он собаку или бегуна, преступника или врача. Возможно, наше представление о том, как пешеходы переходят улицу, придется изменить.

В мире беспилотных автомобилей, возможно, разумнее позволить компьютерам управлять нами без какого-либо вмешательства человека. Таким образом, концепция «безопасного вождения» будет одинаковой для всех.

Тогда есть вопрос стандартизации. Автономные транспортные средства должны уметь читать дорожные знаки, перегородки, знать, когда держаться правой или левой стороны, знать дороги с односторонним движением и отсутствие парковочных мест. Как машины будут различать правила в Кесон-Сити и Макати-Сити? И как тогда он будет перемещаться вне метро? Будут ли автомобили программироваться по-разному в разных странах и будут ли эти местные стандарты включать этические решения?

На данный момент вопросов больше, чем ответов, и, исходя из рисков, о которых люди размышляли здесь, в Маниле, пройдет некоторое время, прежде чем мы сможем прыгать в беспилотные такси и уверенно вздремнуть по дороге на работу.