Примечание редактора AI4ALL: познакомьтесь с Ребеккой Агвуноби, выпускницей программы Stanford AI4ALL в 2016 году , обладательницей национальной премии NCWIT 2018, стипендиатом Кэролайн Д. Брэдли и старшим специалистом в Choate Rosemary Hall в Уоллингфорде, штат Коннектикут . В этой статье мы беседуем с Ребеккой о ее опыте работы в Массачусетском технологическом институте, где она проходила прошлым летом стажировку у исследователя Челси Барабас, используя методы искусственного интеллекта и машинного обучения в качестве линзы, чтобы взглянуть на систему уголовного правосудия.

Как рассказала Юнис Пун из AI4ALL Ребекка Агвуноби

Я понимаю, что вы познакомились с JavaScript в молодом возрасте, и именно здесь вы впервые познакомились с CS. Не могли бы вы рассказать о том, как в настоящее время вы стали более активно заниматься искусственным интеллектом и машинным обучением?

Меня всегда интересовала CS, но я думаю, что мой интерес к AI действительно не возник бы без AI4ALL. В то время [когда я был первокурсником в старшей школе] искусственный интеллект не был чем-то доступным для меня, поэтому программа AI4ALL была необходима с точки зрения восполнения этого пробела.

Я также думаю, что сотрудничество было для меня огромной частью. Обучение вместе с девушками того же возраста действительно имеет важное психологическое воздействие. До Стэнфордского AI4ALL я не думаю, что у меня было устоявшееся сообщество женщин, которое я знала, а также CS и AI, у которых было множество разных личностей и биографий.

Было здорово познакомиться с сообществом людей со схожими интересами, которые применяют ИИ для решения социальных проблем. Это заставило меня захотеть учиться и стать частью чего-то более широкого.

Этим летом у вас была возможность пройти стажировку в Массачусетском технологическом институте. Можете ли вы поделиться своим опытом, чем вы делали во время стажировки, и о важных выводах?

Этим летом я работал исследователем в Массачусетском технологическом институте и до сих пор работаю внештатным ассистентом. В лаборатории я являюсь частью команды, которая использует методы искусственного интеллекта и машинного обучения, чтобы изучить текущую методологию, которая используется в системе уголовного правосудия, и придумывает другие, основанные на данных нарративы, которые могли бы быть более эффективными. Мы действительно пытаемся противостоять нынешним методам использования ИИ в системе уголовного правосудия - в первую очередь для оценки рисков - просто потому, что они, как правило, основаны на наборах данных, которые изначально не являются самыми этичными.

Итак, многие исследования, которые я проводил и продолжаю до сих пор, связаны с этическим ИИ: как алгоритмы используются для угнетения людей и как противостоять этим нарративам.

Во время стажировки я проводил исследования CS, но мне также приходилось заниматься полевыми исследованиями, такими как наблюдение за судом, что тоже стало неотъемлемой частью моих исследований. Создание осязаемой работы, сочетающей академические дисциплины и количественное, качественное и, возможно, философское мышление, было таким замечательным опытом.

Я думаю, что самыми важными выводами для меня были идея отсутствия наборов данных и идея о том, что мы предполагаем, что данные собираются постоянно. На самом деле организации не заинтересованы в сборе данных, которые делают их менее привлекательными или иногда могут быть менее выгодными для них публиковать данные. Но этот недостаток данных вызывает огромные пробелы в том, что мы знаем о наших системах и данных, которые мы собрали, и это действительно вредно для многих социально-политических исследований, потому что в большинстве случаев у вас действительно нет никаких математических систем, которые отслеживают статистику, относящуюся к недостаточно представленным или бесправным группам населения.

В некотором смысле исследователи пытаются количественно оценить условия, о которых они мало знают.

Вот почему, когда мы думаем о CS как об объективной истине, это действительно опасно. Есть так много способов интерпретировать проблемы и так много способов интерпретировать решения.

Особенно когда мы количественно оцениваем такой опыт, как предварительное заключение в тюрьму или то, что происходит в зале суда, нам действительно нужно думать о том, как наши внутренние предубеждения отражаются в наших исследованиях. Видя отсутствие ясности в некоторых данных и наблюдение за отсутствием данных в некоторых случаях, я действительно поставил под сомнение понятие науки как факт или предположение, что наука всегда верна. Это заставляет меня искать более информированные и прагматичные решения в будущем.

После вашего опыта работы в качестве исследователя прошлым летом, какие эффективные исследования, по вашему мнению, можно провести с помощью ИИ в отношении системы уголовного правосудия?

Я думаю, что действительно важно просить прозрачности у тех, кто находится у власти в таких системах, и я думаю, что это достигается в форме сдержек и противовесов и публикаций исследований. Я также думаю, что некоторые из существующих решений, которые были представлены с точки зрения криминологии / социологии, должны быть подвергнуты сомнению, проверке и подтверждены перед внедрением, просто из-за того, что они имеют огромное значение для жизни людей.

С точки зрения ИИ, его следует использовать для создания более ориентированных на людей решений, включая голоса из разных дисциплин, где мы могли бы работать вместе, чтобы найти то, что было бы конструктивным, что было бы полезным. Я думаю, что ИИ был бы более полезен, если бы он не просто делал предположения о системе уголовного правосудия, а, скорее, использовал бы более этичный подход, например, путем снятия счетов различных участников зала суда и объединения их для создания различных типов решений. .

С творческой точки зрения, как ИИ может сочетаться с социальной справедливостью или личными интересами человека?

Я думаю, что ИИ был действительно важен для моего роста, потому что, даже когда я использовал его в школе и во время самостоятельных занятий, я применял его к таким вещам, как искусство, музыка и различные академические дисциплины. ИИ - это очень междисциплинарный инструмент, и его можно использовать в любой области.

Было интересно наблюдать за применением ИИ в системе уголовного правосудия на этой стажировке, потому что, возможно, менее очевидно, как ИИ может быть полезен в такой области, как уголовное правосудие, которое практиковалось во многих отношениях без особых изменений в течение десятилетий или столетий. . Но использование ИИ в системе уголовного правосудия, где все было так же долгое время, или в других областях или академических дисциплинах, которые оставались практически неизменными в течение многих лет, действительно круто, потому что, когда мы объединяем ИИ со старым, мы можем сделать что-то новое.

Что делать дальше? С точки зрения целей, стремлений, стажировок, проектов на будущее?

В настоящее время я заканчиваю выпускной год, но уже хочу продолжить исследования следующим летом только потому, что исследования были так важны для формирования моего школьного опыта. Я думаю, что после того, как я изучал компьютерную науку и проводил исследования, это действительно полностью меняет то, как вы смотрите на себя и на область, которую изучаете, потому что это требует, чтобы вы думали о вопросах по-разному. Это то, что я полюбил в CS и исследованиях.

Я еще не совсем уверен, хочу ли я остаться в учебе или работать в отрасли, но я собираюсь в колледж в следующем году, и я хочу получить специализацию в области CS и политологии. Я действительно хочу изучить, какие социальные проблемы следует решать с помощью CS и AI. Я хочу задать вопросы, например, когда определенные методы более или менее эффективны и какие сообщества выигрывают от использования определенных методов? Я думаю, что иногда способ применения CS, прямо или косвенно, не учитывает голоса целевых групп населения или, возможно, неправильно интерпретирует или количественно оценивает опыт, поэтому я хочу провести больше исследований по этому и другим социальным вопросам.

О Ревекке

Ребекка Агвуноби - старшая школа в Уоллингфорде, штат Коннектикут. Она является обладательницей национальной премии NCWIT 2018, стипендиатом Кэролайн Д. Брэдли и выпускницей Стэнфордского института AI4ALL. Она невероятно увлечена применением STEM для решения самых разных проблем - от доступа женщин к медицинскому обслуживанию до оказания помощи при стихийных бедствиях. В свободное время она любит играть на гитаре, петь, кататься на вейкборде, лыжах и играть в музыкальном театре. Кроме того, она преподает классы программирования для девочек и делает все возможное, чтобы сделать STEM доступным для недопредставленных меньшинств и женщин. Она является организатором MAHacks, со-президентом Ассоциации студентов Choate Diversity, со-президентом Choate Programming Union, а также старшим редактором трех публикаций. После школы она надеется продолжить исследования для решения сложных гуманитарных проблем с помощью творческих решений CS.