«Мы всегда переоцениваем изменения, которые произойдут в ближайшие два года, и недооцениваем изменения, которые произойдут в следующие десять». Билл Гейтс

Представьте себе: вы обеспокоены тем, что у вас есть ранние признаки рака кожи. Вы используете программное обеспечение, в котором алгоритм машинного обучения может диагностировать ваше состояние, и в девяноста процентах случаев он оказывается успешным.

Кроме тебя нет.

Это может быть потому, что вы не с Запада. Вы из той части мира, где высока смертность от рака кожи, но врачи не обучены вашему типу кожи.

Расовая предвзятость в ИИ и машинном обучении не нова. Годы клинических исследований в области рака кожи в основном были сосредоточены на людях со светлой кожей. Это означает, что есть целые группы людей, у которых симптомы проявляются по-разному. И это может буквально убить их.

Проблема с ИИ

Все мы знаем, что какими бы умными ни были люди, нельзя исключать предвзятость и нетерпимость, даже если прилагать все усилия для их преодоления.

Хотя в идеальном мире рациональные машины с искусственным интеллектом были бы выше таких предубеждений, машины познают мир через человеческий язык и историческое поведение. Короче говоря, алгоритмы не существуют в вакууме, они запрограммированы и находятся под влиянием людей.

Поскольку они обучаются на наборах данных, они подвержены ограничениям этих данных. Данные могут быть недостаточно разнообразными или ограничиваться только одной областью исследования. Эти социальные предубеждения затем будут перенесены в процессы суждения ИИ.

Проблема с изображением Google

Крупнейшая в мире поисковая система всегда считала себя пионером новых технологий и человеческого опыта, поэтому неудивительно, что Google все больше внимания уделяет здравоохранению.

Была покупка DeepMind Technologies в 2014 году. И было много фанфар по поводу того, что Google покупает Fitbit.

Проблема заключается не только в том, что Google столкнулся с проблемами точности из-за того, что фальшивая или сомнительная медицинская информация оценивается выше, чем должна, но и в том, что его поиск изображений также подвергся критике за предвзятость. Примеры включают изображения белых мужчин, появляющиеся при поиске в Google слова доктор, и спор о гугл-руках, когда результаты изображения для рук оказались почти полностью белыми.

Подумайте, что может произойти, когда врачи начнут использовать изображения Google для диагностики таких заболеваний, как рак кожи, когда речь идет о жизни или смерти. Если Google хочет поиграть в доктора, ему придется улучшить свою игру, когда дело доходит до решения проблемы с изображением. Так много диагностического процесса зависит от возможности видеть части тела, поэтому Google не может позволить себе откладывать свое обещание создавать более разнообразные и репрезентативные наборы изображений и обучать алгоритмы, чтобы они были более инклюзивными при обучении на несовершенных данных.

Ученые-компьютерщики: проблема разнообразия

Другая проблема заключается в том, что среди ученых-компьютерщиков явно не хватает разнообразия: женщины составляют всего 12 процентов ведущих исследователей машинного обучения. Женщины чаще умирают от сердечного приступа, чем мужчины, потому что симптомы у женщин считаются «атипичными». Предполагается, что боль в груди является основным симптомом сердечного приступа, но у женщин симптомы проявляются по-разному, что является лишь одним из примеров того, как здравоохранение недостаточно обслуживает половину населения.

Если бы ученые-компьютерщики были более репрезентативными для населения в целом, вполне вероятно, что эти ограничения данных расширились бы, и в процессе были бы спасены жизни.

Но с другой стороны…

Что вообще справедливо?

Спросите трех человек об одном и том же событии, и вы, скорее всего, получите три разных ответа. То же самое относится и к справедливости. Философам, юристам и социологам достаточно сложно договориться, поэтому, возможно, будет слишком много просить ученых-компьютерщиков дать определение справедливости в математических терминах. Кроме того, область информатики может быть очень жесткой, и ответы на нее не имеют тенденции меняться с течением времени. Так что с самого начала ИИ запрограммирован на предвзятые данные.

Какое будущее ждет ИИ и здравоохранение?

В то время как исследователи, аналитические центры и правительства быстро регулируют ИИ, инновации также должны быть приоритетными, чтобы новые игроки не отталкивались от удушающей волокиты. Но также ясно, что решения на основе ИИ не оказывают того глобального влияния, которое могли бы иметь, из-за отсутствия доступных данных, необходимых для обучения, чтобы обеспечить оптимальные результаты для пациентов. Трудно регулировать машину, которая постоянно развивается и ставит вопросы о том, кто несет ответственность за пациента, если что-то пойдет не так.

Много вопросов и не так много однозначных ответов — пока. Но с быстрым развитием ИИ время имеет решающее значение, особенно если мы говорим о жизни людей.