Публикации по теме 'fairness'
Справедливость в ИИ и важность алгоритмов устранения смещения
В сообщении блога на этой неделе мы рады поделиться мыслями из нашего последнего интервью с Каримом Салехом, основателем и генеральным директором FairPlay , первого решения Справедливость как услуга для финансовых учреждений. Инструменты FairPlay на базе искусственного интеллекта оценивают автоматизированные модели принятия решений организациями за считанные минуты, чтобы повысить как справедливость, так и прибыль.
По мере развития технологий и внедрения искусственного интеллекта..
Серия Responsible AI Series, часть IV: применение продукта
Санджит Хаджарнис, технический директор Eightfold.ai
В рамках нашей серии сообщений в блоге Ответственная практика в области ИИ мы хотели бы подробно остановиться на следующих аспектах для части IV:
Правильные продукты и аналитика
Маскировка кандидата
Процессы трудоустройства являются чувствительной областью, в которой общественные предубеждения, сознательные и бессознательные, могут способствовать возникновению несправедливых стереотипов и предпочтений при выборе кандидатов...
🔍 Откуда берутся предубеждения в ML? (7/Н): 👀 Презентация
В этом посте мы сосредоточимся на предвзятости представления, негативном эффекте, присутствующем почти во всех системах машинного обучения с пользовательскими интерфейсами (UI).
Модели машинного обучения часто производят оценки и рейтинги, которые отображаются в пользовательском интерфейсе для людей, принимающих решения. В зависимости от того, как результаты машинного обучения представлены в этих пользовательских интерфейсах, вы можете ожидать различного поведения от конечного..
Использование объяснений для обнаружения предвзятости в черном ящике
Модели машинного обучения или «черные ящики»
Нет сомнений в том, что модели машинного обучения (ML) используются для решения ряда деловых и даже социальных задач. С каждым годом алгоритмы машинного обучения становятся все более точными, инновационными и, следовательно, более применимыми к более широкому кругу приложений. От обнаружения рака до банковских услуг и самоуправляемых автомобилей список приложений ML бесконечен.
Однако по мере того, как прогностическая точность..
Чтение этой статьи может повлиять на вашу заявку на кредит в банке
Представьте, что вы идете в банк для получения кредита, пока вы идете туда и читаете эту статью. В банке вы получаете плохие новости; ваша заявка на кредит отклонена. Менеджер банка объясняет, что при принятии решений они учитывают предложения алгоритма машинного обучения, который более объективно и эффективно оценивает вашу кредитоспособность. Однако оказывается, что алгоритм помечает чтение этой статьи как высокий риск дефолта. Другими словами, вам придется заплатить большую премию по..