В сообщении блога на этой неделе мы рады поделиться мыслями из нашего последнего интервью с Каримом Салехом, основателем и генеральным директором FairPlay , первого решения Справедливость как услуга для финансовых учреждений. Инструменты FairPlay на базе искусственного интеллекта оценивают автоматизированные модели принятия решений организациями за считанные минуты, чтобы повысить как справедливость, так и прибыль. По мере развития технологий и внедрения искусственного интеллекта..

Санджит Хаджарнис, технический директор Eightfold.ai В рамках нашей серии сообщений в блоге Ответственная практика в области ИИ мы хотели бы подробно остановиться на следующих аспектах для части IV: Правильные продукты и аналитика Маскировка кандидата Процессы трудоустройства являются чувствительной областью, в которой общественные предубеждения, сознательные и бессознательные, могут способствовать возникновению несправедливых стереотипов и предпочтений при выборе кандидатов...

В этом посте мы сосредоточимся на предвзятости представления, негативном эффекте, присутствующем почти во всех системах машинного обучения с пользовательскими интерфейсами (UI). Модели машинного обучения часто производят оценки и рейтинги, которые отображаются в пользовательском интерфейсе для людей, принимающих решения. В зависимости от того, как результаты машинного обучения представлены в этих пользовательских интерфейсах, вы можете ожидать различного поведения от конечного..

Модели машинного обучения или «черные ящики» Нет сомнений в том, что модели машинного обучения (ML) используются для решения ряда деловых и даже социальных задач. С каждым годом алгоритмы машинного обучения становятся все более точными, инновационными и, следовательно, более применимыми к более широкому кругу приложений. От обнаружения рака до банковских услуг и самоуправляемых автомобилей список приложений ML бесконечен. Однако по мере того, как прогностическая точность..

Представьте, что вы идете в банк для получения кредита, пока вы идете туда и читаете эту статью. В банке вы получаете плохие новости; ваша заявка на кредит отклонена. Менеджер банка объясняет, что при принятии решений они учитывают предложения алгоритма машинного обучения, который более объективно и эффективно оценивает вашу кредитоспособность. Однако оказывается, что алгоритм помечает чтение этой статьи как высокий риск дефолта. Другими словами, вам придется заплатить большую премию по..