Публикации по теме 'bias'


Справедливость в ИИ и важность алгоритмов устранения смещения
В сообщении блога на этой неделе мы рады поделиться мыслями из нашего последнего интервью с Каримом Салехом, основателем и генеральным директором FairPlay , первого решения Справедливость как услуга для финансовых учреждений. Инструменты FairPlay на базе искусственного интеллекта оценивают автоматизированные модели принятия решений организациями за считанные минуты, чтобы повысить как справедливость, так и прибыль. По мере развития технологий и внедрения искусственного интеллекта..
Серия Responsible AI Series, часть IV: применение продукта
Санджит Хаджарнис, технический директор Eightfold.ai В рамках нашей серии сообщений в блоге Ответственная практика в области ИИ мы хотели бы подробно остановиться на следующих аспектах для части IV: Правильные продукты и аналитика Маскировка кандидата Процессы трудоустройства являются чувствительной областью, в которой общественные предубеждения, сознательные и бессознательные, могут способствовать возникновению несправедливых стереотипов и предпочтений при выборе кандидатов...
Компромисс дисперсии смещения.
Сведите к минимуму ошибку прогноза! Было бы хорошо, если бы существовало единое глобальное решение для компромисса между смещением и дисперсией, и все исследователи могли бы согласиться использовать один и тот же набор оптимальных аналитических подходов.
Ансамблевое моделирование: почему несколько моделей лучше, чем одна?
Простое введение в ансамблевое моделирование Введение Иногда алгоритм контролируемого обучения плохо работает с данными. Причин и причин может быть много. Данные недостаточно хороши. Тенденции нет. Модель может быть слишком сложной. Если модель слишком сложна и данных недостаточно, модель может слишком хорошо соответствовать данным. Ждать! Слишком хорошо? Это означает, что данные изучают даже шум и выбросы. Это не то, чего мы хотим! Производительность алгоритма зависит от того,..
Является ли ИИ предвзятым или это только мы?
Мы прошли долгий путь. Женщины имеют право голоса, могут делать обычные вещи (например, получить кредитную карту или работу) без разрешения мужчины, и их не увольняют, как только они забеременеют. Тем не менее, похоже, что гендерные предубеждения влияют на женщин по-новому. Виновник? ИИ. Это должно звучать странно, учитывая, что ИИ обычно изображают отключенным, незатронутым и управляемым машинами фактов. Однако по мере того, как мы начинаем полагаться на него все больше и больше, мы..
Ограждения с искусственным интеллектом
Введение Искусственный интеллект становится все более распространенным в повседневной жизни. Будучи новой, но мощной технологией, она рискует быть преднамеренно или непреднамеренно использована не по назначению, чтобы нанести вред отдельному человеку или группе. Права могут быть легко оспорены, если в этих системах не будут реализованы некоторые ограничения. В этом документе предлагаются некоторые идеи относительно руководящих принципов/ограждений, которые сознательная организация может..
Компромиссы дисперсии смещения
В алгоритмах машинного обучения могут возникать два основных типа ошибок: ошибка смещения и ошибка дисперсии. Эти ошибки связаны со способностью модели точно фиксировать основные закономерности в данных. Что такое предвзятость? Смещение относится к разнице между значениями, предсказанными моделью, и истинными значениями или истинностью основания. Он отражает тенденцию модели постоянно делать прогнозы, которые выше или ниже истинных значений. Что такое высокая погрешность?..