Читая о злоключениях Microsoft с ее чат-ботом Tay, я сразу вспомнил похожий инцидент, произошедший несколько лет назад.
Еще в 2009 году Netbase выпустила healthBase, поисковую систему, которая собирала контент с авторитетных медицинских сайтов, таких как WebMD, Wikipedia и PubMed. В то время это казалось хорошей идеей.
Но были некоторые глюки, наиболее заметный из которых, когда база данных идентифицировала евреев как причину СПИДа:
Стало еще хуже. Нажатие на «Еврей» приводит к списку предлагаемых «методов лечения», в который входят алкоголь, соль и доктор Пеппер.
Нас не должно удивлять, что неконтролируемое агрегирование контента, созданного людьми, может привести к подобным затруднениям, особенно с учетом того, что эти агрегаты становятся привлекательными целями для троллей. И даже без злоупотреблений наши алгоритмы имеют естественную тенденцию усиливать предвзятость статус-кво.
Как родители мы знаем, что наши дети - губки. Мы стараемся вести их информационную диету - по крайней мере, достаточно, чтобы избежать катастрофических последствий. Хотя обучение без учителя может быть привлекательным для нас как подход, требующий минимального обслуживания, мы осознаем свою ответственность за контроль за их развитием.
Как разработчики, мы как минимум в этом обязаны нашим ИИ.
