К такому выводу пришли работники Принстонского университета в США. Многие слова у людей ассоциируется с какими-то образами, что выливается в определенные предубеждения, передающиеся и искусственному интеллекту, который обучается у людей.
Учёные из Принстонского университета установили, что искусственный интеллект склонен перенимать у пользователей предрассудки.
Учёные создали специальный психологический тест, чтобы определить действительно ли Google Translate использует в своей работе предрассудки.
Ученые разработали особый ассоциативный тест, чтобы проверить свои предположения. Идентичные тесты уже давно используются психологами на людях. Местоимение «о» в турецком языке не обозначает принадлежность к конкретному полу, но ИИ перевел фразу как «he is a doctor» — «он доктор». При всем этом местоимение «о» в турецком означает не только лишь «он» (he), однако и «она» (she).
Учёные поведали, откуда берутся предрассудки у искусственного интеллекта. Было это отмечено у Google Translate, который начал перенимать у пользователей гендерные и расовые предубеждения, и иные предрассудки. В процессе опыта машинный интеллект ассоциировал мужские имена с «зарплатой» и «профессионализмом», а дамские - с «родителями» и «свадьбой», что несомненно является подтверждением стереотипного мышления.