Люди научили искусственный интеллект расизму и сексизму

17.04.2017 19:49
просмотров
Исследования показали, что искусственный интеллект воспринимает не только формальную структуру языка, но и языковые стереотипы.

Об этом сообщает Хвиля.net со ссылкой на naked-science.ru.

Последние исследования показали, что искусственный интеллект (ИИ) учиться у людей не только как правильно решать поставленные задачи, но и их ошибкам и стереотипам. Причина в том, что многие материалы, с помощью которых ИИ обучается, созданы людьми. Например, «учителями» искусственного интеллекта могут стать обычные пользователи Интернета.

Для чего это нужно? Одна из важнейших задач, стоящих перед системами искусственного интеллекта, заключается в том, чтобы компьютер мог воспринимать команды не только на формальных языках (таких как языки программирования), но и на естественном языке – на таком, с помощью которого люди общаются между собой. Это поможет усовершенствовать машинный перевод, работу поисковых систем, автоматическую генерацию текстов и многое другое. Для обучения систем искусственного интеллекта компьютерная лингвистика использует корпусы текстов – большие массивы текстов, подобранных и обработанных по определенным правилам. Интернет – один из самых доступных источников «живого» языка. Поэтому лингвисты активно пользуются интернет-корпусами, в которые включены тексты социальных сетей, блогов, новостных ресурсов.
Авторы нового исследования, опубликованного в журнале Science, предположили, что искусственный интеллект не только усваивает структуру естественного языка, но и перенимает особенности семантики, исторически закрепившиеся в языке. Ученые использовали алгоритм самообучения GloVe, работающий подобно тесту подсознательных ассоциаций (implicit-association test). GloVe составляет статистику ассоциативно связанных друг с другом слов: чем чаще два слова встречаются в текстах на сравнительно небольшом расстоянии друг от друга, тем чаще они ассоциируются между собой. Алгоритм проанализировал корпус интернет-текстов из 840 млрд слов.

Названия цветов (роза, маргаритка) оказались связаны с положительными понятиями (ласка, любовь), а названия насекомых – с отрицательными (грязь, уродливый). Следующие выводы были не такими безобидными. Совместив корпус с базой имен, часто встречающихся у американцев европейского или африканского происхождения, ИИ выявил: европейцев обычно ассоциируют с такими понятиями, как «семья», «друг», «счастливый», а афроамериканцев – со словами «бедность», «тюрьма», «убийство». Также выяснилось, что мужские имена чаще ассоциируются с понятиями из области карьеры (профессиональный, зарплата), а женские – с семейными (материнство, свадьба).
Исследователи показали, что системы искусственного интеллекта не просто фиксируют стереотипы, но и используют их в материалах, которые составлены самим ИИ. Например, Google Translate переводит турецкое гендерно нейтральное местоимение «о» в зависимости от профессии: «o bir doktor» – «он врач», но «o bir hemsire» – «она медсестра».

Главные новости Днепра в Telegram

Добавить комментарий

Новости по теме

Новости мира
Сегодня 18:47

Ученые проанализировали собранные данные, среди которых обнаружены 11 событий, которые,…

Новости Украины
17.04.2017 11:46

В этом году работать с задачами от NASA будут ученые…

1
Новости Украины
08.03.2017 12:24

Наверняка все сталкивались с «корявыми» переводами в Google translate. Все…

Новости Днепра
04.03.2017 18:33

Седина в бороду... а знания в голову! Как никогда не…

Последние новости

Прокуратура направила в суд обвинительный акт в отношении сотрудницы.

Сегодня 21:03
35
просмотров

Астрономы ранее зафиксировали стремительное приближение к Земле пяти гигантских опасных метеоритов.

Сегодня 20:24
685
просмотров

В Днепропетровской области проходит модернизация системы семейной медицины.

Сегодня 19:31
87
просмотров

Ученые проанализировали собранные данные, среди которых обнаружены 11 событий, которые, вероятно, могут быть проявлением деятельности внеземных цивилизаций.

Сегодня 18:47
95
просмотров

Военнослужащий получил ранение в боях под Зайцевым.

Сегодня 18:11
31
просмотров

Борис Филатов подписал распоряжение о проверке в одном из коммунальных предприятий Днепровского горсовета.

Сегодня 17:25
857
просмотров

ЧАО Телесистемы Украины (TM PEOPLEnet) сокращает покрытие до двух областей.

Сегодня 16:48
122
просмотров

В течение недели сотрудники коммунальных предприятий работают днем ​​и ночью, убирая последствия непогоды в Днепре.

Сегодня 16:07
84
просмотров

Министерство молодежи и спорта Украины приглашает молодежь к участию в программе «Молодежный делегат от Украины в ООН».

Сегодня 15:25
1120
просмотров

Если в ближайшее время задолженность предприятия не будет погашена хотя бы частично, энергоснабжение комбината будет прекращено полностью.

Сегодня 14:45
1007
просмотров

АКЦИИ КОМПАНИЙ

  • Акция

    Время покупать Skif Tac! Скидки до 60%!

  • Акция

    Межсезонный SALE одежды и обуви коллекции Весна-Лето 2017. Скидка до 40%

  • Акция!

    Безлимит в тренажерный зал (до 17:00)

  • Акция!

    Безлимит в тренажерный зал!

Наверх