Люди научили искусственный интеллект расизму и сексизму

17.04.2017 19:49
просмотров
Исследования показали, что искусственный интеллект воспринимает не только формальную структуру языка, но и языковые стереотипы.

Об этом сообщает Хвиля.net со ссылкой на naked-science.ru.

Последние исследования показали, что искусственный интеллект (ИИ) учиться у людей не только как правильно решать поставленные задачи, но и их ошибкам и стереотипам. Причина в том, что многие материалы, с помощью которых ИИ обучается, созданы людьми. Например, «учителями» искусственного интеллекта могут стать обычные пользователи Интернета.

Для чего это нужно? Одна из важнейших задач, стоящих перед системами искусственного интеллекта, заключается в том, чтобы компьютер мог воспринимать команды не только на формальных языках (таких как языки программирования), но и на естественном языке – на таком, с помощью которого люди общаются между собой. Это поможет усовершенствовать машинный перевод, работу поисковых систем, автоматическую генерацию текстов и многое другое. Для обучения систем искусственного интеллекта компьютерная лингвистика использует корпусы текстов – большие массивы текстов, подобранных и обработанных по определенным правилам. Интернет – один из самых доступных источников «живого» языка. Поэтому лингвисты активно пользуются интернет-корпусами, в которые включены тексты социальных сетей, блогов, новостных ресурсов.
Авторы нового исследования, опубликованного в журнале Science, предположили, что искусственный интеллект не только усваивает структуру естественного языка, но и перенимает особенности семантики, исторически закрепившиеся в языке. Ученые использовали алгоритм самообучения GloVe, работающий подобно тесту подсознательных ассоциаций (implicit-association test). GloVe составляет статистику ассоциативно связанных друг с другом слов: чем чаще два слова встречаются в текстах на сравнительно небольшом расстоянии друг от друга, тем чаще они ассоциируются между собой. Алгоритм проанализировал корпус интернет-текстов из 840 млрд слов.

Названия цветов (роза, маргаритка) оказались связаны с положительными понятиями (ласка, любовь), а названия насекомых – с отрицательными (грязь, уродливый). Следующие выводы были не такими безобидными. Совместив корпус с базой имен, часто встречающихся у американцев европейского или африканского происхождения, ИИ выявил: европейцев обычно ассоциируют с такими понятиями, как «семья», «друг», «счастливый», а афроамериканцев – со словами «бедность», «тюрьма», «убийство». Также выяснилось, что мужские имена чаще ассоциируются с понятиями из области карьеры (профессиональный, зарплата), а женские – с семейными (материнство, свадьба).
Исследователи показали, что системы искусственного интеллекта не просто фиксируют стереотипы, но и используют их в материалах, которые составлены самим ИИ. Например, Google Translate переводит турецкое гендерно нейтральное местоимение «о» в зависимости от профессии: «o bir doktor» – «он врач», но «o bir hemsire» – «она медсестра».

Главные новости Днепра в Telegram

Добавить комментарий

Новости по теме

Новости Украины
16.10.2017 12:33

Центр Pew Research Centre провел опрос, который показал, что большинство…

Новости Днепра
02.10.2017 11:52

В последнее время горячо заговорили о сексизме в рекламе. Не…

Новости мира
11.08.2017 17:50

Социальная сеть Facebook начинает использовать искусственный интеллект, который выявит «замаскированные»…

19.05.2017 12:58

25 мая в МВЦ состоится Украинский форум интернет-деятелей – iForum.…

1

Последние новости

Цены на трехкомнатные квартиры в новостройках показывают уверенный рост стоимости.

Сегодня 19:30
25
просмотров

Всемирно известные Голливудские страсти о карьерах, построенных на сексуальных домогательствах, не обошли и Украину.

Сегодня 18:41
267
просмотров

Министр иностранных дел Павел Климкин объяснил, почему американцам выгодно работать с Киевом.

Сегодня 17:51
35
просмотров

Проведен опрос о том, как часто гражданам Украины приходится задерживаться на работе.

Сегодня 17:01
41
просмотров

В декабре поступит сообщении о размере субсидий за весь месяц.

Сегодня 16:05
542
просмотров

Эксперты разобрались в списке расходов на содержание Кабмина и выяснили, сколько тратит на это каждый гражданин Украины в частности.

Сегодня 15:12
214
просмотров

Украинские IT-специалисты не видят будущего в своей стране.

Сегодня 14:16
145
просмотров

Ремонтные работы по газопроводу в домах города продолжаются.

Сегодня 13:28
989
просмотров

Национальная идея выступает консолидирующим понятием высших ценностей украинского государства. Она имеет особое значение в условиях войны, кризиса, становится действенным мобилизующим механизмом.

Сегодня 13:15
125
просмотров

В соцсетях разгорелся нешуточный спор между теми, кто поддерживает отмену отчеств, и теми, кто против нее.

Сегодня 12:48
2990
просмотров

АКЦИИ КОМПАНИЙ

Наверх