Люди научили искусственный интеллект расизму и сексизму

17.04.2017 19:49
просмотров
Исследования показали, что искусственный интеллект воспринимает не только формальную структуру языка, но и языковые стереотипы.

Об этом сообщает Хвиля.net со ссылкой на naked-science.ru.

Последние исследования показали, что искусственный интеллект (ИИ) учиться у людей не только как правильно решать поставленные задачи, но и их ошибкам и стереотипам. Причина в том, что многие материалы, с помощью которых ИИ обучается, созданы людьми. Например, «учителями» искусственного интеллекта могут стать обычные пользователи Интернета.

Для чего это нужно? Одна из важнейших задач, стоящих перед системами искусственного интеллекта, заключается в том, чтобы компьютер мог воспринимать команды не только на формальных языках (таких как языки программирования), но и на естественном языке – на таком, с помощью которого люди общаются между собой. Это поможет усовершенствовать машинный перевод, работу поисковых систем, автоматическую генерацию текстов и многое другое. Для обучения систем искусственного интеллекта компьютерная лингвистика использует корпусы текстов – большие массивы текстов, подобранных и обработанных по определенным правилам. Интернет – один из самых доступных источников «живого» языка. Поэтому лингвисты активно пользуются интернет-корпусами, в которые включены тексты социальных сетей, блогов, новостных ресурсов.
Авторы нового исследования, опубликованного в журнале Science, предположили, что искусственный интеллект не только усваивает структуру естественного языка, но и перенимает особенности семантики, исторически закрепившиеся в языке. Ученые использовали алгоритм самообучения GloVe, работающий подобно тесту подсознательных ассоциаций (implicit-association test). GloVe составляет статистику ассоциативно связанных друг с другом слов: чем чаще два слова встречаются в текстах на сравнительно небольшом расстоянии друг от друга, тем чаще они ассоциируются между собой. Алгоритм проанализировал корпус интернет-текстов из 840 млрд слов.

Названия цветов (роза, маргаритка) оказались связаны с положительными понятиями (ласка, любовь), а названия насекомых – с отрицательными (грязь, уродливый). Следующие выводы были не такими безобидными. Совместив корпус с базой имен, часто встречающихся у американцев европейского или африканского происхождения, ИИ выявил: европейцев обычно ассоциируют с такими понятиями, как «семья», «друг», «счастливый», а афроамериканцев – со словами «бедность», «тюрьма», «убийство». Также выяснилось, что мужские имена чаще ассоциируются с понятиями из области карьеры (профессиональный, зарплата), а женские – с семейными (материнство, свадьба).
Исследователи показали, что системы искусственного интеллекта не просто фиксируют стереотипы, но и используют их в материалах, которые составлены самим ИИ. Например, Google Translate переводит турецкое гендерно нейтральное местоимение «о» в зависимости от профессии: «o bir doktor» – «он врач», но «o bir hemsire» – «она медсестра».

Главные новости Днепра в Telegram

Добавить комментарий

Новости по теме

19.05.2017 12:58

25 мая в МВЦ состоится Украинский форум интернет-деятелей – iForum.…

1
Новости Днепра
14.05.2017 20:03

Юные изобретатели в Днепре продемонстрировали технологии будущего.

Новости Днепра
07.05.2017 11:02

В Национальном горном университете пройдет фестиваль науки, посетить который организаторы…

Новости Днепра
06.05.2017 18:33

Днепрянин Сергей Воронов завоевал серебро на «XXIV Международной конференции молодых…

Последние новости

Глава государства считает, что запрет российских социальных сетей является для нашей страны пустяком.

Сегодня 19:20
25
просмотров

Завтра, 23 мая, в нашем городе измениться работа трамвая №15. Об этом сообщили в пресс-службе городского совета.

Сегодня 18:40
20
просмотров

Вандалы изуродовали и практически уничтожили памятник на могиле известного архитектора Александра Красносельского в Днепре.

Сегодня 18:06
96
просмотров

Вчера, 21 мая в 22:00 часа в трамвае «первого» маршрута произошла драка между лицами не славянской наружности и украинским парнем.

Сегодня 16:48
3475
просмотров

27 мая в Днепре состоится ежегодный велофестиваль «Велодень».

Сегодня 16:45
32
просмотров

Заключительным этапом второго Всеукраинского фестиваля «Песни, рожденные в АТО» стал Open Air на аллее возле летнего театра парка им. Т.Шевченко. На дискотеке под открытым небом заряжал электронной музыкой радиоведущий и популярный украинский ди-джей Анатолий Топольский.

Сегодня 16:32
29
просмотров

Украинская теннисистка Элина Свитолина выиграла четвертый турнир в сезоне.

Сегодня 16:22
25
просмотров

5 июня с 15:00 до 19:00 в г. Днепр состоится интенсив «Что делать, если бизнес уперся в потолок?». Приглашаем собственников и руководителей компаний, начинающих предпринимателей.

Сегодня 15:57
11
просмотров

Правоохранители из АНД отделения полиции разыскивают без вести пропавшего Завгороднего Сергея Анатольевича. Об этом сообщили в пресс-службе ГУНП.

Сегодня 15:26
78
просмотров

Правоохранители просят помочь им в расследовании двух дорожно-транспортных происшествий. Об этом сообщили в пресс-службе ГУНП.

Сегодня 15:01
1750
просмотров

АКЦИИ КОМПАНИЙ

  • Акция

    -25% на пляжную коллекцию

  • Акция

    -50% на вторую единицу в чеке

  • Акция

    -30% на новую коллекцию Весна-Лето 2017!

  • Акция

    Солнцезащитные очки от Brandstyle_dp


Наверх