Люди научили искусственный интеллект расизму и сексизму

17.04.2017 19:49
просмотров
Исследования показали, что искусственный интеллект воспринимает не только формальную структуру языка, но и языковые стереотипы.

Об этом сообщает Хвиля.net со ссылкой на naked-science.ru.

Последние исследования показали, что искусственный интеллект (ИИ) учиться у людей не только как правильно решать поставленные задачи, но и их ошибкам и стереотипам. Причина в том, что многие материалы, с помощью которых ИИ обучается, созданы людьми. Например, «учителями» искусственного интеллекта могут стать обычные пользователи Интернета.

Для чего это нужно? Одна из важнейших задач, стоящих перед системами искусственного интеллекта, заключается в том, чтобы компьютер мог воспринимать команды не только на формальных языках (таких как языки программирования), но и на естественном языке – на таком, с помощью которого люди общаются между собой. Это поможет усовершенствовать машинный перевод, работу поисковых систем, автоматическую генерацию текстов и многое другое. Для обучения систем искусственного интеллекта компьютерная лингвистика использует корпусы текстов – большие массивы текстов, подобранных и обработанных по определенным правилам. Интернет – один из самых доступных источников «живого» языка. Поэтому лингвисты активно пользуются интернет-корпусами, в которые включены тексты социальных сетей, блогов, новостных ресурсов.
Авторы нового исследования, опубликованного в журнале Science, предположили, что искусственный интеллект не только усваивает структуру естественного языка, но и перенимает особенности семантики, исторически закрепившиеся в языке. Ученые использовали алгоритм самообучения GloVe, работающий подобно тесту подсознательных ассоциаций (implicit-association test). GloVe составляет статистику ассоциативно связанных друг с другом слов: чем чаще два слова встречаются в текстах на сравнительно небольшом расстоянии друг от друга, тем чаще они ассоциируются между собой. Алгоритм проанализировал корпус интернет-текстов из 840 млрд слов.

Названия цветов (роза, маргаритка) оказались связаны с положительными понятиями (ласка, любовь), а названия насекомых – с отрицательными (грязь, уродливый). Следующие выводы были не такими безобидными. Совместив корпус с базой имен, часто встречающихся у американцев европейского или африканского происхождения, ИИ выявил: европейцев обычно ассоциируют с такими понятиями, как «семья», «друг», «счастливый», а афроамериканцев – со словами «бедность», «тюрьма», «убийство». Также выяснилось, что мужские имена чаще ассоциируются с понятиями из области карьеры (профессиональный, зарплата), а женские – с семейными (материнство, свадьба).
Исследователи показали, что системы искусственного интеллекта не просто фиксируют стереотипы, но и используют их в материалах, которые составлены самим ИИ. Например, Google Translate переводит турецкое гендерно нейтральное местоимение «о» в зависимости от профессии: «o bir doktor» – «он врач», но «o bir hemsire» – «она медсестра».

Главные новости Днепра в Telegram

Добавить комментарий

Новости по теме

19.05.2017 12:58

25 мая в МВЦ состоится Украинский форум интернет-деятелей – iForum.…

1
Новости Днепра
14.05.2017 20:03

Юные изобретатели в Днепре продемонстрировали технологии будущего.

Новости Днепра
07.05.2017 11:02

В Национальном горном университете пройдет фестиваль науки, посетить который организаторы…

Новости Днепра
06.05.2017 18:33

Днепрянин Сергей Воронов завоевал серебро на «XXIV Международной конференции молодых…

Последние новости

25 июля генпрокурору Юрию Луценко было направлено депутатское обращение от нардепа Виталия Куприя. Оно касается расследования гибели бойцов АТО в перестрелке 24 июля в Днепре.

Сегодня 09:09
25
просмотров

Днепр является одним из основных городов Украины, а также одним из крупнейших ромышленных центров страны.

Сегодня 08:46
36
просмотров

Сотрудники полиции предостерегают от ненастоящих сотрудников банков, которые обманывают людей под предлогом недавно прошедших в стране кибератак.

Сегодня 08:26
107
просмотров

Прокуратура направила в суд обвинительный акт в отношении двух подростков 16-ти и 15-ти лет.

Сегодня 07:35
1149
просмотров

Полузащитник сборной Украины рассказал о переходе из «Днепра» в СК «Днепр-1».

Вчера 20:57
354
просмотров

Полуобнаженные мускулистые мужчины приняли участие в фотосессии, призывающей забирать котят из приютов.

Вчера 20:40
186
просмотров

Наставник «Манчестер Сити» продолжает дорого усиливать свои команды.

Вчера 20:31
63
просмотров

На подготовку своих «шпаргалок» девушка потратила весь день.

Вчера 20:00
162
просмотров

Служба безопасности Украины принудительно вернула в Россию журналистку пропагандистских телеканалов Кремля «Россия-1» и «Россия-24» Марию Князеву.

Вчера 19:20
59
просмотров

Президент Украины подписал закон, которым ратифицируется соглашение об оперативном и стратегическом сотрудничестве между Украиной и Европолом.

Вчера 18:40
35
просмотров

АКЦИИ КОМПАНИЙ

Наверх