Люди научили искусственный интеллект расизму и сексизму

17.04.2017 19:49
просмотров
Исследования показали, что искусственный интеллект воспринимает не только формальную структуру языка, но и языковые стереотипы.

Об этом сообщает Хвиля.net со ссылкой на naked-science.ru.

Последние исследования показали, что искусственный интеллект (ИИ) учиться у людей не только как правильно решать поставленные задачи, но и их ошибкам и стереотипам. Причина в том, что многие материалы, с помощью которых ИИ обучается, созданы людьми. Например, «учителями» искусственного интеллекта могут стать обычные пользователи Интернета.

Для чего это нужно? Одна из важнейших задач, стоящих перед системами искусственного интеллекта, заключается в том, чтобы компьютер мог воспринимать команды не только на формальных языках (таких как языки программирования), но и на естественном языке – на таком, с помощью которого люди общаются между собой. Это поможет усовершенствовать машинный перевод, работу поисковых систем, автоматическую генерацию текстов и многое другое. Для обучения систем искусственного интеллекта компьютерная лингвистика использует корпусы текстов – большие массивы текстов, подобранных и обработанных по определенным правилам. Интернет – один из самых доступных источников «живого» языка. Поэтому лингвисты активно пользуются интернет-корпусами, в которые включены тексты социальных сетей, блогов, новостных ресурсов.
Авторы нового исследования, опубликованного в журнале Science, предположили, что искусственный интеллект не только усваивает структуру естественного языка, но и перенимает особенности семантики, исторически закрепившиеся в языке. Ученые использовали алгоритм самообучения GloVe, работающий подобно тесту подсознательных ассоциаций (implicit-association test). GloVe составляет статистику ассоциативно связанных друг с другом слов: чем чаще два слова встречаются в текстах на сравнительно небольшом расстоянии друг от друга, тем чаще они ассоциируются между собой. Алгоритм проанализировал корпус интернет-текстов из 840 млрд слов.

Названия цветов (роза, маргаритка) оказались связаны с положительными понятиями (ласка, любовь), а названия насекомых – с отрицательными (грязь, уродливый). Следующие выводы были не такими безобидными. Совместив корпус с базой имен, часто встречающихся у американцев европейского или африканского происхождения, ИИ выявил: европейцев обычно ассоциируют с такими понятиями, как «семья», «друг», «счастливый», а афроамериканцев – со словами «бедность», «тюрьма», «убийство». Также выяснилось, что мужские имена чаще ассоциируются с понятиями из области карьеры (профессиональный, зарплата), а женские – с семейными (материнство, свадьба).
Исследователи показали, что системы искусственного интеллекта не просто фиксируют стереотипы, но и используют их в материалах, которые составлены самим ИИ. Например, Google Translate переводит турецкое гендерно нейтральное местоимение «о» в зависимости от профессии: «o bir doktor» – «он врач», но «o bir hemsire» – «она медсестра».

Главные новости Днепра в Telegram

Добавить комментарий

Новости по теме

Новости мира
11.08.2017 17:50

Социальная сеть Facebook начинает использовать искусственный интеллект, который выявит «замаскированные»…

19.05.2017 12:58

25 мая в МВЦ состоится Украинский форум интернет-деятелей – iForum.…

1
Новости Днепра
14.05.2017 20:03

Юные изобретатели в Днепре продемонстрировали технологии будущего.

Новости Днепра
07.05.2017 11:02

В Национальном горном университете пройдет фестиваль науки, посетить который организаторы…

Последние новости

20 сентября года сеть студий экспресс-фитнеса «Сафари» установила рекорд, открыв одновременно 5 студий экспресс-фитнеса. Достижение занесено в «Книгу рекордов Украины».

Сегодня 12:31
103
просмотров

По биометрическому паспорту украинцы могут посетить 36 стран, причем не все они состоят в ЕС.

Сегодня 12:13
128
просмотров

По статистике каждая десятая семейная пара в Украине сталкивается с проблемой бесплодия.

Сегодня 12:00
11
просмотров

В пригороде Днепра находят все больше человеческих останков.

Сегодня 11:23
676
просмотров

Премьер-министр Украины поручил подготовить возражения на запрет ЕС полеты в аэропорты Днепра, Харькова и Запорожья из-за близости к АТО.

Сегодня 10:55
211
просмотров

Премьер-министр Украины назвал условия, по которым он может покинуть пост.

Сегодня 10:14
372
просмотров

КП «Городская Инфраструктура» уже начало подготовку к празднованию Нового года 2018.

Сегодня 09:30
139
просмотров

Министерство инфраструктуры со следующего года планирует запуск онлайн-мониторинга проведения ремонтных работ на дорогах.

Сегодня 08:55
146
просмотров

Вилкул прокомментировал реформу медицины в Украине.

Вчера 21:20
28
просмотров

По словам президента Украины ввести миротворцев на Донбасс без согласия России не получится.

Вчера 20:40
83
просмотров

АКЦИИ КОМПАНИЙ

Наверх