Люди научили искусственный интеллект расизму и сексизму

17.04.2017 19:49
просмотров
Исследования показали, что искусственный интеллект воспринимает не только формальную структуру языка, но и языковые стереотипы.

Об этом сообщает Хвиля.net со ссылкой на naked-science.ru.

Последние исследования показали, что искусственный интеллект (ИИ) учиться у людей не только как правильно решать поставленные задачи, но и их ошибкам и стереотипам. Причина в том, что многие материалы, с помощью которых ИИ обучается, созданы людьми. Например, «учителями» искусственного интеллекта могут стать обычные пользователи Интернета.

Для чего это нужно? Одна из важнейших задач, стоящих перед системами искусственного интеллекта, заключается в том, чтобы компьютер мог воспринимать команды не только на формальных языках (таких как языки программирования), но и на естественном языке – на таком, с помощью которого люди общаются между собой. Это поможет усовершенствовать машинный перевод, работу поисковых систем, автоматическую генерацию текстов и многое другое. Для обучения систем искусственного интеллекта компьютерная лингвистика использует корпусы текстов – большие массивы текстов, подобранных и обработанных по определенным правилам. Интернет – один из самых доступных источников «живого» языка. Поэтому лингвисты активно пользуются интернет-корпусами, в которые включены тексты социальных сетей, блогов, новостных ресурсов.
Авторы нового исследования, опубликованного в журнале Science, предположили, что искусственный интеллект не только усваивает структуру естественного языка, но и перенимает особенности семантики, исторически закрепившиеся в языке. Ученые использовали алгоритм самообучения GloVe, работающий подобно тесту подсознательных ассоциаций (implicit-association test). GloVe составляет статистику ассоциативно связанных друг с другом слов: чем чаще два слова встречаются в текстах на сравнительно небольшом расстоянии друг от друга, тем чаще они ассоциируются между собой. Алгоритм проанализировал корпус интернет-текстов из 840 млрд слов.

Названия цветов (роза, маргаритка) оказались связаны с положительными понятиями (ласка, любовь), а названия насекомых – с отрицательными (грязь, уродливый). Следующие выводы были не такими безобидными. Совместив корпус с базой имен, часто встречающихся у американцев европейского или африканского происхождения, ИИ выявил: европейцев обычно ассоциируют с такими понятиями, как «семья», «друг», «счастливый», а афроамериканцев – со словами «бедность», «тюрьма», «убийство». Также выяснилось, что мужские имена чаще ассоциируются с понятиями из области карьеры (профессиональный, зарплата), а женские – с семейными (материнство, свадьба).
Исследователи показали, что системы искусственного интеллекта не просто фиксируют стереотипы, но и используют их в материалах, которые составлены самим ИИ. Например, Google Translate переводит турецкое гендерно нейтральное местоимение «о» в зависимости от профессии: «o bir doktor» – «он врач», но «o bir hemsire» – «она медсестра».

Главные новости Днепра в Telegram

Добавить комментарий

Новости по теме

Новости Днепра
10.12.2017 10:56

Днепровские студенты создали устройство, которое окажет значительную помощь военным.

5
Новости Днепра
23.11.2017 15:49

На сайте горсовета Днепра появился проект решения исполкома о проведении…

Новости Украины
16.10.2017 12:33

Центр Pew Research Centre провел опрос, который показал, что большинство…

Новости Днепра
02.10.2017 11:52

В последнее время горячо заговорили о сексизме в рекламе. Не…

Последние новости

В городе зафиксирован факт самовольного установления парковочных барьеров.

Сегодня 10:22
165
просмотров

И вот что из этого вышло.

Сегодня 10:19
13
просмотров

В парке Глобы начали разбирать символ Нового года.

Сегодня 10:17
36
просмотров

Аналитики сравнили температуру воздуха в домах украинцев, американцев и европейцев.

Сегодня 09:44
245
просмотров

Это заболевание называется листериоз и опасно оно в первую очередь для пожилых, новорожденных и беременных людей.

Сегодня 09:44
48
просмотров

С чем это связано предположить несложно. Ведь безвиз не только породил ажиотаж на получение загранпаспортов, но и позволил нашим гражданам знакомиться с Европой чаще.

Сегодня 09:11
90
просмотров

А еще, теперь уже бывший сержант полиции, продавал различные тяжелые наркотики и приторговывал оружием.

Сегодня 08:23
668
просмотров

Теперь изверг не согласен с решением суда. Наказание за свои зверства он считает слишком суровым.

Сегодня 07:49
4833
просмотров

В украинском Минздраве был подготовлен проект приказа об изменении наполнения автомобильных, автобусных и мотоциклетных аптечек.

Сегодня 07:10
1419
просмотров

На Днепропетровщине выясняют обстоятельства серьезной аварии, в которой есть жертвы.

Вчера 20:40
582
просмотров

АКЦИИ КОМПАНИЙ

  • -50%

    Белье AnabelArto со скидками до -50%

  • -50%

    В Accessorize до -50%!

  • -60%

    В English Home -60% на постільну білизну

  • -50%

    Італійський бренд одягу CMP за спеціальною ціною!

Наверх