Люди научили искусственный интеллект расизму и сексизму

17.04.2017 19:49
просмотров
Исследования показали, что искусственный интеллект воспринимает не только формальную структуру языка, но и языковые стереотипы.

Об этом сообщает Хвиля.net со ссылкой на naked-science.ru.

Последние исследования показали, что искусственный интеллект (ИИ) учиться у людей не только как правильно решать поставленные задачи, но и их ошибкам и стереотипам. Причина в том, что многие материалы, с помощью которых ИИ обучается, созданы людьми. Например, «учителями» искусственного интеллекта могут стать обычные пользователи Интернета.

Для чего это нужно? Одна из важнейших задач, стоящих перед системами искусственного интеллекта, заключается в том, чтобы компьютер мог воспринимать команды не только на формальных языках (таких как языки программирования), но и на естественном языке – на таком, с помощью которого люди общаются между собой. Это поможет усовершенствовать машинный перевод, работу поисковых систем, автоматическую генерацию текстов и многое другое. Для обучения систем искусственного интеллекта компьютерная лингвистика использует корпусы текстов – большие массивы текстов, подобранных и обработанных по определенным правилам. Интернет – один из самых доступных источников «живого» языка. Поэтому лингвисты активно пользуются интернет-корпусами, в которые включены тексты социальных сетей, блогов, новостных ресурсов.
Авторы нового исследования, опубликованного в журнале Science, предположили, что искусственный интеллект не только усваивает структуру естественного языка, но и перенимает особенности семантики, исторически закрепившиеся в языке. Ученые использовали алгоритм самообучения GloVe, работающий подобно тесту подсознательных ассоциаций (implicit-association test). GloVe составляет статистику ассоциативно связанных друг с другом слов: чем чаще два слова встречаются в текстах на сравнительно небольшом расстоянии друг от друга, тем чаще они ассоциируются между собой. Алгоритм проанализировал корпус интернет-текстов из 840 млрд слов.

Названия цветов (роза, маргаритка) оказались связаны с положительными понятиями (ласка, любовь), а названия насекомых – с отрицательными (грязь, уродливый). Следующие выводы были не такими безобидными. Совместив корпус с базой имен, часто встречающихся у американцев европейского или африканского происхождения, ИИ выявил: европейцев обычно ассоциируют с такими понятиями, как «семья», «друг», «счастливый», а афроамериканцев – со словами «бедность», «тюрьма», «убийство». Также выяснилось, что мужские имена чаще ассоциируются с понятиями из области карьеры (профессиональный, зарплата), а женские – с семейными (материнство, свадьба).
Исследователи показали, что системы искусственного интеллекта не просто фиксируют стереотипы, но и используют их в материалах, которые составлены самим ИИ. Например, Google Translate переводит турецкое гендерно нейтральное местоимение «о» в зависимости от профессии: «o bir doktor» – «он врач», но «o bir hemsire» – «она медсестра».

Главные новости Днепра в Telegram

Добавить комментарий

Новости по теме

19.05.2017 12:58

25 мая в МВЦ состоится Украинский форум интернет-деятелей – iForum.…

1
Новости Днепра
14.05.2017 20:03

Юные изобретатели в Днепре продемонстрировали технологии будущего.

Новости Днепра
07.05.2017 11:02

В Национальном горном университете пройдет фестиваль науки, посетить который организаторы…

Новости Днепра
06.05.2017 18:33

Днепрянин Сергей Воронов завоевал серебро на «XXIV Международной конференции молодых…

Последние новости

Бездействие власти и ожидание, что кто-то за границей разработает план по выводу Украины из кризиса, привели к тому, в мае 2017 года падение промышленности в нашей стране, по сравнению с 2013 годом – минус 22%, растет безработица и нищета. При…

Сегодня 21:00
14
просмотров

На Приднепровской железной дороге погибла пожилая женщина, которая переходила через пути перед грузовым поездом.

Сегодня 20:00
159
просмотров

В четверг, 29 июня, в Днепре приостановят работу трамваи №18 и №19. Об этом сообщили в пресс-службе городского совета.

Сегодня 19:20
74
просмотров

В области объявлена акция по уничтожению амброзии с корнями.

Сегодня 18:40
56
просмотров

Новая выставка открылась в ДнепрОГА.

Сегодня 18:32
29
просмотров

Более тысячи предприятий пострадали из-за хакерской атаки вирусом-вымогателем.

Сегодня 17:54
686
просмотров

27 июня в 1:28 на номер Службы спасения поступило сообщение о пожаре в многоквартирном жилом доме на улице Маршака в городе Кривой Рог.

Сегодня 17:47
412
просмотров

Всеукраинское Движение «Дух Нации» проводит вот уже пятый «Алкостоп» в Днепре.

Сегодня 17:03
563
просмотров

Жаркая погода опасна для всех участников дорожного движения, но водители подвергаются особому риску.

Сегодня 16:33
57
просмотров

Капитан «Днепра» пополнил состав чемпиона Чехии.

Сегодня 16:29
87
просмотров

АКЦИИ КОМПАНИЙ

  • Акция!

    3+1! Четыре контактные линзы семейства AirOptix по цене трех! 

  • Акция!

    -25% на второй комплект белья 80/85

  • Акция!

    Распродажа!

  • Акция!

    МЕЖСЕЗОННАЯ РАСПРОДАЖА со скидкой до -50%!

Наверх