Люди научили искусственный интеллект расизму и сексизму

17.04.2017 19:49
просмотров
Исследования показали, что искусственный интеллект воспринимает не только формальную структуру языка, но и языковые стереотипы.

Об этом сообщает Хвиля.net со ссылкой на naked-science.ru.

Последние исследования показали, что искусственный интеллект (ИИ) учиться у людей не только как правильно решать поставленные задачи, но и их ошибкам и стереотипам. Причина в том, что многие материалы, с помощью которых ИИ обучается, созданы людьми. Например, «учителями» искусственного интеллекта могут стать обычные пользователи Интернета.

Для чего это нужно? Одна из важнейших задач, стоящих перед системами искусственного интеллекта, заключается в том, чтобы компьютер мог воспринимать команды не только на формальных языках (таких как языки программирования), но и на естественном языке – на таком, с помощью которого люди общаются между собой. Это поможет усовершенствовать машинный перевод, работу поисковых систем, автоматическую генерацию текстов и многое другое. Для обучения систем искусственного интеллекта компьютерная лингвистика использует корпусы текстов – большие массивы текстов, подобранных и обработанных по определенным правилам. Интернет – один из самых доступных источников «живого» языка. Поэтому лингвисты активно пользуются интернет-корпусами, в которые включены тексты социальных сетей, блогов, новостных ресурсов.
Авторы нового исследования, опубликованного в журнале Science, предположили, что искусственный интеллект не только усваивает структуру естественного языка, но и перенимает особенности семантики, исторически закрепившиеся в языке. Ученые использовали алгоритм самообучения GloVe, работающий подобно тесту подсознательных ассоциаций (implicit-association test). GloVe составляет статистику ассоциативно связанных друг с другом слов: чем чаще два слова встречаются в текстах на сравнительно небольшом расстоянии друг от друга, тем чаще они ассоциируются между собой. Алгоритм проанализировал корпус интернет-текстов из 840 млрд слов.

Названия цветов (роза, маргаритка) оказались связаны с положительными понятиями (ласка, любовь), а названия насекомых – с отрицательными (грязь, уродливый). Следующие выводы были не такими безобидными. Совместив корпус с базой имен, часто встречающихся у американцев европейского или африканского происхождения, ИИ выявил: европейцев обычно ассоциируют с такими понятиями, как «семья», «друг», «счастливый», а афроамериканцев – со словами «бедность», «тюрьма», «убийство». Также выяснилось, что мужские имена чаще ассоциируются с понятиями из области карьеры (профессиональный, зарплата), а женские – с семейными (материнство, свадьба).
Исследователи показали, что системы искусственного интеллекта не просто фиксируют стереотипы, но и используют их в материалах, которые составлены самим ИИ. Например, Google Translate переводит турецкое гендерно нейтральное местоимение «о» в зависимости от профессии: «o bir doktor» – «он врач», но «o bir hemsire» – «она медсестра».

Добавить комментарий

Новости по теме

Новости Украины
30.03.2018 07:43

Крупную сеть электроники обвинили в использовании сексистской рекламы.

3
Новости Днепра
10.12.2017 10:56

Днепровские студенты создали устройство, которое окажет значительную помощь военным.

5
Новости Днепра
23.11.2017 15:49

На сайте горсовета Днепра появился проект решения исполкома о проведении…

Новости Украины
16.10.2017 12:33

Центр Pew Research Centre провел опрос, который показал, что большинство…

Последние новости

Михаил Лысенко разместил видео, в котором учит горожан, как правильно выбрасывать мусор в мусорный бак.

Сегодня 20:40
91
просмотров

Мэр проверил качество работ, проведенных в лифтах и на крышах домов.

Сегодня 20:00
32
просмотров

В сети появилась свежая информация о различных профессиях и сколько в них платят зарплату.

Сегодня 19:54
109
просмотров

Правобережная часть Днепра останется без воды 29 мая и 1 июня.

Сегодня 19:20
149
просмотров

Спасатели помогали извлекать мужчину из шахты лифта.

Сегодня 18:40
129
просмотров

Сегодня утром на проспекте Гагарина произошла серьезная авария: троллейбус врезался в маршрутку с пассажирами на остановке.

Сегодня 17:36
620
просмотров

А теперь за 5000 гривен они могут оказаться за решеткой.

Сегодня 16:47
136
просмотров

Для украинцев готовится женская версия «Вечернего квартала».

Сегодня 16:45
770
просмотров

Правоохранители задержали мужчину, который находится в международном розыске.

Сегодня 16:17
426
просмотров

По мнению одного из политологов, агитации возможны, но они не будут пользоваться большим успехом.

Сегодня 15:53
58
просмотров

АКЦИИ КОМПАНИЙ

  • -20%

    Додаткова знижка до Вашої дисконтної карти!

  • -50%

    Лучшие предложения в новом каталоге!

  • Акция!

    4000 бонусов за олимпиаду по гаджетознанию

  • -60%

    Знижки до 60% на прикраси Pandora!

Наверх