Люди научили искусственный интеллект расизму и сексизму

17.04.2017 19:49
просмотров

Исследования показали, что искусственный интеллект воспринимает не только формальную структуру языка, но и языковые стереотипы.

Об этом сообщает Хвиля.net со ссылкой на naked-science.ru.

Последние исследования показали, что искусственный интеллект (ИИ) учиться у людей не только как правильно решать поставленные задачи, но и их ошибкам и стереотипам. Причина в том, что многие материалы, с помощью которых ИИ обучается, созданы людьми. Например, «учителями» искусственного интеллекта могут стать обычные пользователи Интернета.

Для чего это нужно? Одна из важнейших задач, стоящих перед системами искусственного интеллекта, заключается в том, чтобы компьютер мог воспринимать команды не только на формальных языках (таких как языки программирования), но и на естественном языке – на таком, с помощью которого люди общаются между собой. Это поможет усовершенствовать машинный перевод, работу поисковых систем, автоматическую генерацию текстов и многое другое. Для обучения систем искусственного интеллекта компьютерная лингвистика использует корпусы текстов – большие массивы текстов, подобранных и обработанных по определенным правилам. Интернет – один из самых доступных источников «живого» языка. Поэтому лингвисты активно пользуются интернет-корпусами, в которые включены тексты социальных сетей, блогов, новостных ресурсов.
Авторы нового исследования, опубликованного в журнале Science, предположили, что искусственный интеллект не только усваивает структуру естественного языка, но и перенимает особенности семантики, исторически закрепившиеся в языке. Ученые использовали алгоритм самообучения GloVe, работающий подобно тесту подсознательных ассоциаций (implicit-association test). GloVe составляет статистику ассоциативно связанных друг с другом слов: чем чаще два слова встречаются в текстах на сравнительно небольшом расстоянии друг от друга, тем чаще они ассоциируются между собой. Алгоритм проанализировал корпус интернет-текстов из 840 млрд слов.

Названия цветов (роза, маргаритка) оказались связаны с положительными понятиями (ласка, любовь), а названия насекомых – с отрицательными (грязь, уродливый). Следующие выводы были не такими безобидными. Совместив корпус с базой имен, часто встречающихся у американцев европейского или африканского происхождения, ИИ выявил: европейцев обычно ассоциируют с такими понятиями, как «семья», «друг», «счастливый», а афроамериканцев – со словами «бедность», «тюрьма», «убийство». Также выяснилось, что мужские имена чаще ассоциируются с понятиями из области карьеры (профессиональный, зарплата), а женские – с семейными (материнство, свадьба).
Исследователи показали, что системы искусственного интеллекта не просто фиксируют стереотипы, но и используют их в материалах, которые составлены самим ИИ. Например, Google Translate переводит турецкое гендерно нейтральное местоимение «о» в зависимости от профессии: «o bir doktor» – «он врач», но «o bir hemsire» – «она медсестра».

Новости Днепра про Люди научили искусственный интеллект расизму и сексизму Русский

Автор:


    Добавить комментарий

    Новости по теме

    Сегодня День весеннего равноденствия: что он значит и зачем нужно есть булочки в форме птиц
    Новости Днепра
    20.03.2024 15:24

    Наши предки считали, что в день весеннего равноденствия зима окончательно…

    В Днепре с 1 апреля садики, которые работают дистанционно, откроют очные группы: что надо знать родителям
    Новости Днепра
    20.03.2024 14:16

    В Днепре садики, которые не имеют укрытия и работают дистанционно,…

    В Каменском сын убил старенькую мать, потому что она разбудила его ночью
    Новости Днепра
    20.03.2024 11:19

    В Каменском на Днепропетровщине сын убил мать, потому что та…

    Последние новости

    Днепропетровщина в ТОП областей, куда переезжают бизнесы.

    Сегодня 22:03
    2
    просмотров

    На Днепропетровщине пешеходы якобы бросились под колеса авто и угнали его у водителя.

    Сегодня 21:27
    1
    просмотров

    В Днепре в апреле будут выключать газ.

    Сегодня 20:46
    6
    просмотров

    Псевдоволонтер обманул человека на 80 тысяч гривен.

    Сегодня 20:10
    3
    просмотров

    Мужчина угрожал женщине по дороге домой.

    Сегодня 19:21
    6
    просмотров

    На полях Днепропетровской области взрывотехники продолжают собирать обломки неразорванных российских ракет

    Сегодня 18:47
    3
    просмотров

    В эти выходные в Днепре обещают солнечную и теплую погоду, а значит наступает идеальное время не только для прогулок по городу, но и для посещения различных мероприятий.

    Сегодня 18:09
    2
    просмотров

    Появились детали стрельбы в Самарском районе Днепра.

    Сегодня 18:06
    4
    просмотров

    Коса на Победе понемногу уходит под воду.

    Сегодня 17:32
    3
    просмотров

    Еще один собор на Днепропетровщине стал памяткой национального значения.

    Сегодня 16:51
    3
    просмотров

    АКЦИИ КОМПАНИЙ

    • KangooSport
      -10%

      Лето началось внезапно? Не готова? Не беда! Поправим, исправим!!!

    • TAL-MEDICAL
      Акция

      Консультация врача и УЗИ обследование

    • TAL-Medical
      15%

      Скидка на консультацию лучших специалистов!

    • Доступные врачи
      Акция!

      Специалисты с хорошим опытом работы по стоимости значительно ниже рыночной!

    Наверх