Регистрация / Вход
текстовая версия
ВОЙНА и МИР

 Сюжет дня

Небольшой отчёт по первой неделе работы новой команды
Переходный период
Главная страница » Новости » Просмотр
Версия для печати
ИИ Amazon закрыли, когда он понял, что женщины хуже мужчин
11.10.18 10:12 Наука, техника, образование
Искусственный кадровый интеллект

Специалисты по машинному обучению Amazon обнаружили, что искусственный интеллект, который обрабатывает резюме кандидатов на должности в компании, дискриминирует женщин-соискателей, сообщает Reuters. Эта особенность не закладывалась в систему умышленно — она явилась результатом машинного обучения.

Механизм сортировки резюме на базе искусственного интеллекта разрабатывается в Amazon с 2014 г. группой из 12 специалистов в Эдинбурге. Уже в 2015 г. в компании заметили, что новая система не придерживается принципа гендерной нейтральности при оценке кандидатов на должности разработчиков ПО и другие технические вакансии.

Вскоре они поняли причину: дело в том, что система проходила обучение на резюме, поступивших в компанию за последние 10 лет. Большая часть этих резюме принадлежала мужчинам, что в целом отражает положение дел в ИТ-отрасли. В результате искусственный интеллект Amazon усвоил, что соискатели-мужчины более предпочтительны, чем женщины.

Лингвистическая отбраковка

В итоге искусственный интеллект начал отбраковывать резюме, содержавшие слово "женский" в таких, например, выражениях как "капитан женского шахматного клуба". Механизм также снижал оценки выпускницам двух женских колледжей, но источники Reuters не уточняют их названия. Оценивая резюме, искусственный интеллект присваивал им от одной до пяти звезд — очень похоже на то, как покупатели оценивают товары на сайте Amazon.

Система обращала внимание и на другие слова. Разработчики создали 500 компьютерных моделей для разных должностных обязанностей и географических локаций. Каждая модель была обучена распознавать около 50 тыс. слов-сигналов, которые присутствовали в резюме соискателей.

Примечательно, что механизм игнорировал слова, обозначающие навыки, которые часто прописаны в резюме ИТ-специалистов, такие как умение писать различные коды и т. п. Вместо этого система отслеживала, например, типичные для мужской речи глаголы в самоописании кандидатов, вроде "выполнил" (executed) или "захватил" (captured), поскольку они регулярно встречались в старых резюме, на которых училась машина. С таким подходом гендерная дискриминация была не единственной проблемой — механизм зачастую рекомендовал на должность людей, не обладающих нужными навыками.

Дальнейшая судьба проекта

Amazon скорректировала работу системы таким образом, чтобы она больше не реагировала на слова-сигналы. Однако это не было гарантией, что механизм не найдет другого способа определять резюме, принадлежащие женщинам. К началу 2017 г. компания разочаровалась в проекте и распустила команду. Источники Reuters утверждают, что специалисты по кадрам принимали во внимание рекомендации системы, но никогда не полагались на них исключительно.

Один из источников сообщает, что проект закрыт. Другой утверждает, что в Эдинбурге была сформирована новая команда, чтобы продолжить разработку механизма, но на этот раз с уклоном в равноправие и инклюзивность. Еще один источник сообщает, что сильно видоизмененная версия механизма сейчас используется для выполнения рутинной работы — например, для удаления повторяющихся резюме из базы данных.

 

 

 

Система Orphus: Если вы замeтили ошибку в тексте, выделите ее и нажмите Ctrl + Enter
ZerTes11.10.18 10:25
Дажи ИИ понимает, что женщины (в общей массе) уступают мужчинам. Это не оттого, что женщины хуже. Это оттого, что эволюция ставила перед нами разные задачи. Женщинам: сидеть в пещере, рожать детей и быть сексуально привлекательной, что бы самец ее сношал и кормил, а мужчинам - быть сильнее, умнее, хитрее оппонента (человек то, животное какое или стихия).

И среди этой идиллии вдруг выстрелил "прогресс", а эволюция за ним не успела. В итоге мы остались теми жи обезъянами, но с АК-47 и Айфонами.

т-кк11.10.18 10:53
`
Мужчины и женщины даже не родственники - имеют происхождение из разных видов хомо. К тому же "Еве" порядка 130 тыс, а "Адаму" 60 тысяч лет. А что старее, то хуже, как сказал поэт.
ale1954779711.10.18 11:21
> ZerTes


Дажи ИИ понимает, что женщины (в общей массе) уступают мужчинам. Это не оттого, что женщины хуже. Это оттого, что эволюция ставила перед нами разные задачи.....
Согласен, это в общем-то и в доказательствах не нуждается. Но западным мир идет по принципу: Если факты не подтверждают теорию - то тем хуже для фактов))

Рано или поздно весь этот идиотизм закончится, оставив после себя сотни тысяч изломанных "гендерным равенством" судеб. Но такое происходит не первый раз.

т-кк11.10.18 11:23
> artyom


> т-кк Мужчины и женщины даже не родственники - имеют происхождение из разных видов хомо. К тому же "Еве" порядка 130 тыс, а "Адаму" 60 тысяч лет. А что старее, то хуже, как сказал поэт.
Так это про Вас статья?

Не, это про китайского коллегу. Первого поколение - отстой, конечно, но вам фору даст.
RedFox11.10.18 11:37
Ждем новый, толерантный, гендерно неопределенный, машинный интеллект.
Никудатор11.10.18 12:50
> т-кк


`
Мужчины и женщины даже не родственники - имеют происхождение из разных видов хомо. К тому же "Еве" порядка 130 тыс, а "Адаму" 60 тысяч лет. А что старее, то хуже, как сказал поэт.
Вы это, закусывайте иногда. Или хотя бы поймите смысл терминов "митохондриальная Ева" и "Y-хромосомный Адам"
Никудатор11.10.18 13:50
> Главный Злодей


ИИ понимает, что женщины (в общей массе) уступают мужчинам. Это не оттого, что женщины хуже.

Баба-дура, не потому что дура, а потому что баба (с) ?
Слепые тесты и собеседования показали тот же результат, что ИИ. Это не значит, что женщины хуже. Просто эволюционно у женщин и у мужчин разные задачи. Но вместо того, что бы эффективно использовать эволюционные свойства полов, придумали равенство, "Д.Б." (С)Лавров.
Мороз11.10.18 14:07
С таким подходом гендерная дискриминация была не единственной проблемой — механизм зачастую рекомендовал на должность людей, не обладающих нужными навыками.
--------------
Мужики с бабами совсем не причем.
Тут дура не баба, а ИИ с его проектировщиками. Вот если бы он заявил, что его конструкторы допустили ошибки, а, следовательно, тесты не верны - тогда да, умен. А так - очередная профанация.

Никудатор11.10.18 18:20
> ALexeMiK


Яндексите фильм ложь теории эволюции Харуна яхья
Лениво пересказывать но Дарвин утверждал что киты произошли от медведей охотившихся на рыбу.
Переходных форм не найдено за двести лет археологии

РЕН-ТВ тут не надо рекламировать. Теория Дарвина полностью подтверждается всеми современными методами. И в присхождении человека уже не будет ни чего нового, по крайней мере кардинального. А методов датирования очень много, их далеко не два. Каждый для своего вида ископаемых материалов и своего временного диапазона. Гугель в помощь.
Ковыль11.10.18 18:45
Грузины лучше, чем армяне? - Чем лучше? - Чем армяне. Искусственный интеллект не обманешь, ему всё равно, кроме сермяжной объективности.
English
Архив
Форум

 Наши публикациивсе статьи rss

» Небольшой отчёт по первой неделе работы новой команды
» Переходный период
» "Король умер. Да здравствует король!" ? Проект "Война и Мир" будет продолжен
» Проект «Война и мир» закрыт.
» RAND:Чему нас может научить Рональд Рейган в отношениях с современной Россией
» Anonymous: Освободите Ассанжа!
» Российское послание F-35: "Помни Вьетнам"!
» Украинские пчеловоды сорвали экспортёрам контракты на поставку мёда в ЕС

 Новостивсе статьи rss

» Есть ли юридические основания для остановки “Северного потока-2”?
» Запущена программа по соединению Шанхайской и Лондонской фондовых бирж
» ЦБ: Вложения иностранцев в госдолг России побили рекорд
» NYT узнала о кибератаках США на энергосети РФ
» ФРГ, Франция и Испания запустили крупнейший оборонный проект в Европе
» Си Цзиньпин нанесет государственный визит в КНДР
» Huawei оценила потерянную выручку из-за американских санкций в $30 млрд
» Су-27 перехватили американские бомбардировщики у российских границ

 Репортаживсе статьи rss

» Сергей Турицин: нам вполне по силам быть среди мировых лидеров
» Украина против России в Международном суде ООН
» Поездка в Аджимушкай
» Россия снова вошла в топ-10 стран, лидирующих по количеству проектов ПИИ в Европе
» Примаковские чтения: "А где европейская солидарность?"
» Марш-бросок в историю
» Обратная сторона бума: американских сланцевиков накрыла волна банкротств
» Спекуляции на недвижимости или конец социализма в Германии

 Комментариивсе статьи rss

» Дырявый американский Patriot «Триумф» не заменит
» Форум в Питере показал: альянс России и Китая — реален (EU Reporter Бельгия)
» Михаил Хазин: Арест Голунова — способ «перебить» выступление Путина на Петербургском форуме
» Что стоит за громкой портлендской сделкой на рынке марихуаны: российский миллиардер и консолидация рынка каннабиса
» Основатель ARM считает политику в отношении Huawei разрушительной для всей технологической отрасли
» Обзор книги "Черный лебедь. Под знаком непредсказуемости", Нассим Николас Талеб
» Новое слово в обезьяньем языке
» Выборы в Казахстане – расшатать страну не удалось

 Аналитикавсе статьи rss

» Foreign Affairs (США): Саморазрушение американской власти
» В ожидании «чёрного вторника»
» Плохое шпионское кино про горящие от «торпед» танкеры
» Европейские эксперты оценили подверженность стран ЕС «влиянию России»
» Американский ответ на ядерный ультиматум Ирана
» Агрессия против Ирана – это конец США как мирового гегемона
» ПМЭФ 2019 уже выиграл у Давоса, но пока только по очкам
» Дойдет ли туркменский газ до Индии?
 
текстовая версия © 2006-2019 Inca Group "War and Peace"