Регистрация / Вход
текстовая версия
ВОЙНА и МИР

 Сюжет дня

Россия поставила Сирии три дивизиона С-300ПМ-2
Среди заложников ИГ в Сирии находятся граждане европейских стран
США по ошибке ударили по курдам в Сирии
Россия накроет Сирию невидимым куполом
Главная страница » Новости » Просмотр
Версия для печати
ИИ Amazon закрыли, когда он понял, что женщины хуже мужчин
11.10.18 10:12 Наука, техника, образование
Искусственный кадровый интеллект

Специалисты по машинному обучению Amazon обнаружили, что искусственный интеллект, который обрабатывает резюме кандидатов на должности в компании, дискриминирует женщин-соискателей, сообщает Reuters. Эта особенность не закладывалась в систему умышленно — она явилась результатом машинного обучения.

Механизм сортировки резюме на базе искусственного интеллекта разрабатывается в Amazon с 2014 г. группой из 12 специалистов в Эдинбурге. Уже в 2015 г. в компании заметили, что новая система не придерживается принципа гендерной нейтральности при оценке кандидатов на должности разработчиков ПО и другие технические вакансии.

Вскоре они поняли причину: дело в том, что система проходила обучение на резюме, поступивших в компанию за последние 10 лет. Большая часть этих резюме принадлежала мужчинам, что в целом отражает положение дел в ИТ-отрасли. В результате искусственный интеллект Amazon усвоил, что соискатели-мужчины более предпочтительны, чем женщины.

Лингвистическая отбраковка

В итоге искусственный интеллект начал отбраковывать резюме, содержавшие слово "женский" в таких, например, выражениях как "капитан женского шахматного клуба". Механизм также снижал оценки выпускницам двух женских колледжей, но источники Reuters не уточняют их названия. Оценивая резюме, искусственный интеллект присваивал им от одной до пяти звезд — очень похоже на то, как покупатели оценивают товары на сайте Amazon.

Система обращала внимание и на другие слова. Разработчики создали 500 компьютерных моделей для разных должностных обязанностей и географических локаций. Каждая модель была обучена распознавать около 50 тыс. слов-сигналов, которые присутствовали в резюме соискателей.

Примечательно, что механизм игнорировал слова, обозначающие навыки, которые часто прописаны в резюме ИТ-специалистов, такие как умение писать различные коды и т. п. Вместо этого система отслеживала, например, типичные для мужской речи глаголы в самоописании кандидатов, вроде "выполнил" (executed) или "захватил" (captured), поскольку они регулярно встречались в старых резюме, на которых училась машина. С таким подходом гендерная дискриминация была не единственной проблемой — механизм зачастую рекомендовал на должность людей, не обладающих нужными навыками.

Дальнейшая судьба проекта

Amazon скорректировала работу системы таким образом, чтобы она больше не реагировала на слова-сигналы. Однако это не было гарантией, что механизм не найдет другого способа определять резюме, принадлежащие женщинам. К началу 2017 г. компания разочаровалась в проекте и распустила команду. Источники Reuters утверждают, что специалисты по кадрам принимали во внимание рекомендации системы, но никогда не полагались на них исключительно.

Один из источников сообщает, что проект закрыт. Другой утверждает, что в Эдинбурге была сформирована новая команда, чтобы продолжить разработку механизма, но на этот раз с уклоном в равноправие и инклюзивность. Еще один источник сообщает, что сильно видоизмененная версия механизма сейчас используется для выполнения рутинной работы — например, для удаления повторяющихся резюме из базы данных.

 

 

 

Система Orphus: Если вы замeтили ошибку в тексте, выделите ее и нажмите Ctrl + Enter
ZerTes, RU11.10.18 10:25
Дажи ИИ понимает, что женщины (в общей массе) уступают мужчинам. Это не оттого, что женщины хуже. Это оттого, что эволюция ставила перед нами разные задачи. Женщинам: сидеть в пещере, рожать детей и быть сексуально привлекательной, что бы самец ее сношал и кормил, а мужчинам - быть сильнее, умнее, хитрее оппонента (человек то, животное какое или стихия).
И среди этой идиллии вдруг выстрелил "прогресс", а эволюция за ним не успела. В итоге мы остались теми жи обезъянами, но с АК-47 и Айфонами.
т-кк, RU11.10.18 10:53
`
Мужчины и женщины даже не родственники - имеют происхождение из разных видов хомо. К тому же "Еве" порядка 130 тыс, а "Адаму" 60 тысяч лет. А что старее, то хуже, как сказал поэт.
ale19547797, RU11.10.18 11:21
> ZerTes

Дажи ИИ понимает, что женщины (в общей массе) уступают мужчинам. Это не оттого, что женщины хуже. Это оттого, что эволюция ставила перед нами разные задачи.....
Согласен, это в общем-то и в доказательствах не нуждается. Но западным мир идет по принципу: Если факты не подтверждают теорию - то тем хуже для фактов))
Рано или поздно весь этот идиотизм закончится, оставив после себя сотни тысяч изломанных "гендерным равенством" судеб. Но такое происходит не первый раз.
т-кк, RU11.10.18 11:23
> artyom

> т-кк Мужчины и женщины даже не родственники - имеют происхождение из разных видов хомо. К тому же "Еве" порядка 130 тыс, а "Адаму" 60 тысяч лет. А что старее, то хуже, как сказал поэт.
Так это про Вас статья?

Не, это про китайского коллегу. Первого поколение - отстой, конечно, но вам фору даст.
RedFox, RU11.10.18 11:37
Ждем новый, толерантный, гендерно неопределенный, машинный интеллект.
Никудатор, RU11.10.18 12:50
> т-кк

`
Мужчины и женщины даже не родственники - имеют происхождение из разных видов хомо. К тому же "Еве" порядка 130 тыс, а "Адаму" 60 тысяч лет. А что старее, то хуже, как сказал поэт.
Вы это, закусывайте иногда. Или хотя бы поймите смысл терминов "митохондриальная Ева" и "Y-хромосомный Адам"
Никудатор, RU11.10.18 13:50
> Главный Злодей


ИИ понимает, что женщины (в общей массе) уступают мужчинам. Это не оттого, что женщины хуже.

Баба-дура, не потому что дура, а потому что баба (с) ?
Слепые тесты и собеседования показали тот же результат, что ИИ. Это не значит, что женщины хуже. Просто эволюционно у женщин и у мужчин разные задачи. Но вместо того, что бы эффективно использовать эволюционные свойства полов, придумали равенство, "Д.Б." (С)Лавров.
Мороз, UA11.10.18 14:07
С таким подходом гендерная дискриминация была не единственной проблемой — механизм зачастую рекомендовал на должность людей, не обладающих нужными навыками.
--------------
Мужики с бабами совсем не причем.
Тут дура не баба, а ИИ с его проектировщиками. Вот если бы он заявил, что его конструкторы допустили ошибки, а, следовательно, тесты не верны - тогда да, умен. А так - очередная профанация.
Никудатор, RU11.10.18 18:20
> ALexeMiK

Яндексите фильм ложь теории эволюции Харуна яхья
Лениво пересказывать но Дарвин утверждал что киты произошли от медведей охотившихся на рыбу.
Переходных форм не найдено за двести лет археологии

РЕН-ТВ тут не надо рекламировать. Теория Дарвина полностью подтверждается всеми современными методами. И в присхождении человека уже не будет ни чего нового, по крайней мере кардинального. А методов датирования очень много, их далеко не два. Каждый для своего вида ископаемых материалов и своего временного диапазона. Гугель в помощь.
Ковыль, RU11.10.18 18:45
Грузины лучше, чем армяне? - Чем лучше? - Чем армяне. Искусственный интеллект не обманешь, ему всё равно, кроме сермяжной объективности.
English
Архив
Форум

 Наши публикациивсе статьи rss

» Обзор событий в мире за 2 неделю октября 2018 г
» Лаваль: Обзор событий в мире за первую неделю октября 2018 г
» Экономика России: Некомпетентность или война кланов?
» Говорил вам умный человек - “...замучаетесь пыль глотать...”
» 200 британских и американских военных заблокированы в Идлибе
» Как нефтяной гигант Россия стала доминировать на рынке пшеницы
» Пенсионная реформа: если подумать… (II)
» Пенсионная реформа: если подумать… (I)

 Новостивсе статьи rss

» Трамп пригрозил закрыть границу с Мексикой
» РЛС "Небо-У" поступила в дивизию ПВО Центрального военного округа
» РФ и КНР готовятся полностью избавиться от расчетов в долларах
» Россия поставила Сирии три дивизиона С-300ПМ-2
» Туркмения предлагает Саудовской Аравии дополнительно инвестировать в газопровод ТАПИ
» Полет "ястреба". Зачем американцам Закавказье
» В Брюсселе официально открылся саммит "Азия-Европа"
» Япония и КНДР провели секретные переговоры в начале октября

 Репортаживсе статьи rss

» Инфраструктурные проекты инициативы «Один пояс, один путь» буксуют в мире «затянутых поясов» и «извилистых дорог»
» Мусорная тема. Как переработка отходов налажена в РФ и за рубежом
» Колониализм или взаимовыгодное сотрудничество: зачем Китаю Африка
» Тяжба в Лондоне - судьба глобальной финансовой системы решается в поединке Россия - Украина
» США подготовили план для Донбасса. "Воспитатели" получат миллионы долларов
» Размещение США в Румынии и Польше универсальных пусковых установок Мк-41 является нарушением РСМД
» 1951 год: Как лейбористы пропагандировали советский народ
» В чем Минюст США обвиняет сотрудников российской разведки. Обобщение

 Комментариивсе статьи rss

» Пентагон ищет возможность срывать атаки российских радиотехнических средств в Сирии
» Washington Examiner: Индия испытывает терпение США
» Отсель грозить мы будем НАТО — дальний радиус действия «Калибров» позволяет
» «Без потери лица»: Япония ищет формулу отказа от претензий на Курилы
» Facebook. Невежество и слабоумие — новое «светлое будущее человечества»
» Почему американцы выходят на пенсию позже, чем было раньше
» Постпред США при НАТО "крупно облажалась", переборщив с жесткой риторикой в адрес России
» Запад хотел от Македонии слишком многого и слишком быстро

 Аналитикавсе статьи rss

» «Теплая война»: вторгнется ли НАТО в Россию по стопам Наполеона и Гитлера
» 30-летие Монреальского протокола — позорная дата в истории мировой науки
» ФРС. Сокращение баланса ФРС. Важные моменты!
» «Маленькая честная Эстония» оказалась очень удобной для отмывания грязных денег
» Что стоит за попытками США остановить «Северный поток-2»
» Project Syndicate: Как создается финансовый кризис 2020 года
» Почему Иран предпочитает Восточный блок Западному
» Путь к войне. К 80-летию Мюнхенского раздела Чехословакии. Как это было
 
текстовая версия © 2006-2017 Inca Group "War and Peace"