Регистрация / Вход
текстовая версия
ВОЙНА и МИР

 Сюжет дня

США создали наблюдательные посты на сирийско-турецкой границе
США обвинили Россию и Сирию во лжи о химатаке боевиков в Алеппо
США нашли очередную причину, чтобы остаться в Сирии
Турция «не заметила» как террористы выбили «умеренных боевиков» в Идлибе
Главная страница » Новости » Просмотр
Версия для печати
ИИ Amazon закрыли, когда он понял, что женщины хуже мужчин
11.10.18 10:12 Наука, техника, образование
Искусственный кадровый интеллект

Специалисты по машинному обучению Amazon обнаружили, что искусственный интеллект, который обрабатывает резюме кандидатов на должности в компании, дискриминирует женщин-соискателей, сообщает Reuters. Эта особенность не закладывалась в систему умышленно — она явилась результатом машинного обучения.

Механизм сортировки резюме на базе искусственного интеллекта разрабатывается в Amazon с 2014 г. группой из 12 специалистов в Эдинбурге. Уже в 2015 г. в компании заметили, что новая система не придерживается принципа гендерной нейтральности при оценке кандидатов на должности разработчиков ПО и другие технические вакансии.

Вскоре они поняли причину: дело в том, что система проходила обучение на резюме, поступивших в компанию за последние 10 лет. Большая часть этих резюме принадлежала мужчинам, что в целом отражает положение дел в ИТ-отрасли. В результате искусственный интеллект Amazon усвоил, что соискатели-мужчины более предпочтительны, чем женщины.

Лингвистическая отбраковка

В итоге искусственный интеллект начал отбраковывать резюме, содержавшие слово "женский" в таких, например, выражениях как "капитан женского шахматного клуба". Механизм также снижал оценки выпускницам двух женских колледжей, но источники Reuters не уточняют их названия. Оценивая резюме, искусственный интеллект присваивал им от одной до пяти звезд — очень похоже на то, как покупатели оценивают товары на сайте Amazon.

Система обращала внимание и на другие слова. Разработчики создали 500 компьютерных моделей для разных должностных обязанностей и географических локаций. Каждая модель была обучена распознавать около 50 тыс. слов-сигналов, которые присутствовали в резюме соискателей.

Примечательно, что механизм игнорировал слова, обозначающие навыки, которые часто прописаны в резюме ИТ-специалистов, такие как умение писать различные коды и т. п. Вместо этого система отслеживала, например, типичные для мужской речи глаголы в самоописании кандидатов, вроде "выполнил" (executed) или "захватил" (captured), поскольку они регулярно встречались в старых резюме, на которых училась машина. С таким подходом гендерная дискриминация была не единственной проблемой — механизм зачастую рекомендовал на должность людей, не обладающих нужными навыками.

Дальнейшая судьба проекта

Amazon скорректировала работу системы таким образом, чтобы она больше не реагировала на слова-сигналы. Однако это не было гарантией, что механизм не найдет другого способа определять резюме, принадлежащие женщинам. К началу 2017 г. компания разочаровалась в проекте и распустила команду. Источники Reuters утверждают, что специалисты по кадрам принимали во внимание рекомендации системы, но никогда не полагались на них исключительно.

Один из источников сообщает, что проект закрыт. Другой утверждает, что в Эдинбурге была сформирована новая команда, чтобы продолжить разработку механизма, но на этот раз с уклоном в равноправие и инклюзивность. Еще один источник сообщает, что сильно видоизмененная версия механизма сейчас используется для выполнения рутинной работы — например, для удаления повторяющихся резюме из базы данных.

 

 

 

Система Orphus: Если вы замeтили ошибку в тексте, выделите ее и нажмите Ctrl + Enter
ZerTes11.10.18 10:25
Дажи ИИ понимает, что женщины (в общей массе) уступают мужчинам. Это не оттого, что женщины хуже. Это оттого, что эволюция ставила перед нами разные задачи. Женщинам: сидеть в пещере, рожать детей и быть сексуально привлекательной, что бы самец ее сношал и кормил, а мужчинам - быть сильнее, умнее, хитрее оппонента (человек то, животное какое или стихия).
И среди этой идиллии вдруг выстрелил "прогресс", а эволюция за ним не успела. В итоге мы остались теми жи обезъянами, но с АК-47 и Айфонами.
т-кк11.10.18 10:53
`
Мужчины и женщины даже не родственники - имеют происхождение из разных видов хомо. К тому же "Еве" порядка 130 тыс, а "Адаму" 60 тысяч лет. А что старее, то хуже, как сказал поэт.
ale1954779711.10.18 11:21
> ZerTes

Дажи ИИ понимает, что женщины (в общей массе) уступают мужчинам. Это не оттого, что женщины хуже. Это оттого, что эволюция ставила перед нами разные задачи.....
Согласен, это в общем-то и в доказательствах не нуждается. Но западным мир идет по принципу: Если факты не подтверждают теорию - то тем хуже для фактов))
Рано или поздно весь этот идиотизм закончится, оставив после себя сотни тысяч изломанных "гендерным равенством" судеб. Но такое происходит не первый раз.
т-кк11.10.18 11:23
> artyom

> т-кк Мужчины и женщины даже не родственники - имеют происхождение из разных видов хомо. К тому же "Еве" порядка 130 тыс, а "Адаму" 60 тысяч лет. А что старее, то хуже, как сказал поэт.
Так это про Вас статья?

Не, это про китайского коллегу. Первого поколение - отстой, конечно, но вам фору даст.
RedFox11.10.18 11:37
Ждем новый, толерантный, гендерно неопределенный, машинный интеллект.
Никудатор11.10.18 12:50
> т-кк

`
Мужчины и женщины даже не родственники - имеют происхождение из разных видов хомо. К тому же "Еве" порядка 130 тыс, а "Адаму" 60 тысяч лет. А что старее, то хуже, как сказал поэт.
Вы это, закусывайте иногда. Или хотя бы поймите смысл терминов "митохондриальная Ева" и "Y-хромосомный Адам"
Никудатор11.10.18 13:50
> Главный Злодей


ИИ понимает, что женщины (в общей массе) уступают мужчинам. Это не оттого, что женщины хуже.

Баба-дура, не потому что дура, а потому что баба (с) ?
Слепые тесты и собеседования показали тот же результат, что ИИ. Это не значит, что женщины хуже. Просто эволюционно у женщин и у мужчин разные задачи. Но вместо того, что бы эффективно использовать эволюционные свойства полов, придумали равенство, "Д.Б." (С)Лавров.
Мороз11.10.18 14:07
С таким подходом гендерная дискриминация была не единственной проблемой — механизм зачастую рекомендовал на должность людей, не обладающих нужными навыками.
--------------
Мужики с бабами совсем не причем.
Тут дура не баба, а ИИ с его проектировщиками. Вот если бы он заявил, что его конструкторы допустили ошибки, а, следовательно, тесты не верны - тогда да, умен. А так - очередная профанация.
Никудатор11.10.18 18:20
> ALexeMiK

Яндексите фильм ложь теории эволюции Харуна яхья
Лениво пересказывать но Дарвин утверждал что киты произошли от медведей охотившихся на рыбу.
Переходных форм не найдено за двести лет археологии

РЕН-ТВ тут не надо рекламировать. Теория Дарвина полностью подтверждается всеми современными методами. И в присхождении человека уже не будет ни чего нового, по крайней мере кардинального. А методов датирования очень много, их далеко не два. Каждый для своего вида ископаемых материалов и своего временного диапазона. Гугель в помощь.
Ковыль11.10.18 18:45
Грузины лучше, чем армяне? - Чем лучше? - Чем армяне. Искусственный интеллект не обманешь, ему всё равно, кроме сермяжной объективности.
English
Архив
Форум

 Наши публикациивсе статьи rss

» МЕТОДИЧЕСКИЕ РЕКОМЕНДАЦИИ по разоблачению фейковых обвинений в адрес ВКС России в Сирии
» Потенциал как локальных, так глобальных военных конфликтов на сегодня исчерпан
» Обзор событий в мире, четвертая неделя ноября 2018 года
» Обзор событий в мире, третья неделя ноября 2018 года
» Обзор событий в мире, вторая неделя ноября 2018 года
» Обзор событий в мире, конец октября — начало ноября 2018 года
» Мир остается удаленной перспективой для Ливии
» Аргентина в смятении

 Новостивсе статьи rss

» Этот день в истории: 1979 год — в СССР решено ввести войска в Афганистан
» Германия и Франция добиваются расширения миссии ОБСЕ на Азовское море
» В Санкт-Петербурге для ВМФ РФ заложен ледокол "Евпатий Коловрат"
» На Украине создали комиссию по подготовке претензий к России
» Госдума подготовила проект бюджетной сметы без взносов в ПАСЕ
» Китайский аппарат "Чанъэ-4" вышел на эллиптическую орбиту вокруг Луны
» Эрдоган анонсировал операцию в Сирии к востоку от Евфрата
» Судан предложил России рассмотреть возможность расчетов в нацвалютах

 Репортаживсе статьи rss

» Морпехи с доставкой. Зачем России новый экспедиционный корабль
» Какие вопросы регулирует миграционный пакт ООН
» Остриё копья. Реальное количество авианосцев у Японии и их возможности
» Ядреное топливо: почем Westinghouse для Украины
» Система «Стаканов» и другие тайны «этих русских»
» Обзор Аравийского п-ва: помощь евангелистов Эр-Рияду; «элитные киллеры» ОАЭ; израильская экспансия в Заливе; и многое другое за октябрь-ноябрь 2018
» Социальные медиа продолжают распространять российскую дезинформацию
» В Азии полным ходом идет новая рисовая революция

 Комментариивсе статьи rss

» Министры финансов Еврозоны: реформа валютного союза идет слишком медленно
» Путин инициирует трёхсторонний саммит с Индией и Китаем
» Китай и Индия могут добиться в Афганистане того, что не удалось США и России
» Украина — глобальная империя секонд-хенда
» «Би-би-си» обладает правовой защитой и может распространять фальшивые новости
» ВТО — все. Новый год может стать для организации последним
» Заметки бывшего учителя
» Угрозы, убийства и войны. Что предшествовало саммиту "Большой двадцатки"

 Аналитикавсе статьи rss

» Запад скатывается ещё ниже
» О системе платных информаторов в США
» За кулисами гибридной войны
» В ходе учений «Анаконда-2018» войска НАТО отрабатывают захват Калининграда
» Неужели корейская холодная война вот-вот закончится?
» Афганистан занимает центральное место в новой «Большой игре»
» Какую игру ведет Россия в Афганистане
» Война сверхдержав: американские ВВС готовятся к схватке с Россией и Китаем
 
текстовая версия © 2006-2018 Inca Group "War and Peace"