ИИ за подбор на кадри бе изключен, след като се разбра че предпочита мъже

Специалисти по машинно обучение в Amazon откриха, че използваният в компанията изкуствен интелект (ИИ) за отсяване на автобиографии на кандидат-служители е дикриминирал жените, съобщи Reuters. Тази негова "особеност" не е била заложена умишлено, а се е формирала в процеса на на неговото обучение.

Системата за сортиране на резюмета е разработвана в компанията от 2014 г. от 12 специалисти, локализирани в Единбург. Още през 2015 г. е било забелязано, че тя не следва принципа на половата неутралност при оценката на кандидатите.

Скоро е била установена и причината – ИИ е бил обучаван на базата на кандидатите, постъпили на работа в Amazon през последното десетилетие. По-голямата част от тях са мъже, същата е ситуацията и в ИТ отрасъла като цяло. В резултат ИИ е усвоил, че кандидатите мъже са по-търсени от жените и е започнал да отхвърля хората, в чиито автобиографии присъства думата "женски" в словосъчетания като "капитан на женския отбор по шахмат".

Също така системата е автоматично е занижавала вътрешната оценка на кандидатките, завършили два колежа. Reuters не съобщават кои са те. Оценявайки кандидатите ИИ ги е маркирал с от една до пет звезди – по подобен начин купувачите в магазина на компанията оценяват предлаганите там стоки.

Изкуственият интелект е обръщал внимание и на други думи. Разработчиците са създали 500 компютърни модела за различните длъжности, задължения и географски локации. Всеки от тях е бил обучен да разпознава около 50 хил. думи, присъстващи в автобиографиите на кандидатите.

Интересно е да се отбележи, че системата е игнорирала думи, озбозначаващи навици, които се срещат често в резюметата на ИТ специалистите, като умения за писане на код др. Вместо това тя е търсела глаголи, които са по-типична за мъжкия изказ като "изпълнил" (executed) и "уловил" (captured), тъй като са били срещани по-често в автобиографиите, с които е била обучавана.

Половата дискриминация не е била единствения проблем в описаната ситуация. Чрез този подход често са били препоръчвани хора, които не са притежавали необходимите умения. Все пак, според Reuters, в компанията в компанията са взимали предвид препоръките на системата, без да разчитат напълно на тях.

Според източници на медията проектът е бил прекратен в началото на 2017 г., а екипът е бил разпуснат. Формирано е ново звено, който трябва да създаде подобрена версия на механизма.
още по темата

Чатботове на Google превръщат рекламите в разговори

Маркетинг материалите вече могат да отговарят
17.10.2018 / 09:46

AI на Google открива ракови метастази по-добре от човек

LYNA е още по-ефективен инструмент, когато служи като партньор на лекарите
15.10.2018 / 11:16

Essential все пак прави нов смартфон, акцентира върху ИИ

Според слухове компанията възнамерява да заложи на малък екран
11.10.2018 / 12:25

Електронният магазин във Facebook вече има AI помощник

Той може да предлага цени и да помага в категоризирането на различни продукти
03.10.2018 / 02:02

Първата картина, нарисувана от AI, ще бъде продадена на търг

Ще замени ли изкуственият интелект творците?
30.08.2018 / 10:06
Twitter icon Facebook icon
Този сайт използва бисквитки (cookies). Ако желаете можете да научите повече тук.