софтверот
Media: Forbes

Научни истражувања ги потврдуваат сомнежите кои со години се провлекуваат низ разни студии. Имено, софтверот направен со цел да умее да препознава ликови е заснован врз карактеристиките на бел маж. Ова доаѓа како резултат од податоците со кои алгоритамот е „нахранет“, пред да почне самиот да се надоградува.

Истражувач од MIT Media Lab спровел истражување чии резултати ги објави во престижниот New York Times, кои докажуваат за што поточно се работи. Имено тој создал датабаза со фотографии од политичари од различни земји. Потоа, тој ги тестирал софтверите за препознавање произведени од Microsoft, IBM и кинескиот Megvii.

Тестовите покажале слични резултати, а заедничкото е што попрецизно ги класифицираат белите индивидуи одошто оние со друга боја на кожата. Понатаму, уште поголема прецизност софтверот нуди при класификација и идентификување на белите мажи во однос на жени.

Ваквиот стереотипен пристап на софтверот може да создаде голем број проблеми во иднина. Замислете само како тоа во пракса би функционирало доколку во светот полициските службеници почнат да се потпираат исклучиво на овој тип на идентификација.

Тука не се работи за тоа дека конкретно белите мажи би биле на мета. Меѓутоа би постоеле сериозни шанси да дојде до погрешно евидентирање на личност со друга боја на кожата.

Бројките кои ги опишуваат грешките на софтверот во истражувањето се забележителни иако се работи за минорно истражување. Никој не вели дека постои конкретна цел позади ваквиот стереотипен начин на класификација, меѓутоа истиот е одраз на првите слабости на технологијата.

ИЗВОРThe Verge
ИЗВОР 2The New York Times
Претходна статијаХарвард и МИТ први воведуваат курс за етика во вештачката интелигенција
Следна статијаУпотреба на мобилен телефон при возење – закана за безбедно одвивање на сообраќајот