Mogu li AI roboti razviti predrasude na svoju vlastitu?

Sep 07, 2018 Ostavite poruku

Prikazivanje predrasuda prema drugima ne zahtijeva visoku razinu kognitivne sposobnosti i lako bi se mogli izlagati umjetno inteligentnim strojevima, predlaže nova istraživanja.

Stručnjaci za računalnu znanost i psihologiju sa Sveučilišta Cardiff i MIT pokazali su da bi skupine autonomnih strojeva mogle pokazati predrasude jednostavno identificiranjem, kopiranjem i učenjem tog ponašanja jedni od drugih.

Čini se da je predrasuda ljudski specifični fenomen koji zahtijeva da ljudska spoznaja oblikuje mišljenje ili stereotip određene osobe ili skupine.

Iako su neke vrste računalnih algoritama već pokazale predrasude, poput rasizma i seksizma, temeljene na učenju iz javnih zapisa i drugih podataka koje su stvorili ljudi, ovaj novi rad pokazuje mogućnost da AI razvija predrasude samo po sebi.

Novi nalazi, koji su objavljeni u časopisu Scientific Reports, temelje se na računalnim simulacijama o načinu na koji srodno prejudicirani pojedinci ili virtualni agenti mogu formirati grupu i međusobno komunicirati.

Suautor studije, profesor Roger Whitaker, iz Instituta za kriminal i sigurnosne znanosti Sveučilišta Cardiff i School of Computer Science i Informatics, rekao je: "Trčanje ovim simulacijama tisućama i tisućama puta počinjemo shvaćati kako predrasuda evoluira i uvjete koji ga promiču ili ometaju.

"Naše simulacije pokazuju da je predrasuda moćna sila prirode i kroz evoluciju, ona se lako može poticati u virtualnim populacijama, na štetu šire povezanosti s drugima. Zaštita od štetnih skupina može slučajno dovesti do pojedinaca koji formiraju dodatne predrasude, što rezultira slomljena populacija. Takva široka predrasuda teško je preokrenuti. "

Daljnji interesantan nalaz iz studije bio je da je pod određenim uvjetima, koji uključuju različite subpopulacije koje su prisutne unutar populacije, bilo je teže za predrasude da se održi.

"S većim brojem subpopulacija, saveze neobrizičnih skupina mogu surađivati bez iskorištavanja, što također smanjuje njihov status kao manjinu, smanjujući osjetljivost na predrasude. Međutim, to također zahtijeva okolnosti u kojima agenti imaju veću sklonost prema međusobno djelujući izvan njihove grupe ", zaključio je profesor Whitaker.

Could AI robots develop prejudice on their own?