Kunstig intelligens er skabt af mennesker, og det kan føre til såkaldte 'machine bias', som kort fortalt betyder, at de intelligente systemer er smittet af kulturelle normer og skævheder.

Det skriver Rbot.dk.

Udfordringen er, at udviklerne - bevidst eller ubevidst - bygger samfundsnormer ind i den teknologi, de udvikler, og det kan betyde, at systmerne ikke er så neutrale, som man måske tror.

En gruppe forskere opdagede eksempelvis tidligere på året, at Googles Smart Compose-funktion (autoudførelse, red.) ikke var kønsneural. Hvis forskerne eksempelvis skrev "Jeg skal møde en investor i næste uge," spurgte funktionen efterfølgende: "Ønsker du at møde ham?"

Det viste sig, at Googles funktion aldrig foreslog "hun" eller "hende" i sådanne situationer, og det har nu fået Google til at fjerne alle stedord, der henviser til køn, i det pågældende system. 

Ifølge Rbot.dk har Amazon også tidligere haft udfordringer med machine bias, hvilket førte til, at selskabet droppede et internt rekrutteirngsværktøj.

Tyskland afsætter 22 mia. kr. til kunstig intelligens 

Tommy Ahlers: De amerikanske giganter støvsuger Danmark for talenter i kunstig intelligens