Bias er systematiske skævheder i et AI-systems svar – f.eks. i forhold til køn, alder, etnicitet eller sprog. De opstår, fordi systemet har lært af data, der selv rummer skævheder, og de forsvinder ikke af sig selv.
Bias er ikke en fejl i klassisk forstand, men et vilkår: Modeller lærer af fortidens tekster og billeder, og fortiden er ikke neutral. En rekrutteringsmodel kan favorisere bestemte profiler, en sprogmodel kan omtale faggrupper stereotypt, og et billedværktøj kan gøre 'en leder' til en bestemt slags person.
Det afgørende er derfor ikke at finde et system uden bias – det findes ikke – men at vide, hvor skævhederne kan gøre skade, og lægge menneskelig kontrol dér. Jo større konsekvens en beslutning har for mennesker, jo mindre bør den overlades til maskinen alene.
I praksis
I praksis håndteres bias med tre greb: kritiske spørgsmål til leverandøren, stikprøver på systemets svar i egne arbejdsgange – og klare regler for, hvilke beslutninger der altid kræver et menneske.
Sådan forklarer du det for ledelsen
»AI'ens svar er et spejl af dens data. Vores ansvar er at vide, hvornår spejlet er skævt – og handle derefter.«
Bias er en af grundene til kravene i AI-forordningen – og et fast tema i mit arbejde med adoption i den intelligente organisation.