AI-etik og bias

Hvad handler det om?

En AI lærer af data, og data afspejler den verden, de kommer fra — med alle dens skævheder. Bias er, når en model viderefører eller forstærker den slags skævheder og behandler fx ansøgere, kunder eller grupper systematisk forskelligt, uden at nogen har bedt om det. AI-etik er det bredere spørgsmål om at bygge og bruge AI ansvarligt.

Hvorfor det er en forretningssag — ikke kun moral

Det er let at tænke på etik som noget blødt. Men bias har hårde konsekvenser. En model, der forskelsbehandler i en ansættelse eller en kreditvurdering, er både et omdømmeproblem og — under EU AI Act — potentielt et lovbrud. En model, der finder på svar over for en kunde, koster tillid. Ansvarlig AI er ganske enkelt god forretning.

Hvor skævheden gemmer sig

Bias er sjældent ond vilje. Den sniger sig ind via træningsdata, der ikke repræsenterer alle, via spørgsmål, der er stillet skævt, eller via en model, der bare gentager fortidens mønstre. Fordi den er svær at få øje på, skal man lede efter den med vilje — ikke gå ud fra, at den ikke er der.

Hvad man gør ved det

Der findes ingen kontakt, der slår bias fra. Men man kan teste for det, holde et menneske inde over de vigtige beslutninger og være åben om, hvad modellen gør og ikke gør. Det afgørende er at tage det alvorligt fra start — i stedet for at opdage problemet, når en kunde eller en journalist gør det først.