Feil bruk av AI kan snart bli bøtelagt

I sommer hadde vi i Simployer en markedsundersøkelse blant 150 respondenter i ulike roller i norske virksomheter. Der spurte vi om de fortsatt har utfordringer med personvern. Vi satte også søkelyset på kunstig intelligens (AI) på HR-området:

Mange har et balansert syn på temaet, men det er jo interessant at tre ganger så mange ser bare muligheter som dem som ser bare utfordringer.

Derfor fikk de bøter

På HR Tech 2021 var jeg med i en paneldebatt hvor salen ble spurt om temaet og da var det bare 8 prosent som svarte at de trodde det ville bli bøter for bruk av AI i Norge. Det spesielle er at dette allerede har skjedd i Italia, der to budfirmaer har fått bøter på over 55 millioner kroner av det italienske datatilsynet. På HR Tech fortalte personvernekspert Eva Jarbekk om bøtene. Selskapene ville score budene for å finne ut av hvem som burde få flere oppdrag. Systemet tok beslutninger basert på bevegelsesmønster, tilgjengelighet på ukurante tidspunkter også videre.

At ikke flere ser utfordringer med AI er overraskende. De som i vår undersøkelse så utfordringer begrunnet det først fremst med at det vil gå på bekostning av mellommenneskelig kontakt, relasjoner og individuell forståelse og oppfølging. Noen påpeker bekymring rundt tapte arbeidsplasser. ​Svært få trekker frem bekymring rundt datasikkerhet og personvern. Hvorfor det? Handler dette om at vi nordover i Europa generelt sett stoler på myndigheter og hverandre? Dette legger selvfølgelig et stort ansvar på oss som arbeidsgivere og leverandører. Her har vi et moralsk og etisk ansvar utover hva loven krever.​

AI og mangfold

En interessekonflikt som AI kan medføre er at teknologien kan forsterke eksisterende skjevheter og bidra til å komme fram til fordomsfulle konklusjoner. Amazon har ansatt mange menn, og brukt i rekrutteringsøyemed vil AI typisk ta utgangspunkt i historikken og forsterke den eksisterende trenden som har tatt Amazon dit de er i dag. Les mer om Amazons AI-eksperiment hos Reuters.

AI byr på mange muligheter, men vi må være bevisst på utfordringene.

Under debatten på HR Tech opplyste Jarbekk at det er en EU-forordning om AI på vei, at den er nesten like lang som GDPR-forordningen, og at hun tror det er 3-4 år til den blir vedtatt.

Ulike roller ser ulike problemer
Et annet interessant funn i markedsundersøkelsen var at ulike roller ser ulike HR-utfordringer på personvernområdet nå:

• IT er mest opptatt av data ved nyansettelser, avslutning av arbeidsforhold og lønnsprosesser
• HR-direktører var mer opptatt av data knyttet til mål og medarbeideroppfølging
• De som jobber operativt med HR har personalforvaltning (HR Masterdata) på topp.
• Mindre virksomheter har generelt større utfordringer enn de større

Samlet rangering av hvor personvern byr på størst utfordringer for respondentene i Simployers undersøkelse. 

En refleksjon vi har rundt personvern er at mange er kjent med problemstillingene som ble løftet opp da GDPR trådte i kraft, men virksomhetene utvikler seg og begynner å jobbe med flere HR-områder. Da dukker det opp nye problemstillinger.

SE OGSÅ: Faghjelp fra Simployer - personvern i arbeidsforhold

Hvordan kan dere forebygge brudd på personvernet?

Er det snakk om personaldokumenter og notater som deles mellom leder og medarbeider handler personvern på HR-området om hvordan dokumentene lagres, distribueres og slettes. Hvor godt system virksomheter har til det varierer. En kombinasjon av gode rutiner og gode verktøy gir bedre styring på innsyn. Du skal være transparent. Medarbeideren skal vite hvem som har sett sine persondata, men hvordan legger man til rette for det? Det er ikke sikkert lederen skal ha tilgang på alle dokumenter om den ansatte. For å ta et eksempel: En ansatt har en bot han ikke har betalt, og den skal tas fra lønnen. Det skal kun de på lønn som må sørge for trekket kjenne til, mens leder ikke har innsynsrett i et slikt tilfelle.

Mitt råd

Jeg ble på HR Tech bedt om å gi et råd til de som var til stede. Å få kontroll på HR Masterdata, tilgangskontroll og innsynsrett er det grunnleggende. Utover det så tenker jeg at man bør ta en statussjekk jevnlig i virksomheten på tvers av roller, så man får kartlagt hvor skoen trykker for både IT, HR-direktøren og de som jobber operativt med personalforvaltningen.