Kunstig intelligens og personvern

Jeg er ingen varm tilhenger av såkalte "smarte hus", men det er liten tvil om at denne utviklingen kommer. Med det vil kunstig intelligens raskt melde seg på og bli brukt for å håndtere brukerdata, sensorinformasjon mm. Nesten all bruk av kunstig intelligens (KI) forutsetter store mengder data for at det skal kunne tas intelligente avgjørelser. Potensialet for bedre tjenester, forskningsmessige gjennombrudd og økonomisk gevinst, setter KI høyt på agendaen i de fleste sektorer.

Datatilsynet har skrevet en rapport for å beskrive hvordan personvernet blir berørt av denne utviklingen. De mener debatt og kunnskap om personvern­implikasjonene ved kunstig intelligens er nødvendig – både for å ivareta enkeltmenneskers personvern­rettigheter, og for å ivareta samfunnsbehov utover personvernet.

Hvis folk ikke har tillit til at opplysninger om dem behandles på en god måte, kan det begrense villigheten til å dele opplysninger, slik som hos legen eller på sosiale medier I en slik situasjon står vi ovenfor betydelige utfordringer for ytringsfriheten og tilliten til myndig­hetene. At folk vegrer seg for å dele opplysninger om seg selv, vil også være en betydelig utfordring for kommersiell bruk av personopplysninger i sektorer som media, handel og finans.

Rapporten bygger videre på de juridiske vurderingene og de tekniske beskrivelsene i rapporten «Big Data – personvernprinsipper under press» fra 2014. Her blir dette supplert ved å gå dypere inn i den tekniske beskrivelsen av kunstig intelligens, samt ved å se nærmere på fire KI-relevante utfordringer knyttet opp mot personvernprinsippene i forordningen:

1. Rettferdighet og diskriminering
2. Formålsbestemthet
3. Dataminimalisering
4. Gjennomsiktighet og retten til informasjon

Dette er et utvalg av personvernproblemstillingene som etter vår vurdering er mest relevante i forbindelse med bruk av kunstig intelligens akkurat nå.

Rapporten drøfter dessuten Datatilsynets rolle som tilsynsetat, og til slutt gir vi en rekke eksempler på og anbefalinger om metoder og verktøy for å ivareta personvernet i utvikling og bruk av kunstig intelligens.

Målgruppen for denne rapporten er alle som jobber med, eller av andre grunner er interessert i, kunstig intelligens. Vi håper teknologer, samfunnsvitere, jurister og andre faggrupper kan ha nytte av rapporten.

Last ned: Kunstig intelligens og personvern (pdf)