Nyt værktøj skal sikre ansvarlig brug af kunstig intelligens i offentlig sagsbehandling

25. maj 2020

Nyt værktøj skal sikre ansvarlig brug af kunstig intelligens i offentlig sagsbehandling

Ny specifikation fra Dansk Standard skal være med til at sikre etik og gennemsigtighed i anvendelsen af kunstig intelligens i offentlig sagsbehandling og gøre det lettere for myndighederne at arbejde med teknologien.

Etiske dilemmaer og øget behov for ansvarlighed er blandt udfordringerne ved brug af kunstig intelligens i offentlig sagsbehandling. Men nu er der hjælp at hente for offentlige myndigheder, der arbejder med kunstig intelligens som støtte til at træffe beslutninger i sagsbehandlingen. Dansk Standard har netop udgivet to danske specifikationer, der skal gøre teknologien tryg og sikker at anvende og være med til at skabe gennemsigtighed i de beslutninger, algoritmerne træffer.

- Før enhver anvendelse af et IT-værktøj bør der stilles en række spørgsmål til, hvorfor og hvordan det anvendes i en given situation. Det gælder i endnu højere grad kunstig intelligens anvendt i offentlig sagsbehandling for at sikre etisk og ansvarlig brug, fordi det involverer beslutninger om dig og mig. Og det er netop det, specifikationerne kan hjælpe med, siger Kim Skov Hilding, seniorkonsulent i Dansk Standard.


Webinar

Deltag i webinar og lær mere om de nye specifikationer og bliv klogere på, hvordan du bruger den nye specifikation om gennemsigtighed i kunstig intelligens i din virksomhed eller organisation.


Etiske dilemmaer

Den stigende tilgængelighed af data om bl.a. borgere og tidligere trufne beslutninger, betyder, at der opstår nye muligheder for at anvende kunstig intelligens i den offentlige sagsbehandling, fx til lettere og hurtigere at træffe beslutninger i forbindelse med byggeansøgninger, beskæftigelsesindsats mv. Men det betyder samtidigt, at mange offentlige myndigheder kæmper med svære etiske overvejelser om anvendelsen af teknologien.

Dette er professor Thomas Hildebrandt, som har været skribent på den specifikation, der omhandler offentlig sagsbehandling, enig i:

- Kunstig intelligens kan være med til at forbedre den offentlige sagsbehandling. Men det er vigtigt, at man inddrager relevante interessenter i overvejelser om både forståelighed, kontrol, gevinster og risici i alle faser af udviklingen, fra idé til brug og vedligeholdelse, så vi kan bevare tilliden til den offentlige forvaltning, understreger Thomas Hildebrandt.

Og det skal de to nye gratis specifikationer for kunstig intelligens, der er et led i den nationale strategi for kunstig intelligens og udviklet af en lang række eksperter, bl.a. være med til at sikre.

Let tilgængelige checklister

- Specifikationerne skal ses som håndbøger med vejledning og checklister, der kan bruges, hvis du står overfor et AI-projekt. Kort fortalt skal de være med til at sikre, at du har gjort de rigtige overvejelser i de forskellige faser i projektet, siger Kim Skov Hilding, konsulent i Dansk Standard.

Der er således ikke tale om kravspecifikationer eller regulering, men et værktøj til at strukturere arbejdet og hjælp til, hvilke refleksioner det er vigtigt at gøre sig bl.a. i forhold til at skabe gennemsigtighed i, hvad algoritmerne laver, og dermed tillid til teknologien.

- Man kan sige, at specifikationen fungerer som en sparringspartner, der sikrer at du stiller dig selv de rigtige spørgsmål på de rigtige steder i processen, uddyber Kim Skov Hilding.

Kunstig intelligens kan tænkes anvendt til beslutningsstøtte i offentlig sagsbehandling på mange måder.

Fx undersøges i forskningsprojektet EcoKnow støttet af innovationsfonden, om AI kan anvendes i forhold til at give støtte til forståelse af kompleks lovgivning ved brug af tidligere afgørelser i sammenlignelige sager og derved reducere både fejlfortolkning og tidsforbruget i selve sagsbehandlingen. Eller i forhold til at give forudsigelser om ventetider i sagsbehandlingen, så både borger og sagsbehandler kan tage højde for dette i planlægningen af en indsats.

Målgruppen for specifikationen om anvendelse af kunstig intelligens i offentlig sagsbehandling er designere, udviklere, udbydere, indkøbere, tilsynsførere og brugere af kunstig intelligens til beslutningsstøtte i offentlig sagsbehandling, som ønsker eller er forpligtede til at evaluere systemets anvendelse.  En sekundær målgruppe er de interessenter, der er berørt af systemet, fx myndigheder og borgere generelt.

Om specifikationerne:

Specifikationerne indeholder anbefalinger, information og gode råd. Der er således ikke tale om krav, der skal overholdes, men checklister, der skal anvendes sammen med organisationens eksisterende retningslinjer for sikring af overholdelse af regler, herunder bl.a. persondata- og cybersikkerhed.

Specifikationerne er udarbejdet ved hjælp af input fra en lang række danske interessenter fra erhvervsliv, kommuner, styrelser, forskning mv. gennem workshops, interviews og skriftlige kommentarer. Desuden bygger de på en række principper og retningslinjer for etisk anvendelse af kunstig intelligens, blandt andet fra EU og OECD, som udbygger generelle retningslinjer for ansvarlig udvikling af IT-systemer.

Specifikationen for beslutningsstøttende anvendelse i offentlig sagsbehandling beskæftiger sig ikke eksplicit med gennemsigtighed i kunstig intelligens, men kan med fordel bruges sammen med specifikationen for gennemsigtighed, der specificerer anbefalinger til en fremgangsmåde til at opnå gennemsigtighed i systemer som anvendes til automatiske beslutninger eller beslutningsstøtte. 

Professor Anders Kofoed har været skribent på Del 1: Gennemsigtighed og professor Thomas Hildebrandt har på Del 2: Beslutningsstøttende anvendelse i offentlig sagsbehandling.

Specifikationerne fås gratis her: https://webshop.ds.dk/da-dk/s%c3%b8gning?q=kunstig+intelligens

 

Kontakt

Kim Skov Hilding
Kim Skov Hilding Konsulent | Consultant
Sekretariater, udvalg og netværk II
E: ksk@ds.dk
T: 39966217

Se også

03. februar 2020

Danmark har stået i spidsen for ny europæisk vision for kunstig intelligens

Danmark har været pennefører på en ny fælles europæisk vision for kunstig intelligens, der skal danne rammen for det fremtidige standardiseringsarbejde på området. Visionen skal være med til at sikre, at vi kan bruge teknologien trygt både i Danma...

31. marts 2020

Kunstig intelligens må ikke gå ud over maskinsikkerheden

En teknisk rapport, som forventes udgivet i 2020, får formentlig betydning for den kommende nye maskinforordning. Rapporten bliver relevant for alle tiltag med kunstig intelligens i forbindelse med maskinsikkerhed og risikovurdering og -nedsættels...

01. april 2020

Nye specifikationer fra Dansk Standard skal gøre kunstig intelligens tryg og sikker

Dansk Standard har netop udgivet to danske specifikationer om kunstig intelligens, der kan bestilles gratis på Dansk Standards webshop.

11. maj 2020

Fem skridt til at sikre gennemsigtighed i kunstig intelligens

Dansk Standard har netop udgivet to danske specifikationer om kunstig intelligens. Målet er at gøre det lettere for virksomheder og myndigheder at arbejde med kunstig intelligens og samtidig hjælpe med at gøre teknologien tryg og sikker at anvende.