Kunstig intelligens kan skabe stor værdi, men det er ikke altid det mest hensigtsmæssige værktøj. Det er derfor vigtigt at vurdere, hvornår teknologien bruges ansvarligt og sikkert.
For det første er AI en meget ressourcekrævende teknologi. AI-systemer kræver betydelig regnekraft, og både træning og drift medfører et højt forbrug af energi og vand og dermed CO₂-udledning.
Samtidig viser analyser, at en AI-prompt bruger 10-20 gange så meget energi som end en traditionel søgning, afhængigt af opgavens kompleksitet. Globalt vokser energibehovet fra AI så hurtigt, at det lægger pres på elnettet.
Det betyder, at det i nogle tilfælde kan være mere hensigtsmæssigt at vælge enklere løsninger, hvis opgaven ikke kræver AI.
Men ressourceforbrug er kun én del af billedet. AI-systemer rummer også andre udfordringer, som det er vigtigt at være opmærksom på:
Bias
AI-systemer bygger på historiske data og vil derfor ofte indeholde bias. Bias kan ikke fuldstændigt elimineres, men skal identificeres og håndteres systematisk.
AI-forordningen stiller krav om, at udbydere dokumenterer, hvordan bias håndteres, og skaber gennemsigtighed om, hvordan systemer når frem til deres resultater. Formålet er at gøre det muligt for brugere at forstå og forholde sig kritisk til resultaterne.
Data kvalitet
AI-systemers resultater afhænger i høj grad af kvaliteten af de data, de er baseret på. Hvis data er mangelfulde, skæve eller forældede, kan det føre til upræcise eller misvisende resultater.
Med AI-forordningen i Europa stilles der krav til datakvalitet og datastyring, herunder hvordan data indsamles, behandles og anvendes i udviklingen af AI-systemer.
Risikovurdering og anvendelse
Det er afgørende, at AI-systemer anvendes til det formål, de er udviklet til. Hvis et system bruges i en anden kontekst end tiltænkt, kan man ikke forudsætte, at identificerede risici og sikkerhedsforanstaltninger fortsat er dækkende.
Tilsvarende kræver det særlig opmærksomhed, hvis et eksisterende system videreudvikles til et nyt og væsentligt anderledes formål, da dette kan ændre både risikobilledet og de relevante lovgivningskrav.
Ikke alle anvendelser er egnede til AI. Der bør derfor foretages en vurdering af, hvor kritisk beslutningen er, og hvilke konsekvenser fejl kan have.
Human oversight (menneskelig kontrol)
I mange tilfælde er det nødvendigt, at mennesker kan overvåge, forstå og gribe ind i AI-systemers beslutninger for at undgå fejl og utilsigtede konsekvenser, særligt hvis systemet bruges til noget der kan have stor betydning for mennesker eller sikkerhed.
Gennemsigtighed og tillid
Det kan være vanskeligt at forklare, hvordan AI-systemer når frem til deres resultater. Hvis der ikke er gennemsigtighed om mellemregningerne i systemet, kan det påvirke både tillid og anvendelighed.
Fejl og usikkerhed (fx “hallucinationer”)
AI-systemer kan generere svar, der fremstår præcise og rigtige, men som er faktuelt forkerte. Derfor kræver brugen af AI ofte menneskelig gennemgang og validering.
