31. marts 2020

Kunstig intelligens må ikke gå ud over maskinsikkerheden

En teknisk rapport, som forventes udgivet i 2020, får formentlig betydning for den kommende nye maskinforordning. Rapporten bliver relevant for alle tiltag med kunstig intelligens i forbindelse med maskinsikkerhed og risikovurdering og -nedsættelse på maskiner.

På foranledning af EU-Kommissionen har en arbejdsgruppe under standardiseringsorganisationen ISO fået til ansvar at udarbejde en teknisk rapport, der skal bidrage til, at kunstig intelligens (AI) kan blive udnyttet optimalt i maskiner på europæiske betingelser. Inden for maskinsikkerhed handler det om, at kunstig intelligens i maskiner ikke må kunne skade personer.

Arbejdsgruppen under ISO, TC 199/WG 5 Maskinsikkerhed, er ansvarlig for standarderne EN ISO 12100 Maskinsikkerhed – Risikovurdering samt EN ISO 20607 Maskiners brugsanvisning mv. og arbejder normalt med generel maskinsikkerhed, risikovurdering, brugsanvisninger osv. Derfor bad EU-Kommissionen om arbejdsgruppens vurdering i forhold maskinsikkerhed ved implementering af kunstig intelligens i maskiner.

EN ISO 12100 Maskinsikkerhed og kunstig intelligens

Hans Morten Henriksen, direktør i Maskinsikkerhed ApS og repræsentant for Dansk Standard i arbejdsgruppen, fortæller:

- Den umiddelbare konklusion var hurtigt klaret, da EU-Kommissionen bad ISO/TC 199/WG 5 om en vurdering: AI i maskiner er ikke noget problem, da maskinfabrikanten skal angive sikre rammer for sikker brug af maskinen. Og AI skal blot blive inden for de rammer: Dvs. at fx en svejserobot må bruge al den AI den vil, bare det er inden for de sikre rammer, som fabrikanten har designet: det kan være hegnet, men det kan også være inden for de rammer, en fabrikant har givet en kollaborativ svejserobot, der jo ikke har noget fysisk hegn.

Men for at bl.a. maskinfabrikanterne har noget konkret at forholde sig til, bliver emnet uddybet og beskrevet i den kommende rapport. Allerede nu ligger der et udkast klar, som arbejdsgruppen skal arbejde videre med i det kommende år.

Teknisk rapport uddyber maskinsikkerhed i forhold til kunstig intelligens

Dokumentet tager udgangspunkt i tre cases: En marksprøjte, der optimerer pesticid-forbruget efter mængde og type af ukrudt, en laserskærer, der optimerer frigørelsen af udskårne emner fra den plade, der skæres fra, og endelig en AGV-løsning.

- En AGV er en ubemandet vogn/truck, der kan hente og bringe varer/produkter fra fastlagte steder. I mange år kørte AGV’er udelukkende på fastlagte ruter, der fx var styret af kabler i gulvet eller senere ud fra spejle på væggen. I dag laves de fleste AGV’er med styring via GPS (lokal form), og AGV’en kan selv finde ud af at kortlægge sine omgivelser og på det grundlag optimere sin kørevej og -hastighed, fortæller Hans Morten Henriksen og uddyber:

- AGV’en opsamler for så vidt selv sine erfaringer og kan derfor korrigere sin kørevej uden menneskelig indblanding. Og det er der sådan set ikke noget maskinsikkerhedsproblem i: Den fabrikant, der installerer et AGV-projekt, har jo ansvaret, og han har indtænkt alle mulige problemer i sin løsning. Så hovedkonklusionen i den kommende ISO/TR 22100-5, som er rapportens tekniske navn, er, at de principper for risikovurdering, der er angivet i EN ISO 12100, er fuldt tilstrækkeligt til at håndtere AI. Det var egentlig også den første konklusion, men nu bliver det uddybet på skrift. Dog skal vi lige have diskuteret dokumentet i detaljer, men det forventes udgivet som en teknisk rapport i løbet af 2020.

 

 

Kontakt

Søren Nielsen
Søren Nielsen Seniorkonsulent | Senior Consultant
Sekretariater, udvalg og netværk II
E: sn@ds.dk
T: 39966229

Se også

03. februar 2020

Danmark har stået i spidsen for ny europæisk vision for kunstig intelligens

Danmark har været pennefører på en ny fælles europæisk vision for kunstig intelligens, der skal danne rammen for det fremtidige standardiseringsarbejde på området. Visionen skal være med til at sikre, at vi kan bruge teknologien trygt både i Danma...

24. marts 2020

Ny standard for design af maskiners betjeningssystemer på vej

Udviklingen af betjeningssystemer er i stigende grad gået fra knapper og håndtag til touch-skærme. Det giver nye udfordringer for maskinbyggere, som en kommende standard skal hjælpe med at håndtere.

10. maj 2019

Nye krav til hackersikring af maskiner

Sikkerhedsstyrelsen har for nyligt afgjort, at maskinfabrikanter har pligt til at sikre, at maskiners sikkerhedsstyresystemer ikke kan hackes. Det kan være en udfordring for mange maskinfabrikanter. Men der er hjælp at hente: ISO har udgivet en te...

22. oktober 2019

Har du styr på maskinsikkerheden?

Det kan synes som en uoverskuelig proces at leve op til kravene for maskinsikkerhed som beskrevet i Maskindirektivet. Kravene er fortolket i standarder, men der er mange standarder, man skal have overblik over, når man designer og bygger maskiner.