Remissvar på Europeiska kommissionens (EC) förslag till förordning om harmoniserade regler för artificiell intelligens
Trafikanalys har getts tillfälle att yttra sig om förslaget och vill ge följande kommentarer och synpunkter, med en avgränsning till i huvudsak transportområdet.
Hela remissyttrandet hittar du här
Sammanfattande kommentarer och synpunkter
Trafikanalys instämmer generellt i behovsanalysen, att riskhantering är en förutsättning för att tillvarata och nyttja AI säkert, effektivt och hållbart. Det motiverar gemensamma legala ramverk med krav på risk- och informationshantering. Samtidigt rymmer förslaget kriterier och metoder för riskhantering som kan utvecklas. Strategin med officiell listning av högrisksystem bör ersättas med generella krav på evidensbaserad riskvärdering.
EC:s förslag bygger på riskklassifikationer av AI-system på basis av olika och delvis oklara kriterier. Vissa AI-system förbjuds med hänvisning till ändamål och teknik, till exempel fjärridentifiering av personer i offentliga miljöer i realtid med hjälp av biometriska data i brottsbekämpande syfte. I andra fall klassas generella tillämpningsområden som högrisksystem med hänvisning till allmänna hälso- och säkerhetsrisker, till exempel AI som stöd för trafiksäkerhet på vägar och på fritidsbåtar, samtidigt som andra delar av transportsystemet undantas eller förbises.
I sin nuvarande form ger förslaget intryck av mer eller mindre godtycklig riskklassifikation av AI-system på transportområdet. Det förstärks av otillräckliga motiveringar i förslaget, exempelvis att i allmänna ordalag åberopa branschförutsättningar som grund för olika undantag på transportområdet, men inte på andra områden.
Strategin med officiell listning av högrisksystem kan snabbt bli obsolet. Utvecklingstakten är hög på AI-området, även i form av glidningar och korsbefruktningar mellan branscher och sektorer. Osäkerhet om, när och hur riskkriterier ska tillämpas gör även ansvaret för riskhanteringen oklar. Det gäller även hur kunskaps- och kompetensförsörjningen om AI-risker och riskhantering kan och bör främjas mer generellt.
Trafikanalys bedömer därför att kriterier och metoder för riskhantering av AI-system kan och bör utvecklas. Dels genom att utgå från evidensbaserad riskvärdering som grund för riskhantering. Dels genom konsekventa och tydliga kriterier för att klassa systemrisker. Detta bör lägga grunden för tydligare ansvar för riskhantering och utveckling av kunskap och medvetenhet om AI-risker.
Evidensbaserad riskvärdering avser utvärderingar av enskilda AI-system, till skillnad från EC:s förslag på schematiska riskklasser. Ett regelverk för riskhantering av AI-system kan och bör utgå från ett egenansvar för riskvärdering, att det görs till en integrerad del av produkt- och kvalitetsutveckling, med oberoende metodstöd och krav på kvalitetssäkring, tillsyn, samt möjligheter till ansvarsutkrävande.
Sammanfattningsvis, kommissionens förslag gör det svårt att överblicka och konsekvent hantera AI-risker på transportområdet. Regeltillämpningar riskerar att bli godtyckliga. En mer systematisk ansats vore att utgå från (1) generellt egenansvar för riskvärdering och riskhantering, (2) medborgarnas och organisationers rätt till oberoende validering, samt (3) myndigheters ansvar för tillsyn, kvalitetssäkring och kunskapsuppbyggnad.
