AI Act och modellrisk – vem ansvarar för fraudsystemen?

Välkommen till Nordisk bedrägerikoll. Jag är Klara. I det här specialavsnittet granskar vi AI-förordningen, modellrisk och annan compliance för systemen som banker använder mot bedrägerier. Vi riktar oss till fraud- och AML-specialister, med svensk och nordisk bankvinkel.

Tänk dig att en helt legitim betalning stoppas. Riskmodellen ser något avvikande. Handläggarens AI-assistent skriver en övertygande förklaring. Kunden får ändå inget begripligt svar. Senare visar det sig att leverantören nyligen ändrat modellen och att en viktig uppgift saknades i indata. Vem borde ha upptäckt det? Vem får godkänna fortsatt drift?

Vi följer ett helt fiktivt exempel med Bank N och kunden Elin. Vi skiljer mellan systemets juridiska klassificering, kvaliteten i modellen och bankens ansvar för hela beslutskedjan. De frågorna hör ihop, men de ger inte alltid samma svar.

Lägesdatum är den nionde november tvåtusentjugosex. AI-förordningen har ändrats under året. Vi använder den uppdaterade regleringen och håller isär skyldigheter som redan gäller, kommande högriskkrav och våra egna praktiska rekommendationer. Alla personer, system och händelser i bankfallet är påhittade. Rösten är syntetisk, skapad med Higgs och enbart Klara. Källor och manus finns på avsnittssidan.

Första delen: fyra regelperspektiv på samma betalning.

Bank N använder maskininlärning för att rangordna betalningar efter bedrägeririsk. Ett regelverk omsätter poängen till åtgärder. Vissa betalningar går igenom, andra kräver en extra kontroll och några stoppas för utredning. En språkmodell sammanfattar ärendet för handläggaren. Det är redan flera system och flera olika användningar av AI.

AI-förordningen frågar bland annat vilket slags system det är, vad det är avsett för och vilken roll banken har. Dataskyddsförordningen frågar varför personuppgifterna behandlas, vilka rättigheter som påverkas och om ett beslut är enbart automatiserat. Dora handlar om digital operativ motståndskraft, inklusive teknikberoenden och leverantörsrisk. Bankens övriga styrning behöver hantera modellfel, kundskada och ansvar.

Dora kan till exempel kräva att en tjänst är motståndskraftig och att beroendet kan hanteras. Det är inte samma sak som att tjänstens bedrägeribedömningar är statistiskt korrekta. På motsvarande sätt innebär ett lagligt behandlingsändamål inte att modellen är tillräckligt träffsäker för varje beslut. Samla därför kontrollerna, men behåll skillnaden mellan de frågor de ska besvara.

En poängmodell kan fungera tekniskt men användas för fel ändamål. Den kan vara korrekt klassificerad enligt AI-förordningen men dåligt validerad. Ett avtal kan vara välskrivet samtidigt som banken saknar en fungerande reservlösning. Därför behövs flera prövningar av samma verkliga arbetsflöde.

Börja med att rita kedjan från uppgift till kundpåverkan. Vilka data hämtas? Vilken modell skapar vilken signal? Vilken regel beslutar om stopp? Vad ser handläggaren? Vad får kunden veta? Var kan någon ändra utfallet? Inventeringen bör följa användningen, inte bara programvarans produktnamn.

Det finns också en gräns mellan AI och annan automation. En enkel instruktion som alltid stoppar belopp över en fast gräns är inte automatiskt ett AI-system. En maskininlärd modell kan däremot omfattas. Systemdefinitionen behöver bedömas utifrån hur lösningen faktiskt fungerar. Att något marknadsförs som intelligent avgör inte klassificeringen.

I vårt bankfall förlorar Elin tillgången till en viktig betalning. Banken behöver kunna förklara både modellens roll och det beslut som följde. Om olika team bara ansvarar för varsin teknisk ruta blir helheten lätt osynlig. Vår praktiska rekommendation är därför att utse en tydlig ägare för användningsfallet, med mandat att samla betalningar, fraud, juridik, dataskydd och teknik.

Det betyder inte att kontrollfunktionernas oberoende ska försvinna. Verksamheten äger sin risk. Riskkontroll, compliance och dataskyddsombud har andra uppgifter. Internrevisionen behöver kunna granska upplägget självständigt. Ansvarsfördelningen ska vara begriplig även när samma leverantör levererar flera delar av kedjan.

Andra delen: fraudundantaget och gränsen för högrisk.

AI-förordningens bilaga tre tar upp flera användningar som kan klassificeras som högrisk. Där finns system för att bedöma fysiska personers kreditvärdighet eller fastställa deras kreditpoäng. Just den kategorin innehåller ett uttryckligt undantag för system som används för att upptäcka finansiella bedrägerier.

Det är en viktig avgränsning för fraudteam. Men undantaget gäller den aktuella kategorin. Det säger inte att allt som en bank kallar fraud ligger utanför hela förordningen. Ändamålet, funktionerna och andra möjliga kategorier behöver fortfarande granskas.

Anta att Bank N:s modell först används för att upptäcka kapade konton. Senare vill kreditavdelningen använda samma poäng som en del av sin bedömning av kundens återbetalningsförmåga. Då har användningen förändrats. Banken kan inte bara hänvisa till modellens ursprungliga namn och behålla den gamla klassificeringen utan en ny bedömning.

Profilering är en annan vanlig källa till missförstånd. Artikel sex har en regel som gör att vissa system inom bilaga tre inte kan undantas från högriskklassificering när de profilerar fysiska personer. Den regeln innebär inte att varje profilerande bedrägerimodell automatiskt blir högrisk. Först måste man pröva om systemet omfattas av den relevanta högriskkategorin.

Biometri behöver också delas upp. En verifiering vars enda ändamål är att bekräfta en påstådd identitet har ett undantag i kategorin om biometrisk fjärridentifiering. Att jämföra en persons ansikte med den identitet personen själv uppger är något annat än att leta efter personen bland många identiteter. Undantaget ger inte fri användning av biometriska uppgifter enligt dataskyddsreglerna.

I Bank N kan därför betalningsmodellen, en identitetskontroll och en kundnära assistent behöva skilda bedömningar. Ett gemensamt inköpsavtal gör dem inte till samma juridiska användningsfall. Förbjudna AI-praktiker måste dessutom prövas separat; en etikett om bedrägeribekämpning gör inte en annars förbjuden praktik tillåten.

Dokumentera därför vad bedömningen bygger på: avsett ändamål, personer som påverkas, vilka beslut som stöds och vilka begränsningar som gäller. Ange också vad som skulle utlösa en omprövning. Att lägga till kreditbedömning, byta till en annan biometrisk funktion eller ge en assistent rätt att fatta beslut kan vara sådana förändringar. Klassificeringen är ett motiverat ställningstagande som behöver följa verksamheten.

Tredje delen: den uppdaterade tidsplanen och bankens roller.

Här behöver äldre presentationsmaterial kontrolleras. Ändringsförordningen om AI trädde i kraft den tjugosjunde juli tvåtusentjugosex. Högriskbestämmelserna för användningarna i bilaga tre har flyttats till den andra december tvåtusentjugosju. För vissa högrisksystem som ingår i reglerade produkter är tidpunkten den andra augusti tvåtusentjugoåtta.

Det är inte en allmän paus för alla AI-regler. Delar av regelverket gäller redan. Artikel fyra om AI-kompetens har ändrats men finns kvar. Leverantörer och användande organisationer ska vidta åtgärder som stödjer personalens kompetensutveckling, med hänsyn till kunskap, erfarenhet, utbildning och användningskontext. De behöver inte garantera en bestämd individuell kompetensnivå.

För en fraudanalytiker är en praktisk utbildningsfråga att skilja en riskindikator från ett bevis. För modellägaren handlar det också om att förstå begränsningar, ändringsbehov och när drift bör stoppas. Ett generellt kursintyg visar inte i sig att de frågorna är omhändertagna. Det är vår rekommendation att koppla utbildningen till konkreta arbetsuppgifter och lokala exempel.

Artikel femtio har särskilda transparensregler. De gäller exempelvis direkt AI-interaktion, maskinläsbar märkning och vissa syntetiska innehåll. En kundchatbot och en intern riskpoäng är därför inte samma situation. En synlig etikett om AI ersätter inte automatiskt ett separat krav på maskinläsbar märkning.

Den särskilda fristen till den andra december tvåtusentjugosex gäller ett avgränsat märkningskrav för leverantörer av vissa system som redan fanns på marknaden före den andra augusti tvåtusentjugosex. Den ska inte beskrivas som att alla transparensskyldigheter är uppskjutna. Äldre högrisksystem har också särskilda övergångsregler; befintliga system är inte generellt undantagna för all framtid.

Bankens roll behöver prövas utöver tidsplanen. Banken kan både utveckla ett system och använda det. Den kan också under vissa villkor ta över leverantörsansvar genom att sätta sitt namn på ett högrisksystem, göra en väsentlig ändring eller ändra ändamålet så att ett tidigare system blir högrisk. Vanlig konfiguration innebär däremot inte automatiskt ett sådant rollbyte.

För svenska banker behöver EU-regler och svenska tillsynsarrangemang följas tillsammans. För verksamhet i Norge och Island måste också EES-införlivning och nationella steg kontrolleras. En nordisk koncern bör därför inte lägga samma datum på alla juridiska enheter utan att kontrollera förutsättningarna.

Fjärde delen: modellrisk börjar med vad modellen får göra.

Vi går tillbaka till Elins stoppade betalning. Riskpoängen är hög, men vad betyder den egentligen? Är det en kalibrerad sannolikhet för bedrägeri eller bara en rangordning? Vilken tidsperiod avser den? Har modellen validerats för just den betalningstypen? Ett tal med två decimaler kan se mer precist ut än underlaget tillåter.

Modellrisk handlar om att fel i modellen, dess antaganden eller dess användning kan leda till skada. Även en statistiskt välfungerande modell kan användas utanför sitt avsedda område. Ett system tränat på kortbedrägerier är inte automatiskt prövat för manipulerade kontoöverföringar eller för beslut om att avsluta en kundrelation.

Vår praktiska styrmodell börjar med ett modellregister. Där bör finnas ägare, ändamål, data, version, användare, beslutspåverkan och kända begränsningar. Koppla modellen till de regler och arbetsflöden som faktiskt använder resultatet. Ett register som bara innehåller namn och inköpsdatum ger begränsad hjälp när något går fel.

Riskklassa användningen utifrån konsekvens och beroende. En modell som hjälper till att sortera interna utkast kan behöva andra kontroller än en modell som stoppar tillgång till kundens pengar. Samma modell kan ha olika risk i två arbetsflöden. Modellriskklassningen behöver därför inte vara identisk med AI-förordningens juridiska högriskklassificering.

Inköpsformen förändrar inte behovet av den bedömningen. En egenutvecklad modell, en färdig leverantörstjänst och en lösning byggd på öppet tillgängliga modellvikter kan alla skapa kundrisk. Öppen tillgång ger inte i sig korrekt träningsdata, tillräcklig dokumentation eller stöd vid en incident. Banken behöver bedöma den faktiska lösningen och de beroenden som följer med den.

Innan produktion behövs en tydlig godkännandegrund. Vilka krav ska modellen klara? Vilka brister accepteras tillfälligt? Vem får fatta det beslutet, och när ska det omprövas? Skilj mellan att utvecklaren har testat sin kod och att någon med tillräckligt oberoende har utmanat modellens användbarhet och begränsningar.

Internationella modellriskramverk ger användbara jämförelser, men de är inte automatiskt svensk lag. Exempelvis beskriver den brittiska tillsynsmyndigheten principer för inventering, styrning, utveckling, oberoende validering och riskbegränsning inom sitt tillämpningsområde. Banken behöver översätta sådana principer till sin egen rättsliga och operativa miljö.

För Bank N är det centrala att någon kan säga: modellen är godkänd för det här ändamålet, med dessa begränsningar och dessa skydd. Ett leverantörspåstående om hög träffsäkerhet räcker inte som lokal riskaccept. Banken behöver pröva vad resultatet betyder för de kunder, data och beslut som finns i den egna verksamheten.

Femte delen: data, facit och tester som liknar verkligheten.

Bedrägerimodeller har ett särskilt svårt facit. Alla bedrägerier upptäcks inte, och informationen kan komma långt efter betalningen. Samtidigt undersöker banken oftare sådant som det befintliga systemet redan har flaggat. Det gör de observerade resultaten selektiva. En modell kan lära sig bankens tidigare utredningsval lika mycket som bedragarnas beteenden.

Forskning om kreditkortsbedrägerier har länge beskrivit klassobalans, föränderliga mönster och fördröjd återkoppling. Det är relevanta metodproblem även när dagens produkter är modernare. Äldre studier bevisar däremot inte hur väl en viss leverantörs nuvarande system fungerar i en nordisk bank.

Ett enkelt räkneexempel visar varför total träffsäkerhet kan vilseleda. Om bara en liten del av betalningarna är bedrägliga kan ett system som godkänner allt få en mycket hög andel rätt. Det upptäcker ändå inga bedrägerier. Banken behöver följa både hur mycket bedrägeri som hittas och hur många legitima kunder som felaktigt berörs.

Mät gärna andelen verkliga bedrägerier bland larmen, hur stor del av bedrägerierna som upptäcks och vilka belopp som räddas. Men koppla också måtten till utredningskapacitet, väntetid, kundfriktion och kvarvarande kundskada. Ett system med fler korrekta larm kan ge sämre resultat om kön blir så lång att åtgärden kommer för sent.

Validera på tidsperioder som ligger efter träningsperioden. Kontrollera att framtida information inte har smugit sig in i historiska tester. En uppgift som blev känd först efter reklamationen får inte användas som om banken hade haft den när betalningen initierades. Annars mäter testet en förmåga som inte finns i verklig drift.

Pröva också resultat för olika kanaler och relevanta kundgrupper. En avvikelse behöver undersökas och förstås. Det betyder inte att banken fritt får samla känsliga uppgifter för varje tänkbart rättvisetest. Rättslig grund, särskilda kategorier och minimering måste bedömas även för valideringsdata.

I Bank N visar det sig att en datapost ibland saknas efter leverantörens uppdatering. Därför behöver testerna omfatta datakvalitet och felmoder, inte bara en modellfil. Prova saknade värden, ändrade format och försenade flöden. Dokumentera om systemet då släpper igenom betalningar, stoppar allt eller går över till en reservkontroll. Det är praktiska säkerhetsval med direkt kundpåverkan.

Sjätte delen: mänsklig kontroll, förklaringar och modelländringar.

Elins ärende hamnar hos en handläggare. Skärmen visar en röd riskmarkering och ett färdigt textförslag. Om handläggaren har för lite tid, saknar underlag och inte får ändra beslutet, ger närvaron av en människa ett begränsat skydd. En godkännandeknapp är inte i sig en meningsfull prövning.

För högrisksystem finns särskilda krav på mänsklig övervakning när de relevanta reglerna ska tillämpas. För andra fraudsystem kan liknande kontrollprinciper vara motiverade av kundrisken, bankens styrning eller dataskyddsreglerna. Det är viktigt att vara tydlig med vilken grund ett krav faktiskt har.

Handläggaren behöver veta vad signalen betyder och vad den inte visar. Vilken information kan kontrolleras? Vilka alternativa förklaringar finns? När behövs kundkontakt eller en annan specialist? Befogenhet att avvika måste kombineras med dokumentation och återkoppling, så att banken både kan rätta fel och upptäcka återkommande svagheter.

En modellförklaring är inte automatiskt en orsaksförklaring. Att en egenskap bidrog mycket till riskpoängen betyder inte att den bevisar bedrägeri. En generativ assistent som formulerar en snygg motivering kan dessutom hitta på ett samband som modellen aldrig använt. Därför måste kundförklaringen bygga på det verkliga ärendet och den faktiska beslutskedjan.

Modelländringar behöver hanteras lika konkret. En ny version, ett nytt träningsunderlag, en justerad tröskel eller en ny datakälla kan påverka resultatet. Allt är inte lika omfattande och allt kräver inte samma kontroll. Men banken behöver en riskbaserad ändringsprocess, med tydliga kriterier för när ny validering och nytt godkännande behövs.

Övervaka i drift både data och utfall. En förändrad fördelning av indata kan vara en varning, men visar inte ensam att modellen blivit sämre. På samma sätt kan stabila indata dölja att bedrägerimönstret har ändrats. När facit är fördröjt behövs kompletterande indikatorer och tydliga gränser för vad banken ännu inte vet.

För Bank N rekommenderar vi en övning: återskapa en viss betalning med den modellversion, konfiguration och information som faktiskt fanns då. Kan banken inte göra det blir både incidentutredning och kundprövning svårare. Loggningen ska samtidigt vara proportionerlig och skyddad. Att spara allt för alltid är ingen generell lösning på bevisproblemet.

Sjunde delen: dataskydd och kundens rätt att få sin sak prövad.

Dataskyddsreglerna gäller även när fraudmodellen inte är högrisk enligt AI-förordningen. Banken behöver ett tydligt ändamål och en rättslig grund för personuppgiftsbehandlingen. Att bedrägeribekämpning är viktigt gör inte alla datakällor nödvändiga eller alla nya användningar förenliga med det ursprungliga ändamålet.

Artikel tjugotvå i dataskyddsförordningen gäller beslut som enbart bygger på automatiserad behandling och får rättsliga eller motsvarande betydande följder för en person. Varje intern riskpoäng omfattas alltså inte automatiskt. Banken behöver undersöka hur poängen påverkar det verkliga beslutet och hur betydande konsekvensen blir.

Om artikeln är tillämplig räcker det inte att bara ange berättigat intresse enligt artikel sex. Undantagen för sådana automatiserade beslut måste prövas separat, exempelvis avtalsnödvändighet, särskilt lagstöd med skyddsåtgärder eller uttryckligt samtycke. Vilka skydd och rättigheter som krävs behöver sedan bedömas i den aktuella situationen.

Banken kan inte kringgå den prövningen genom en människa som rutinmässigt accepterar modellens resultat. Granskningen måste vara verklig, med relevant information, kompetens och möjlighet att påverka. Om Elins konto i praktiken spärras av modellen medan handläggaren bara bekräftar skärmbilden behöver banken förstå vad processen faktiskt innebär.

EU-domstolens avgörande om automatiserad kreditbedömning från februari tvåtusentjugofem visar betydelsen av begripliga förklaringar. Det rörde ett särskilt kreditärende, men ger vägledning om meningsfull information om logiken bakom ett automatiserat beslut. Enbart en matematisk formel eller en ogenomtränglig teknisk beskrivning räcker inte för att personen ska kunna förstå och bestrida utfallet.

Det innebär inte att banken generellt måste publicera källkod eller alla bedrägeritrösklar. Sekretess och skyddsvärda uppgifter behöver hanteras rättsligt. Företagshemligheter ger däremot inte en generell rätt att avfärda informationskrav. Det måste gå att skilja en användbar kundförklaring från instruktioner som skulle hjälpa någon att kringgå skyddet.

Pröva också behovet av en konsekvensbedömning för dataskydd innan en behandling med sannolik hög risk börjar. AI-förordningens eventuella bedömning av grundläggande rättigheter är en annan prövning. Ett formulär ersätter inte automatiskt det andra. Ta med dataskyddsombudet tidigt och dokumentera hur behov, minimering, rättelse, gallring och kundens möjlighet till prövning faktiskt fungerar.

Åttonde delen: Dora och leverantören som inte kan ta över bankens ansvar.

Dora tillämpas sedan den sjuttonde januari tvåtusentjugofem. Det är ett befintligt regelverk för digital operativ motståndskraft i finanssektorn. För Bank N innebär det att beroendet av modellplattform, datatjänster och molnmiljö behöver hanteras som en del av bankens samlade teknikrisk.

Banken behåller sitt ansvar när den använder externa it-tjänster. En leverantörs certifiering eller tillsynsstatus ersätter inte bankens egen riskbedömning. Dora omfattar också mer än traditionell utkontraktering. Relevanta avtal om it-tjänster behöver finnas i informationsregistret, med skillnad mellan tjänster som stödjer kritiska eller viktiga funktioner och andra tjänster.

Två olika begrepp får inte blandas ihop. Bankens bedömning att en funktion är kritisk eller viktig är inte samma sak som att en leverantör har utpekats som kritisk på EU-nivå. Att en modell används i fraud gör inte heller varje enskild komponent automatiskt kritisk. Verksamhetens beroende och konsekvenserna av ett fel behöver analyseras.

Avtalen har grundkrav, bland annat om tjänstens innehåll, ansvar, platser, dataskydd, tillgång till data, servicenivåer och incidenthjälp. När tjänsten stödjer en kritisk eller viktig funktion tillkommer skärpta krav, exempelvis kring övervakning, granskning, beredskap och övergång vid avslut. Alla förstärkta klausuler ska inte beskrivas som identiska krav för varje litet teknikavtal.

För en modellleverantör bör banken dessutom reda ut vilka förändringar som kan påverka den egna användningen. Vem får byta modell? Vad händer om en datakälla försvinner? Vilken dokumentation och testmiljö finns? Det är frågor för ett proportionerligt avtal och en fungerande ändringsprocess. Dora innebär inte att varje teknisk uppdatering alltid kräver ett uttryckligt förhandsgodkännande från banken.

En exitplan behöver vara användbar. Kan Bank N fortsätta skydda betalningar om tjänsten slutar fungera eller avtalet upphör? Kan data hämtas ut i ett användbart format? Är en alternativ lösning beroende av samma underleverantör? För kritiska eller viktiga funktioner behövs dokumenterade och tillräckligt testade planer, inte bara en uppsägningsklausul.

Vi rekommenderar att banken övar en konkret störning: riskpoängen går inte att få fram under en intensiv betalningsperiod. Vilka betalningar tillåts, vilka granskas och hur får kunderna hjälp? Bedöm också om en händelse utlöser rapporteringskrav. Ett teknikavbrott, en personuppgiftsincident och ett modellproblem är olika bedömningar som ibland behöver hanteras parallellt.

Nionde delen: generativ AI och agenter i fraudarbetet.

Språkmodeller kan hjälpa till att sammanfatta ärenden, söka i regelverk och skriva utkast. Men ett välformulerat svar är inte ett bevis på att uppgifterna är korrekta. I Bank N:s fiktiva ärende påstår assistenten att Elins betalning stoppats på grund av en viss mottagarregion. Den uppgiften finns inte i det verkliga beslutsunderlaget.

Här uppstår en egen modellrisk: en förklaring kan låta trovärdig trots att den inte beskriver modellen eller ärendet. Assistenten bör därför inte få fylla luckor med antaganden. Pröva om påståenden kan knytas till kontrollerbara källor och om handläggaren ser vad som är underlag, tolkning och utkast.

En gemensam testmängd kan innehålla vardagsärenden, gränsfall och ärenden där underlaget är ofullständigt. Testa om assistenten kan avstå från att ge ett säkert svar när information saknas. Granska också om den skiljer kundens påstående från bankens verifierade uppgifter. En säker formulering av ett obekräftat påstående kan annars få större effekt än en tydligt markerad osäkerhet.

Om assistenten läser kundmeddelanden, dokument eller webbinnehåll behöver banken också skydda sig mot att materialet innehåller instruktioner som försöker styra systemet. Sådant innehåll ska behandlas som uppgifter, inte som behöriga order. Testa att assistenten inte lämnar ut andra kunders information eller utför åtgärder som materialets avsändare saknar rätt till.

Skillnaden mellan en skrivhjälp och en handlande agent är stor. När systemet kan spärra ett konto, ändra ett ärende eller skicka en kundkommunikation behövs tydliga behörigheter och begränsningar. Vår rekommendation är att börja med snäva uppgifter och pröva varje utökning av handlingsutrymmet, med särskild kontroll av åtgärder som påverkar kundens pengar och rättigheter.

För personuppgifterna behöver banken förstå vilka uppgifter leverantören tar emot, hur länge de sparas och om de används för andra ändamål. Personuppgiftsbiträdesavtal, underleverantörer och eventuell överföring till tredjeland behöver bedömas utifrån den verkliga tjänsten. Att tjänsten är tillgänglig i Europa besvarar inte ensamt var och hur uppgifterna behandlas.

De europeiska tillsynsmyndigheterna betonade sommaren tvåtusentjugosex styrning och hantering av cyberrisker kopplade till avancerade AI-modeller. Det är inte ett besked om att varje ny modell är förbjuden. Det är ett skäl att bedöma säkerhet, beroenden och motståndskraft tillsammans med den möjliga nyttan.

Mät därför mer än hur snabbt assistenten skriver. Följ sakfel, obelagda påståenden, missade uppgifter, informationsläckage och hur ofta en människa behöver rätta ett utkast. Pröva också om användarna blir alltför beroende av förslagen. En kortare handläggningstid är en svag vinst om kundbesluten samtidigt blir mindre korrekta eller svårare att förklara.

Tionde delen: ett gemensamt kontrollpaket som går att använda.

Hur omsätter Bank N allt detta utan att skapa fem parallella pärmar? Följande är vårt praktiska förslag. Börja med en gemensam beskrivning av användningsfallet. Där ska finnas ändamål, ansvarig verksamhet, systemroller, dataflöde, kundpåverkan och tydliga gränser för vad systemet får göra.

Koppla sedan de rättsliga bedömningarna till samma beskrivning. Dokumentera AI-klassificering, dataskyddsgrund, eventuell prövning av automatiserade beslut och Dora-beroenden. Markera vad som redan gäller och vad som är förberedelse för framtida högriskkrav. En ändrad användning ska kunna öppna rätt bedömningar på nytt.

Lägg till modellens testunderlag och godkännande. Vilka tester visar att den fungerar i den avsedda miljön? Vilka osäkerheter finns kvar? Vem har utmanat slutsatserna? Vem har accepterat den kvarvarande risken? Det behöver gå att se skillnaden mellan utvecklarens resultat, en oberoende granskning och verksamhetens beslut att använda modellen.

Informationsdelning mellan banker behöver dessutom en egen rättslig prövning. Att banken får använda vissa uppgifter för intern bedrägerianalys innebär inte automatiskt att uppgifterna får lämnas till en gemensam modell eller en annan bank. Kontrollera ändamål, sekretess, mottagare och villkor för varje informationsflöde. En teknisk möjlighet till gemensam analys skapar inte ensam rätt att dela.

Pröva därefter hela beslutskedjan med Elins fiktiva betalning. Kan banken återskapa indata och version? Kan handläggaren förstå och ändra utfallet? Får kunden ett korrekt besked? Kan en felaktig uppgift rättas även där den har spridits? Kan banken fortsätta verksamheten om leverantören faller bort?

Ledningens uppföljning bör omfatta både effekt och skada. Följ upptäckta bedrägerier och räddade belopp tillsammans med felaktiga stopp, långa väntetider, omprövade beslut och incidenter. Redovisa också osäkerheten i facit. En grön rapport ska inte bygga på att det banken ännu inte har upptäckt räknas som problemfritt.

Vi lämnar Bank N med en tydligare ansvarskedja. Fraudundantaget i AI-förordningen har prövats, men det har inte använts som en generell friskrivning. Modellens begränsningar är kända. Kundens rättigheter och leverantörens åtaganden är kopplade till verkliga arbetsflöden. Det är den förmågan som gör reglerna praktiskt användbara.

Tre saker att ta med till nästa möte: klassificera användningen, pröva modellen i sin verkliga miljö och säkra ansvar hela vägen till kundbeslutet. Det här var Nordisk bedrägerikolls specialavsnitt om AI-förordningen, modellrisk och compliance i fraud, med lägesbild den nionde november tvåtusentjugosex. Jag heter Klara. Tack för att du lyssnade.