Så kan AI stoppa onlinebedrägerier

Antalet bedrägerier och även penningtvätt online ökar explosionsartat. En stor del av denna ökning drivs av generativ AI. Det handlar inte främst om nya metoder för bedrägerier, utan om att brottslingar kan skala upp sina operationer, öka genomförandehastigheten och förbättra kvaliteten på meddelanden och kontaktförsök. Det är skalbarhet i en aldrig tidigare skådad omfattning.

Bedragare utnyttjar ny teknik

Bedrägerier utförs fortfarande oftast genom olika varianter av nätfiske (phishing). Att generativ AI främst gynnar bedragare beror på att de varit snabbast med att utnyttja de nya teknikerna. Exempelvis används tjänsten FraudGPT, en AI-tjänst som påminner om ChatGPT, specifikt för att genomföra bedrägerier online.

Bedrägerier riktar sig inte längre enbart mot privatpersoner. Nya områden för bedrägerier utforskas ständigt av förövarna: bluffakturor, momskaruseller, investeringsbedrägerier, falska lönebesked, falska företag, socialförsäkringsbedrägerier med mera.

Men det finns hopp. Vi som arbetar med att bekämpa bedrägerier har en potentiellt avgörande fördel i vår tillgång till data. Vi har möjlighet att bygga bättre modeller än bedragarna, eftersom vi kan basera våra modeller på korrekt och mer fullständig information.

Avvikelser kan vara bedrägerier

Ett exempel inom kortbedrägerier är att vi känner till alla transaktioner som gjorts med en viss typ av kort. Detta är känslig personlig information, men med hjälp av AI kan vi använda syntetiska datamängder som tar bort den känsliga informationen samtidigt som de fortfarande beskriver normalbilden. Detta gör det enklare att upptäcka avvikelser som kan vara tecken på bedrägerier.

Syntetiska data är datorgenererade och skapas som ett alternativ till data som kan riskera äventyra datasäkerhet och personlig integritet. Syntetiska data ger företag och myndigheter nya, snabbare och billigare möjligheter att arbeta med AI än tidigare. Analysföretaget Gartner uppskattar att 60 procent av all data som används för att bygga AI-modeller och i analysprojekt kommer att vara syntetisk redan under 2024.

Vi har möjlighet att bygga bättre modeller än bedragarna, eftersom vi kan basera våra modeller på korrekt och mer fullständig information.

Utmaningen med att använda syntetiska data är att följa lagstiftningen om användning av personligt identifierbara data. Det är nödvändigt att skapa syntetiska datamängder som speglar verkligheten, utan att informationen kan kopplas till enskilda individer. Det är också viktigt att använda den data man faktiskt har, tillsammans med bra modeller för att säkerställa dataintegritet, samt att göra processen för analyser och beslut transparent. Det ska vara möjligt att förstå vad som händer när analyser genomförs.

Laglydiga aktörer måste jobba hårdare

En reflektion är att brottslingar, förstås, inte bryr sig om att följa lagar och regler när de använder data, vilket ger dem en fördel gentemot dem som arbetar för att bekämpa brott. Laglydiga aktörer måste arbeta hårdare än brottslingarna för att säkra upp systemen och ligga steget före. Men de som motverkar bedrägerier har tillgång till tekniska lösningar och verktyg som kan börja användas redan i dag.

En del av detta arbete är att koppla samman relevanta datakällor, både internt och mellan organisationer. Det är också viktigt att följa aktuella regelverk som EU:s AI-förordning, GDPR och det föreslagna AI Liability Act. Dessa regelverk är avsedda att skydda EU-medborgare, men innebär också att organisationer måste hitta effektiva sätt använda generativ AI för att förebygga brottslighet, och samtidigt uppfylla regelverkens krav.

Det är hög tid att börja använda AI för att motverka bedrägerier och penningtvätt.