Bluffmejl kommer öka med AI – och även sannolikheten att bli lurad
Bluffmejl har varit ett problem länge, både för privatpersoner och företag. AI och språkmodeller som ChatGPT kommer öka antalet bluffmejl och göra dem ännu bättre.
– Inom ett till två år kan vem som helst skapa personliga bluffmejl och det kommer bli ett stort problem både för företag och privatpersoner. Det kommer bli lättare att bli lurad, säger Fredrik Heiding, forskarassistent på Harvard och doktorand på KTH.
Fredrik Heiding har tillsammans med andra forskare på Harvard och Massachusetts Institute of Technology (MIT) undersökt hur lätt det är att skapa bluffmejl med hjälp av språkmodeller . De har även skapat bluffmejl genom att analysera personlig information på internet.
– Där har vi skapat ett automatiskt verktyg som går ut på nätet och skrapar information, den informationen matar vi in i språkmodellen som sen skapar ett personligt bluffmejl viket gör det ännu svårare att lita på material man får, berättar han.
Problemet kommer växa
Och att bluffmejl kan skapa stora problem råder det ingen tvekan om. Nyligen hackades ett av de största casinona, MGM, i Las Vegas tack vare ett bluffmejl . Förutom att maskiner inte kunde användas under två veckors tid lyckades hackarna även få ut personlig information från kunder som personnummer och passnummer. Hackningen beräknas ha kostat MGM 100 miljoner dollar.
– Vi ser att det här problemet kommer att växa ännu mer när man kan ta hjälp av AI och språkmodeller, därför startar vi en ny studie där vi kommer att arbeta tillsammans med företag för att se vad de har för farhågor. Och företag är välkomna att höra av sig till oss, säger Fredrik Heiding,
Går det då att skydda sig mot attacker skapade genom bluffmejl?
– Det går att skydda sig, man kan använda språkmodeller för att upptäcka ett bluffmejl och man kan även använda dem som ett utbildningsverktyg. Men det kommer inte lösa hela problemet, säger Fredrik Heiding.
Idag görs dessutom nästan all träning på att upptäcka bluffmejl med hjälp av AI av företag och hjälpen för privatpersoner är liten och att bara vara mer vaksam hjälper inte alltid.
– Det är en ny teknik som vi inte haft tidigare, det skapar både förutsättningar och problem. Det är inte alltid vi vet hur vi ska hantera det, säger Fredrik Heiding.
Relaterade nyheter
Så stoppar du cyberattacker med honungsfällor
I det ständigt föränderliga landskapet av cyberkrigföring krävs innovativa strategier för att försvara sig mot människokontrollerade cyberattacker. En nyligen genomförd studie av studenter vid KTH för...
Läs artikeln
Emil är KTH:s första cybersäkerhetsingenjör
Efter sin masteruppsats om beteendemässig biometri tar nu Emil Lantz examen som KTH:s första cybersäkerhetsingenjör. – Det känns väldigt bra att gå i mål, säger han.
Läs artikeln
Hyllad för sitt arbete inom cybersäkerhet
Gunnar Karlsson från Avdelningen för Nätverk och Systemteknik har nyligen mottagit Högkvarterets förtjänstmedalj från Försvarsmakten för sitt engagemang i utbildningen av cybersoldater och specialisto...
Läs artikeln