AI förändrar spelplanen för omvärldsanalys och bakgrundskontroller

Look Closer stärker förmågan inom digital omvärldsbevakning och analys genom att rekrytera AI-experten Magnus Rosell med en bakgrund på FOI och Recorded Future. Han ser stora möjligheter, men också enorma utmaningar med de senaste årens snabba tekniska landvinningar inom AI.

Magnus Rosell, AI-expert på Look Closer

Som student på KTH:s program för teknisk fysisk i slutet av 1990-talet läste Magnus Rosell en kurs i språkteknologi – och blev fast. Han fortsatte att forska på KTH (doktorsexamen 2009) och har i sina senare yrkesroller på nära håll följt med i framväxten av det som vi idag kallar stora språkmodeller och  generativ AI, som kan generera text, bild och video med en förmåga som på vissa områden överstiger mänsklig intelligens.

– Om man ska försöka sammanfatta vad jag hållit på med under alla de här åren, så kan man säga att hela min yrkesbana har handlat om automatisk omvärldsbevakning och analys av ostrukturerad information på ett eller annat sätt. På KTH jobbade jag med algoritmer för att ge en automatisk översikt över innehållet i stora mängder nyhetstexter.

Som utecklare på Recorded Future var han 2011 med om att ta fram bolagets system för händelsedetektering, en förmåga att dra slutsatser om framtiden genom att studera stora datamängder, exempelvis nyhetskällor och postningar på sociala medier. Företagsuppköp, militärövningar och politiska protester var exempel på fokusområden. Recorded Future har sedan dess blivit ett globalt företag med en rad tjänster inom området "threat intelligence", som används av både företagsjättar och myndigheter i en rad länder.

På FOI studerade Magnus Rosell som forskare, mellan 2013 och 2023, vad han kallar semi-automatisk omvärldsbevakning. En viktig aspekt av det var metoder för att försöka upptäcka påverkansoperationer, bland annat med hjälp av system för att detektera falska bilder och osanna inlägg på sociala medier. Denna typ av system, som kan hjälpa individer och samhällen att upptäcka, följa och förstå AI-genererat material, tror Magnus Rosell kommer bli allt viktigare. Han beskriver kampen mellan de som kommer att använda AI i illvilliga syften och alla vi andra som vill skydda oss mot detta som den som länge pågått mellan utvecklare av virus och trojaner och de som bygger antivirusprogram.

– De olika förmågornas övertag kommer växla över tid. Generellt tror jag att någon form av stämpel eller vattenmärkning av AI-genererat innehåll kommer att behöva utvecklas. Men det gäller också att AI-plattformarna behöver bli bättre på spårbarhet och källkopplingar så att det går att granska bakomliggande fakta och förstå avsändarens intentioner.

Bättre bakgrundskontroller med AI-stöd

På Look Closer ser Magnus Rosell fram emot att få omsätta sina teoretiska kunskaper i nya praktiska tillämpningar. Konkret handlar det om AI-stöd vid fördjupade bakgrundskontroller och utredningar, där bolagets researchers och analytiker kan få hjälp under hela projektet, från insamling av information till analys och färdigställande av rapporter och rådgivning till klienterna.

– Det är en spännande utmaning att få vara med och utveckla praktiska tillämpningar med hjälp av AI, ett område där det verkligen sker revolutionerande saker. Bakgrundskontroller känns som en rolig utmaning i och med att datakällorna är så många och ostrukturerade och Look Closer har så höga krav på kvalitet. Min förhoppning är att vi ska kunna snabba på vissa processer men givetvis också göra slutprodukten bättre.

Han ser inte framför sig en generell bakgrundskontrolls-AI, däremot många olika typer av agenter och system som löser speciella uppgifter, från enkla konverterings- och korrekturuppgifter till mer avancerad analys. En viktig aspekt att ta hänsyn till är vilken data som är lämplig att behandla med vilka automatiska metoder, både etiskt och lagligt. Det juridiska landskapet kring datahantering, AI och bakgrundskontroller kommer att utvecklas under de kommande åren.

– Något som jag vet att bolaget diskuterar mycket redan idag är hur historiska avvikelser ska bedömas och vägas in när ett affärsbeslut ska tas eller en rekryteringsprocess ska slutföras. Man kan tänka sig att AI skulle kunna vara med och granska slutsatserna källkritiskt och leta efter alternativa förklaringar så att rapporten blir så balanserad som möjligt. Det är förmodligen en lång väg dit, men oavsett hur mycket AI kan bidra med måste slutbedömningen alltid landa hos analytikern.

Både med och utan AI-verktyg är de möjliga felkällorna många, från misstag i insamlingen till att det helt enkelt saknas ett komplett material som är öppet tillgängligt. Ännu svårare blir det om personer medvetet fört in falska uppgifter i, eller förfalskat hela CV:n eller företagspresentationer för att bedra en rekryterare eller bolagsköpare. Look Closers analytiker är specialiserade på att upptäcka den här typen av brister och med ny teknik kan vi bli ännu bättre.

– Look Closers arbete bygger på att vi har tillgång till rätt data in. Även AI-metoder behöver ha rätt data för att kunna leverera bra resultat. Där kommer jag att lägga ner mycket fokus till en början. Med tillgång till rätt data och i samarbete med våra erfarna analytiker tror jag att vi både kan korta ledtider och höja kvaliteten i delar av processen och slutprodukten med hjälp av AI.

Många framtida aha-upplevelser

Magnus Rosell har under sin karriär varit med om många "aha moments" då nya landvinningar inom AI har ritat om kartan för vad som är möjligt. Han nämner själv insikterna han fick av att läsa om Googles språkmodell BERT, lösningen av proteinvikningsproblemet med hjälp av modellen Alphafold som ledde fram till ett Nobelpris i kemi 2024, och dagens multimodala AI-modeller.

– En multimodal modell har förmågan att hantera text, ljud, bild, video och andra typer av data samtidigt. Det gör den till exempel utmärkt som kärnan i en robot då den kan lösa det allra svåraste problemet inom robotik, som är alla de olika planeringsbehov som roboten ställs inför. De här modellerna kan börja göra det.

Att framtiden kommer bjuda på flera aha-upplevelser är Magnus Rosell övertygad om. Att sia om vad som kommer att ske och när, är dock svårare.

– Jag ser väldigt många potentiella vägar framåt, men jag vet ju inte vilka det kommer att bli. En sak som jag hoppas mycket på är automatisk forskning, som ju redan pågår i viss utsträckning. Om vi accelererar vår mänskliga förmåga att forska flera gånger om med hjälp av AI, vad blir konsekvenserna av det? Det går inte att förutse utfallet, men det går att tänka sig att det kommer att få enorma effekter. Även om vi skulle stanna där förmågan i AI och språkmodeller befinner sig idag, så kommer det ta väldigt lång tid tills vi har utnyttjat den fulla potentialen. Det går att använda dem till så många olika saker att jag är övertygad om att vi ännu bara börjat.

---

Kontakta oss eller prenumerera på vårt Nyhetsbrev.