Vill öka förtroendet för artificiell intelligens

Shahina Begum är en av Sveriges främsta forskare inom artificiell intelligens och blev 2019 utnämnd till professor inom AI på Mälardalens universitet. För Framgång berättar hon om sina drivkrafter och ambitioner med forskningen. Och hur det kom sig att hon ville forska om just AI.

Shahina Begum. Foto: Jonas Bilberg

Shahina växte upp i Bangladesh och visste redan tidigt att hon ville studera datavetenskap.

– Som barn älskade jag att läsa science fiction-böcker. Det var det som inspirerade mig till att börja forska inom AI. Jag var väldigt motiverad att utbilda mig och inspirerades mycket av min pappa som också är ingenjör och har ett modernt tankesätt. Alla har inte turen att stöttas av sina föräldrar men med hans hjälp kunde jag påbörja min resa mot Sverige 2004. Sedan dess har jag på nära håll kunnat se hur mycket av det som under min barndom var sci-fi nu faktiskt blivit verklighet.

Anledningen till att Shahina och hennes man flyttade till Sverige var för att läsa ett masterprogram i datateknik med inriktning mot intelligenta system på Högskolan Dalarna.

– Efter det blev vi båda doktorander inom artificiell intelligens på dåvarande Mälardalens högskola och flyttade till Västerås. När jag disputerade 2011 fick jag finansiering genom Stiftelsen för kunskaps- och kompetensutveckling som ger individuella bidrag till framstående unga forskare. På så sätt kunde jag fortsätta min forskning, först som postdok och sedan tog jag steg för steg framåt tills jag 2019 blev professor inom AI. Min man är faktiskt också professor på MDU.

Hur var det att komma till Sverige från Bangladesh?

– Det var inte helt lätt att lämna sitt hemland. Vi kom till Dalarna i januari och det var kallt, mörkt och snö överallt. Det tog tid att vänja sig, både vid vädret och människorna, som inte var så lätta att lära känna. Så det var ganska svårt och ensamt i början. Men nu när jag tittar tillbaka på vår tid i Sverige har det varit en bra resa både vad gäller arbete och det sociala. Det tog bara lite tid att anpassa sig. Trots att jag på flera sätt tillhör en minoritet så har jag faktiskt aldrig blivit utsatt för direkt diskriminering i Sverige. Jag ­tycker även att MDU har en god mångfald, även om det alltid finns saker som kan förbättras.

Vill öka förtroendet för AI


Som doktorand kom Shahina in på ämnet artificiell intelligens och dataanalys.

– Jag doktorerade under åren 2005 till 2011. På den tiden var AI ännu inte så utvecklat och resultatet av forskningen märktes inte alltid så snabbt som våra samarbetspartners inom industrin önskade. Då fanns det inte tillräckligt med data, nu är situationen helt annorlunda. Med all uppkopplad teknik och appar som vi använder dagligen finns det enormt mycket data att använda och analysera. Det leder till många intressanta möjligheter inom forskningsfältet, men även en del begränsningar och hinder. Många tror att AI är som magi och att man kan göra allt som man ser i filmer. Men så är det inte, det ligger mycket arbete bakom varje steg framåt.

Shahina drivs av att skapa teknik som kan gynna samhället och ­människor.

– Därför sysslar jag mycket med forskning kring system för att övervaka och förutsäga hälsa samt trafiksäkerhet på vägarna och i luften. Flera projekt har kretsat kring hur intelligenta system kan övervaka bilförares fysiska och mentala tillstånd samt varna om föraren tappar koncentrationen. Allt för att förhindra trafikolyckor. I andra projekt använde vi något som kallas Explainable AI (XAI) för trafikledning och underhåll av industritillgångar. En viktig aspekt är hur vi kan öka förtroendet för AI-system genom att göra dem pålitligare och mer korrekta, transparenta och begripliga i beslutsprocesser. Om användarna inte känner tillit till system kommer de inte att användas vilket hindrar tekniken från att utvecklas. Så förutom att säkerställa AI:s tillförlitlighet och noggrannhet, är vårt tillvägagångssätt att göra det mer accepterat genom att göra det mer begripligt. Där finns det mycket kvar att utveckla. Exempelvis finns det ingen generell metod för att utvärdera användares förväntningar på en viss förklaring av ett beslut som fattats av en AI-agent.

Finns det anledning att vara rädd för den snabba utvecklingen inom arti­ficiell intelligens?

– Konsekvensen av teknik beror alltid på hur den används. Därför är det viktigt att forska på långsiktiga effekter och ibland ställa sig frågan: behöver vi verkligen att en dator gör det här? Om det finns negativa effekter som är större än de positiva så bör tekniken inte användas. Det här är ett viktigt område som många forskare fokuserar på över hela världen.
Vad är det bästa med ditt arbete?

– Jag gillar verkligen det kreativa i att diskutera nya idéer och hitta lösningar på problem. Särskilt när det kan bidra till något bra för människor. Jag har som vana att gå ut i naturen när jag klurar på något, det har väldigt god effekt på tankarna. Det kan låta paradoxalt att inspireras av naturen när man ska skapa något artificiellt men så är det faktiskt med mycket teknik. ­Alltifrån robotar till flygplan har förebilder från djurvärlden.

Shahina är vice ledare för forskargruppen Artificial Intelligence and Intelligent Systems, som består av cirka femton forskare på MDU.

– Jag trivs väldigt bra i min roll som ledare. Det är en rolig utmaning att ha ansvar både för samarbetet i gruppen och för arbetets kvalitet. När det kommer till ett så uppmärksammat ämne som AI, där många olika parter är intresserade av utvecklingen, gäller det att ha is i magen och bibehålla sin vetenskapliga kvalitet och integritet. När jag blev ansvarig för gruppen la jag mycket tid på att definiera hur vi skulle arbeta med hög kvalitet på ett hållbart och strategiskt sätt. Det har lönat sig och lett till ett bra samarbete.

Fördelarna med MDU

Friheten att kunna bedriva forskning på ett innovativt sätt är anledningen till att Shahina har stannat inom akademin hela sin karriär.

– Även om man ständigt behöver söka finansiering har akademin ändå inneburit mycket frihet. En annan sak som jag skulle sakna om jag lämnade universitetet är att undervisa. Det är en del av arbetet som jag uppskattar väldigt mycket.

Shahinas forskargrupp håller även i online-kurser för yrkesverksamma som blivit väldigt populära.

– Vi hade över 500 sökande till kursen Machine Learning with Big Data. Vi har även tagit fram en rad kurser för livslångt lärande och MOOC-kurser, alltså Massive Open Online Courses, i AI och ML. MOOC:arna är öppna för alla, oavsett förkunskaper, och startas och genomförs när man vill. Det är helt digitalt och gratis. Det är en bra start om man är intresserad av AI men inte har behörighet till ­universitetskurser. Jag tycker livslångt lärande är väldigt viktigt. Folk kommer alltid vilja ta del av ny ­teknik, men riskerar att använda den fel om de inte har tillräckligt med kunskap.

Shahinas drivkraft är att se hur forskningen faktiskt leder till en hållbar förändring i samhället.

– När forskargruppen och jag personligen rankades som en av Sveriges 100 viktigaste forskare inom digitalisering och hållbarhet av Kungliga Ingenjörsvetenskapsakademien, var det ett kvitto på att det vi gör är viktigt. Framöver hoppas jag kunna fortsätta att arbeta med mitt kompetenta team och våra samarbetspartners både i och utanför den akademiska världen. Tillsammans kan vi skapa en världsledande forskningsmiljö för AI och utveckla högkvalitativ, nyttig, hållbar och pålitlig AI-teknik som gynnar både enskilda människor och samhället. Särskilt nu när MDU har blivit ett universitet kommer möjligheterna till samarbeten öka ännu mer.

Vad skulle du ge för råd till unga som funderar på hur de ska ta sig an arbetslivet?

– Var inte rädd för att ta på dig utmaningar, även om det kräver hårt arbete och är läskigt att inte veta om man klarar det. Om du gillar arbetet kommer det alltid vara värt det, säger Shahina Begum avslutningsvis.

Shahina Begum.

Om profilen

Shahina Begum
Ålder: 44 år
Bakgrund: Uppväxt i Bangladesh. Kom till Sverige som masterstudent 2004, och blev 2019 professor i artificiell intelligens på Mälardalens Universitet. Nu forskar om de tekniker som hon läste om som barn i science-fiction böcker.