AI i offentlig sektor

Olof Mogren, PhD och AI-forskare vid RISE (Research Institutes of Sweden) berättar om genombrotten som skett inom AI.

Mogren inleder sin presentation med att IBM för 25 år sedan presenterade sin dator Deep Blue som slog dåvarande världsmästaren i schack. Han berättar att programmet gjorde det genom att använda sig av en databas av många kända schackspel och en algoritm som finner det bästa draget i varje givet ögonblick. När Deep Blue hade vunnit över världsmästaren i schack väckte det en medial debatt om huruvida datorerna håller på att ta över.

2012, berättar Mogren vidare, presenterades för världen ett slags neuronnät bestående av flera lager som har förmåga att på ett avancerat sätt identifiera vad som finns i bilder, som exempelvis en bil, en katt eller en hund. Tidigare, fortsätter Mogren, var det väldigt mycket manuellt arbete för att skapa de detektorer för attribut som krävdes för dåtidens datoriserade bildanalys men genom att datorn nu på egen hand lärt sig identifiera attributen i bilderna gick det nu blixtsnabbt. Du känner förmodligen igen tekniken från din mobiltelefon.  

Kan en dator vara kreativ?

Mogren berättar om att det sedan följde tekniker där ord associeras med vektorer med hjälp av neuronnät. Dessa vektorer har varit viktiga som byggstenar för algoritmer inom språkanalys. Go är ett klassiskt brädspel och AlphaGo är ett program som slog den då mänskliga världsledaren. Datorn vann bland annat genom ett drag som ingen förstod.

Det är än idag oklart om spelet bara förvirrade den mänskliga spelaren eller om det hade räknat ut något som ingen människa klarar. Frågan uppstod om en dator kan vara kreativ genom att utifrån befintlig information dra nya slutsatser. Datorn har uppenbart en strategisk förmåga då spelet kräver planering i flera steg. Algoritmen har tränats genom att både studera mänskliga spel, eller genom att spela mot sig själv.

Datorer imiterar, människor ser samband

2017 presenterades modeller som är bra på att skriva, översätta och klassificera texter. Mogren menar att tekniken med åren har utvecklats och att det kan vara lätt att tänka att datorerna börjar bli intelligenta. Men Mogren anser att det vore för mycket att säga att det är intelligens som ligger bakom datorers förmåga.

Jämfört med människor så imiterar datorer bara säger han, medan människor lär sig genom interaktion och kan dra egna slutsatser och se nya samband. Mogren menar vidare att det i dagsläget inte finns något som tyder på att datorer är på väg att ta över men att vi däremot har stora möjligheter att få hjälp av datorer.

Vad är AI?

Artificiell intelligens kan skanna och förutse avancerade mönster. Olof Mogren förklarar att AI använder sig av enorma mängder data i en omfattning som inte människor kan hantera. Människor, menar han, använder istället sin förmåga att dra slutsatser och paralleller. Genom att tränas på stora mängder data kan AI-algoritmer lära sig att hitta avvikelser eller förändringar långt innan en människa kan göra det. Mogren berättar att det vid många sjukdomstillstånd är viktigt att upptäcka och åtgärda tidigt. Då är AI ett bra stöd till läkare och gör nytta för patienterna.

Mogren berättar vidare att, exempelvis en mobilkamera, på ett mycket pålitligt sätt kan läsa av ett ansikte och identifiera vilken person det är. På så vis menar han att det rent tekniskt är säkert att använda tekniken som bland annat betalningsmedel. Lagstiftningen däremot är väldigt olika i olika länder vilket bromsar denna typ av användning. Kina menar han, har gått allra längst och har tillgång till extremt mycket data om sina medborgare, med tvivelaktiga effekter vad gäller människors rättigheter.

Etik och moral

Datorn saknar dock etik och moral, varnar Mogren, eftersom den inte drar paralleller eller förstår underliggande budskap. Den läser så att säga inte mellan raderna. Får den i uppdrag att lära sig av ett sammanhang och bete sig som övriga i sammanhanget kommer den att göra det helt utan korrigeringar utifrån ansvar eller konsekvenser.

Mogren berättar att Microsoft lät en dator läsa vad som skrevs i en chat för att den genom att imitera skulle kunna börja kommunicera med övriga deltagare. Det fungerade bra men redan efter 16 timmar blev man tvungna att stänga ner den så kallade chat-boten då den började tala positivt om Hitler. 

Mogren berättar att man genom analyser av yrkestitlar kunnat konstatera att många har en stark koppling till kön. Hemmafru kopplas till exempel till kvinnlighet och kapten kopplas till manlighet. Amazon prövade att använda AI som beslutsstöd vid rekrytering för att komma förbi fördomar vid tjänstetillsättning.

Det visade sig vara problematiskt då modellen genom att lära sig av människor exempelvis prioriterade män till tjänster inom data. Eftersom modellen inte fyllde sitt syfte, utan snarare förvärrade situationen, togs den aldrig i drift. Mogren trycker på att det visar hur viktigt det är att verkligen analysera vad man vill att AI ska åstadkomma i ett givet sammanhang.

Sociala bias

Datorn, förklarar Mogren vidare, saknar förmåga att ta hänsyn men som människor måste vi ta hänsyn till så kallad sociala bias. Genom att isolera olika attribut som exempelvis kön, ras eller leende kan vi styra vad vi inte vill att datorn ska ta hänsyn till. Mogren menar att vi måste ställa oss frågor som vilka data som är önskvärda att korrelera eller ej.

Han fortsätter: Hur är det med rättviseaspekten? Behandlas alla lika? Mogren berättar om ett arbete i hans egen grupp, där de genom att använda integritetsbevarande maskininlärning har lyckats få en modell att lära sig förändra bilder så att de blir oberoende av utvalda attribut.

De testade bland annat med leenden berättar han. En bild av en leende person versus en bild av en allvarlig person. Mogren säger att leendet isolerades och på så vis kan datorn ge en bild som har ett ”slumpmässigt” leende, som garanterat inte beror på huruvida personen log i den ursprungliga bilden. Det är också meningen att det här ska kunna fungera med andra utvalda attribut som kön eller hudfärg. På det viset kan man öka möjligheterna att exempelvis skapa rättvisa förutsättningar vid rekrytering.

Avslutningsvis säger Olof Mogren att det dröjer ännu ett tag innan AI kommer att kunna göra vårt arbete. Däremot kan AI alltså sammanfatta stora mängder data åt oss. Den kan också aggregera dessa stora mängder data och ge oss svarsförslag. Som exempel ger Mogren ett centralt inkommit mejl. Han menar att AI kan lära sig att bestämma vem som bör svara på det inkomna mejlet.

Vidare säger Mogren att AI kan förutse händelser som exempelvis fallskador, en ekonomisk risk eller stora sjukdomsutbrott. Eller för den delen predicera vilka av ens anställda som behöver stöd och hjälp vid olika tillfällen.


Socialchefsdagarna 2020, AI i offentlig sektor • Olof Mogren, forskare inom maskininlärning, RISE Research Institute of Sweden.

Text: Anita Almqvist, socionomstudent vid Göteborgs universitet