Seminarium 4 iBob – AI som möjliggörare för socialt hållbar samverkan
Medverkande: Frida Wikström, projektledare Skyddsvärnet. Dirk Kehr, verksamhetsutvecklare Skyddsvärnet. Rob Comber, KTH. Aron Rynemark, Konkret. Cilla Byström, Konkret.
Bakgrund, mål och syfte
Bob (Barn och unga i organiserad brottslighet) är ett nationellt program som Polismyndigheten driver i nära samarbete med andra myndigheter, på uppdrag av regeringen. Syftet är att motverka rekrytering av barn och unga till kriminella nätverk genom att bygga upp starkare och mer effektiva samverkansstrukturer på alla nivåer – lokalt, regionalt och nationellt. Samverkan ska utveckla nya arbetssätt att jobba på samt möjliggöra att dela kunskap mellan varandra för att kunna haka i och förstå varandras verksamheter.
iBob, en viktig del av Bob, använder AI och datadriven analys för att bygga en intelligent kunskapsdatabas. Med iBob kan data från aktörer som socialtjänst, polis och skola analyseras och visualiseras. Detta ger en mer träffsäker grund för insatser, där risker identifieras och förebyggande åtgärder kan sättas in i rätt tid och på rätt plats. Målbilden är även att iBob ska kunna bidra till ett mer evidensbaserat arbetssätt och tilltänkta användare är yrkesverksam personal på lokal-, regional- och nationell nivå.
Från vänster till höger: Rob Comber, docent i människa-datorinteraktion, KTH. Cilla Byström, utvecklare av arbetssätt i komplexa miljöer, Konkret. Aron Rynemark, teknisk lösningsarkitekt och projektledare, Konkret. Frida Wikström, projektledare, Skyddsvärnet. Dirk Kehr, verksamhetsutvecklare, Skyddsvärnet. (Foto: Niklas Maupoix)
Bakom projektet står Konkret, KTH, Skyddsvärnet, Göteborgs Stadsmission och Initcia. Kopplat till projektet finns en referensgrupp med deltagare från Nationella Bob samt Uppsala socialförvaltning.
Målet med projektet är att stärka samordning och främja kunskapsutbytet över sektorsgränser och därmed bidra till en gemensam lägesbild. Det förutsätts skapa ett effektivt lärande mellan aktörer samt drivkraft för nya insikter och forskning. Utöver detta kan iBob användas som ett praktiskt generellt AI-stödverktyg på samma sätt som andra generativa AI-modeller, exempelvis ChatGPT.
AI – arbetsprocessen och läranderesan
Läranderesan började med att visualisera exempel på hur modellen kan användas och enas om nyttan den kan generera. Därefter konkretiserades olika användningsområden. Först därefter var det möjligt att börja utveckla nya arbetssätt med hjälp av AI genom att ladda in data, värdera, dela tankar och testa.
Nästa steg i projektet är att i större utsträckning börja använda AI i vardagen och bygga kunskap.
Parallellt med att arbetet har fortskridit har man även börjat dela insikter med andra aktörer samt utforska och utveckla nya spår.
iBob i praktiken: Olika typer av data har lästs in i modellen, och dessa datakällor utgör grunden i iBob. AI:n fungerar som stöd med att söka fram information i källan, kategorisera och analysera underlaget samt sammanställa underlag.
Tekniska utvecklingen, data och säkerhet
iBob baseras enbart på uppladdade datakällor, inte utspätt med annan information som i andra kända generativa AI-modeller. Detta gör iBob till expert på just detta ämne, medan ”kunskapen” i andra ämnen kan upplevas som mer bristfällig. Det märks också eftersom modellen är inställd på att inte gissa fram svar där den inte upplever sig ha underlag att luta sig mot. Många andra modeller vill alltid ge ett svar vilket ökar risken för så kallade hallucinationer vilket är påhittad fakta. Om iBob inte hittar ett svar i sina datakällor kommer den att svara att den inte vet.
iBob ger alltid referenser som svaret baseras på, därmed kan användaren tydligt avgöra tillförlitligheten i svaren. Detta har bedömts som särskilt viktigt för att bygga förtroende för modellen.
Även om iBob inte gissar fram svar och anger referenser ligger ändå ett stort ansvar på användaren att identifiera risker för bias. Exempelvis om ett svar enbart baseras på data från Brå kan det behöva nyanseras med data från exempelvis socialtjänst.
Uteblivna svar och biassvar utgör en viktig grund för vidareutveckling av modellen.
Informationen som lagras i iBob delas inte vidare utan det är ett slutet system. I dagsläget har iBob inget minne av tidigare svar.
Säkerhet i iBob har varit integrerat i hela utvecklingsfasen. Det har bedömts som särskilt viktigt för att medverkande ska kunna och vilja dela med sig av data. Även ur användarperspektivet utgör tilliten som sagt en avgörande faktor. Målbilden är att svaren ska vara trovärdiga, fria från bias och transparenta. Inga persondata finns inlagda i modellen. All data är anonymiserad och fri från identifierbara uppgifter.
Lärdomar och insikter
Vad har projektet lärt deltagarna om att hantera komplexa samhällsutmaningar genom samverkan genom studier av lokala Bob-råd?
- Fokusera och träna på att integrera olika expertperspektiv.
- Nyttja kunskapen om vad vi vet inte fungerar som drivkraft för kreativitet.
- Gör både och, testa och lär!
- Utforska, pröva och lär kontinuerligt tillsammans hellre än att utvärdera som en punktinsats.
Genom att använda iBob som en partner för att hitta andra infallsvinklar skapas möjligheter att uppnå målet med en frågeställning. Enligt lag kan något vara omöjligt, men iBob kan föreslå andra arbetssätt för att nå samma mål.
Största utmaningen har varit ”kallstart”, det vill säga att bygga upp en helt ny kunskapskälla.
Nästa fas i arbetet
Dels är tanken att kunna skala upp ytterligare med nya samarbetspartners.
Men framför allt kommer fokus ligga på att kunna mäta ett bättre utfall i förändringsarbete, det finns ett behov av att kunna se huruvida arbetet har någon effekt. Genom att på ett bättre sätt kunna mäta effekt kan utvecklingshjulet för arbetet i stort snurrat snabbare.
Frågor från publiken
Vem är det som ”äger” den data som iBob baseras på?
Det är ännu ej bestämt var ägandeskapet ska ligga.
Hur kvalitetssäkras de datakällor som laddas upp?
I dagsläget är uppladdningen av nya datakällor centraliserat där innehållet granskas och kvalitetssäkras före uppladdning. Ur ett längre perspektiv har projektet inte landat än exakt hur detta kan hanteras och skapa trygghet i att underlagen håller hög kvalitet. Ett viktigt medskick är att iBob ska ses om ett verktyg för tolkning av data. Valideringen kommer alltid ligga hos den som nyttjar iBob. Via referenserna ser vi också vilka delar i svaret som är evidensbaserade.
Kan systemet ta hänsyn till exempelvis könsskillnader?
Mycket förutsätts upptäckas via den mänskliga granskningen och vid upptäckt bias behöver kompletterande underlag laddas upp. När användare upptäcker att perspektiv saknas kan användaren prompta AI:n till att beakta andra perspektiv. Medskick att det då blir bundet av användarens förkunskap om eventuella könsskillnader. Projektet arbetar med att förprompta iBob till att uppmuntra användaren att ställa frågor utifrån ett annat perspektiv.
Hur förhåller sig iBob och SVEA till varandra?
Tekniskt ansvariga deltog inte på seminariet men närvarande svarade att de bygger på samma språkmodell som också är stängd.
Vart tror ni att iBob tar vägen i framtiden?
Målbilden är att alla kommuner ska använda verktyget! I närtid är det som sagt att det går att se effekter som användandet av verktyget genererar. För att kunna göra detta behöver projektet få med fler pilotkommuner och testa skarpt. Om en kommun vill delta i projektet går det bra att kontakta någon av föreläsarna. Slutligen är en fråga som behöver diskuteras ansvaret för kvalitetssäkring av iBob. Nuvarande tanke är att ett sådant ägande behöver ske både på nationell, regional och lokal nivå.
Hur ser samarbetsviljan ut från andra aktörer?
Stort intresse från samtliga parter på grund av de nya kunskaper som skapas via andra aktörers uppladdning av data.
Seminarium 4, iBob – AI som möjliggörare för socialt hållbar samverkan. Ett seminarium på Socialchefsdagarna 2025.
Text: Daniel Westler, Göteborgs stad, Förvaltningen för funktionsstöd
Foto: Niklas Maupoix