Årets World Usability Day har ett tema som vi är väl bekanta med, vi har vigt ett hel satsning på Human Centred AI och vill vara med och driva utvecklingen framåt.
Det är Pontus Wärnestål som leder vår satsning inom området Human-Centred AI som Director på inUse. Han är en flitig talare på ämnet, och undervisar även på Högskolan i Halmstad. Hans approach har alltid varit att det krävs ett användarcentrerat närmande på hur vi designar för AI.
En Directors syn på Human-centred AI
– Jag har valt att se det som att vi har ett nytt designmaterial att göra med. De tjänsterna som vi kan bygga med hjälp av AI kommer att bete sig annorlunda än vad klassiska digitala system gör eftersom de kan utvecklas över tid.
Det Pontus Wärnestål menar innebär att det inte går att sätta samma sorts kvalitetsstämpel på ett AI-system som ett klassiskt system. I själva verket är det i princip omöjligt i en AI-driven tjänst, där upplevelsen som designas är mycket mer dynamisk och ska anpassa sig till kontexter och lära sig av en användares beteende.
– Det andra är att vi ofta använder AI-system för att semi-automatisera uppgifter. På inUse är vår värdegrund att arbeta efter premissen att vi inte i första hand ska ersätta jobb, utan designa arbetsuppgifter så att människor blir stärkta, och inte ersatta, av AI.
Det innebär också att de här systemen har lite högre grad av egen initiativförmåga, vilket gör att man kan släppa lös de på uppgifter utan att behöva detaljkontrollera varje steg, som vi man gör med klassiska verktyg.
Vi behöver lära oss att designa in parametrar i AI-systemen som gör att vi kan lita på att jobbet blir välgjort och att vi inte riskerar någonting. Antingen riskerar vi att ett jobb utförs på dåligt på grund av ett AI-stöd, eller så kan det innebära en fara för den som utför jobbet eller andra människor.
Människa och AI måste lära sig tillsammans
– Som designers måste vi nu plötsligt designa dels hur den här typen av självständighet hanteras i system, och dels måste vi lära oss tillsammans. Alltså hur människor och AI-system samspelar för att lösa uppgifter, säger Pontus Wärnestål.
Som sista steg poängterar Pontus att vi måste ställa oss frågan: Hur designar vi för att väva in förtroende för autonoma system? Det är ett jätteviktigt steg som kräver en annan sorts kompetens än bara strikt programmerings- eller ingenjörsvetenskap. Det är i detta skede som en designer kan komma in och skapa nytta.
Den här typen av system tränas kontinuerligt upp av ny data. I ett scenario där vi vill att AI-system ska fortsätta lära sig är det optimala att den fortsätter utvecklas per automatik när systemet är släppt. En förutsättning för det är att de fortsätter matas med ny data som följer vissa kriterier. Detta skapar ytterligare ett designscenario där man måste säkerställa att datan dels samlas in på ett etiskt hållbart sätt där användare eller kund är medveten om detta och dels så att det inte stör arbetsflödet och uppfattas som störande.
– Därför krävs det ett designorienterat angreppssätt, inte bara ett ingenjörsmässigt problemlösande. Som vi alltid gör när vi designar måste vi expandera lösningsrymden lite och se vad det kan få för långsiktiga effekter, menar Pontus Wärnestål.
Intern kompetens och AI.m-projektet
En av de strömningar som har gjort att inUse som företag har valt att satsa på human-centered AI som ett Director-område är att vi är en del av AFRY. På AFRY så finns det hela team av maskininlärningsexperter och datavetare, vilket gör att den tekniska kompetensen finns att tillgå inhouse. Det vi vill göra och arbetar för på inUse är att snabbt stärka upp vår kompetens så att fler börjar resonera kring AI som ett designmaterial.
Därför är ytterligare tre inUse-kollegor tillsammans med Pontus involverade i att jobba aktivt med projektet AI.m på Högskolan i Halmstad som han är med och driver i sin akademiska roll som forskare. Louise Bro, Sara Yxhage och Johanna Strömberg från göteborgskontoret är med och coachar i AI-projektet som riktar sig till företag i regionen som får möjlighet att genomgå en innovationsprocess där människocentrerad AI, ökad konkurrenskraft och nya datadrivna möjligheter står i fokus.
– Att ha med de i projektet gör att vi får praktisk erfarenhet på inUse inom en rad olika branscher, sektorer och olika typer av verksamheter där AI kan spela roll. De börjar ackumulera designmönster och vanliga problem som uppstår och förstår vilken typ av data som krävs. En kompetens som vi fortsätter att odla inom inUse, säger Pontus Wärnestål, Director of Human-centered AI.
Framtidsvisionen är att vara med och lösa hållbarhetsutmaningar. Med hjälp av data och maskininlärning kan vi förhoppningsvis arbeta med t. ex klimatfrågor, se samband mellan energianvändning och beteende, eller varför inte tackla hållbara transporter och jordbruk. I AI.m-projektet jobbar de redan nu med ett projekt som försöker göra hela Halland “vattensmart” genom att titta på hur väldesignade AI-drivna tjänster kan förbättra tillgång på vatten.