Blogg | 28 maj 2020

Vad har Tegnell och AI gemensamt?

Nej, det är inget skämt. Istället representerar både två områden där det pågår dialoger om vad ansvar betyder. Men det pågår troligtvis dagliga dialoger inom de flesta organisationer kring ansvar, då många organisationer har gjort stora omställningar i verksamheten och man behöver se över ”vem som gör vad”. I detta blogginlägg reflekterar Stefan Palm kring begreppet ansvar och vad det innebär för individen och företaget.

Min egen reflektion är att det i dialogerna kring ansvar oftast görs ett grundläggande fel. Man säkerställer inte vad man menar med ansvar. Det här är förståeligt i media, det blir ju mycket mer att skriva kring om man är otydlig. Men i de flesta organisationer skulle man nog tjäna på om man hade en gemensam syn på ansvarsfrågan.

Nu kanske du tycker att det här inte är så svårt. För du vet ju vad ansvar betyder.
Min poäng är att den du jobbar med kan ha en annan åsikt om vad ansvar betyder, och det är då det kan bli problem.

Vem är ansvarig för vad egentligen?

Låt mig ta ett par exempel, för att sätta igång tankarna.
Vi börjar enkelt, vem ansvarar för ekonomin i ett privat företag? Denna fråga kan man tänka sig olika svar på, ett par vinklar kan vara:

  • Det är ledningen för företaget, som driver företaget på uppdrag av ägarna.
  • Det är ekonomiavdelningen, som är de som hanterar budgetprocessen och levererar de ekonomiska resultatet.
  • Det är de olika verksamhetsansvariga som har tydligt resultatansvar.

Jag hoppas du nu inser att ansvarsfrågan inte är så enkel. Nästa exempel, vem ansvarar för IT-säkerheten i en organisation?
Ännu en gång är det inte svårt att hitta ett par olika vinklar:

  • Ledningen på bolaget är ansvarig för allt, även IT säkerheten!
  • IT avdelningen har ansvar för alla IT frågor, även säkerhet.
  • Vår CSO har satt tydliga riktlinjer för vad som gäller, och varje verksamhetsansvarig har ansvaret att säkerställa att dessa följs i sin verksamhet.
  • I vår organisation litar vi på våra medarbetare, och har en distribuerad ansvarsmodell, där varje individ är ansvarig för att följa de riktlinjer vi har inom IT-säkerhet.

Kanske någon känner igen en variant av dessa formuleringar, det är inte jag som hittat på dessa, utan de kommer från verklig erfarenhet.

Nog med exempel, låt mig istället introducera ett par saker som kan var bra att ha med sig in i dialoger kring ansvar. Det första är en definition som är bra, om man kan få samsyn på:
Ansvar finns, där kunskap och resurser (förmåga) finns för att förändra.
Det här är en rätt ”strikt” definition, och den kan kännas rätt fjärran från dina egna erfarenheter.

Istället blir du ansvarig för något, men du får inga resurser till ditt förfogande. Eller så får du ansvar för ett nytt område, men du får inte möjlighet att skaffa dig ny kunskap inom området när du frågar om du får gå en kurs.

RACI-matris

Problemet är att ordet ansvarig används slarvigt. Vad är det för ansvar jag har egentligen? Då kan det var bra att rita upp en RACI-matris, och genom att använda engelska så verkar vi smartare. Responsible, Accountable, Consulted, Informed är wikipedias definition (men jag har sett andra genom åren).

Responsible, betyder ju ansvar, och här skriver ni svaret på frågan ”vem är ansvarig”. Som jag hoppas du nu inser är detta en knivig fråga. Men utgå gärna från definitionen jag gjorde tidigare. Men i vissa frågor får man utgå från juridiska aspekter. Där spelar det mindre roll vad du tycker, det är en domstol som kommer tycka vem som är ansvarig.

Accountable, den som ser till att detta blir utfört. Oftast den som äger mätetalet förknippat med frågan. För om vi inte mäter det, så blir det inte gjort, eller hur?

Consulted, en person som kan ha en åsikt om denna fråga, som vi bör prata med innan vi fattar beslut. Utmaningen här kan vara att begränsa listan, många kan ha åsikter, men vilka ska vi lyssna med innan vi fattar beslut?

Informed, vilka ska informeras, dvs vilka påverkas av de vi beslutar om i denna fråga. Glöm inte stämma av med dessa att de även förstår det som kommuniceras 😊

Nej, det är inte alltid lätt att få en samsyn på detta, men det är därför det här är en bra övning, tycker jag. Och som med många processer/modeller/verktyg handlar det inte om att få ”rätt” från början, det viktigaste är oftast att börja. Och så kommer man lära sig utav sina erfarenheter, och göra bättre nästa gång.

Explainable AI

RACI matrisen är inget nytt verktyg, men den har som sagt kommit till mitt medvetande nyligen när jag studerat ”Explainable AI”, ett spännande område inom AI som förtjänar lite mer fokus enligt mig. Tittar man bakåt så har AI algoritmer fungerat som svarta lådor. De har konsumerat data, och ut kommer ett statistiskt resultat, t.ex. i form av en klassificering eller estimering. Hur detta skedde har inte varit möjligt att veta. Men en växande oro och insikt att vi behöver förstå hur AI modeller fungerar, baserat på en hel del dåliga implementationer, har nu lett till området ”Explainable AI”.
Det finns nu en hel del olika ramverk som man kan använda för att analysera och simulera beteenden på sina AI modeller, innan man sätter de i produktion. Men området inkluderar även förmågan att övervaka en AI modell i produktion, för att kunna avgöra när beteendet börjar avvika från det som den syftade till att leverera.

Man skulle kunna säga att det ger oss en förmåga att kontrollera AI tekniken. Det känns väl inte så dumt? Men glöm inte bort, det är vi människor som är ansvariga för vad AI gör i dag, och även vad AI kommer kunna göra i framtiden.
Och vill du ha hjälp med att förstå vad AI kan göra för dig, så är det bara höra av dig till oss på Softronic.

Relaterade länkar:  

Blogginlägg skrivet av Stefan Palm – copyright Softronic.