Data om våra beteenden är det nya guldet och numera en avgörande post i företags balansräkningar. Artificiell intelligens, AI, driver utvecklingen. Men ännu agerar bolagens algoritmer oetiskt, konstaterar digitaliseringsexperten Anna Felländer på Business Arena Uppsala den 14 november.
– Vi träder in i en ny tid där alla behöver använda AI för att reducera spill och skräddarsy relation med kunden. Kunderna förväntar sig också personifierade tjänster och innehåll. Glappet mellan den grupp som befinner sig i Status Qou och de som omfamnar AI blir större. AI innebär hisnande vinster. Teknologin galopperar fram i hisnande takt, konstaterar Anna Felländer.
Men i en värld som kräver allt mer personifierat innehåll bor också de mänskligaste och mest analoga av alla problem: fördomar. En algoritm, en artificiell intelligens är alltid styrd av sin skapare.
– Vi behöver titta på AI utifrån en bredare etisk kontext, säger Anna Felländer och fortsätter:
– AI byggs av den som programmerar. Ett tydligt exempel med etiskt dilemma är självkörande bilar som tvingas välja mellan att krocka med en grupp skolbarn eller en åldring eller styrd marknadsföring i ett bolag som kapitaliserar på spelberoende eller missbruk. Hur de etiska principerna behöver översättas i AI-ramverket är superviktigt.
Enligt Anna Felländer har digitaliseringen tre vågor, nu står vi på randen till den tredje där mogna teknologier korsbefruktas. Den andra vågen karaktäriseras av en utbudschock av digitala tjänster med nya prismodeller och värdekedjor tack vare bland annat delningsekonomin, samt automatisering på arbetsmarknaden.
Problemet är att regelverk som rör AI ligger hopplöst efter, trots den nya dataskyddsförordningen GDPR. Det kan innebära stora konsekvenser för den personliga integriteten då den tredje vågens digitalisering är persondriven, enligt Anna Felländer.
– Det finns olika typer av AI. Vi kommer se AI i fysiska robotar men är kanske tydligast idag i ansiktsigenkänning och röstigenkänning. Det är just den generella AI:n som domedagsprofetiorna handlar om, den som ska kunna replikera ett mänskligt beteende.
Idag är mängden data som vi delar med oss enorm, och den artificiella intelligensen ska göra bedömningar på den informationen. AI kan bli oetiskt om vi inte använder det på rätt sätt, menar Anna Felländer. Exempel är ansiktsigenkänning som inte tränats på tillräckligt på olika typer av ansikten eller riktad marknadsföring som hoppar över socioekonomiskt utsatta områden på grund av betalningsförmåga.
– Datan visar bara den önskade verkligheten – och vem bestämmer hur den önskade verkligheten ser ut? Är det Marc Zuckerberg?
Sammanfattningsvis konstaterar Anna Felländer att tekniken går fruktansvärt snabbt framåt och att det krävs en standard för etisk AI, inte minst för att hjälpa bolag som kommit långt i sitt arbete med AI, GDPR och konsumentanpassning. Men det är viktigt att våga testa menar Felländer.
– Vi måste testa – precis som med medicin. Etik är viktigt – ingen kan längre säga ”vi visste inte bättre”.
