Sett, men ikke forstått

Mitt arbeid

Jeg hadde ansvar for hele prosessen, fra den første problemstillingen til ferdige designanbefalinger.

• Studiedesign: Jeg valgte Apple Journal som et «least-likely case»: en app som er utviklet med et tydelig fokus på personvern, med lokal lagring og ende-til-ende-kryptering. Dersom creepiness kan oppstå også her, peker det mot at fenomenet er mer enn et resultat av enkeltstående dårlige designvalg.
• Datainnsamling og analyse: Jeg gjennomførte en seks uker lang autoetnografisk studie. Materialet besto av loggoppføringer, skjermbilder, samtalenotater og egne tegninger, som jeg analyserte ved hjelp av refleksiv tematisk analyse.
• Design: Jeg oversatte funnene til tre designprinsipper for AI-drevne wellbeing-apper.

Fra erfaring til innsikt

Autoetnografi var en relevant metode fordi creepiness er en subjektiv og situert følelse. Den oppstår i konkrete møter mellom bruker og teknologi, og kan være vanskelig å fange gjennom spørreskjemaer eller hypotetiske scenarioer. Jeg skrev loggoppføringer samme dag som hendelsene fant sted, og aldri senere enn ett døgn etterpå. Skjermbilder, samtalenotater og tegninger hjalp meg å dokumentere og utdype opplevelsene underveis.

De første ukene var preget av nysgjerrighet og forventning om at appen ville lære meg å kjenne. Etter hvert tok rutinen over, og det var ikke lenger ønsket om å skrive noe meningsfullt som fikk meg til å åpne appen, men ubehaget ved å bryte streaken. I den siste perioden mistet jeg gradvis meningen med selve skrivingen.

Analysen resulterte i tre hovedtemaer: appens design og datagrunnlag, appens forståelse og forslag, og brukerens respons. Appen overså ofte stedene som faktisk fylte hverdagen min, som skole og jobb, til fordel for steder jeg bare hadde vært innom kort. Den registrerte hva jeg gjorde, men ikke hva som var viktig for meg. Resultatet var ikke bare irrelevante forslag, men en opplevelse av at appen ikke speilet hverdagen slik jeg faktisk erfarte den.

Et annet funn handlet om forutsigbarhet og kontroll. Før jeg hadde fullført oppsettet, mottok jeg et lokasjonsbasert varsel som innstillingene mine sa ikke skulle finnes. Det var ikke selve varselet som opplevdes ubehagelig, men hva det antydet: at systemet allerede var aktivt og handlet på mine vegne før jeg opplevde å ha sagt ja. Over tid merket jeg også at jeg begynte å tilpasse meg appen, heller enn at appen tilpasset seg meg. Journaling føltes etter hvert mer som arbeid utført på systemets premisser enn som en egen refleksjonspraksis.

Det overordnede funnet var det jeg kaller det umulige designproblemet. Presisjon, personalisering og kontekstsensitivitet kan gjøre en wellbeing-app mer nyttig, men det er også disse egenskapene som kan gjøre den ubehagelig. Spennet mellom nytteverdi og creepiness er derfor ikke bare et spørsmål om bedre kalibrering, men et strukturelt dilemma. Målet er ikke nødvendigvis å designe spennet bort, men å designe med større åpenhet og kontroll rundt det.

Kjernen i dilemmaet er at datafangst gjør det mulig å bli sett, men å bli sett er ikke det samme som å bli forstått. Forståelse forutsetter tilgang til den subjektive meningen bak dataene, informasjon som ikke finnes i et datasett. Spørsmålet er derfor ikke hvordan vi unngår creepiness, men hvordan vi designer åpenhet og kontroll rundt det uunngåelige spennet.

Dette ledet til tre designprinsipper:

1. Skill engasjementsdesign fra refleksjonsdesign. Streaks og aktivitetsmålere bør være valgfrie, mens åpne refleksjonsspørsmål bør være det brukeren møter først.
2. Design for usikkerhet. Når systemet mangler grunnlag for å forstå den emosjonelle konteksten, bør terskelen for å komme med forslag være høyere. Brukeren bør også kunne definere hvilke steder og datatyper som er meningsbærende.
3. Gjør transparens og forutsigbarhet synlig i interaksjonen. Forslag bør forklare hvilke data de bygger på, på et nivå som gir innsikt uten å eksponere for mye. Innstillingene må også samsvare med hva appen faktisk gjør.

Funnene bygger på én brukers erfaringer over seks uker. De er ikke ment som universelle sannheter, men som innsikt i mekanismer som kan være relevante i lignende systemer.

Viktige lærdommer

Dette prosjektet lærte meg å bruke egne reaksjoner som data, uten å behandle dem som objektive sannheter. Ved å skrive, tegne, analysere og snakke med andre om opplevelsene kunne jeg utforske hva som var særegent for meg, og hva som kunne peke mot mer generelle designutfordringer.

Den viktigste lærdommen var at det ikke nødvendigvis er datainnsamlingen i seg selv som oppleves som creepy. Ubehaget oppstår ofte i øyeblikket systemet plutselig treffer presist, fordi det gjør datainnsamlingen synlig. Jeg opplevde dette da et forslag var så spesifikt at jeg umiddelbart ble utilpass. For meg som designer understreket det at åpenhet og brukerkontroll ikke bør ligge skjult i innstillinger, men være en synlig del av opplevelsen.

Prosjektet utfordret også hva jeg tenker at god AI-design innebærer. De mest meningsfulle refleksjonene mine kom ikke fra systemets personlige forslag, men fra øyeblikk der appen var åpen og inviterende. Kanskje handler ikke god design alltid om å gjøre teknologien mer intelligent, men om å være tydelig på hva den ikke kan forstå. Om en enklere og AI-fri tilnærming faktisk kan gi en mer meningsfull refleksjonspraksis, er et spørsmål som fortsatt gjenstår å undersøke.

Samlet ga prosjektet meg erfaring med å gjennomføre kvalitativ forskning fra start til slutt: å samle inn og analysere rike data, utvikle et faglig argument og omsette funn til konkrete designanbefalinger.

Den beste teknologien er ikke nødvendigvis den som vet mest om oss, men den som er tydeligst på sine egne grenser.