Min kone har fortalt om hvordan hun som meget bestemt ung jente gikk tur med pappaen sin. Uansett hvilken retning de begynte å gå i så stoppet hun og sa; «andre veien pappa!» Dermed snudde de og gikk i motsatt retning.
Hennes pappa forstod etter hvert mønsteret og gikk i ‘feil’ retning. Innsikten var en vinn-vinn. Pappa kom dit han ville, og datteren fikk følelsen av at hun hadde fattet en selvstendig beslutning.
Hva har denne historien å gjøre med Artificial Intelligence (AI)? Ny amerikansk forskning fra MIT Sloan https://sloanreview.mit.edu/article/designing-ai-systems-that-customers-wont-hate/ har identifisert noe interessant: Mennesker er egenrådige.
I en undersøkelse hvor forskningsobjekter fikk valget mellom å bli undersøkt av en lege eller en robot utstyrt med kunstig intelligens, valgte de fleste legen. Dette til tross for at de ble fortalt at roboten ville kunne gi en mer korrekt diagnose og medisinering. Tolkningen av denne tilsynelatende ulogiske adferden er at hver og en av oss føler oss unike. Det fordrer menneskelig forståelse og ikke en maskin for å forstå min situasjon. Min situasjon er unik.
Det viser seg nemlig at vi misliker følelsen av at kunstig intelligens tar over og fatter beslutninger på våre vegne. Resultatet er at man velger det motsatte av det man rasjonelt burde valgt, for å peke nese til kunstig intelligens.
Neste generasjon kunstig intelligens må lære seg å håndtere denne menneskelige egenrådigheten. Artikkelen foreslår at man bør utvikle kunstig intelligente systemer som kan ha en mer personalisert dialog med pasienten eller kunden. For eksempel kan kunden flere ganger bes om å definere sine ønsker tydeligere, slik at kunden føler at han/hun får en skreddersydd og tilpasset løsning. Dette kan føre til at det tar lengre tid å fullføre samhandlingen, men til gjengjeld er kunden mer fornøyd.
Budskapet er at man må ivareta kundens frihet til å være uforutsigbar og sær ved design. Kunden skal ikke få følelsen av at kunstig intelligens har forutsatt ens ønsker, men heller skal det skapes følelsen av at man får en anbefaling basert på analyse av tidligere valg. Unngå et påtvunget alternativ, men antyd heller retningen. Formen er like viktig som innholdet. La kunden velge en vei inn, men forstå så hvordan å lede i riktig retning.
