BEST I TEST: Olav Sell, AI trener og Content developer og Eli Henriette Larsen, Head of customer service and Telesales, deler hvordan de jobber for å skape markedets beste chatbot.
BEST I TEST: Olav Sell, AI trener og Content developer og Eli Henriette Larsen, Head of customer service and Telesales, deler hvordan de jobber for å skape markedets beste chatbot.

Best i test: – Slik jobber Telenor med å skape den beste chatboten

I dagens episode har Kundeservicepodden besøk av to sentrale hoder bak Telenors suksess med den virtuelle assistenten Telmi. Eli Henriette Larsen, Head of customer service and Telesales, og Olav Sell, AI trener og Content developer, deler hvordan de jobber for å skape markedets beste chatbot. 

I «Kundeserviceavisens store chatbottest» testet vi 16 forskjellige chatboter fra landets største selskaper. Telenor med «Telmi» ble testens beste, og det eneste selskapet som fikk karakter 6.

– Kundeservice er hjertet i Telenor

– Vi snakker med 4 millioner kunder årlig gjennom ulike kanaler, blant annet chatbot. Cirka 500 kundeservicemedarbeidere er fordelt utover 6 lokasjoner som vi har i det langstrakte land, forklarer Larsen.

Hun sier kundeservice er hjertet i Telenor.

Olav Sell har jobbet med kundeservice i 16 år, og vært kundebehandler både på telefon, sosiale medier og chat.

– Kundeservicebakgrunn er gull verdt når man jobber som AI trener, sier Sell.

Kundeservice er hjertet i Telenor. 

Det er 5 år siden Telenor gikk i partnerskap med sin leverandør av chatbot, og har brukt mye tid på å trene denne opp,

– Boten har et lite miljø som jobber med det. Det er to AI trenere og IT støtte til de. Det er en del av utviklingsteamet.

Larsen forteller at kundene blir mer og mer digitale, samtidig som de ønsker raskere behandlingstid.

– Chatboten gir muligheten til å kommunisere 24/7, legger hun til.

Plikt å ta i bruk ny teknologi

Hovedmålet til Telenor med chatboten er å møte kundenes behov. Den er også mer kostnadseffektiv enn manuell kundeservice.

– For de som ønsker å bruke chatbot i stedet for å ringe, så er dette et kjempegodt alternativ, forteller hun.

Hun føler også på et visst ansvar.

– Som landets største telecom leverandør ser jeg på det plikt å ta i bruk ny teknologi slik vi møter kundenes behov, servicen og løsningen de ønsker seg.

Møter kundenes behov, servicen og løsningen

– Da vi investerte i det for 5 år siden mente vi det var en god timing, da var de ganske bra men nå har de blitt skikkelig bra, forklarer Larsen.

De måler boten ut i fra hvor stor grad den kunne løse kundenes henvendelse. Da ser Telenor på hvilke henvendelser kunden får hjelp til gjennom chatboten uten å måtte ringe i etterkant. De måler også kundeopplevelsen.

– Dette er mål vi har satt og har nådd hvert år, og vi er ganske ambisiøse og satt oss heavy mål fremover, forklarer lederen.

Typisk arbeidsdag for en AI trener

Podcastvert Bjarte Lyssand spør Sell hvordan de jobber med chatboten. Han deler arbeidet opp i 4 hovedområder.

  1. Holde chatboten oppdatert på alt som skjer, både fra markedssiden og forretningssiden. Det kan for eksempel være nye lanseringer.
  2. Jobbe med forbedringer basert på kundeatferd i chatten. Dersom kunden bruker nye fraser eller ord skal de sikre at språkmodellen forstår det. Her inngår også justering og oppdatering av tekster som kan være opp til 5 år gamle.
  3. Utvikle ny funksjonalitet. Lage og teste ut nye intergrasjoner, slik kunder får løst flere problemer enn i dag.
  4. Større vedlikehold. Det begynner å bli en gammel chatbot. Noen områder funker bra, og inneholder 5 år med kompetanse. Likevel er det ikke alt fra 5 år siden som holder standarden i dag. Dette er kontinuerlig arbeid.

En standard dag for en AI trener kan variere stort. Men, når Sell blir bedt om å forklare en typisk hverdag ønsker han å begynne med arbeidsdagen før.

– Det siste vi gjør før vi går for dagen er å sette på en treningsrunde. Det er en oppdatering av språkmodellen basert på justeringene de har gjort den dagen.

Denne oppdaterer seg etter de har forlatt kontorene og fortsetter gjennom natten.

Sell starter derfor arbeidsdagen med å se over den og sjekke at den oppfører seg slik de hadde planer om.

– Så ser vi gjerne på hvilke temaer det har vært mye bevegelser ved å lese gjennom samtaler, og gjøre justeringer på teksten generelt.

Han forklarer også at de jobber med sprinter på 1 og 4 uker. På 1-ukers sprintene kan de for eksempel ta for seg varslinger, og når de er ferdig med alt som var planlagt for uka går de over til 4-ukers sprinten. Da ser man mer på utvikling og vedlikeholdsarbeidet.

Playful when possible, always professional

Larsen forklarer at kundene blir veldig fornøyd når de får raske og effektive svar av chatboten.

– Jeg syns vi har fått på plass mange av interaksjonene som gjør at kundene raskt og effektivt får den hjelpen de trenger. Chatboten kan svare på det aller, aller, meste. legger hun til.

Hun er også fornøyd med måten de har klart å personalisere stemmen i boten. Det var en av tingene vår tester i «Kundeserviceavisens store chatbottest» trakk frem.

Her er et utdrag fra artikkelen: 

«Med en åpningskommentar som faktisk fikk vår tester til å le høyt, etablerte Telenor umiddelbart en høy standard.

– Ikke bare var samtalen informativ, men den var pakket inn i en personlig og engasjerende tone, forteller vår tester»

– Den oppeves personlig og et snert av morro, samtidig som den er effektiv, sier Larsen.

Sell sin tidligere erfaring fra kundeservice, særlig gjennom sosiale medier, forteller at det var et sitat som satt langt fremme i panna.

– Playful when possible, always professional.

De mener det er et utgangspunkt som treffer så godt som alle.

Hva lykkes, og lykkes ikke?

– Vi har også fått på plass gode AI trenere som kan kundeservice, og vet hva kundene er opptatt av, forklarer Larsen.

Hun er veldig stolt over hvor langt boten har komt, og at den blir smartere for hver dag som går.

Nærmere og nærmere hver dag

Likevel er det ikke alt de har lykkes med.

– Telmi klarer ikke å automatisere alt ennå.

Sell trekker frem et spesifikt eksempel som er noe de ønsker å få gjort noe med.

– Dersom det for eksempel er feil på nettverket er Telmi god på å veilede kunden til å sjekke det de kan på egenhånd. Sjekke etter feil i området, restarte og nullstille utstyr og feilsøk. Dersom problemet ikke blir løst da må kunden kontakte kundesenter. Forhåpentligvis vil dette i fremtiden opprette en automatisk feilmelding.

Larsen forteller at de han en lang liste over ting de ønsker å gjøre noe med.

– Men, vi kommer nærmere og nærmere hver dag, forsikrer hun.

Løser 80% av henvendelsene

Sell forteller at det er viktig å skille mellom begrepet løst og automatisert.

– Rollen til chatboten er todelt. Det ene er å gi kunden rett svar på et spørsmål og veilede kunder, eller å faktisk gjennomføre endringer kunden ønsker.

Han legger til at 80% av henvendelsene blir løst. Med det mener han både løst i den forstand at kunden ikke må snakke med et menneske (automatisert), eller ved kunden har fått korrekt svar for hvordan problemet kan løses, som også kan involvere å måtte snakke med et menneske.

– For eksempel om man skal ha PUK-koden til barnet sitt kan man ikke få det gjennom chat, men forelderen får instrukser på hvor den kan hente den ut, og i de tilfellene må man ringe kundeservice.

Lyssand forteller at i følge KSIndeks har chatboter et ufortjent dårlig rykte.

Eli Henriette tror dette henger med av flere grunner.

– Mange testet bots når det kom for noen år siden, og da var de ikke særlig gode. Ryktet henger igjen, da det har skjedd enormt med utvikling.

Men som «Kundeserviceavisens store chatbottest» viser er det også stor variasjon i kvaliteten blant chatbotene i dag.

– Fortsatt ikke alle boter som er like gode, eller oppfatter hva kundene mener. Det er helt avgjørende for en god bot å være god på å fange opp det kundene egentlig trenger hjelp til, sier Larsen.

Årene som kommer

Larsen forteller at det er mye som skjer, og spennende teknologi. Det kommer muligheter for at chatboten vil forstå innhold enda raskere samtidig som den forstår flere språk og dialekter.

– Kundene og forbrukerne får en enda bedre opplevelse. Jeg tror man får enda mer og bedre følelse av å snakke med et tilnærmet menneske. Om ikke så lenge kan vi ta i bruk tale, og det vil oppleves som enda mer effektivt.

Kundene og forbrukerne får en enda bedre opplevelse

Sell forteller at det er fryktelig mye som skjedd, LLM teknologi (store språkmodeller) kommer til å bli en del av alle boter som overlever.

– Det må inn hos alle. Det blir ikke 100% LLM gen chatbot, men den blir brukt som en del av chatbotene vi har i dag, forteller han.

Utforsk chatbotenes verden: Styrker, svakheter og den spennende utviklingen av AI

Han er også sikker på at Telenor kan gjøre mer når det kommer til proaktivitet.

– Når du starter samtalen med en chatbot, og du for eksempel har snakket tidligere med kundeservice, så kan boten være klar over det og reflektere det i velkomstmeldingen.

Han tror den typen proaktivitet vil være mer synlig fremover.

– Jeg tenker at fremtiden er veldig lys, forteller Sell avslutningsvis.