Stefan Preusler, administrerende direktør i LeapLytics
En gang i fjor hadde jeg et av de øyeblikkene der du tenker: Dette kan ikke stemme. Teamet vårt hadde nettopp svart på nøyaktig det samme spørsmålet for tredje gang på én uke - hvordan lisensiere Power BI-bildene våre når et selskap har både skapere og rene seere. Samme spørsmål. For tredje gang. På en fredag ettermiddag da ingen egentlig hadde lyst til å sitte ved pulten sin lenger.
Problemet var ikke spørsmålet - det var timingen
Kundene våre kommer fra ulike tidssoner. En stor del av brukerne våre er basert i Sør-Amerika, hovedsakelig i Argentina og Brasil. De skriver til oss ved midnatt vår tid. Og når vi svarer, har de allerede sovnet. Denne sløyfen av tidssoneforskjeller og gjentatte spørsmål koster oss flere timer enn jeg liker å innrømme.
Den første ideen var enkel: lage en FAQ-side. Det gjorde vi. Ingen leste den. I hvert fall ikke de rette personene til rett tid. Jeg kan egentlig ikke klandre dem - jeg foretrekker også å skrive inn et spørsmål i et søkefelt i stedet for å bla gjennom dokumentasjon.
Det andre forsøket var et standard chatbot-verktøy - legg det inn, skriv noen svarmaler, ferdig. Det fungerte heller ikke. Svarene var for statiske, for generiske. I det øyeblikket noen formulerte spørsmålet sitt litt annerledes enn malen forventet - ingenting. Stillhet. Eller enda verre: et svar som gikk helt utenom poenget.
Vendepunktet: RAG
Det var da vi begynte å tenke på RAG - Retrieval-Augmented Generation. Det høres teknisk ut, men kjernen er enkel: I stedet for å kode inn svar i boten, gir du den tilgang til dine egne dokumenter, produktbeskrivelser, supporthenvendelser og vanlige spørsmål - og så henter den selv den relevante informasjonen før den svarer.
Det var da det sa klikk for oss.
Vi begynte å systematisk samle inn de hyppigste supportspørsmålene våre. Ikke basert på magefølelse, men ved å spørre kundene våre: Hva var ditt første spørsmål da du begynte å bruke produktet vårt? Hvilket problem kostet deg mest tid? Noen av svarene overrasket oss - ting vi trodde var selvforklarende, var tydeligvis ikke det.
Vi matet dette innholdet inn i chatbotens kunnskapsbase. Og det viktigste: Vi kan utvide den dynamisk. Nye produktlanseringer, nye tilbakevendende spørsmål - vi legger det til i basen, og boten kjenner til det fra det tidspunktet. Ingen ombygging fra bunnen av, ingen IT-saker, ingen ventetid.
Språkproblemet - og hvordan vi løste det
Her er en detalj jeg undervurderte: Mye av produktdataene, dokumentasjonen og de interne beskrivelsene våre er på engelsk. Men kundene våre i Sør-Amerika skriver på spansk. Og de forventer med rette et svar på spansk.
Det høres ut som et lite problem. Det var det ikke. En bot som blir spurt om noe på spansk og svarer på engelsk, er ikke support - det er frustrasjon.
Løsningen var å konfigurere boten slik at den oppdager brukerens språk og svarer på det språket - selv når den underliggende informasjonen er på engelsk. Det fungerer nå pålitelig. Kunden vår i Buenos Aires får svar på spansk, selv når teamet vårt sover.
Hva boten faktisk gjør i dag
Tre måneder etter lanseringen ser vi at omtrent 60-70% av innkommende supportforespørsler løses helt og holdent av boten - uten menneskelig innblanding. De resterende spørsmålene havner fortsatt i innboksen vår, men med én avgjørende forskjell: Boten har allerede fanget opp konteksten, kategorisert forespørselen, og vi ser umiddelbart hva den handler om.
Men det er en annen effekt jeg ikke forutså: Chatboten hjelper kundene med å avklare sine egne spørsmål. Noen ganger vet du ikke helt hva problemet ditt er - du skriver inn noe, boten stiller et oppfølgingsspørsmål, og plutselig innser du: Ah, det var faktisk det jeg mente. Det var ikke en planlagt funksjon. Det bare skjedde.
Hva jeg vil at du skal ta med deg
Hvis du har et lite team som svarer på de samme supportspørsmålene om og om igjen - ikke begynn med teknologi. Begynn med å samle inn og forstå disse spørsmålene. Deretter kan du se på om en RAG-basert tilnærming er fornuftig for deg.
Boten er ikke en erstatning for menneskelig støtte. Men den gir oss den tiden vi trenger til å håndtere virkelig komplekse problemer - og til å faktisk sove hele natten.
Stefan Preusler er grunnlegger og administrerende direktør i LeapLytics, et programvareselskap som spesialiserer seg på Power BI-visualisering og datavisualisering. Han utvikler produkter som gjør dataprosesser enklere og mer tilgjengelige for bedrifter.