Stefan Preusler, generálny riaditeľ spoločnosti LeapLytics
Niekedy minulý rok som zažil jeden z tých momentov, keď si poviete: to nemôže byť pravda. Náš tím práve tretíkrát za týždeň odpovedal na presne tú istú otázku - ako licencovať naše vizuály Power BI, keď má spoločnosť tvorcov aj čistých divákov. Tá istá otázka. Tretíkrát. V piatok popoludní, keď sa už naozaj nikomu nechcelo sedieť za stolom.
Problémom nebola otázka, ale načasovanie
Naši zákazníci pochádzajú z rôznych časových pásiem. Veľká časť našich používateľov sa nachádza v Južnej Amerike, najmä v Argentíne a Brazílii. Píšu nám o polnoci nášho času. A kým im odpovieme, už spia. Táto slučka rozdielov v časových pásmach a opakovanie otázok nás stojí viac hodín, ako by som si chcel priznať.
Prvý nápad bol jednoduchý: vytvoriť stránku s najčastejšími otázkami. Urobili sme to. Nikto ju nečítal. Alebo aspoň nie správni ľudia v správnom čase. Nemôžem im to zazlievať - aj ja radšej jednoducho zadám otázku do vyhľadávacieho riadku, než aby som sa prechádzal dokumentáciou.
Druhým pokusom bol hotový chatbot - vložte ho, napíšte niekoľko šablón odpovedí a hotovo. Ani to nefungovalo. Odpovede boli príliš statické, príliš všeobecné. Vo chvíli, keď niekto sformuloval svoju otázku trochu inak, ako očakávala šablóna - nič. Ticho. Alebo ešte horšie: odpoveď, ktorá sa úplne minula účinku.
Bod zlomu: RAG
Vtedy sme sa začali vážne zaoberať technológiou RAG - Retrieval-Augmented Generation. Znie to technicky, ale základná myšlienka je jednoduchá: namiesto toho, aby ste do bota natvrdo zakódovali odpovede, poskytnete mu prístup k vašim vlastným dokumentom, popisom produktov, lístkom podpory, často kladeným otázkam - a on si sám vyhľadá relevantné informácie predtým, ako odpovie.
Vtedy sa nám všetko podarilo.
Začali sme systematicky zhromažďovať naše najčastejšie témy podpory. Nie na základe intuície, ale na základe skutočných otázok našich zákazníkov: Aká bola vaša prvá otázka, keď ste začali používať náš produkt? Aký problém vás stál najviac času? Niektoré odpovede nás prekvapili - veci, ktoré sme považovali za samozrejmé, zjavne neboli.
Tento obsah sme vložili do databázy znalostí chatbota. A kľúčová časť: môžeme ju dynamicky rozširovať. Uvedenie nového produktu na trh, nová opakujúca sa otázka - pridáme ju do databázy a bot ju od tej chvíle pozná. Žiadne prestavovanie od nuly, žiadne IT lístky, žiadne čakanie.
Jazykový problém - a ako sme ho vyriešili
Tu je detail, ktorý som podcenil: veľa našich údajov o produktoch, dokumentácie a interných popisov je v angličtine. Ale naši zákazníci v Južnej Amerike píšu v španielčine. A právom očakávajú odpoveď v španielčine.
To znie ako malý problém. Nebol. Bot, ktorý sa na niečo spýta v španielčine a odpovie v angličtine, nie je podpora - je to frustrácia.
Riešením bolo nakonfigurovať bota tak, aby rozpoznal jazyk používateľa a odpovedal v tomto jazyku - aj keď sú základné informácie v angličtine. To teraz funguje spoľahlivo. Náš zákazník v Buenos Aires dostane odpoveď v španielčine, aj keď náš tím spí.
Čo dnes bot skutočne robí
Tri mesiace po spustení prevádzky vidíme, že zhruba 60-70% prichádzajúcich žiadostí o podporu sú plne vyriešené botom - bez účasti človeka. Zvyšné otázky stále pristanú v našej schránke, ale s jedným zásadným rozdielom: bot už zachytil kontext, kategorizoval požiadavku a my okamžite vidíme, o čo ide.
Je tu však ešte jeden efekt, ktorý som nepredpokladal: chatbot pomáha zákazníkom objasniť ich vlastné otázky. Niekedy úplne neviete, čo je váš problém - niečo zadáte, bot sa spýta na doplnenie a vy si zrazu uvedomíte: aha, to som vlastne chcel povedať. To nebola plánovaná funkcia. Jednoducho sa to stalo.
Čo by som chcel, aby ste si odniesli
Ak máte malý tím, ktorý stále odpovedá na tie isté otázky podpory - nezačínajte s technológiami. Začnite zhromažďovaním a pochopením týchto otázok. Potom sa pozrite, či má pre vás zmysel prístup založený na RAG.
Bot nenahrádza ľudskú podporu. Vracia nám však čas, ktorý potrebujeme na riešenie skutočne zložitých problémov - a na to, aby sme mohli skutočne prespať celú noc.
Stefan Preusler je zakladateľom a generálnym riaditeľom softvérovej spoločnosti LeapLytics, ktorá sa špecializuje na vizualizácie a vizualizáciu dát v Power BI. Vytvára produkty, ktoré podnikom zjednodušujú a sprístupňujú dátové procesy.
