Stefan Preusler, vezérigazgató LeapLytics
Valamikor tavaly volt egy olyan pillanat, amikor az ember azt gondolja: ez nem lehet igaz. Csapatunk épp most válaszolt egyetlen héten belül harmadszorra pontosan ugyanarra a kérdésre - hogyan licenceljük a Power BI vizuális anyagainkat, ha egy vállalatnak alkotói és puszta nézői is vannak. Ugyanaz a kérdés. Harmadszor. Egy péntek délután, amikor már senki sem akart az asztalánál ülni.
Nem a kérdés volt a probléma - az időzítés volt a probléma
Ügyfeleink különböző időzónákból érkeznek. Felhasználóink nagy része Dél-Amerikában, elsősorban Argentínában és Brazíliában él. Ők a mi időnk szerint éjfélkor írnak nekünk. És mire válaszolunk, ők már alszanak. Az időzónák közötti eltérések és a kérdések ismétlődése több óránkba kerül, mint amennyit be szeretnék vallani.
Az első ötlet egyszerű volt: készítsünk egy GYIK-oldalt. Meg is tettük. Senki sem olvasta el. Vagy legalábbis nem a megfelelő emberek a megfelelő időben. Nem igazán hibáztathatom őket - én is szívesebben gépelek be egy kérdést a keresősávba, minthogy a dokumentációt lapozgassam.
A második próbálkozás egy kész chatbot eszköz volt - beágyazni, írni néhány sablonválaszt, kész. Ez sem működött. A válaszok túl statikusak, túl általánosak voltak. Abban a pillanatban, hogy valaki kicsit másképp fogalmazta meg a kérdését, mint ahogy a sablon elvárta - semmi. Csend. Vagy ami még rosszabb: egy olyan válasz, amely teljesen elhibázta a lényeget.
A fordulópont: RAG
Ekkor kezdtünk el komolyan foglalkozni a RAG-gal - Retrieval-Augmented Generation (Visszakeresés-javított generáció). Technikusan hangzik, de az alapötlet egyszerű: ahelyett, hogy a válaszokat a robotba kódolnánk, hozzáférést biztosítunk neki a saját dokumentumainkhoz, termékleírásokhoz, támogatási jegyekhez, GYIK-ekhez - és a robot a válaszadás előtt maga keresi meg a releváns információkat.
Ez volt az a pillanat, amikor a dolgok összeálltak számunkra.
Elkezdtük szisztematikusan összegyűjteni a leggyakoribb támogatási témáinkat. Nem megérzések alapján, hanem úgy, hogy ténylegesen megkérdeztük ügyfeleinket: Mi volt az első kérdése, amikor elkezdte használni a termékünket? Melyik probléma került a legtöbb idejébe? A válaszok némelyike meglepett minket - az általunk magától értetődőnek tartott dolgok nyilvánvalóan nem voltak azok.
Ezt a tartalmat betápláltuk a chatbot tudásbázisába. És a legfontosabb rész: dinamikusan bővíthetjük. Új termékbevezetések, új visszatérő kérdések - hozzáadjuk a bázishoz, és a bot onnantól kezdve ismeri azt. Nincs újraképzés a semmiből, nincsenek IT-jegyek, nincs várakozás.
A nyelvi probléma - és hogyan oldottuk meg
Itt van egy részlet, amit alábecsültem: a termékadataink, dokumentációink és belső leírásaink nagy része angol nyelvű. Dél-amerikai ügyfeleink azonban spanyolul írnak. És joggal várják el, hogy spanyolul válaszoljunk nekik.
Ez egy kis problémának hangzik. Nem az volt. Egy bot, amelyik spanyolul kérdez valamit, és angolul válaszol, nem támogatás - ez frusztráció.
A megoldás az volt, hogy a botot úgy konfigurálták, hogy felismerje a felhasználó nyelvét, és azon a nyelven válaszoljon - még akkor is, ha az alapinformáció angolul van. Ez most már megbízhatóan működik. A Buenos Aires-i ügyfelünk spanyolul kapja meg a választ, még akkor is, amikor a csapatunk alszik.
Mit csinál ma a bot valójában
Három hónappal az éles üzembe helyezés után azt látjuk, hogy nagyjából 60-70% bejövő támogatási kérelmek a bot teljes mértékben megoldja - emberi közreműködés nélkül. A fennmaradó kérdések továbbra is a postaládánkban landolnak, de egy lényeges különbséggel: a bot már rögzítette a kontextust, kategorizálta a kérést, és azonnal látjuk, hogy miről van szó.
De van egy másik hatás is, amire nem számítottam: a chatbot segít az ügyfeleknek tisztázni saját kérdéseiket. Előfordul, hogy az ember nem teljesen tudja, mi a problémája - beír valamit, a bot rákérdez, és hirtelen rájön: á, valójában erre gondoltam. Ez nem volt tervezett funkció. Csak úgy megtörtént.
Amit szeretnék, hogy elvigyél magaddal
Ha kis csapata újra és újra ugyanazokra a támogatási kérdésekre válaszol - ne a technológiával kezdje. Kezdje a kérdések összegyűjtésével és megértésével. Ezután vizsgálja meg, hogy a RAG-alapú megközelítésnek van-e értelme az Ön számára.
A robot nem helyettesíti az emberi támogatást. De visszaadja nekünk azt az időt, amelyre szükségünk van ahhoz, hogy valóban összetett problémákkal foglalkozzunk - és hogy valóban átaludjuk az éjszakát.
Stefan Preusler a LeapLytics alapítója és vezérigazgatója, egy Power BI vizuális eszközökre és adatvizualizációra specializálódott szoftvercég. Olyan termékeket készít, amelyek egyszerűbbé és hozzáférhetőbbé teszik az adatfolyamatokat a vállalkozások számára.
