스테판 프뢰슬러, CEO, LeapLytics
작년 어느 날, 이럴 수는 없겠구나 하는 생각이 드는 순간이 있었습니다. 우리 팀은 일주일 동안 세 번째로 똑같은 질문, 즉 회사에 제작자와 순수 시청자가 모두 있는 경우 Power BI 비주얼라이제이션 라이선스를 부여하는 방법에 대한 답변을 받은 적이 있었습니다. 같은 질문입니다. 세 번째입니다. 아무도 더 이상 책상에 있기를 원하지 않는 금요일 오후.
문제는 질문이 아니라 타이밍이었습니다.
고객들은 다양한 시간대에 살고 있습니다. 사용자 대부분은 남미, 주로 아르헨티나와 브라질에 거주하고 있습니다. 그들은 우리 시간으로 자정에 저희에게 편지를 보냅니다. 그리고 우리가 응답할 때쯤이면 고객들은 이미 잠든 상태입니다. 시차 때문에 반복되는 질문과 반복되는 답변으로 인해 생각보다 많은 시간을 낭비하고 있습니다.
첫 번째 아이디어는 간단했습니다. FAQ 페이지를 만드는 것이었습니다. 실제로 만들었습니다. 하지만 아무도 읽지 않았습니다. 적어도 적시에 적절한 사람들이 읽지 않았죠. 저도 문서를 스크롤하는 것보다 검색창에 질문을 입력하는 것을 더 선호하기 때문에 그들을 탓할 수는 없습니다.
두 번째 시도는 기성품 챗봇 도구를 임베드하고 몇 가지 템플릿 응답을 작성하는 것이었습니다. 그것도 효과가 없었습니다. 답변이 너무 정적이고 너무 일반적이었습니다. 누군가 템플릿에서 예상한 것과 약간 다르게 질문하는 순간 아무 것도 나오지 않았습니다. 침묵. 또는 더 나쁜 것은 요점을 완전히 놓친 답변입니다.
전환점: RAG
바로 그때 저희는 검색 증강 세대인 RAG에 대해 진지하게 생각하게 되었습니다. 봇에 답변을 하드코딩하는 대신 자체 문서, 제품 설명, 지원 티켓, FAQ에 대한 액세스 권한을 부여하면 봇이 관련 정보를 스스로 검색한 후 응답하는 간단한 개념입니다.
그 순간 모든 것이 결정되었습니다.
가장 빈번한 지원 주제를 체계적으로 수집하기 시작했습니다. 직감이 아니라 실제로 고객에게 물어보면서 수집했습니다: 저희 제품을 사용하기 시작했을 때 가장 먼저 질문한 것은 무엇인가요? 어떤 문제로 가장 많은 시간이 소요되었나요? 당연하다고 생각했던 답변 중 일부는 저희를 놀라게 했습니다.
이 콘텐츠를 챗봇의 지식창고에 공급했습니다. 그리고 중요한 부분은 이를 동적으로 확장할 수 있다는 점입니다. 새로운 제품이 출시되거나 반복되는 새로운 질문이 생기면 이를 지식창고에 추가하면 봇이 그 시점부터 이를 인지합니다. 처음부터 다시 구축할 필요도 없고, IT 티켓도 필요 없고, 기다릴 필요도 없습니다.
언어 문제와 그 해결 방법
제가 과소평가한 세부 사항은 다음과 같습니다. 많은 제품 데이터, 문서, 내부 설명이 영어로 되어 있습니다. 하지만 남미의 고객들은 스페인어로 글을 씁니다. 그리고 고객들은 당연히 스페인어로 된 답변을 기대합니다.
작은 문제처럼 들립니다. 그렇지 않습니다. 스페인어로 질문을 받고 영어로 대답하는 봇은 지원이 아니라 불만일 뿐입니다.
해결책은 기본 정보가 영어로 되어 있는 경우에도 사용자의 언어를 감지하여 해당 언어로 응답하도록 봇을 구성하는 것이었습니다. 이제 안정적으로 작동합니다. 부에노스아이레스의 고객은 팀이 잠든 시간에도 스페인어로 답변을 받을 수 있습니다.
오늘날 봇이 실제로 하는 일
출시 후 3개월이 지난 지금, 대략 다음과 같은 결과가 나타나고 있습니다. 60-70%의 지원 요청이 들어옵니다. 는 사람의 개입 없이 봇이 완전히 해결합니다. 나머지 질문도 여전히 받은 편지함에 도착하지만, 한 가지 중요한 차이점이 있습니다. 봇이 이미 문맥을 파악하고 요청을 분류하여 요청의 내용을 즉시 확인할 수 있다는 점입니다.
하지만 제가 예상하지 못했던 또 다른 효과는 챗봇이 고객이 스스로 질문을 명확히 할 수 있도록 도와준다는 점입니다. 가끔 문제가 무엇인지 완전히 파악하지 못한 상태에서 무언가를 입력하고 봇이 후속 질문을 하면 갑자기 '아, 그게 바로 내가 말한 것이었구나'라는 것을 깨닫게 됩니다. 이 기능은 계획된 기능이 아니었습니다. 그냥 그렇게 된 거죠.
가져가셨으면 하는 내용
소규모 팀에서 같은 지원 관련 질문에 반복해서 답변하는 일이 반복된다면 기술부터 시작하지 마세요. 먼저 그러한 질문을 수집하고 이해하는 것부터 시작하세요. 그런 다음 RAG 기반 접근 방식이 적합한지 살펴보세요.
봇은 사람의 지원을 대체할 수 없습니다. 하지만 진정으로 복잡한 문제를 해결하고 실제로 밤새도록 잠을 잘 수 있는 시간을 되찾아 줍니다.
스테판 프뢰슬러는 Power BI 비주얼리제이션 및 데이터 시각화 전문 소프트웨어 회사인 LeapLytics의 설립자 겸 CEO입니다. 그는 기업이 데이터 프로세스를 더 간단하고 쉽게 이용할 수 있도록 하는 제품을 개발합니다.
