Cailyn Yong
솔로프리니어의 인생 첫 B2B Sales 과정과 후기: 생성AI 챗봇
최근에 10X AI Club 1기 운영을 하면서 많이 바빠진 관계로 글을 못 올리고 있었습니다. 이 외에도 유투브 채널을 운영하고 있었는데 가장 놀랐던 부분은 1기 모집을 할때 정말 많은 분들께서 유투브를 통해 유입됐다는 것이었습니다. 실제로 여러 개발 문의가 유투브 채널을 통해서 들어왔고, 오늘 글에서는 다소 험난했던(?) 이 과정에 대해 생각을 정리하고자 씁니다.
커뮤니티 Growth부터 B2B 세일즈까지
가장 먼저 커뮤니티부터 설명을 시작해야할 것 같아요. 스타트업을 시작하는 계기와 전략은 정말 다양하지만, 저는 처음에 10X AI Club을 만들면서 얘로 창업을 해야겠다, 돈을 벌어봐야겠다로 시작한건 아니었습니다. 많은 분들께서 처음에 커뮤니티 운영을 한다고 했을때 "수익이 잘 안날텐데 왜하는지?," "이걸로 사업을 할건가요?"의 질문을 꽤 받았었어요. 그럼에도 불구하고 전 계속 했습니다. 제가 처음으로 너무 재미있게 느꼈던 일들이라. 전에는 하루에 12시간씩 일하라 그러면 절대로 하지 못했던 것을 이제는 자의로 하게 되더라구요.
그래서 10X AI Club에 인사이트 글과 생성AI 프로젝트 개발 방법 글들을 꾸준히 올리면서 계속 키웠고, 운영한지 이제 3개월 정도가 됐습니다. 10X AI Club를 더욱 키우기 위해 9월 25일에 올렸던 목표들입니다:
어떻게 될진 저도 잘 모르긴한데 이미 머릿속으로는 세워놓은 계획들이 몇개 있어서.. 이렇게 갈 것 같네요.
10X AI Club은 국내 최대 AI 커뮤니티가 된다. 단순히 사이즈보다는 정말로 사람들에게 도움이 되는 커뮤니티가 될 것이다.
10X AI Club의 Substack, Twitter, LinkedIn 뉴스레터와 Youtube podcast/개발 과정 동영상 업로드
10X AI University를 통해 라면 수익성을 얻고 모든 사람들이 한번이라도 AI 개발을 해보게 한다. 한번이라도 직접 자신의 업무에 AI 툴을 활용할 수 있게 한다.
2번째 목표가 조금 바뀌었는데, 여러개를 동시에 하기에 너무 힘들었어요.
그래서 유투브에 올인하기로 하고, 9월 17일에 '에라 모르겠다' 생각하고 첫 동영상을 올린 후 지금은 총 14개의 영상을 업로드했고, 구독자 2400명 달성, 그리고 가장 많은 조회수는 1.7만회를 찍었습니다.
이제 12월이 됐는데, 10X AI University를 런칭한 첫 달(10월)에 라면 수익성을 달성했습니다.
현재 운영하고 있는 10X AI Club 1기를 통해서 저는 첫 달에 달성한 라면 수익성을 10X 키웠어요.
이렇게 커뮤니티가 커지고, 수익이 발생하면서 더 다양한 BM들을 시도해보고 싶었어요. 그 중 하나는 유투브에 "챗봇 개발하는 방법"을 올리면서 설명란에 따로 자신의 서비스에 도입하고 싶으신 분들은 탈리 폼으로 신청을 받게 했습니다. 이런식의 B2B Sales는 인생 첫 경험이었고, 어떻게 하는지 전혀 모르는 상태에서 시작했어요.
영상을 업로드하고 나서 3일만에 첫 고객이 신청서를 제출했고, 그날 밤에 심장을 부여잡은 채 전화를 걸었습니다. 질문 드릴것도 옆에 메모장에 다 적고 준비했는데 생각보다 원하시는게 명확해서 쉽게 통화를 진행했고, 어떤 기능들을 구현할 수 있는지 설명 드린 후, 견적을 전달드리고 통화 마무리를 했습니다.
그 뒤로 다른분께서도 문의를 주셔서 두번째 분부터는 좀 더 쉽게 진행할 수 있었어요. 그분이 원하셨던 것은 사내에서 직원들끼리 사용해볼 수 있는 서비스 매뉴얼 챗봇이었습니다. 전화를 끊고 그날 바로 학습시킬 데이터를 받고, 챗봇을 만들기 시작했습니다.
챗봇 만드는 과정
여기서부터는.. ㅎ 험난했던 개발 과정입니다.
사실 가장 놀랐던 부분은 문의 주신 분들께서 제 영상들을 보며 프로젝트들을 만들어보신 경험이 있었고, GPTs에도 프롬프트 엔지니어링을 직접 하시면서 정말 많은 시도들을 해보셨더라구요. 그래서 프롬프트 자체도 직접 만드신걸 따로 받아서 학습을 시켰어요.
제가 개발하면서 가장 많이 배웠던 팁들을 공유드리자면
파이썬으로 만들면 보통 streamlit을 사용하는데 Streamlit에 앱 배포 절대하면 안됨. 클라우드 위에서 앱이 돌아가는 형식인데 한 유저당 사용할 수 있는 양의 한계가 있음. 이 한계치가 넘어가면 streamlit에서 앱 서버를 맘대로 다운시켜버림 😨
OpenAI 통해서 답변들을 생성하는데 custom prompt를 추가하면 오히려 결과물의 퀄리티가 떨어짐. 할루시네이션을 훨씬 더 많이 함. 프롬프트 없이 데이터베이스에 데이터 업로드 하고 그걸 불러올 수 있는 Conversational Retrieval Chain, 혹은 Retrival QA chain만 사용하는게 더 잘 불러옴. 대신 원하는 답변을 계속 학습 데이터에 매뉴얼로 추가해야됨.
저는 개발자의 입장으로써 답변 퀄리티가 너무 마음에 안들어서 돌아버릴 것 같았어요. 하하. 실제로 상용화 시키기엔 할루시네이션을 잡는게 가장 어렵다는걸 몸소 체험했고, 프롬프트를 수정할때마다 답변이 달라져서 시간도 많이 걸렸습니다. Streamlit에 배포했는데 결국 다 crash해서 다시 처음부터 Next js로 짜고 Vercel로 배포를 했습니다..
챗봇 사용자들의 후기
문의 주신 분께서 정말 감사하게도 사용자들의 피드백을 따로 받아서 저한테 전달해주셨어요.
좋았던 점
단순응대는 능률향상에 좋을 것으로 보임. 실제로 사업관련업무 문의가 올 시, 담당자들도 책자를 보고 안내하거나 홈페이지 규정 및 서식을 안내하는 경우가 대부분임.
습득한 정보에 대해서는 질문 수준에 따라 정보를 제공하고 있음. 관련 정보 외에는 모른다고 답변됨
공통적으로 궁금해하고 질문하는 민원에 대해서 쉽게 대응할 수 있어 업무 부담이 줄어들 수 있을 것 같다.
시도 자체가 가장 맘에 듭니다.
관련 규정을 직접 찾아보지 않고 쉽게 찾을 수 있어 업무에 도움이 됨
찾아보지않고도 궁금한사항을 즉답받을수있는점
질문을 간략하고 짧게 입력해도 자체적으로 질문을 변환하여 답변이 가능
기초적인 민원 응대 가능으로 불필요한 시간 낭비를 줄임
기본적인 질문을 사용자가 직접 입력하여 궁금증 해소 가능 (단순 자주묻는 질문을 클릭하여 사용자가 답변을 얻는 방식이 아닌 사용자가 궁금한점을 입력하고 답변을 얻을 수 있다는 점)
반응이 즉각적이기 때문에 업무시간 외 빠른 질문 해소 가능
답변의 속도 및 간단한 질문에 대한 답변 내용
관련 문의가 많은 특정 기간에 전화상담을 대체하면서 사업담당자의 업무가중을 줄일 수 있을 것이다.
빈번하게 들어오는 문의에 대한 답변이 잘 되어 있다
관련부서가 아니더라도 궁금한 점이 생기면 편하게 질의가 가능한 점
최근 트렌드를 반영한 새로운 도전. 그 어떤 분야보다도 시도가 중요합니다.
담당자 부재시, 전화 응대가 어려울 경우에 담당자를 대신하여 1차적인 답변, 기본 개념에 대한 답변이 가능하다.
간단하게 알고 싶을 정보가 있을 때 사용하면 좋을 것 같습니다.
아쉬운 점
아직은 자료로 인한 답이 부족하다보니, 질문을 응대할 수 있는 정보를 불러왔으면 좋겠음.
프롬프트 등 맞춤형 질문 작성법 교육이 필요.
디테일한 답변이 부족함
대부분 답변을 모른다고 답하거나, 답변을 하더라도 오답이 많아 학습이 더 필요할 것으로 보입니다.
공개되어 있는 자료를 통해 정보를 획득할 수 있었으면 좋겠어요.
일부 오타, 안내 절차 다름, 사업 담당자 안내 오류 등 일부 개선이 필요할 것 같습니다.
답변이 정확하지 않는 부분 등 개선이 필요할 것 같음
일부 내용이 다르며, 추상적으로 답변함에 따라 공신력이 떨어져보입니다. 다만, 이런 내용들은 지속 학습시키면 되는 사항이고, 매우 유용하게 사용될 것으로 예상됩니다. 만드느라 고생많으셨습니다.
사람이 질문하는 의도를 명확히 알아차리지 못함. 너무 고생하셨습니다 !
답변에 대한 검증이 필요함
현재 초기단계이다보니 정보가 많지 않고, 지속적으로 사용하기 위해서는 주기적인 정보 최신화가 필요해보인다
답변의 내용이 좀 더 구체적으로 제공되어야 한다. 빈번하게 문의하는 내용의 키워드만을 추출하여 답변을 낼 수 있도록 구축해 놓으면 더 활용성이 높을 것 같다.
챗GPT와 같은 수준의 툴을 만드시려 한다면, 딥러닝을 통한 인공지능 학습이 선행되지 않는한 매우 어려운 작업이라 생각합니다. 적어도 크롤링 수준에서라도 관련 자료를 긁을 수 있으면 좋은텐데 해당 작업 또한 쉬운 것은 아닙니다.
같은 질문에 다른 답변으로 자료의 신뢰도 부족
총 21명이 피드백을 주셨는데, 역시나 예상했던대로 할루시네이션 관련 문제가 가장 많았습니다.
하지만 반대로 업무향상에 많은 도움이 됐다는 후기를 보고 개인적으로 너무 뿌듯했어요. 실제로 OpenAI를 활용한 생성AI 챗봇이 이렇게 업무에 쓰이면서 긍정적인 반응이 보여서 정말 설레고 두근거렸습니다. (이게 스타트업하는 맛인가?)
21명 중 20명은 이 챗봇이 필요하다고 답변을 주셨습니다. 개발 측면에서 잘 안돼서 힘들었는데 제가 예상한거와 달리 많은 분들께서 필요하다고 하셔서 놀랐습니다.
마무리
이제 이 과정을 겪은 제 솔직한 장단점을 나열해볼게요.
장점:
내가 만든 제품이 사용자들에게 도움이 된다는게 정말 뿌듯하다. 인생의 의미를 찾아야한다면 여기서 찾을 수 있지 않을까?
단점:
솔직하게 말하자면 개발 과정이 재밌고 설레지 않았음. 그치만 어떤 것이든 그 과정은 험난할 수 밖에 없지 않을까? 실제 사용자들이 생겼을때 나오는 반응들과 거기서 느끼는 감정들이 중요하지 않을까?
상용화수준까지 만들려고 하다보니 개발에 노력을 많이 들여야했음. 생각보다 많은 시간 소요. -> 추후에 이걸 시스템화 시키면 시간 소요가 덜 되지 않을까?
Code interpreter는 예를 들어서 내가 AI한테 내 비행기 티켓과 에어비앤비 예약완료 파일을 업로드 한 다음에, 총 4명의 친구와 함께 여행을 간다고 한다면 1인당 드는 비용이 얼만지 계산해달라고 했을때 AI가 바로 계산을 해주는 기능입니다. 예전에는 이걸 계산하기 위해서 개발자가 일일이 코드를 짰어야하는데, 이제는 AI가 어떻게 계산을 해야하는지 이해를 해서 그에 맞는 계산 함수를 짜서 대신 해준다는 것입니다.
Knowledge retrieval은 말그대로 어떠한 형식의 파일을 올려도 AI가 필요한 정보들을 긁어와서 그에 맞는 질문을 할 수 있다는 것입니다. 예를 들어 제가 전 글에서 만들었던 고객 서비스 상담 챗봇을 만들기 위해 .html파일을 올렸던 것처럼, 이것도 올리면 바로 Q&A 챗봇을 만들 수 있다는 것입니다.
마지막으로 function calling은 여러 use case가 있는데, 내가 만드는 Assistant에 다른 챗GPT 플러그인 api를 사용하고 싶거나, 아님 비정형화된 데이터를 정형화된 데이터로 변환해주는 기능 등이 있습니다.
PMC * W23 Pre-Networking
PMC는 디스콰이엇 팀에서 매 분기마다 여는 Product Maker's Club으로, 좋은 프로덕트를 만드는 것에 진심인 메이커를 모아, 메이커로그 쓰는 과정을 최대한 쉽고 빠르게 할 수 있도록 도와주는 동시에, 서로 인사이트를 나누고 각자의 목표를 달성할 수 있도록 지원합니다.