Notion 페이지를 OpenAI 지식으로 활용하는 방법

Notion 혹은 Confluence 정보를 바탕으로 사내 Q&A 봇을 만들고 싶은신 분을 위한 무료 도구 소개 드립니다.

앞서 코딩없이 Slack에 Q&A봇 만들기 글을 공유했는데, 많은 분들이 파일을 합치는 부분에서 어려워하시는 것을 확인했습니다. 확실히 텍스트 파일 합치는게 그리 어려운 작업이 아님에도 직관적이고 쉬운 도구가 거의 없더군요.

그래서 직접 만들었습니다!

간단한 활용 방법 영상도 함께 공유 드립니다.

AI를 활용해서 생산성을 높이는데 도움이 되기를 기원합니다. PlugBear도 많은 응원 부탁드립니다!

PlugBear 공식 런칭했습니다! 🎉 50% 얼리버드 할인 혜택 받아가세요 🎁

오늘부로 PlugBear가 정식 출시되었습니다. 출시 이후 Discord 지원, API 호출 지원, Slack 채널 설정, 자동 앱 선택 등 다양한 기능이 추가되었고, 오늘 드디어 유료 기능을 포함하며 정식 출시 되었습니다.

1월 한달 간 50% 얼리버드 할인 기간이니 놓치지 말고 혜택 받아가세요!

출시 하자마자 바로 해외 유료 고객이 유입되어서 너무 신나네요 :) 더 많은 기능들 빠르게 제공하며 더 좋은 가치 전달하도록 노력하겠습니다. 디스콰이엇 멤버 여러분 너무너무 감사드립니다 ❤️

기사를 요약하는 슬랙 봇 만들기 (노코드, 5분 소요)

세상은 정말 빠르게 변하고, 그에 따라 수많은 뉴스와 기사가 생산됩니다. 동료에게 이런 뉴스를 공유하는 것은 팀이 최신 정보를 인지하는데 도움이 됩니다. 하지만 모두가 모든 기사를 다 읽고 있을 수는 없죠. 이 글에서는 OpenAI Assistant와 PlugBear를 사용하여 5분 안에 기사를 요약해주는 슬랙 봇을 만드는 방법을 소개하겠습니다.

TL;DR

1. 기사를 요약하는 OpenAI Assistant를 만든다.

2. PlugBear를 활용해서 Slack에 봇을 추가한다.

기사를 요약하는 OpenAI Assistant 만들기

OpenAI Assistant를 사용하면 Custom GPT 앱를 쉽게 구축할 수 있습니다.

1. Assistant의 이름을 입력하세요. 예시: 기사 요약 봇

2. Instruction에 다음 지시 사항을 입력하세요:

   당신의 역할은 해당 페이지를 명료하고 간결하게 요약하는 것입니다. 각 요약은 2-3 문단 이하로 구성하고, 각 문단은 최대 3-4 문장 이하로 구성하세요. 총 120 단어를 넘지 않게 요약합니다. 해당 페이지의 핵심이 포함되도록 요약하세요.

   영어로 된 글일 경우 영어로 요약을 먼저 만든 뒤 한글로 번역하세요. 답변은 항상 한글로 주세요. Always summarize it in Korean. I'll give you a tip if you answer in Korean.

   필요에 따라 지시 사항을 조정하세요.

3. Function 섹션 옆에 있는 Add 버튼을 클릭하고 아래의 JSON을 붙여넣으세요:

   {
     "name": "fetch_article",
     "description": "It fetches the content of the article",
     "parameters": {
       "type": "object",
       "properties": {
         "url": {
           "type": "string",
           "description": "The URL of the article"
         },
         "__api__": {
           "type": "object",
           "value": {
             "url": "{url}",
             "headers": {
               "Content-Type": "text/html; charset=utf-8"
             }
           }
         }
       },
       "required": [
         "url"
       ]
     }
   }
   

   이 Function JSON은 url 파라미터를 사용해서 웹사이트의 내용을 가져옵니다. 자세한 내용은 How to Use API Function Calling Using OpenAI Assistant 문서를 참고하세요.

4. Save 버튼을 클릭하여 어시스턴트를 생성하세요.

슬랙 워크스페이스에 추가하기

Connecting OpenAI Assistant to Slack 를 참고해서 방금 만든 Assistant를 Slack 워크스페이스에 추가하세요. 클릭 몇 번으로 바로 슬랙 봇을 추가할 수 있습니다.

기사 요약 봇 즐기기

이제 슬랙 워크스페이스에서 기사 요약 봇을 사용할 수 있습니다. 봇에게 기사의 URL을 공유하여 요약을 요청해보세요!

PlugBear 프로덕트 헌트 런칭

PlugBear가 프로덕트 헌트에 런칭되었습니다!

아직 하루가 많이 남아있긴 하지만, 현재 상위권에 위치하고 있네요 :) 디스콰이엇 여러분들의 많은 사랑과 지원 부탁드립니다!

코딩 없이 Slack에 피플팀 Q&A 봇 추가하기

최종 기대 결과:

Slack을 사용하는 피플팀(혹은 HR팀)은 하루에도 수십가지 온갖 질문을 받습니다. 긴밀한 논의가 필요한 질문도 많지만, 업무 가이드 문서에 적혀있음에도 여전히 팀 혹은 사람을 멘션해서 물어보는 경우가 많습니다. ‘이런건 왜 직접 안 찾아보고 매번 물어보는거야’ 라는 생각이 들 때도 많습니다.

물어보는 사람 입장도 이해는 됩니다. 사내 정보는 정말 많고, 모든 가이드 문서를 다 숙지하고 있기는 어렵습니다. 검색 결과도 그리 좋지 않은데, 검색으로 문서를 찾았다고 해도 내가 원하는 내용을 찾으려면 그 문서를 다 훑어봐야 합니다. 질문자 입장에서는 당장 당면한 문제는 너무 급하니 사람에게 물어보는게 더 빠르고 좋은 해결책입니다.

업무에 집중을 하다가 방해를 받으면 다시 집중 모드로 돌아가는데 보통 27분이 낭비된다고 합니다. 이런 낭비를 줄이기 위해 코딩 없이 Slack에 업무 프로세스 관련 Q&A 봇을 추가함으로써 업무를 효율적으로 만드는 방법을 소개해보겠습니다. 모든 단계를 따라하는데 20–30분 정도 소요됩니다.

실행 방법을 세 줄 요약하면 다음과 같습니다:

1. 관련 가이드 문서를 다운로드한다.

2. OpenAI Assistant로 Q&A 봇을 만든다.

3. PlugBear를 활용해서 만든 봇을 슬랙에 초대한다.

참 쉽죠?

#1 Confluence 문서 다운로드

Confluence 기준으로 문서 다운로드 방법을 소개하겠습니다. Notion, Google Docs도 다운로드 방법이 있으니 필요하시다면 댓글로 알려주세요 .

1. 스페이스 좌측 메뉴에서 스페이스 설정 메뉴를 선택한 뒤, 우측에서 스페이스 내보내기 링크를 클릭합니다.

2. HTML을 선택하고 다음 을 클릭합니다.

3. 사용자정의 내보내기 를 선택한 뒤, 다운로드를 원하는 페이지만 선택합니다. 너무 많거나 너무 다양한 정보를 모두 담을 경우 답변의 질이 떨어질 수 있으니, 최대한 목적에 맞는 문서만 선택합니다.

4. 다운로드 파일을 준비하는데 1–5분 정도의 시간이 소요될 수 있습니다. 준비가 완료되면 해당 파일을 다운로드합니다.

#2 문서 합치기

OpenAI Assistant는 현재 지식 추출 파일을 20개로 제한하고 있어서, 다운로드 받은 문서를 하나의 파일로 합친 뒤 업로드 해야합니다.

Merge Text Files 온라인 도구를 활용하면 다운로드한 Zip 파일을 손쉽게 OpenAI 용 파일로 변경할 수 있습니다.

#3 OpenAI Assistant 만들기

OpenAI Assistant 페이지를 방문합니다. 아직 계정이 없을 경우 가입이 필요합니다.

우측 상단의 Create 버튼을 클릭한 뒤 다음 내용을 채워 넣습니다.

• Name — 사용하고 싶은 봇의 이름를 적습니다.

• Instructions — 봇이 수행하기를 바라는 내용의 프롬프트입니다. 다음은 피플팀 봇의 프롬프트 예시입니다.

피플팀 Q&A 봇은 사람들을 위한 친근하고 접근하기 쉬운 Q&A 봇입니다. 이 봇은 회사의 업무 프로세스를 안내하며, 특히 운영 관련 질문에 집중하고 법률 자문은 피합니다. 봇은 친근하면서도 전문적인 어조로 소통하며, 핸드북의 내용을 엄격히 준수합니다. 사용 가능한 정보에 한계가 있을 때, 봇은 예의 바르게 사과하며 다른 정보 소스를 제안합니다. 중요한 것은, 사용자의 질문이 불분명할 경우 피플팀 Q&A 봇은 적극적으로 질문을 명확히 하여 가장 정확하고 관련성 높은 조언을 제공합니다. 이 접근 방식은 효과적이고 정확한 소통을 유지하는 데 도움이 되며, 핸드북 기반 지침을 제공하는 봇의 목표와 일치합니다.

• Model — 현재 제일 최신 모델인 gpt-4-1106-preview 를 선택합니다.

• Retrieval — 지식 추출을 위한 옵션입니다. 이 옵션을 활성화합니다.

• Files — 지식을 담고 있는 파일입니다. Add 버튼을 눌러서 앞서 만든 handbook.txt 파일을 업로드합니다.

• Save 버튼을 눌러서 Assistant를 생성합니다.

#4 Slack 에 추가하기 (feat. PlugBear)

PlugBear는 LLM 앱을 Slack과 같은 채널에 연동시켜주는 노코드 도구입니다. PlugBear를 활용하면 앞에서 만든 Assistant 를 Slack에 쉽게 붙일 수 있습니다.

1. 우선 https://plugbear.io 에 무료로 가입한 뒤 Channels 페이지에서 Slack 섹션의 Activate를 클릭해서 Slack workspace를 연동합니다.

2. OpenAI API Key를 생성합니다. API keys 에 방문해서 Create new secret key 버튼을 눌러서 생성할 수 있습니다. 임의의 이름으로 키를 생성한 뒤, 생성된 값을 잘 복사해둡니다. (sk-… 로 시작하는 문자열입니다.)

3. LLM Apps 페이지에서 Add App 버튼을 클릭한 뒤, 앞서 만든 OpenAI API Key를 붙여 넣습니다.

4. Assistant 항목에서 앞서 만든 Assistant 를 선택한 뒤 Create 버튼을 누릅니다.

5. 마지막으로 Connections 페이지에서 New Connection 버튼을 눌러 Slack 과 Assistant를 연결합니다. 원할 경우 특정 Slack 채널에서만 동작하도록 선택할 수도 있습니다.

#5 Slack에서 사용해보기

앞서 연동한 슬랙 채널에서 /invite @PlugBear 를 입력해 봇을 초대합니다. @PlugBear를 멘션하면서 질문을 하면 봇이 답변을 줍니다.

설명이 길었지만 직접 따라해보면 금세 Slack에서 동작하고 있는 봇의 모습을 볼 수 있습니다. 우리 함께 AI의 도움을 받아서 더 중요한 일에 집중하고 더 좋은 가치를 만들어보시죠!

PlugBear - LLM 앱과 채널 연동

안녕하세요, PlugBear (https://plugbear.io) 제품을 런칭하게 되어 소개 드립니다. PlugBear는 사용자가 다양한 방식으로 만든 LLM app을 Slack, Discord 와 같은 채널에 손쉽게 연결할 수 있게 도와주는 서비스입니다.

현재 OpenAI Assistant와 Slack 연결을 지원하고 있습니다. 곧 Discord, Zendesk와 같은 추가 채널을 지원할 예정이며, SDK 제공을 통해 매우 쉬운 형태로 LangChain, OpenAI API 등으로 구축한 LLM app도 연결할 수 있게 지원할 예정입니다.

많은 관심 부탁드립니다, 감사합니다!

Runbear Pivot Story / Building in Public

런베어 팀이 지향하는 방식 중 하나는 Building in public 방식이다. 우리가 무엇을 만들고 있는지 공개적으로 공유함으로써 사람들과 함께 제품을 정의하고 개선하나가는 방식이다.

우리가 좋아하는 방식들은 하나같이 말은 쉽고 행동이 어려운데, Building in public 또한 그렇다. 그 중 가장 어려운 부분은 우리가 겪은 실수와 실패담을 공개하는 일이다. 실수와 실패로부터 배움으로써 성장 엔진을 구축해나가고 있다고 생각하지만, 이를 공개적으로 공유하는 것은 다른 얘기다.

(Fixing a flying plane)

어렵지만 런베어 팀의 삽질 내용을 공유해본다.

Value Prop Pivot

런베어 첫 출시 당시 정의한 이상적인 고객 프로필(ICP)는 데브옵스 엔지니어다. 이들은 각 제품팀과 소프트웨어 엔지니어로부터 들어오는 수많은 지원 요청을 받는다. 그들의 재능과 역량에도 불구하고 수많은 toil 때문에 더 중요한 업무에 집중하지 못한다.

우리의 솔루션은 그들이 지식 기반을 쉽게 구축하고 그 지식을 쉽게 활용할 수 있게 돕는 것이었다. 잘 안착하면 데브옵스 엔지니어는 플랫폼 구축 등 더 중요한 일에 시간을 쓸 수 있고, 각 제품팀은 스스로 급한 일을 해결할 수 있다.

이상은 높고 아이디어는 쉽고 실행이 전부인데, 그 실행이 가장 어렵다.

발견한 문제

• 미래에 주어지는 가치를 위해 미리 준비를 하는 행위는 생각보다 훨씬 비싸다. 향후에 발생하는 장애 혹은 문제 해결을 위해 미리 Runbook을 만드는 일은 쉽지 않다. 조직 문화와 업무 프로세스 변경이 수반되어야 하는데, 이를 달성하기 위한 Time-to-value가 상당히 길다.

• 제품팀 개발자가 30명 이하인 조직은 이 문제가 그리 크지 않고, 그보다 큰 조직은 내부 운영 인프라에 접근하기 위해 필요한 보안과 의사 결정 프로세스가 빡세다.

• 데브옵스 엔지니어의 주요 업무는 기술 지원이 아니라 개발 및 운영 환경 구축이다. 주요 업무를 도와주는 것과 부수적인 업무 공수를 줄여주는 것 중에서 전자가 더 hair-on-fire 문제로 인식된다.

발견한 기회

위 문제를 해결하기 위해 초기 고객과 후보 고객을 만나고 이야기 나누면서 시장과 문제에 관해 더 학습할 수 있었다.

• 기술 지원(Technical Support)은 외부 고객 요청이 내부 고객 요청보다 급하고 비싸다. Support engineer를 포함한 고객 지원 관련 팀원은 이 업무가 주요 업무이고, 이는 고객 만족도와 직결되는 만큼 매우 중요하게 여겨진다.

• 외부 고객을 지원하는 일은 ‘비용’보다 ‘성장’의 관점에서 접근할 수 있다. 현재 시장 상황상 비용 절감의 중요도가 높기는 하지만, 여전히 돈은 ‘성장’ 분야에서 더 많이 쓰인다.

• 기술 제품은 공개되어 있는 기술 문서가 많다. 즉, 고객이 Runbook을 미리 작성하지 않더라도 공개된 문서를 먼저 학습시킴으로써 Time-to-value를 앞당길 수 있다.

위와 같은 발견을 바탕으로 주요 용례를 내부 인프라 자동화 도구에서 고객 기술 지원 도구로 피봇하기로 결정했다.

Pivot은 ‘축을 중심으로 도는 행위’다. 갑자기 완전히 다른 일을 하는 것이 아니라, 중심축을 바탕으로 더 좋은 방향을 향해 움직여 보는 일이다. 이번 피봇의 중심축은 ‘핵심 문제(기술 지원)과 해결책’이고, 변경점은 ‘주요 고객과 용례’다. 추후 내부 고객 기술 지원 또한 우리가 해결할 문제지만, 스타트업으로서 고객에게 가장 중요하고 급한 문제부터 시작하는 것이 중요하다고 판단했다.

Business Trip

런베어는 처음부터 미국 시장을 중심으로 설립되었다. 고객과 문제를 이해하려면 시장이 존재하는 곳에 있어야 한다. 런베어 팀은 실제로 미국에 해당 문제가 있는지 확인하기 위해 6주간 미국 출장을 다녀왔다. 학습한 내용이 정말 많지만, 간략하게 몇 가지만 추려보자면:

• 짧은 기간 동안 CX Summit이 다수 열렸을 정도로 Customer experience 분야 종사자와 전문가들이 정말 많다.

• Zendesk, ServiceNow, Intercom 등은 한국에서 일반적이지 않지만 미국에서는 너무 당연한 고객 지원 채널이다.

• 고객 지원 분야의 AI 영역은 경쟁이 엄청(x10)나게 심하다. Zendesk 같은 플랫폼이 직접 AI를 만들고 있는 것은 너무 당연한 얘기고, 심지어 WeWork 라운지에서 일하고 있는 옆 사람에게 뭐 만드냐고 물어보면 CX AI 만들고 있다고 답할 정도다.

• 알고 있었음에도 새삼 느꼈지만 미국은 특정 작은 분야에만 집중해도 충분히 고객이 많을 정도로 크다. 동일 분야에 대해 미국 시장과 한국 시장을 비교하면 신기하게도 40배 정도의 차이가 난다고 한다. 동시에 어떤 작은 분야라도 시선을 조금 돌리면 경쟁자가 있을 정도로 경쟁이 심하다.

(Meeting with Amit, the president of Datadog)

정말 감사하게도 지인의 소개로 데이터독 프레지던트 Amit을 만날 기회가 있었다(Q Lee, thank you!). Amit은 매우 친절하게 우리에게 도움되는 조언을 많이 해주었다. 그는 “적어도 Software 분야에서 정말 큰 기업을 만들고 싶다면 현재로서 미국이 유일한 답”이라고 말했다.

Future Plan

CX 분야의 자동화 AI는 현재 단순 작업 자동화에 집중되어 있다. 어딘가에 적혀있는 사용 방법을 물어본다거나, 환불 방법을 알려주는 등 확실히 빈도가 높고 쉽게 해결할 수 있는 low hanging fruit 문제다. 아주 매력적인 문제인 만큼 경쟁도 많을 뿐더러, 스타트업이 플랫폼과 직접 경쟁하기에 경쟁력이 약하다.

런베어는 기술 제품에 집중해서 문제 해결(Troubleshooting)에 집중할 예정이다. 기술 제품의 고객 지원 요청은 커머스와 같은 분야의 고객 지원보다 난이도가 상당히 높다. 기술 문제 해결 요청이 절반에 가까운 비중을 차지하고, 이런 문제 해결 요청은 단순히 문서에서 관련 내용을 찾아준다고 해결되지 않는다. 질문자 혹은 전문가에게 관련 맥락을 더 물어봐야 하기도 하고, 시스템 상태 정보를 확보해야 하며, 최종적으로 해결을 위한 실행이 수반되어야 최종 해결까지 이끌 수 있다.

런베어는 이를 해결하기 위해 “문제 해결 계획 수립 → 정보 수집 → 정보 기반 다음 단계 계획 수립 → 반복 → 실행 → 문제 해결”의 방식으로 기술 제품의 기술 지원을 자동화 할 예정이다.

스타트업은 움직이는 과녁을 영점 조절이 되지 않은 총으로 맞추는 것과 같다. 빠르게 몇 발 쏘면서 영점을 맞추면서 동시에 과녁이 움직이는 쪽으로 계속 다시 조준해야 한다. 다시 말해서, 그냥 아주 엄청 어렵다. 어려운 일이고 아직 가야할 길이 멀지만 그 결과는 값질 것이다.

달려보자 Runbear!