10X AI Club

AI 관련 프로젝트들을 함께 공유하며 최신 기술들을 직접 활용할 수 있도록 배워가는 클럽입니다. 온라인 뿐만 아니라 오프라인 정기 모임을 통해 스타트업 파운더들, 빌더들, 학생들이 함께 모여 서로 인사하고 아이디어를 키워갈 수 있는 클럽이 될 예정입니다.

공개 910 멤버

가이드라인

["클럽 신청 전 디스콰이엇 프로필(이력, 스킬, 관심 토픽)을 꼭 작성해주셔야먄 클럽 가입이 승인됩니다. ","만들고 있는 프로덕트도 있다면 프로필에 올려주세요. ","클럽 승인이 되면 오픈카톡방에 초대해드리겠습니다.","AI 활용 사례와 실제로 활용하기 위해 만드는 법까지 공유할 예정입니다.","정기 오프라인 모임과 세미나들을 열 예정입니다."]

멤버

Cailyn Yong

솔로프리니어의 인생 첫 B2B Sales 과정과 후기: 생성AI 챗봇

최근에 10X AI Club 1기 운영을 하면서 많이 바빠진 관계로 글을 못 올리고 있었습니다. 이 외에도 유투브 채널을 운영하고 있었는데 가장 놀랐던 부분은 1기 모집을 할때 정말 많은 분들께서 유투브를 통해 유입됐다는 것이었습니다. 실제로 여러 개발 문의가 유투브 채널을 통해서 들어왔고, 오늘 글에서는 다소 험난했던(?) 이 과정에 대해 생각을 정리하고자 씁니다.

커뮤니티 Growth부터 B2B 세일즈까지

가장 먼저 커뮤니티부터 설명을 시작해야할 것 같아요. 스타트업을 시작하는 계기와 전략은 정말 다양하지만, 저는 처음에 10X AI Club을 만들면서 얘로 창업을 해야겠다, 돈을 벌어봐야겠다로 시작한건 아니었습니다. 많은 분들께서 처음에 커뮤니티 운영을 한다고 했을때 "수익이 잘 안날텐데 왜하는지?," "이걸로 사업을 할건가요?"의 질문을 꽤 받았었어요. 그럼에도 불구하고 전 계속 했습니다. 제가 처음으로 너무 재미있게 느꼈던 일들이라. 전에는 하루에 12시간씩 일하라 그러면 절대로 하지 못했던 것을 이제는 자의로 하게 되더라구요.

그래서 10X AI Club에 인사이트 글과 생성AI 프로젝트 개발 방법 글들을 꾸준히 올리면서 계속 키웠고, 운영한지 이제 3개월 정도가 됐습니다. 10X AI Club를 더욱 키우기 위해 9월 25일에 올렸던 목표들입니다:

어떻게 될진 저도 잘 모르긴한데 이미 머릿속으로는 세워놓은 계획들이 몇개 있어서.. 이렇게 갈 것 같네요.
10X AI Club은 국내 최대 AI 커뮤니티가 된다. 단순히 사이즈보다는 정말로 사람들에게 도움이 되는 커뮤니티가 될 것이다.
10X AI Club의 Substack, Twitter, LinkedIn 뉴스레터와 Youtube podcast/개발 과정 동영상 업로드
10X AI University를 통해 라면 수익성을 얻고 모든 사람들이 한번이라도 AI 개발을 해보게 한다. 한번이라도 직접 자신의 업무에 AI 툴을 활용할 수 있게 한다.

2번째 목표가 조금 바뀌었는데, 여러개를 동시에 하기에 너무 힘들었어요.

그래서 유투브에 올인하기로 하고, 9월 17일에 '에라 모르겠다' 생각하고 첫 동영상을 올린 후 지금은 총 14개의 영상을 업로드했고, 구독자 2400명 달성, 그리고 가장 많은 조회수는 1.7만회를 찍었습니다.

이제 12월이 됐는데, 10X AI University를 런칭한 첫 달(10월)에 라면 수익성을 달성했습니다.

현재 운영하고 있는 10X AI Club 1기를 통해서 저는 첫 달에 달성한 라면 수익성을 10X 키웠어요.

이렇게 커뮤니티가 커지고, 수익이 발생하면서 더 다양한 BM들을 시도해보고 싶었어요. 그 중 하나는 유투브에 "챗봇 개발하는 방법"을 올리면서 설명란에 따로 자신의 서비스에 도입하고 싶으신 분들은 탈리 폼으로 신청을 받게 했습니다. 이런식의 B2B Sales는 인생 첫 경험이었고, 어떻게 하는지 전혀 모르는 상태에서 시작했어요.

영상을 업로드하고 나서 3일만에 첫 고객이 신청서를 제출했고, 그날 밤에 심장을 부여잡은 채 전화를 걸었습니다. 질문 드릴것도 옆에 메모장에 다 적고 준비했는데 생각보다 원하시는게 명확해서 쉽게 통화를 진행했고, 어떤 기능들을 구현할 수 있는지 설명 드린 후, 견적을 전달드리고 통화 마무리를 했습니다.

그 뒤로 다른분께서도 문의를 주셔서 두번째 분부터는 좀 더 쉽게 진행할 수 있었어요. 그분이 원하셨던 것은 사내에서 직원들끼리 사용해볼 수 있는 서비스 매뉴얼 챗봇이었습니다. 전화를 끊고 그날 바로 학습시킬 데이터를 받고, 챗봇을 만들기 시작했습니다.

챗봇 만드는 과정

여기서부터는.. ㅎ 험난했던 개발 과정입니다.

사실 가장 놀랐던 부분은 문의 주신 분들께서 제 영상들을 보며 프로젝트들을 만들어보신 경험이 있었고, GPTs에도 프롬프트 엔지니어링을 직접 하시면서 정말 많은 시도들을 해보셨더라구요. 그래서 프롬프트 자체도 직접 만드신걸 따로 받아서 학습을 시켰어요.

제가 개발하면서 가장 많이 배웠던 팁들을 공유드리자면

파이썬으로 만들면 보통 streamlit을 사용하는데 Streamlit에 앱 배포 절대하면 안됨. 클라우드 위에서 앱이 돌아가는 형식인데 한 유저당 사용할 수 있는 양의 한계가 있음. 이 한계치가 넘어가면 streamlit에서 앱 서버를 맘대로 다운시켜버림 😨
OpenAI 통해서 답변들을 생성하는데 custom prompt를 추가하면 오히려 결과물의 퀄리티가 떨어짐. 할루시네이션을 훨씬 더 많이 함. 프롬프트 없이 데이터베이스에 데이터 업로드 하고 그걸 불러올 수 있는 Conversational Retrieval Chain, 혹은 Retrival QA chain만 사용하는게 더 잘 불러옴. 대신 원하는 답변을 계속 학습 데이터에 매뉴얼로 추가해야됨.

저는 개발자의 입장으로써 답변 퀄리티가 너무 마음에 안들어서 돌아버릴 것 같았어요. 하하. 실제로 상용화 시키기엔 할루시네이션을 잡는게 가장 어렵다는걸 몸소 체험했고, 프롬프트를 수정할때마다 답변이 달라져서 시간도 많이 걸렸습니다. Streamlit에 배포했는데 결국 다 crash해서 다시 처음부터 Next js로 짜고 Vercel로 배포를 했습니다..

챗봇 사용자들의 후기

문의 주신 분께서 정말 감사하게도 사용자들의 피드백을 따로 받아서 저한테 전달해주셨어요.

좋았던 점

단순응대는 능률향상에 좋을 것으로 보임. 실제로 사업관련업무 문의가 올 시, 담당자들도 책자를 보고 안내하거나 홈페이지 규정 및 서식을 안내하는 경우가 대부분임.
습득한 정보에 대해서는 질문 수준에 따라 정보를 제공하고 있음. 관련 정보 외에는 모른다고 답변됨
공통적으로 궁금해하고 질문하는 민원에 대해서 쉽게 대응할 수 있어 업무 부담이 줄어들 수 있을 것 같다.
시도 자체가 가장 맘에 듭니다.
관련 규정을 직접 찾아보지 않고 쉽게 찾을 수 있어 업무에 도움이 됨
찾아보지않고도 궁금한사항을 즉답받을수있는점
질문을 간략하고 짧게 입력해도 자체적으로 질문을 변환하여 답변이 가능
기초적인 민원 응대 가능으로 불필요한 시간 낭비를 줄임
기본적인 질문을 사용자가 직접 입력하여 궁금증 해소 가능 (단순 자주묻는 질문을 클릭하여 사용자가 답변을 얻는 방식이 아닌 사용자가 궁금한점을 입력하고 답변을 얻을 수 있다는 점)
반응이 즉각적이기 때문에 업무시간 외 빠른 질문 해소 가능
답변의 속도 및 간단한 질문에 대한 답변 내용
관련 문의가 많은 특정 기간에 전화상담을 대체하면서 사업담당자의 업무가중을 줄일 수 있을 것이다.
빈번하게 들어오는 문의에 대한 답변이 잘 되어 있다
관련부서가 아니더라도 궁금한 점이 생기면 편하게 질의가 가능한 점
최근 트렌드를 반영한 새로운 도전. 그 어떤 분야보다도 시도가 중요합니다.
담당자 부재시, 전화 응대가 어려울 경우에 담당자를 대신하여 1차적인 답변, 기본 개념에 대한 답변이 가능하다.
간단하게 알고 싶을 정보가 있을 때 사용하면 좋을 것 같습니다.

아쉬운 점

아직은 자료로 인한 답이 부족하다보니, 질문을 응대할 수 있는 정보를 불러왔으면 좋겠음.
프롬프트 등 맞춤형 질문 작성법 교육이 필요.
디테일한 답변이 부족함
대부분 답변을 모른다고 답하거나, 답변을 하더라도 오답이 많아 학습이 더 필요할 것으로 보입니다.
공개되어 있는 자료를 통해 정보를 획득할 수 있었으면 좋겠어요.
일부 오타, 안내 절차 다름, 사업 담당자 안내 오류 등 일부 개선이 필요할 것 같습니다.
답변이 정확하지 않는 부분 등 개선이 필요할 것 같음
일부 내용이 다르며, 추상적으로 답변함에 따라 공신력이 떨어져보입니다. 다만, 이런 내용들은 지속 학습시키면 되는 사항이고, 매우 유용하게 사용될 것으로 예상됩니다. 만드느라 고생많으셨습니다.
사람이 질문하는 의도를 명확히 알아차리지 못함. 너무 고생하셨습니다 !
답변에 대한 검증이 필요함
현재 초기단계이다보니 정보가 많지 않고, 지속적으로 사용하기 위해서는 주기적인 정보 최신화가 필요해보인다
답변의 내용이 좀 더 구체적으로 제공되어야 한다. 빈번하게 문의하는 내용의 키워드만을 추출하여 답변을 낼 수 있도록 구축해 놓으면 더 활용성이 높을 것 같다.
챗GPT와 같은 수준의 툴을 만드시려 한다면, 딥러닝을 통한 인공지능 학습이 선행되지 않는한 매우 어려운 작업이라 생각합니다. 적어도 크롤링 수준에서라도 관련 자료를 긁을 수 있으면 좋은텐데 해당 작업 또한 쉬운 것은 아닙니다.
같은 질문에 다른 답변으로 자료의 신뢰도 부족

총 21명이 피드백을 주셨는데, 역시나 예상했던대로 할루시네이션 관련 문제가 가장 많았습니다.

하지만 반대로 업무향상에 많은 도움이 됐다는 후기를 보고 개인적으로 너무 뿌듯했어요. 실제로 OpenAI를 활용한 생성AI 챗봇이 이렇게 업무에 쓰이면서 긍정적인 반응이 보여서 정말 설레고 두근거렸습니다. ~~(이게 스타트업하는 맛인가?)~~

21명 중 20명은 이 챗봇이 필요하다고 답변을 주셨습니다. 개발 측면에서 잘 안돼서 힘들었는데 제가 예상한거와 달리 많은 분들께서 필요하다고 하셔서 놀랐습니다.

마무리

이제 이 과정을 겪은 제 솔직한 장단점을 나열해볼게요.

장점:

내가 만든 제품이 사용자들에게 도움이 된다는게 정말 뿌듯하다. 인생의 의미를 찾아야한다면 여기서 찾을 수 있지 않을까?

단점:

솔직하게 말하자면 개발 과정이 재밌고 설레지 않았음. 그치만 어떤 것이든 그 과정은 험난할 수 밖에 없지 않을까? 실제 사용자들이 생겼을때 나오는 반응들과 거기서 느끼는 감정들이 중요하지 않을까?
상용화수준까지 만들려고 하다보니 개발에 노력을 많이 들여야했음. 생각보다 많은 시간 소요. -> 추후에 이걸 시스템화 시키면 시간 소요가 덜 되지 않을까?

9 December 7, 2023 8:40am

이성규

AI 생성 콘텐츠를 고려한 Next Robots.txt 프로토콜 협의 참여하기

구글 검색 팀에서는 생성 AI 콘텐츠를 고려한 Robots.txt 표준 업데이트를 리딩하면서 관련 업계의 참여를 기대하고 있어요.

요즘 검색을 하다보면 가끔씩 이 콘텐츠가 정말 사람이 만든 것인지, 혹은 인공지능 생성한 콘텐츠인지 궁금할 때가 많아지고있죠. 딱 봐도 이건 AI가 자동생성한 거구나 알아챌 수 있을 정도로 티나는 콘텐츠도 많았지만, 이제는 그 수준이 높아져서 쉽게 구분하기 어려워지고 있구요.

생성 AI 모델은 이미 인터넷에 공개된 콘텐츠를 크롤링해서 만들어지고 있고, 또 이러한 모델에서 새롭게 만들어진 콘텐츠는 누구나 특별한 조건 없이 조회할 수 있도록 공개된 콘텐츠를 통해 만들어졌지만 분명 콘텐츠 생산자가 AI가 활용하는 것에 동의하지 않은 경우도 꽤 많았겠죠.

텍스트 뿐 아니라 이미지, 영상 등 콘텐츠 유형이 점차 다양해지고 이에 대한 이용 권한 역시 콘텐츠 생산자 입장에서 충분히 제어할 수 있길 원하지만, 현재의 웹 크롤러는 이런 세분화된 권리 표현을 할 수 있는 표준화된 방법이 없어요. 게다가 RAG (Retrieval-Augmented Generation) 와 같은 AI 기술들을 이용해서 모델이 아닌 서비스로서 인터넷에 공개된 콘텐츠를 가져가 활용하는 경우도 늘어나고 있는데요. 이러한 방식으로 콘텐츠가 이용되는 것에 대해 콘텐츠 생산자가 동의를 했는가 역시 사회적 합의가 제대로 이뤄졌다고 볼 수 없구요.

현재 기존 Robots.txt 프로토콜을 그대로 활용해서 Yes or No를 할 수 있는 수준으로 AI 에서 사용여부에 대한 의사 표현을 할 수는 있습니다. 예를 들어 OpenAI GPTBot 은 ‘User-agent’: GPTBot 을 통해 차단여부를 정할 수 있도록 가이드 하고 있어요. 하지만 호스트가 정확히 그 크롤러봇 이름을 알고 일일히 표현하는 방식으로는 한계가 명확합니다.

최근 구글은 2023 Google I/O 중 향후 AI 콘텐츠의 사용성을 고려한 프로토콜 업데이트 협의(AI Web Publisher Controls)를 시작하며 전세계 기술, 콘텐츠 퍼블리셔 등 업계 관계자와 함께 참여해주길 요청했어요.

이를 리딩하고 있는 팀은 구글 검색 관계 관리 (Google Search Relations Team) 팀이고 이 팀은 구글 SEO 에 대한 가이드 문서를 제공하고, 구글 봇 표준을 관리하는 업무를 하는 팀인데요. 이 협의를 통해 새로 업데이트되는 Robots.txt Protocol 은 Google Bard, Vertax AI 에 적용될 계획이라고 하구요. 이렇게 되면 사실상의 웹 표준으로 받아들여질 가능성이 높으니 이 논의가 향후 AI 콘텐츠의 공개적인 사용에 대한 표준이 될 수 있을 정도로 매우 중요한 논의라고 생각됩니다.

그리고 최근 AI Web Publisher 킥오프가 2023.10.27 에 있었습니다.

Google Search 팀 2023.10.27 올린 AI Web Publisher Controls Kickoff 영상

위 영상에서 이 논의에서 다뤄져야 하는 주요 4가지 담론을 이야기하는데 다음과 같습니다.

담론 4가지 Slides PDF 참고

Alignment (일치성)
크로링 봇이 과거 주로 검색 등 웹을 다루는 곳이 중심이었다면 이제 새롭계 AI 업계로 넓어졌는데요. 구글 역시 이러한 확장을 고려해서 새롭게 AI 목적에 맞도록 포괄적으로 컨트롤할 수 있는 프로토콜로서 Robots.txt 가 기능하기 위해 새로운 option, taxonomy 등 웹, AI업계, 콘텐츠 생산자 모두 일관성있는 기준이 필요합니다. 특히 웹 콘텐츠 생산자는 40억개 이상의 호스트가 존재하는데, 이러한 40억개 호스트가 최대한 영향을 받지 않도록 하는 표준을 만드는 것이 매우 중요하다고 보고 있구요.
Transparency (투명성)
봇이 콘텐츠 호스트에 접근할 때, 봇이 왜 접근하는 지 목적을 명확하고 투명하게 제공할 수 있어야 합니다. 호스트는 봇의 목적을 보고 콘텐츠 접근 여부를 정할 수 있으므로 봇이 충분한 정보를 제대로 제공하는 것이 중요한데요. 이러한 표준을 잘 지키기 위해 구글 검색 봇은 충분히 정보를 제공하고 있고 (이 논의를 주도하는 팀이 이 역할을 하니까 당연히.. 😅 ) 다른 봇들도 그러하길 기대하고 있는 눈치? 입니다. 이를 위해 bot 정보를 중앙에서 등록하고 host 가 접근가능한 registry 도입도 하나의 대안으로 언급됩니다.
Granularity (세분성)
검색엔진과 생성AI 앱 등에서 사용되는 목적, 방식 등이 완전히 다를 수 있기 때문에 이를 나누는 과정. 또 AI 안에서도 목적 세분화가 잘 이루어져야 합니다. 어떤 방식으로의 이용은 허용하고 말지 콘텐츠 생산자가 잘 정의된 경우가 아니라면 분명 AI 발전이 오히려 닫힌 인터넷으로 가도록 만들 수 도 있으니까요. 그렇다고 너무 세분화되면 부작용도 많을 것이고 말이죠. 그리고 새로운 목적, 사용방식을 가진 크롤러가 계속 등장할 것을 고려해서 이러한 새로운 유형이 계속 늘어나도 호스트 영향도는 최소화 되어야 합니다.
Adoption (적용성)
구글 등의 검색, 웹 업계 뿐 아니라 관련된 AI업계 및 스타트업 그리고 웹 콘텐츠 생산자 까지 관계자가 정말 많은데요. 그러면서도 최대한 다수가 이를 존중하고 적용할 수 있어야 비로소 제대로 표준으로서 기능할 것이기 때문에 잘 적용될 수 있도록 하는 것도 중요한 논의 주제 입니다.
이를 위해 여러가지 도구를 만들어야 할 수도 있구요. 봇에서 사용되는 certificate 인증 탑재도 고려될 수 있습니다.

이러한 논의에 참여하고 싶으시면 지금 바로 아래 mailing list 에 메일을 입력하면 됩니다.

🔗 AI Web Publisher 메일링 참여 신청

현재 첫번째 피드백 일정이 11. 28 에 종료되었기 때문에 이에 대해 정리된 내용 조만간 구글에서 공유할 것 같아요.

사실 이번 이 kick-off 논의 내용 관련 정보나 뉴스 기사, 영상 조회수 등을 보면 크게 업계에서 관심을 받지는 못하는 듯 합니다. 하지만 분명 Robots.txt 는 앞으로 AI 콘텐츠 시대에 중요한 표준이 될 것 같습니다. 네이버, 구글 모두 Robots.txt 표준에 선언된 사이트 게시자의 의도를 보고 해당 웹사이트의 콘텐츠를 검색에 이용할지 결정하고 있으며, 그렇기에 인터넷에서 검색사업자가 현재 웹 콘텐츠를 제공하는 것은 콘텐츠 생산자와의 합의하에 제공하고 있다고 말할 수 있으니까요.

그래서 이번 Robots.txt 의 개선방향은 웹 뿐 아니라 향후 AI 업계 사업자들에게 일종의 콘텐츠 사용권을 어떤 수준으로 얼마나 인정받게 될지 결정되는 중요한 과정이라고 생각 됩니다. 그래서 저는 국내 AI업계도 적극적으로 이 협의에 참여하고 의견을 내는 것이 중요하다고 생각합니다.

스닙팟도 웹 콘텐츠 크롤러봇을 운영하고 있는 정보 제공 사업자이기 때문에 Robots.txt 를 준수하고 있으며, 이번 프로토콜 개선이 어떻게 진행되어 갈지 주목하고 있습니다. 그래서 이번 11월 피드백에 참여하고 지속적으로 상황을 추적하려고 합니다.

앞으로 이와 관련된 내용 계속 스닙팟 #정보 검색 팟 및 #인공지능 기술 트렌드 팟에서 공유할 예정입니다. 관심있는 분은 스닙팟에서 해당 팟 팔로우 부탁드립니다!

스닙팟

#해시태그로 인기 있는 콘텐츠가 모이는 주제 탐색형 서비스

1 December 3, 2023 2:02pm

Lina Kim

홈퍼니싱 시장에서, 가구 도메인을 선점하는 버티컬 솔루션이 되기 위한 뚝딱 스튜디오의 여정

어느덧 PMC*W23의 마지막 주차 메이커로그네요! 언제 6주가 지난 걸까요..? 스타트업의 시간은 정말 빠르게 가는 것 같아요🫠 ㅎㅎ

AI&SaaS 주제로 진행되었던 이번 PMC에 참여하면서의 과정과 결과를 회고해 봅니다. 저희는 PMC를 시작하면서 다음과 같은 KPI를 설정했어요.

"뚝딱 AI 스튜디오는 이번 PMC*W23을 통해, 고객사 및 매출 지표 우상향을 위한 프로덕트 개발을 완료하는 것과 AI 자체 모델 내재화를 위한 알고리즘 구축 및 특화에 필요한 추가 학습 이미지 데이터 정제에 대한 세팅을 목표합니다."

일단 CRM 최적화를 위한 프로덕트 개발은, 원했던 기능들을 모두 넣지는 못했지만 최소기능 구현이 가능하도록 개발을 완료하였어요. 현재까지는 2주 정도의 기간 동안 30여개의 고객사가 새 웹페이지에 회원가입을 해 주셨습니다.

이제 저희는 정기적인 의뢰물량 확보를 위해 고객사 수를 늘리는 것과 더불 재구매율에 더욱 집착해보려고 합니다. 이를 위해 가구 회사들과 인터뷰를 계속해서 해 나가고 있어요.

또한 AI 모델 관련해서는, KPI 설정 당시와 방향이 살짝 달라졌습니다. 저희처럼 주인공인 가구를 마스킹하여 보존한 채 뒷 배경인 실내 인테리어 공간을 잘 생성해내는 모델을 만들기 위해서는, 추가 이미지를 학습하여 LoRA로 어떤 생성에 대한 특화를 하는 파인튜닝보다는 현재 존재하는 오픈소스를 잘 조합하여 여러 ControlNet을 붙여가며 실험하는 것이 맞는 방향인 것 같다는 자문을 들었어요. Stable Diffusion WebUI를 활용하여 여러가지 기능들을 붙여가면서 실험해보는 중입니다.

저희 팀은 건설업 베이스의 코파운더들이 창업한 팀으로, 테크 기반의 팀이 아니기에 Product-oriented가 아닌 Business-oriented가 되어야 합니다. 따라서 그 무엇보다 누적 고객사 수와 매출, 재구매율에 대한 지표를 상승시키는 것이 가장 중요하다고 생각하고 있어요. 그에 따른 앞으로 2월까지의 KPI를 새로 정해봅니다.

1.     유료(정가) 이용 고객사수 100개 달성
2.     기간 내(12월 ~ 2월) 재구매율 20% 달성
3.     콜드메일 발송 대상 업체 풀(현재 약 2,500개) 5,000개까지 확장
4.     가구 회사 대면 인터뷰 추가 20개사 진행

사업화로, 결과로, 지표로 증명하기 위한 뚝딱 AI 스튜디오의 앞으로의 여정이 쉽지는 않겠지만, 진심으로 가구 회사들의 문제를 해결하기 위해서, 또한 홈퍼니싱 시장의 활성화를 바라는 마음에서 사업의 도약을 위한 퀘스트들을 하나씩 달성해 나가 보겠습니다!

+그동안 정말 유익하고 재미있었던 PMC 네트워킹 및 세션들을 열어주신 디스콰이엇에 너무나 감사드립니다!

6 December 3, 2023 10:49am

임세진

OpenAI API 적절한 timeout, max_retries 수치 찾기

우선 테스트 프롬프트는 "간단하게 과일들을 주인공으로 해서 작문해볼래?"로 작성했어요.

총 100번 응답 시간을 측정해서 분포를 살펴봤구요(측정 횟수는 다다익선이겠죠), timeout을 변경해가면서 테스트해보면 각자 프롬프트에 맞는 timeout 수치를 찾아낼 수 있겠죠?

max_retries는 충분한 정도라고 생각되는 5로 고정했어요.

from openai import OpenAI
import time
from tqdm import tqdm
import matplotlib.pyplot as plt
import numpy as np

client = OpenAI(api_key="API-KEY")

tries = 100
req_times = []
for _ in tqdm(range(tries)):
    start = time.time()
    client.with_options(max_retries=5, timeout=40).chat.completions.create(
        messages=[
            {
                "role": "assistant",
                "content": "간단하게 과일들을 주인공으로 해서 작문해볼래?",
            }
        ],
        model="gpt-3.5-turbo-1106",
    )
    end = time.time()
    req_times.append(end-start)

hist, bins = np.histogram(req_times)
bins = (bins[1:] + bins[:-1]) / 2.0
hist = hist / np.sum(hist)

plt.bar(bins, hist, color="green", alpha=0.4, width=1.25)
plt.xlabel(r"$t\ [sec]$")
plt.ylabel(r"$P(t)$")
plt.savefig("histogram.png")
plt.show()

분포를 살펴보시면 요청 시간이 생각보다 짧다는 것을 알 수 있어요. timeout을 더 줄여서 측정한 뒤에 적절한 timeout을 찾는 것이 중요하다고 생각되네요.

휴튼

나도 몰랐던 나를 알아가는 질문들

0 November 30, 2023 6:28am

임세진

OpenAI API 사용법 간략한 소개

OpenAI API 속 기능들

일반적인 사용법

from openai import OpenAI

client = OpenAI(
    # defaults to os.environ.get("OPENAI_API_KEY")
    api_key="My API Key",
)

chat_completion = client.chat.completions.create(
    messages=[
        {
            "role": "user",
            "content": "Say this is a test",
        }
    ],
    model="gpt-3.5-turbo",
)

Async 방식으로 요청 시

import asyncio
from openai import AsyncOpenAI

client = AsyncOpenAI(
    # defaults to os.environ.get("OPENAI_API_KEY")
    api_key="My API Key",
)


async def main() -> None:
    chat_completion = await client.chat.completions.create(
        messages=[
            {
                "role": "user",
                "content": "Say this is a test",
            }
        ],
        model="gpt-3.5-turbo",
    )


asyncio.run(main())

실시간 Stream 방식으로 요청 시

Sync

from openai import OpenAI

client = OpenAI()

stream = client.chat.completions.create(
    model="gpt-4",
    messages=[{"role": "user", "content": "Say this is a test"}],
    stream=True,
)
for chunk in stream:
    if chunk.choices[0].delta.content is not None:
        print(chunk.choices[0].delta.content)

Async

하단 URL에서 보실 수 있어요~

이 외에도 다양한 기능들이 있어요~

Nested params와 같이 출력 양식을 정해주는 것도 있구요.

from openai import OpenAI

client = OpenAI(api_key="API-KEY")
completion = client.chat.completions.create(
    messages=[
        {
            "role": "user",
            "content": "Can you generate an example json object describing a fruit?",
        }
    ],
    model="gpt-3.5-turbo-1106",
    response_format={"type": "json_object"},
)
completion.choices[0].message.content

timeout, max_tries 등과 같이 API에 response 관련된 요청 사항을 넘겨줄 수도 있어요.

from openai import OpenAI

# Configure the default for all requests:
client = OpenAI()

# Or, configure per-request:
client.with_options(max_retries=5, timeout=60).chat.completions.create(
    messages=[
        {
            "role": "user",
            "content": "How can I get the name of the current day in Node.js?",
        }
    ],
    model="gpt-3.5-turbo",
)

위의 요청 내용은 매 try 마다 timeout 60초의 제한 시간을 부여하고, 60초 안에 답변 생성이 되지 않으면 max_retries인 최대 5회까지만 생성 시도를 하라는 뜻이에요. (기본 max_retries 값은 2라고 하네요.)

이 두 조합을 적절하게 잘 배합해서 사용하면 원하는 시간 내로 API 요청에 대한 답변을 받아볼 수 있어요. (응답이 오기까지 무기한 기다리지 않아도 된다는 말이죠.)

프롬프트에 따라 적절한 timeout과 max_retries 값은 달라질 것 같으니, 각자 서비스에 맞는 파라미터 값들을 찾아내는 것이 필요할 것 같아 보여요.

휴튼

나도 몰랐던 나를 알아가는 질문들

0 November 30, 2023 6:03am

EddyLab

[1회] 10X AI Club 첫 오프라인 정기모임 후기

날짜: 11월 22일
시간: 오후 19:00 - 21:00
위치: 마루360 11층

처음 이런 AI오프 미팅을 참석하여서,
모임장소가 집근처이기도 하고 일찍 퇴근해서 도착을 했습니다만,

모임장소 건물은 사진에 주차등록을 하지 않으면 안된다고 해서
주변 주차장 탐색 하느라 뒷골목을 한참 찾아 다니느라 시작 5분전에 겨우 도착..

11층엘리베이터를 내려서 복도에서 매니저 Cailyn(캐일런) (닉네임:용구님 ^^)님을 처음 만났는데,
=> 호칭을 매니저님이라고 해야 하는지, 방장님이라고 해야 할지 ??

한눈에 딱 알 정도로 (강의 동영상으로 1달동안 뵙다보니 ㅎㅎㅎ) 친숙해서
금세 인사드리고 미팅룸으로 들어갔습니다.

미리 여러 테이블에 여러개의 피자들을 준비를 해 주셔서,
모임 시작전에 저녁식사 대신으로 충분히 먹으면서 옆자리에 계신 분과
AI관련 근황토크를 나누었습니다.

근데, 매니저 Cailyn(캐일런)님이
심한 몸살과 광합성 부족(?)으로 면역건강이 안 좋으신 상태인지라...

말씀을 거의 안하시고 다른 분 이야기 경청만 하셨네요...
=> 저도 주말에 낮잠을 춥게 자다가 감기몸살로 ^^;; (마스크착용 참석)
=> 요즘 AI관련으로 하시는 대부분들이 과중한 업데이트 input 정보로,
평소의 수십배의 집중력을 요하는 업무들을 하고 있으셔,
환절기에 모두들 건강이 안 좋으신 상태이신 듯.... ㅠ.ㅠ

## 다들 맨탈 & 피지컬 건강부터 챙깁시다 !!! ###

테이블 의자수로는 한 8명 정도 참석하시려나 ? 하고 생각을 했었습니다만,
준비되어 있던 좌석이 부족할 정도로 많은 인원이 참석해 주시고,

모두들 끝까지 남으셔서 각자 인사이트를 얻으시려고 프리토킹을 하시는 모습을 보고,
코로나19 이후에 오랜만에 열정을 느끼게 되더군요 ^^

저도 오프모임은 꽤 자주 개최를 하는 편입니다만,
=> 제가 다른 곳의 매니저 방장 위치에 있다보니,
주관자가 이것 저것 엄청 신경을 써야 하는 것을 잘 알고 있습니다.

주로 세미나 식으로 준비된 자료나 실증 test 결과물들을 알려주는 설명회식인데,

여기서는 각자의 개별 토킹시간을 충분히 주어지는 것이 좀 다른 형식이더군요.

저는 멍~ 하게 준비 없이 와서보니,
AI전문영역에서 한참을 준비하고 달리고 계신 선수분들이 좌르르~~ ㅎㅎㅎ

그래서, 6가지 테마에 맞는 자유논의 시간에 테이블에서 빠져나와서
몸이 안 좋아서 구석에 계신 매니저 Cailyn(캐일런)과

단둘이 대화를 할 수 있는 무료 커피쳇을 하였습니당 ^^

제 몇가지 실패담을 이야기드리고,
매니저님은 다음 세션을 준비 하셔야 해서 바쁘게 움직이시네요...

각자 여러가지 경험적 기술정보를 교류하고,
스타트업에서 어떻게 방향을 모색해서 성장할 지를 진지하게 고민하시는 모습은

제가 그동안 엔젤투자그룹에서 업체 심사평가만을 하던 갑(?)입장에서 벗어나서,
오랜만에 스타트업 CEO나 CTO분들과 같은 공감주제를 가지고 고민하는 입장이 되어서,

그분들의 열정을 느낄 수 있어서 무척 좋은 시간을 보낼 수 있었습니다.

좋은 자리를 마련해 주신 매니저 Cailyn(캐일런)님꼐 감사드리고,
먼저 몸 건강 잘 챙기시기 바라겠습니다.

아직 막막해 보이는 AI시장이지만,
자신만의 경쟁력있는 데이터셋(데이터마이닝)을 잘 구축하시면,
Open AI의 시장포식자의 먹이사슬에서 벗어나

성공 하 실 수 있을 것이라 생각합니다.

다들 건승 하시길 기원합니다, ^^

(추신) 10X AI Club 공동 토이 프로젝트 건의는 꼭 검토해 주시기 바랍니다 ^^

3 November 22, 2023 2:28pm

연주환

GPTsLink를 만들면서 보고 있는 기회 | GPTs 노코드 툴

🧐 먼저 간단하게 GPTsLink를 소개드릴게요.

팍스휴마나 팀은 "현재 GPTs의 검색/탐색이 어렵다"는 문제를 빠르게 해결해보고자 GPTs를 한번에 모아서 탐색/검색할 수 있는 GPTsLink를 만들었습니다.

OpenAI의 GPTs 공개 이후 일주일 뒤에 노션으로 MVP를 만들어 배포했고,

GPTsLink | ALL brand new GPTs 2023-11-13 07-47-15.png

현재는 버전1을 배포 완료한 상태에요.

[버전1 업데이트된 기능]

GPTs 링크 입력 후 자동 업로드 기능
좋아요, View에 따른 트렌딩 기능
북마크 기능

국내외적으로 비슷한 유사 서비스가 굉장히 많이 생기고 있는데, 저희 팀은 OpenAI에서 GPTs를 공개한 이후 빠르게 도메인을 구매해서 저희와 똑같은 도메인명을 뒤늦게 산 서비스(.xyz)도 발견하기도 했어요!ㅋㅋㅋ

현재는 저희를 비롯한 유사서비스가 GPTs의 검색/탐색 문제를 어느정도 해결했다고 생각해요. 하지만 1만여개의 GPTs 데이터를 모아 놓고보니 "어떤 GPTs가 나에게 필요한 GPTs인지 모르는 문제"가 발생했어요. 너무 대안이 많아서 아예 시도도 못하고 나가는 경우가 생긴거죠!

그래서 현재는 인간지능으로 하나하나 큐레이팅하는 작업을 진행하고 있습니다. 서비스에서 큐레이팅도 하고 앞으로 메이커로그로도 남겨보려고 합니다.

🫥 큐레이팅을 하다보니,, GPTs 노코드 툴에 기회가 있다!

큐레이팅을 위해 GPTs를 많이 사용해보고, 다른 커뮤니티에서 만든 GPTs를 구경해봤는데요,

대부분의 분들이 GPTs를 한정적인 기능만 사용하여 만들고 계시다는 것을 발견했어요.

코딩으로 치면 매우 하이레벨의 추상화 레벨에서 뭔가를 만들고 있는 상황이었어요. 여기서 한정된 기능이라 하면 코딩을 전혀 사용하지 않고 빌트인으로 제공되는 OpenAI Retrieval (Knowledge)를 사용하는 경우를 말합니다. 하이레벨의 일률적인 Retriever를 사용하다보니 직접 만든 Retriever보다 성능이 떨어질 수 있고요.

Function call 에 해당하는 Action은 전혀 사용하지 않고 계셨죠. (개인적으로 Action 을 사용해서 정말 와우한 GPTs를 만들 수 있다고 생각합니다.)

대부분의 분들이 한정적인 기능만 사용하는 이유를 생각해보면 GPTs Builder를 통해 개발을 몰라도 만들 수 있기 때문일 것입니다.

커뮤니티를 통해 여러 반응을 확인해본 결과, 한정적인 기능만 사용하는 분들은 개발을 모르는 분들이 많았고, 스스로 만든 GPTs 에 만족을 못하면서 개발을 배워야하는지에 대한 고민을 하시더라고요.

그렇다면 GPTs는 그대로 노코드로 만들면서,

개발자들이 사용하는 기능들을 노코드로 쉽게 붙일 수 있는

GPTs 노코드 툴에 기회가 있지 않을까?

노션, 우피, 카페24, 아임웹, 채널톡, 에어테이블 등이 나왔던 것처럼요!

그래서 당분간 저희는 개발을 곁들여 와우한 GPTs를 만들어보면서 노코드 제작자 분들이 사용할 수 있는 노코드 툴을 만들어보려고 합니다!

GPTsLink와의 연계도 생각하고 있고요.

혹시 GPTs를 만들면서 불편했던 점이나 필요했던 기능들이 있으셨다면 댓글로 알려주세요 🤩

GPTs Link

세상의 모든 GPTs

10 November 20, 2023 5:20pm

William Jung

샘 알트먼은 MS로 갑니다

"우리는 OpenAI와의 파트너십에 계속해서 전념하고 있으며, Microsoft Ignite에서 발표한 모든 것을 혁신하는 능력과 고객 및 파트너를 지원하는 능력에 대한 자신감을 가지고 있습니다. Emmett Shear와 OAI의 새로운 리더십 팀을 알아가고 그들과 협력하는 것을 기대하고 있습니다. 또한 Sam Altman과 Greg Brockman이 동료들과 함께 Microsoft에 합류하여 새로운 고급 AI 연구팀을 이끌게 된다는 소식을 매우 기쁘게 생각합니다. 우리는 그들의 성공을 위해 필요한 자원을 빠르게 제공하기를 기대하고 있습니다" - GPT

5 November 20, 2023 8:47am

최정우

[이벤트] Know Ask시대의 초대장: ChatGPT Plus 가입방법(feat. GPTs)

요즘 저는 GPTs의 파괴력을 체험하느랴 정신이 없이 보내고 있습니다.

주말에는 2시간 동안 프롬프트 엔지니어링 튜닝하고 1시간 강제 휴식을 반복하고 있는 중입니다.

ChatGPT Plus 가입방법

한편 제가 만든 선택동화 로지의 오프라인에서 홍보에 대해 고려해보았는데요.

생각해보니 ChatGPT Plus 가입이 막혀있었습니다.

Screen Shot 2023-11-20 at 2.00.11 PM.png

하지만 제가 방법을 찾았습니다 :)

우연히도 11월 15일 지인에게 선택동화 로지 GPTs 테스트 요청 목적으로 초대권을 보내줬는데,

가입이 막혀있는 상황에서도 초대권을 통한 가입이 가능한 것으로 파악하였습니다.

참고로 초대권은 ChatGPT Plus 3개월치 입니다. (혹시 착오가 있으면 댓글 부탁드립니다.)

따라서 GPTs의 파급력을 시험해보시고 싶은데,

가입을 못하셨던 분에게 기회를 드리고자합니다.

한국 앱스토어 시장 규모

기회의 가치를 한번 말씀드려보겠습니다.

Screen Shot 2023-11-20 at 11.00.55 AM.png

지난해 애플 앱스토어는 1452억원의 매출을 달성한 시장입니다.

GPTs는 1년에 240달러씩 사용해야 진입할 수 있는 입장권이 필요한 시장이지만,

아이폰도 최대 2~3년마다 최소 800달러씩 써야 진입할수있는 시장임을 생각해볼 때,

GPTs Store의 잠재 시장 가치와 본 기회의 가치는 이벤트에 참여하시려는 분의 판단에 맡기겠습니다.

이벤트 내용은 다음과 같습니다.

[이벤트]

Know How, Know Where에 드리는 Know Ask의 시대로부터의 초대장

저에게 디스콰이엇 커피챗으로 아래 두가지를 보내주세요

이벤트에 참여하는 소감(GPTs에 대한 생각, 하고싶은 일 등)
초대권의 가격

이벤트 상세 내용은 다음과 같습니다.

선정기준: 가장 인상 깊은 소감 또는 가장 높은 가격을 제시해주시는 분
진행방법: 초대권의 양도 또는 판매
선정인원: 최대 2명
진행기간: 11월 28일 자정까지, 또는 사업 자금 충족시 발표
발표방법: 선정자 개별 연락 및 완료 댓글 작성

지불된 비용은 저의 소중한 사업자금으로 활용될 예정입니다.

많은 참여 부탁드립니다.

Know Ask의 시대를 살아가는 1인 드림

추신. 뉴스데이터 솔직히.. 너무 비싼거같습니다.

스틸러잉크

중복된 주요 뉴스들을 통합 요약 해주는 요점 정리 뉴스레터

7 November 20, 2023 5:49am

연주환

Vector 기반 RAG의 성능을 높이기 위한 LlamaIndex 의 제안

제가 더 주목하고 있는 관점을 소개해보자면,

RAG의 성능 향상은 embedding 모델의 차이에서 오는 것은 크지 않을 것이고, 방법론의 차이에서 더 유의미할 것으로 생각합니다.

[라마인덱스를 필두로 제시되고 있는 방법론]

1. embeddings를 만들어내는 chunk의 단위를 어떻게 나눌 것인가.

문서의 종류, 성격마다 성능이 좋은 chunk의 크기가 다른 것이죠. 페이지, 문단, 문장 등 다양한 방법이 있을 것입니다.

OpenAI의 Assistant API Retrieval 성능이 떨어지는 것도 이런 이유로 보입니다. 일률적으로 같은 chunk 기준을 적용하기 때문인거 같아요.

2. 다른 indexing 방식과의 혼합을 어떻게 할 것인가.

기존의 키워드 매칭 방식의 BM25 알고리즘, 지식그래프를 활용한 Retrieval 등을 앙상블하거나 Routing 하는 방법 등이 있습니다.

3. 어떤 메타데이터를 함께 embeddings로 만들 것인가.

단순히 원본 데이터만 embeddings로 만드는 것보다 성능이 더 좋게 나옵니다. 다양한 상황에 따라 다양한 메타데이터를 추가할 수 있겠죠.

4. Recursive 방식 -> chunk 단위를 다양하게 쪼개서 나중에 merge하는 방식.

이 방식은 말로 설명이 어려운데 라마인덱스 docs 읽어보면 좋을거 같아요. (https://docs.llamaindex.ai/en/stable/examples/query_engine/recursive_retriever_agents.html)

추가적으로 RAG 관련한 소식과 트렌드는 라마인덱스 CEO 제리리우 트위터가 제일 빠르다고 생각합니다! 라마인덱스 닥스도 무조건 1회독하면 좋아요!

https://twitter.com/jerryjliu0

GPTs Link

세상의 모든 GPTs

2 November 20, 2023 5:14am

Lina Kim

건설사 다니다가 스타트업 창업한지 5개월, 그 간의 느낀 점 기록하기

스타트업과는 너무나도 다른, 보수적인 건설 시공회사를 네 군데 겪은 뒤 스타트업 창업을 하게 되었다. 6년간 중소, 중견, 대기업 건설사를 모두 겪어본 경험과, IR이 뭔지도 몰랐던 내가 (아직 창업한 지 고작 5개월 밖에 되지 않았지만🤣) 스타트업 창업을 하며 느낀 점들.

1. 건설사 vs. 스타트업, 내가 느낀 가장 큰 차이는 성장의 바운더리

중소, 중견, 대기업 건설사를 다니면서 나는 김기사 → 김주임 → 김대리가 되었다. 실제 공간들을 만들어내는 것에 기여하고 싶다는 생각으로 시공사에 갔고, 건설업계는 확실히 보수적이고 수직적이었지만 나름 좋은 사람들, 좋은 팀과 재미있게 회사생활을 했다. 하지만 각 회사마다, 규모마다 다음과 같은 점들을 느꼈다.

- 중소 : 모든 온갖 일이 다 내 꺼. 그만큼 성취는 컸다. 하지만 전문성을 기를 수 없을 것 같았다.
- 중견 : 가장 일 다운 일을 많이 배운 것 같다. 하지만 더 큰 곳에서 경험을 하고 싶다는 욕심이 생겼다.
- 대기업 : 급여나 복지 부분은 가장 좋았고 안정적이었다. 하지만 가장 내 일의 역할이 작았다. 너무 체계 중심이라 업무에 대한 비효율이 정말 많았다.

다양한 규모의 시공 회사들을 다니면서, 장단점이 다 각각 달랐지만 공통적인 것은 내가 자꾸 갇히는 것 같다는 느낌이었다. 그럼에도 시공사 업무는 꽤나 재미있었고, 앞으로 배워나가야 할 것도 많다고 생각하기도 했다. 그러나 회사에서 나의 미래를 보자면 내 상사 분들이었고, 그분들이 옳지 않은 것은 아니나 그 모습이 내가 원하는 내 삶의 미래는 아니라는 생각이 들었다. 예전부터 창업을 언젠가는 할 거라는 다짐이 있었기에 이 정도 경험했으면 다음 챕터로 넘어가야겠다는 생각이 들어 무작정 퇴사를 하고 창업씬에 뛰어들었다.

그렇게 새로운 도전을 하면서 운이 좋게 프리시드를 받아 실제 창업을 하게 되었는데, 정말 건설업과는 전혀 다른 스타트업씬으로 들어오게 되면서 많은 것들을 느끼고 있다.

- 회사보다 훨씬 더 많은 자극, 배움, 성장, 에너지 : 각양각색의 수많은 스타트업들을 보면서 끊임없이 자극 받고, 성장을 열망하게 되고, 작아지기도 하며 발전을 하지 않으면 도태되는 세계로 왔다.
- 루틴적인 업무가 아닌 만들어가는 업무 : 건설사에서는 정해진 일들이 있었고, 그 일들을 어떻게 하면 더 효율적으로 잘할 수 있을까를 고민했다면, 스타트업은 업무를 내가 계속해서 만들어가야 하며 그 과정을 끊임없이 고민하게 되고, 실험하게 되고, 좌절과 희망을 오가게 된다. 그 과정이 너무 어렵지만 재미있기도 하다.
- 답을 찾던 일에서 답이 없는 일로 : 전형적 이과 성향의 나는, 건설사를 다니면서 내역이나 입찰 쪽 업무처럼 숫자로 성과 나오는 일들을 좋아했다. 내가 공사원가를 아끼면 회사의 이익이 되고, 입찰의 금액을 잘 쏘면 그 또한 회사의 이익이 되는 재미가 꽤나 컸다. 스타트업을 하면서 가장 힘든 점 중 하나는 바로 그런 답이 명확한 일이 잘 없다는 것이다. 답이 없는 것에서 답을 찾아가는 과정을 배워나가고 있는 것 같다.

2. 적응력을 가장 잘 적용할 수 있는 씬

어릴 때부터 수많은 아르바이트들을 해온 덕분인지, 나는 꽤나 적응력이 좋은 편이다. 새로운 환경에 내던져져도 큰 두려움 없이 금방 스며드는 것이 장점이라면 장점인데, 스타트업씬은 그런 적응력을 잘 활용할 수 있는 환경인 것 같다.

처음엔 정말 IR이 뭔지, 노션이나 피그마가 뭔지, 슬랙도 몰랐고 VC라는 개념도 몰랐다. 모르는 건 공부해가면서 알아가지만, 이런저런 툴들을 만져보고 직접 사용해서 만들어내는 것들은 성향에 안맞았으면 꽤나 스트레스 받을 수도 있었을 것 같다. 하지만 짧은 기간안에 우당탕탕 하다보니 그래도 너무 재미있고, 어쨌든 적응력이 좋아 다행이라는 생각이 든다.

3. 회사 다닐 때와는 다른 자기증명

얼마 전 HR관련 스타트업에서 제공하는 성향 검사를 했다. 나는 ‘성과형’ 업무 스타일로 나왔는데, 꽤나 공감이 갔다.

성과형은 업무를 하는 데 있어서 가장 빠르고 효율적인 방법으로 최상의 결과를 얻기 위해 노력합니다. 성과에 방해되는 장애물을 제거하기 위한 다양한 전략을 세우고 숙련된 실무능력을 바탕으로 경쟁우위를 차지하고, 높은 연봉과 지위를 얻는 일에 관심이 많습니다. 성과를 내기 위해 내부의 자원들을 어떻게 이용해야 하는지 정확히 알고 있습니다. 목표 달성 방법을 직관적으로 파악해 상세 사안들을 정리해 함께 일하는 팀원들과 일을 나누고 누군가의 방해를 받거나 장애물이 생길 경우, 어떻게 하든지 그 문제를 해결합니다.
어떤 변화하는 환경에서도 카멜레온과 같은 다양한 모습을 연출할 수 있고 뛰어난 적응력으로 사람들과 친해지며 고객과 시장의 피드백에 민감하여 빠르게 해결하기에 고객과 신뢰 관계를 잘 구축합니다.

성과형 인간이어서 그런지, 나는 회사를 다닐 때 회사에 빚지는 사람이 되고 싶지 않아 내 연봉 이상의 이익을 회사에 실질적으로 가져다주었을 때 퇴사하자고 마음먹었고, 네 번의 회사 모두 그걸 이루긴 했다. 오너의 입장에서 나에게 돈을 썼는데 성과 없이 나가버리는 게 싫었기에, 필사적으로 자기증명을 하려 했다. 비록 내가 짧게 일하고 가지만 회사가 나에게 비용을 쓰기만 한 것이 아니도록, 그렇게 해서 내 가치가 의미 있었음을 증명하고 싶었나 보다.
그런데 창업을 하면서 자기증명은 미궁에 빠졌다. 나는 어떠한 실질적 성과를 내야 행복한 사람이었는데, 그런 결과가 있는 업무들이 현저히 적어지면서 사실 개인적으로 요즘의 고민이 이 부분에서 오는 것 같다. 자기만족이 잘 안되는 것, 눈에 보이는 성과가 없는 것. 하지만 이런 고민에 대해 듣는 조언들은 항상 ‘결과지향주의’ 말고 ‘과정지향주의’가 되라는 것. 이 말이 예전에는 쉽게 와 닿지 않았는데, 요즘 들어 이게 나의 정신건강에 정말 중요하겠다는 생각이 많이 든다. 과정에서도 더 큰 의미들을 찾도록 더욱더 노력하는 사람이 되어야겠다.

앞으로도 갈길이 구만리이지만, 건설업 시공 엔지니어에서 스타트업 대표를 하게 되면서 짧게 나마 그 동안 느낀 점들이 정말 소중한 배움인 것 같다. 다이나믹했던 올해를 기점으로 더 많이 성장하고 발전하는 사람이 되기 위해, 끊임없이 안주하지 말아야겠다.🔥

21 November 19, 2023 1:40pm

임세진

놀이의 관점

휴튼 AI의 질문 퀄리티 외에도 유료 멤버십 전환율 및 유료 멤버십 유지율을 높이는 방안으로 뭐가 있을지 생각해봤어요. 그러다가 문득, 능동적인 놀이라는 것에 집중하게 되었어요.

오늘 제가 공유해드릴 내용은 능동적인 놀이의 중요성이에요.

제가 생각해본 능동적인 놀이의 정의는, 사용자가 직접 참여하고 대상과 소통하고 시간을 재미있고 보람차게 보내는 행위라고 생각해요.

비슷한 카테고리이지만, 능동적 놀이가 아닌 것과 능동적 놀이인 것의 사례를 들려드리고자 해요.

능동적 놀이가 아닌 것: 독서(R), 능동적 놀이인 것: 게시판(CRUD)
능동적 놀이가 아닌 것: 음악 감상(R), 능동적 놀이인 것: 작곡 및 연주(CRUD)

...

CRUD는 Create, Read, Update, Delete의 약자에요.

어디까지나 제 개인적인 소견이지만,

앞으로 LLM을 이용한 AI 개발의 방향과도 연결되는 내용인데요,

최근에 OpenAI에서 발표한 내용만 봐도, 단순 AI가 생성한 글을 읽고 AI와 소통하는 서비스는 앞으로 미래가 불투명해진 것 같아요.
각 사업마다 철학이 묻어 나고, 그 철학 속에서 사용자들이 그 철학을 가장 잘 습득할 수 있는 "능동적 놀이"가 있을 때, 그 "능동적 놀이"를 더욱 재미있게 즐길 수 있는 요소로 AI가 사용되어야 할 것 같다는 생각이 드네요.

다들 개발하고 고민하시느라 고생이 많으시겠지만, 누군가에게는 도움이 되었으면 좋겠어요.

휴튼

나도 몰랐던 나를 알아가는 질문들

0 November 18, 2023 10:40am

최정우

약간의 지침, 그리고 외도로 얻는 고찰

해커톤 준비하면서 알고리즘을 짜는 와중에 약간의 현타가 왔습니다.

아무 생각 없이 커뮤니티를 돌아다니던 중 한 글을 발견했습니다.

Streamlit 기반으로 만들어진 사용자 선택기반의 동화 생성 소프트웨어였습니다.

하루밤사이에 2300건의 요청에 120달러의 비용이 들어가면서 서비스를 닫으셨습니다.

GPTs 를 이용한 서비스를 말씀드리는 댓글이 있었지만 해당 GPTs 를 공개하시지는 않았습니다.

뜨거운 반응을 받았던 글이기에, 내려간 서비스가 너무 아쉽게만 느껴졌습니다.

그렇게 반나절이 지나가고, 점심시간때 쯤, 뭔가 GPTs면 금방 만들지 않을까 하는 생각이 스쳐 지나갔습니다.

많은 시간을 쏟고 싶지 않았기에 짧은 시간에 완성해야했고,

모든것을 GPTs 내에서 해결하였습니다.

그렇게 순도 100% 프롬프트 엔지니어링으로 "선택동화 로지"가 완성되었습니다.

그래서 부족하고 아무도 안쓰고 말줄 알았는데..

2일 만에 99분이 사용해주셨습니다.

(사실 저 아이콘이 뭘 의미하는지 잘모르는데.. 유저기준의 사용 횟수정도로 판단하고있습니다.)

위 사용자 변화 그래프는 수동으로 측정 하였습니다 ㅎㅎㅎ

OpenAI에서 뭔가 유저 분석 툴도 제공해주길 희망합니다.

이제 저는 본 아이템인 뉴스로 돌아가기 위해서 피드백 중심의 유지보수만 진행해보려고합니다.

(하지만 현재까지 아무 피드백이 없는게 현실입니다 ^^)

B2C에서 사용자가 생기고 늘어간다는 기쁨이 어떤지 알게 해준 소중한 서비스입니다.

한편으로는 먼저 API기반의 모델을 만드신 분의 선례를 보면서 GPTs의 막강함과 기존 API 기반의 비지니스 모델의 재편이 시급함을 느꼈습니다.

한편으로는 왜 chatgpt가 계속 다운 되는지를 몸소 체험 할 수 있었습니다.

뉴스 프로젝트나 선택동화 로지에 이름의 비화가 궁금하신 분은 커피챗 요청해주세요 :)

선택동화 로지

아이와 함께 선택 해서 동화 이야기를 만들어가요.

7 November 17, 2023 1:04pm

William Jung

이미지 출력 프롬프트 공유 w/ 플라멜

A constantly morphing realm where the ground might suddenly become transparent, revealing gears and cogs working underneath, or where floating orbs of light become tangible objects when touched. Innovative structures, machines, and devices are everywhere - some half-built, others in full operation. Inhabitants are seen brainstorming, sketching designs on the air itself, or collaborating with animated constructs of their own creation. The horizon is a kaleidoscope of colors, each shift signifying a new idea coming to life, 4k wallpaper

High above, amidst the twilight canvas of a starlit sky, float crystalline citadels containing ethereal treasures. Celestial creatures, resembling both birds and stars, hold the keys to these citadels and are swayed only by enchanting melodies or tales of genuine ambition. Silver pathways, made of stardust, guide adventurers between citadels, and every once in a while, a shooting star grants its blessings, causing the treasures to sparkle even brighter, 4k wallpaper

A sprawling and diverse landscape divided into territories, each representing a different tribe or community. Each territory has its unique aesthetic, but intertwining paths and bridges connect them all. In the center, there's a monumental nexus point, a grand council ground where all tribes converge. Trees of different species, mountains of varying heights, and rivers with distinct colors symbolize the various skill sets, but they all meet and intertwine at the Harmonia Nexus, illustrating the unity amidst diversity

A vast blue sky dotted with hovering islands of gold, silver, and precious gems. Some islands are locked with giant intricate vaults, requiring a key or a special gesture to open. Ethereal beings flit between the islands, negotiating, bartering, and sometimes granting access to those who present a compelling case. From above, beams of celestial light occasionally shine down, blessing certain islands and causing the treasures to multiply

Dark, mysterious waters under a perpetual twilight sky. Mist-covered islands are scattered around, with shadowy figures (potential customers) visible through the fog. Here and there, beams of light pierce the mist, revealing an island's true form, representing a successful engagement with a customer. Boats and ships of varying sizes navigate these waters, each carrying explorers with lanterns, maps, and tools, trying to unveil and connect with the veiled islands. 4k wallpaper,

A surreal floating landmass suspended in a pastel sky, each section having its unique magical biome - glowing forests, shimmering desert, ethereal waterfalls, and levitating mountains. Rainbow bridges connect these territories, and as travelers journey across, they're enveloped in a shimmering aura that harmonizes their differences. In the very center, an ancient tree pulses with a gentle light, its roots and branches intertwined with every land, signifying unity and alliance, 4k wallpaper

랩탑 wallpaper 만드는걸 좋아하는데, 앞으로 플라멜만 써도 충분하겠다는 생각이 드네요 ㅎㅎ

@황현지 @이정민 좋은 프로덕트 감사합니다!!

5 November 17, 2023 8:14am

박용찬

15분만에 콜드메일 n백 개 보내는 방법

블로그썸네일_BD-Sales_용찬님.png

일일이 수기로 보내던 콜드메일, 이대로는 안 되겠다.

지난 번에 Dalpha BD/Sales 팀이 어떻게 움직이고 있는지 그 첫 번째 Step에 대해서 말씀 드렸습니다.

“간단한 코드를 통해 맞춤형 멘트를 자동 작성하여 잠재 고객사에게 매력적인 콜드메일 내용을 작성해보자!”

로 지난 번 글을 한 문장으로 요약해 볼 수 있을 것 같습니다.

맞춤형 멘트로 메일 내용 구성을 완료했다면, 이제 잠재 고객에게 메일을 발송해야겠죠?

대부분의 B2B 기업은 페르소나를 설정하고 적으면 수십에서 수백 명, 많으면 수천 명까지의 잠재 고객에게 콜드메일을 한 번에 발송하곤 합니다.

발송 대상의 수가 적으면 일일이 이메일을 발송하거나, Gmail의 bcc 기능을 활용할 수 있습니다. 그러나, 발송 대상의 수가 많을 경우 이러한 방식을 채택하면 시간 소요가 너무 심하고, 현실적으로 불가능한 일입니다.

저희 Dalpha 역시 창업 초기에는 특정 AI를 사용할 가능성이 높은 기업을 하나하나 탐색하여 일일이 콜드메일을 발송하였으나, 현재는 많은 잠재 고객사들과 컨택하고 있기에 콜드메일을 효율적으로 발송하는 방법을 탐색하기 시작하였습니다.

Stibee나 SendGrid 등 다양한 솔루션이 존재하지만, Google에서 제공하는 기능만으로도 충분히 콜드메일 대량 발송이 가능하다는 사실을 알아냈습니다.

이번 글에서는 Google Apps Script에서 코드를 사용하여 어떻게 이메일을 대량 발송할 수 있는지 설명 드리도록 하겠습니다.

그래서, 어떻게 대량으로 자동 발송하는데?

Google Apps Script는 하드 코딩이기 때문에 각자 설정하는 코드가 다를 것이며, 오늘 제가 공유 드리는 코드는 단순 참고용으로 생각해주시면 감사하겠습니다. 제가 말씀드리는 내용이 절대 정답은 아닙니다 :)

Google Spreadsheet 생성 → Apps Script에서 코드 작업 → 테스트 → 이메일 발송
총 4가지의 Step만으로 콜드메일을 발송할 수 있습니다.

그렇다면, Dalpha의 리뷰 분석 AI Selling을 위한 콜드메일 작성을 예시로 자동 발송 프로세스에 대해서 설명 드리도록 하겠습니다.

1. Google Spreadsheet 생성 및 필드 채우기

Google Spreadsheet를 생성한 이후, 이메일 발송에 필요한 필드를 채워 넣습니다.

이메일 발송에 필요한 필드는 때에 따라 매우 다르겠지만, 저희 Dalpha는 기업명, 이메일 주소, 커스텀 멘트 총 3가지만을 입력하였습니다.

(왼쪽) Sheet 1 필드 / (오른쪽) Sheet 2 필드

Sheet 1 A열에 기업명, B열에 이메일 주소, C열에 커스텀 멘트를 입력합니다.

Sheet 2 A열에 이메일 제목을 입력합니다.

2. Apps Script 코딩

필드를 다 채워 넣었다면, 상단 바의 ‘Extensions → Apps Script’에 들어가서 코드 파일을 생성합니다.

이후, ChatGPT를 활용하여 하드 코딩을 진행하였습니다.

function sendEmail() {
    //변수 설정
    const ss = SpreadsheetApp.getActiveSpreadsheet()
    const sheet1 = ss.getSheetByName('sheet1'); // 이메일 보낼 사람들과 커스텀 멘트가 들어간 시트명
    const sheet2 = ss.getSheetByName('sheet2'); // 이메일 제목이 들어간 시트명
    const subject = sheet2.getRange(2,1).getValue(); // 이메일 제목 추출
    const n = sheet1.getLastRow(); // 이메일 보낼 명단이 전체 몇 명인지 확인
    const senderName = "Dalpha 박용찬";

    // 행 반복 구문
    for (let i = 2; i < n + 1; i++) {
      const companyName = sheet1.getRange(i, 1).getValue();
      const emailAddress = sheet1.getRange(i, 2).getValue();
      const customment = sheet1.getRange(i,3).getValue();
      // 이메일 내용 작성
      const body = `
      <pre style="font-size: 12px; color: black; font-family: Arial, sans-serif;">안녕하세요,
Dalpha 박용찬입니다.

${companyName}께서 ${customment}고 들었습니다.

<strong>리뷰를 자동으로 분석하는 AI</strong>를 도입해보시는 것은 어떠실까요?
관련해서 <strong>간단한 미팅</strong>을 진행해보면 좋을 것 같습니다.

내부적으로 논의 후 편하게 회신 주시면 감사하겠습니다.

감사합니다.
박용찬 드림
    </pre>
    <img src="<https://email-14.s3.ap-northeast-2.amazonaws.com/yongchan_card.png>" alt="Image Alt Text" style="display: block; max-width: 30%; margin: 20px 0 20px 0;">
    `;

    MailApp.sendEmail({
      to: emailAddress,
      subject: subject,
      htmlBody: body,
      name: senderName,
      });
    }
}

이렇게 코드로만 설명드리면 이해가 안 가는 부분이 있으실 것 같아 조정 가능한 부분들에 한해서 자세하게 뜯어보도록 하겠습니다.

2행 ‘변수 설정’

시트에 채워 넣은 필드를 각각 변수로 설정합니다.

Sheet 1을 이메일 보낼 사람들과 커스텀 멘트가 들어간 시트명, Sheet 2의 A2셀을 이메일 제목으로 설정하는 등의 작업을 진행합니다.

해당 부분에서 변수를 설정해야 향후 이메일 내용 등의 코드를 작성할 때 변수가 적용되기 때문에 필수적인 작업이라고 할 수 있죠.

10행 ‘행 반복 구문’

행이 여러 개이기에 마지막 행까지 반복해야 하는 경우, for 문을 활용하여 변수를 설정합니다.

2행부터 마지막 행까지 입력한 잠재 고객에게 모두 메일을 발송해야 하기 때문에 이메일 주소를 ‘반복’해서 전송하는 코드를 작성합니다.

15행 ‘이메일 내용 작성’

이제 본격적으로 이메일 내용을 작성하는 코드를 입력합니다.

각 코드가 어떤 걸 의미하는지는 다음과 같습니다.

<pre style=___> : 이메일 내용의 폰트 사이즈나 색깔, 종류 등을 설정함
<strong>___</strong> : 볼드 표시하고 싶은 부분을 설정함
${companyName} : 행 별로 각기 다른 회사 명을 삽입함
${customment} : 행 별로 각기 다른 커스텀 멘트를 삽입함
img scr : 명함을 캡쳐하여 이를 이미지 url 주소로 붙여 넣고, 이미지의 크기 역시 설정할 수 있음

모든 코드를 입력하였다면 꼭 Save project를 누르고 코드 작업을 마무리해야 합니다.

Save를 누르지 않으면 발송 자체가 되지 않으니 참고해주세요!

또한, Save를 눌렀는데 오류가 발생한다면 어떤 코드가 잘못 되었는지 확인해야 합니다.

3. 발송 테스트

본격적으로 이메일을 발송하기 전에, 설정해 놓은 코드대로 이메일이 잘 발송되는지 확인해야 하기 때문에 발송 테스트를 해야 합니다.

(왼쪽) 테스트용 필드 (오른쪽) 테스트 발송 이메일 내용

Sheet 1에 본인의 기업명, 이메일 주소, 커스텀 멘트를 채워 넣고 이메일을 내게 쓰기로 미리 테스트해겠습니다.

의도한대로 이메일이 잘 발송되는 것을 확인할 수 있습니다.

만약 코드에 오류나 오타가 있는데 발송 테스트를 해보지 않고 바로 발송을 하게 될 경우, 잠재 고객사에게 돌이킬 수 없는 실수를 하게 될 수 있으니 발송 테스트는 “꼭” 해보시는 것을 추천드립니다.

4. 이메일 발송

이메일이 잘 전송되는지 확인했으니, 이제 Sheet 1에 본인 정보를 빼고 발송 대상 정보를 모두 채운 후 이메일을 발송하면 됩니다.

(왼쪽) 발송 이메일 내용 (오른쪽) 실제 발송 로그

저희 Dalpha가 전송하였던 이메일 예시입니다.

실제로 Dalpha는 최근 이러한 방식으로 “STT 요약 AI”를 제공하기 위한 콜드메일을 발송하였습니다.

발송 대상 정보를 수집한 이후 15분 만에 이메일을 약 150개의 기업에게 발송하여, 효율적으로 시간을 단축할 수 있었습니다.

전체 발송 기업 중 약 10%의 기업에게 회신이 왔고, 해당 기업들과 모두 비즈니스 미팅을 진행할 수 있었습니다.

효율적으로 움직이는 BD/Sales 팀이 되자!

최근 Dalpha BD/Sales 팀은 Scale-up을 위하여 어떻게 하면 더욱 일을 효율적/효과적으로 할 수 있을까에 대한 고민을 깊이 하고 있습니다.

기업의 수작업을 줄여주기 위한 AI 솔루션을 개발하고 있는 기업인데, 팀 내부적인 일을 수작업으로 하고 있으면 굉장한 모순이겠죠? :)

그 First Step으로 자동화에 힘쓰고 있으며, 오늘 공유드린 메일 발송 자동화도 그 일환이라고 할 수 있습니다.

앞으로 저희 팀은 계속해서 업무 자동화를 0 to 1으로 고민할 것이고, 그러한 과정에서 생긴 노하우를 편하게 공유 드리도록 하겠습니다.

다음에도 BD/Sales 팀의 Insight를 온전히 전달 드릴 수 있도록 노력하겠습니다 :)

4 November 17, 2023 6:56am

백민기

LLM 관련 트윗 인사이트 정리(feat. GPTs, Rag)

GPTS를 만드는 건, 컨텐츠를 가진 개인에게 유리하다?

본인의 트윗, 유튜브, 전자책을 학습 시켜서 만든 levelsio
Paul graham에게 스타트업에 대해서 묻다?

각종 서비스의 Rag관련 업데이트

Lang chain의 Lang smith Rag debug를 보다 쉽게 하기
노션 ai의 Rag

Retrieval Augmented Generation (RAG) 쉽게 설명하기

GPTS를 만드는 건, 컨텐츠를 가진 개인에게 유리하다?

본인이 전문가라면, Build a GPT를 만들라고 한다.

자신만의 컨텐츠로 굉장히 인사이트 넘치는 GPT들을 만들 수 있기 때문이다.

자신만의 전문성으로 GPT를 만든 사례들을 소개한다.

본인의 트윗, 유튜브, 전자책을 학습 시켜서 만든 levelsio

인디개발자의 매이킹 강의를 본인의 트윗에 많이 올리는 분이신데, 이번에 본인의 블로그, 트윗, 팟케스트, 북을 모두 학습시켜서 gpts를 만들었다.
이분이 쓴 “Make”라는 전자책을 구매하기도 했는데, 정말 그 내용을 바탕으로 답변을 잘 해준다.이렇듯 GPTs로 교육 컨텐츠를 옮겨서 챗봇을 만드는 형태가 늘어나고 있는 것 같다.

Paul graham에서 스타트업에 대해서 묻다?

Paul graham의 강의나 에세이를 학습시켜서 만든 gpts가 상당히 많다.

이처럼 특정 분야의 전문가의 Knowledge를 바탕으로 Gpts의 knowledge로 사용하려는 시도들이 많이 등장하고 있는 것 같다.

우리 팀에서는 이것을 벡터 컨텐츠라고 이전부터 불렀다.

텍스트, 이미지, 영상 등의 컨텐츠가 이제는 벡터 공간으로 옮겨와서 유저의 질문을 rag를 통해서 뽑아낼 수 있기 때문이다.

이처럼 이제는 전문성을 가진 사람들이 GPTs 자체의 자신의 전문성있는 컨텐츠를 옮기려는 시도들이 많아질 것으로 예상된다.

각종 서비스의 Rag관련 업데이트

Lang chain의 Lang smith Rag debug를 보다 쉽게 하기

Langsmith는 LLM 앱의 빌드와 배포, 테스트, 디버그를 도와주는 라이브러리다.
Rag debug를 쉽게 관리할 수 있는 업데이트를 진행하였다.

노션 ai의 Rag

https://www.notion.so/product/ai

Retrieval Augmented Generation (RAG) 쉽게 설명하기

오늘 글에서는 Rag에 대해서 많이 등장했다. 근데 도대체 Rag가 무엇인가?

아래의 글에서 쉽게 설명해준다.

위와 같이 stich fix라는 개인 스타일링 추천 서비스에 비유해서 설명한다.

추천 시스템stich fix의 고객이 스타일을 추천해달라고 했다. 그러면 스타일리스트가 고객에게 특정 스타일을 추천해주기 위해서 여러 과정을 거친다.

먼저 고객이 스타일을 추천해주기 위해 고객들이 좋아하는 옷들을 재고에 쌓아둔다.
고객 선호도, 과거 구매 이력, 피드백 등을 고려하여 가장 유사한 옷의 후보군을 고른다.

Rag도 비슷하다.

다양한 정보 소스, 즉 재고들을 관리한다. 사용자의 질문에 기반으로 답변할 컨텐츠라고 생각하면 된다.

다양한 정보 소스들을 임배딩

유저가 질문을 한다면, 다양한 정보를 바탕으로 질문과 가장 유사한 정보들을 기반으로 답변을 생성해낸다.

유저의 선호도에 따라서 재고를 추출하는 것과 유사함

결국 Rag의 성능을 어떻게 높이냐는 말은 스타일리스트가 얼마나 제품을 잘 추천해주는지와 같은 것

오늘의 트윗 인사이트 끝

홍보

GPTs link의 큐레이션 기능 업데이트가 얼마 남지 않았습니다.

다양하고, 재미있는 GPTs를 소개할 계획입니다. 많은 관심부탁드립니다

GPTs Link

세상의 모든 GPTs

2 November 16, 2023 8:14pm

전예찬

3D 기술 기반 스타트업의 특징

3D와 AI를 결합한 기술은 일반적인 대기업이 쉽게 따라하지 못합니다.

3D 모델링, 텍스쳐링, 리깅, 애니매이션, AI 기술, 게임엔진 등 각 분야의 노하우가 집약되어 하나의 완성된 기술이 나오기 때문입니다.

3D 디자인 팀, 개발 팀, 연구 팀이 긴밀하게 협력해야만 하나의 결과물을 만들어낼 수 있습니다.

대기업에게 진입장벽이 높은 것이 스타트업에게 마냥 장점은 아닙니다.

스타트업에게도 진입장벽이 높은 것은 매한가지이기 때문입니다.

그래서 초기에는 다양한 분야의 기술을 빠르게 배우고 적용할 수 있는 멀티플레이어가 필요합니다.

저희는 초기에 기술만 개발해서 영업을 하다 빈번히 실패를 맛봤지만, 뛰어난 멀티플레이어들이 디자인 등 다른 분야를 빠르게 습득해 고비를 넘겼고, 어느새 팀원이 20명을 넘어가고 있습니다.

현재는 비즈니스 팀, 3D 디자인 팀, AI 팀, 솔루션 개발 팀, 인턴으로 구성되어, 각 팀에서 베테랑과 멀티플레이어 들이 긴밀하게 협력하고 있습니다.

초기 3D 기술 기업에서는 한 분야의 전문가도 중요하지만, 새로운 분야를 학습하는 것에 거부감이 없는 멀티플레이어가 더 중요한 듯 합니다.

3D 기반의 기술로 창업을 하기를 희망하시는 분들께 작은 참고가 되기를 바랍니다.

0 November 16, 2023 4:30pm

김예인

Microsoft AI이그나이트 이벤트 발표 요약 정리

안녕하세요, 오늘은 AI로 물 들어올 때 노를 최대치로 젓고 있는 Microsoft 발표를 가져왔습니다!

모델 개발, 모델 적용에서 그치지 않고 CPU, GPU까지 만들어버리려고 하는게 정말 무섭고도 놀랍네요 ㅎㅎ

https://lilys.ai/result?videoId=79wFBN5PffA

0 November 16, 2023 8:04am

연주환

[솔프 2주차]명품 계산기 만들어보겠습니다!

안녕하세요, 팍스 휴마나 팀의 연주환입니다. 오늘은 얼마 전에 공유드린 프로덕트 “궁극의 GPT 비용 계산기” 업데이트 로그를 가져와봤습니다!

얼마 전 저희 팀이 Solopreneur 전략으로 선회한 후에 처음으로 만들었던 프로덕트인데요, 인공지능 기술은 없지만 순전히 저희 팀의 니즈와 문제에 맞춰서 개발을 하게 된 것이 Ultimate GPT Calculator (UGC) 입니다!

이번 업데이트는 저희 팀이 GPT API를 활용하여 개발을 할 때 느끼는 니즈와 “이런 것 있었으면 좋겠다.”하는 기능들을 직접 고객의 입장이 되어 기획하고 추가해보았습니다. 그리고 기능을 추가할 때 @Kyle 님의 명품 프로덕트와 관련된 글이 많은 영감을 주었습니다.

진짜 이렇게까지 하는 계산기는 없다고 자부합니다.

구글에 GPT Token Calculator라고 검색해서 나오는 모든 계산기를 봤지만, 어떤 계산기도 이렇게까지 세심하게 기능을 넣지 않았습니다. 어떤 기능들이 있길래 자부하는지 아래에서 설명드리겠습니다!

1. OpenAI API별 계산

이번 OpenAI의 발표에서 새롭게 등장한 비전, TTS, Assistant API 뿐만 아니라, 기존의 파인튜닝, Whisper, Dalle 등의 모델을 따로 구분하여 필요한 API별로 계산을 쉽게 할 수 있도록 했습니다.

Slide 4_3 - 7.png

2. Vision 계산

GPT4-Turbo-Vision 모델은 GPT4에 이미지를 첨부할 수 있는 모델인데요, 공식문서를 확인해보면 이미지의 픽셀별로 가격을 계산하게 됩니다. 이 방식이 한번 이해하면 쉽지만, 여러번 읽으면서 이해했던거 같습니다.

Pricing 2023-11-16 16-09-22.png

그래서 실제로 이미지를 활용한 서비스의 비용을 계산할 때, 유저에게 어느 정도 해상도의 이미지를 받아야할지, 비용은 얼마나 나올지 계산하기 어려운데요, 저희 UGC에서는 직접 이미지를 넣고, 해상도를 지정하면서 가격을 확인할 수 있습니다!

Slide 4_3 - 9.png

3. Fine-Tuning 계산

파인튜닝은 트레이닝을 할 때와 사용할 때 가격이 다른데요, 트레이닝의 경우 특히 사용되는 토큰의 양이 많기 때문에 보다 신중하게 접근하게 되는거 같습니다. 저는 파인튜닝을 하기 전에 일일이 엑셀로 계산을 했었는데, 이제 토큰, 훈련할 Epoch, Job 등을 입력하면 바로 계산이 됩니다. 그리고 자신이 파인튜닝한 모델을 사용하는 계산까지 함께 가능합니다!

Slide 4_3 - 10.png

4. 앞으로 추가할 기능

Audio와 관련된 TTS, Whisper 계산 기능
Assistant API과 관련된 Retrieval, Code
interpreter, Tool 등의 계산 기능
Vision과 관련된 Video Input 계산 기능
예산 설정 및 마진율 계산

이걸로 돈 어떻게 벌지?

이번 OpenAI DevDay에서 샘알트만 형님이 발표한 내용에 따르면, 전세계에 OpenAI API를 사용하는 개발자가 무려 200만명이라고 합니다. 저를 비롯한 많은 개발자 분들께서 가볍게 비용 계산을 하기 위해 Token Calculator, GPT Cost Calculator라고 검색해서 사용해보셨을 겁니다.

전세계에서 압도적으로 좋은 비용 계산기를 만들면, 매월 전세계 LLM 개발자의 1%의 트래픽은 확보할 수 있지 않을까? 라는 가설을 세웠습니다. 그리고 그중 0.1%만 돈을 낼 수 있도록 한다면? 그렇기만 한다면 투입 대비 너무 좋은 리턴이 될거 같습니다.

최소노력/최대효용 트래픽을 늘리자.

저희 팀의 Solopreneur 전략은 “최소 노력으로 빠르게 만들기”입니다. 그동안 4개월동안 함께 합을 맞춰온 개발자 기반 조직이다 보니 (벌써 저희끼리 만든 프로덕트가 6개나 되네요..!!) 매주 3일동안 빠르게 개발 및 세팅을 하고, 남은 4일동안은 유입을 늘리기 위한 전략들을 수행합니다. 그리고 간간히 업데이트를 하거나 트래픽을 기다리는 방식이죠.

이번에도 개발보다 더 힘 쓴 부분이 블로그 SEO 입니다. 저의 고객여정을 분석해보면, 검색을 통한 유입이 굉장히 많았는데 검색 키워드의 경쟁도가 굉장히 낮아 블로그를 통해 오가닉하게 유입을 끌어올 수 있겠다고 생각했습니다.

앞으로 블로그 SEO를 통한 오가닉한 트래픽이 증가된다면 관련된 콘텐츠도 다뤄볼까 합니다!

마지막으로 OpenAI API를 사용하시는 메이커분들 편하게 써보시고 피드백 주시면 감사합니다!

너무 빠르게 변하고 쉽지 않은 시장이지만, 함께 인공지능 시장에서 플레이하는 모든 메이커분들 응원합니다🫡

6 November 16, 2023 6:41am

백민기

11월 15일 트위터에 올라온 기술관련 트랜딩 트윗을 살펴보자 in 미국 실리콘 벨리(feat. GPTS)

1. GPTS

gpts는 11월 6일 오픈 AI 데브데이 이후에 새롭게 출시된 chat gpt “앱 스토어”다. 아무나 자신이 Gpt로 만든 서비스를 올리고 공유할 수 있는 공간이다. 최근 많은 서비스들이 등장하고 있다. 재미있는 서비스도 많으니 참고해보자.

"트랜딩 GPTS" 속에서 올라오고 있는 트윗들은 대부분 자신이 만든 GPTS 홍보인데, 어떤 재미있는 GPTS들이 있는지 알아보자.

gooble bot

gpts에 커스텀화된 앱을 만들다보면, knowledge를 넣어줘야 한다. gpt가 기반으로 삼아서 답변을 만드는 컨텐츠가 knowledge라고 생각하면 된다.하지만, 현재 gpts는 파일 업로드 수에 제한이 있다. 여러가지 youtube나 블로그, pdf 등에서 컨텐츠를 가져와 쓰려고 할 때, 이상이 생긴다. gobble bot은 이러한 문제를 해결한다.