앤드류응이 스탠퍼드에서 발표한 AI의 기회

인공지능 분야의 구루, 앤드류응이 한 달전 스탠퍼드에서 'AI의 기회'에 대한 주제로 발표를 진행했는데요,

이 영상을 한국어 요약 노트로 정리해보았습니다 :)

https://lilys.ai/result?videoId=5p248yoa3oE&source=video&result=summaryNote

LLM을 두고 고객으로 돌아갑니다! [PaxHumana Journey]

Pax Humana는 유튜브 여행 콘텐츠와 지도를 연결하는 여행정보 탐색 플랫폼,

Fynd를 만들고 있습니다.

🤣 LLM이라는 너무 재밌는 망치

8월부터 저희 팍스휴마나팀은 업무 자동화 에이전트 플랫폼 벨릭스를 만들고자 했습니다.

LLM, RAG, Agent.. 공부하고 개발할수록 “와.. 이거 너무 재밌는데?”

아이디어, 상상, 미래. N인 저는 매일 도파민 파티였습니다. 뭔가 생각이 항상 멀리 가있었던거 같아요.

마치 망치가 손에 쥐어지니 모든 것을 해결할 수 있을거 같은 느낌이랄까요.

다른 분들과 만나면 “지식노동의 자동화를 목표로 업무 자동화 에이전트 플랫폼을 만듭니다.” 라고 뜬구름 잡는 얘기를 했습니다. 돌아오는 답은 “정확히 뭘하려는건지 모르겠다.”, “고객은 얼마나 만나보셨나요?” “좀더 작은 것부터 날카롭게 보는게 중요할거 같다.” 였습니다.

하지만 뭔가 씌인 거처럼 “와우하게 만들기만 하면, 사람들은 쓸거야.” 라고 생각했죠.

그러다가 저의 멘토이신 교수님과 오랜만에 만난 자리에서 진짜 망치로 머리를 맞았습니다.

작년에 대표님은 고객에 미쳐있었는데, 지금은 왜이렇게 엔지니어가 되셨어요?

그제서야 작년의 저와 비교하면서 “아.. 뭔가 잘못되고 있구나”를 깨달았습니다.

🧐 작년에 무슨 일이 있었는데?

작년에 저는 [마케팅 게이미피케이션을 노코드로 구현할 수 있는 SaaS, 버틀봇]로 교내 창업프로그램에 입주했었는데요,

사업은 결국 실패로 끝났고, 정작 남은건 [고객을 검증하는 프레임워크] 였습니다.

그 당시 린 고객개발의 계보를 잇는 책들(스티브 블랭크, 에릭 리스, 애시 모리아 등)을 바이블로 삼아, 고객 만나고 치밀하게 가설 세우고 검증하기를 반복했었는데,

그 과정에서 탄생한 것이 “5Fit Cycle”과 “BM Tree” 였습니다.

5Fit Cycle: “PMF가 하늘에서 뚝 떨어지는게 아닐텐데, 분명 그 전 단계들이 있지 않을까?” 하는 의문에서 시작하여, 린 고객개발의 과정을 함께 결합한 개념입니다.

“PMF가 되기 전에 앞단의 Fit들이 맞아떨어져야 한다!”는 당연한 이야기를 좀더 시각화하고 정리한 것이죠.

BM Tree: 린캔버스나 비즈니스 캔버스로 가설을 정리할 때 가설의 위계구조를 만드는 스스로를 발견하게 되면서, 가설을 트리구조로 재구조화한 개념입니다. 이 또한 가설검증의 선행관계를 매우 중요하게 생각하는 구조에요.

(더 궁금하신 분들은 작년에 발행한 글을 참고해주세요!)

🫥 LLM 망치 내려놓을 각오됐어?

멘토님과 헤어진 후에 바로 긴급 미팅을 진행했습니다.

그리고 저희는 9월 25일 저희의 장난감이던 LLM 망치를 내려놓고 고객으로 돌아가기로 했습니다!

LLM에 매료되어 모인 개발자 팀이었기에 이전까지 린 고객개발, 5Fit Cycle, BM Tree, 고객, 가설검증 등은 제대로 꺼내본 적이 없었는데, 생각보다 팀의 반응은 폭발적이었습니다.

고객의 문제를 풀어주고 사랑받는 프로덕트를 만들자!

우리가 이 프레임워크의 좋은 선례가 되자!

라는 다짐으로 고객을 만나기 시작했습니다.

그래서 너희는 지금 “뭘하고 있는거냐”라고 물으시면! 바로 아래의 다음 편을 읽어주세요ㅎ.ㅎ

[소라고동의 마법] 2주 안에 MVP 개발하기(1)

처음은 늘 설렌다

안녕하세요, AI Agent와의 상호작용을 통한 회고 습관 형성 서비스 ‘소라고동의 마법’ 을 메이킹하고 있는 김태현입니다. 제게는 이 글이 첫 메이커 로그인데요. 처음이라 그런지 괜히 의미 부여도 되고 참 떨립니다. 이후에 프로덕트를 만들어가면서 메이커 로그가 많이 쌓인 뒤에 첫 메이커 로그를 다시 읽게 된다면 또 어떤 기분일지도 많이 기대가 되네요 😁

프로덕트 개발을 시작하기 전에

팀에서 저의 역할은 iOS Native로 MVP의 클라이언트 단을 개발하는 것입니다. 이전에 계속해서 iOS Native로 개발을 해왔었기 때문에 자연스럽게 포지션이 정해졌습니다.

프로덕트 개발 진행 시에 개인적으로 가장 중요하게 생각한 목표는 2가지입니다:

1. 높은 개발 생산성: 제한된 시간 동안 빠른 속도로 MVP 개발을 할 수 있어야 한다.

2. 기술적 성장: 개발자의 입장에서 기술적인 성장을 이루어낼 수 있어야 한다.

위의 2가지 목표가 어찌 보면 매우 상반된 목표처럼 보이는데요. 개발 생산성을 중요시한다고 생각하면 익숙한 기술로 빠르게 개발을 하는 것이 맞지만, 또 개인적인 기술적인 성장을 이루려면 원하는 기술의 학습과 충분한 고민을 해가면서 개발을 하는 것이 맞는 선택입니다. 그래서 중간을 찾기 위해 많은 고민을 했습니다.

기술의 선택

Swift(SwiftUI)를 선택한 이유

사람들이 사용하는 모바일 플랫폼을 크게 나누어보면 Android, iOS 입니다.

그리고 이를 개발하는 방식에 대해 나누면 다음과 같은데요.

• Native(iOS/Swift) : iOS 운영체제를 기반으로 한 플랫폼 개발이 가능합니다.

• Native(Android) : 안드로이드 운영체제를 기반으로 한 플랫폼 개발이 가능합니다.

• Hybrid(React Native, Flutter) : 크로스 플랫폼 개발이 가능합니다.

가장 마지막에 언급한 RN(React Native), Flutter와 같은 프레임워크는 크로스 플랫폼 개발을 가능하도록 합니다. 하나의 프레임워크로 iOS, Android 플랫폼에 대응되는 서비스를 동시에 개발할 수 있는 것이죠. 생산성이 어마어마 합니다.

무시할 수 없는 장점을 가지고 있습니다:

1. 출시 시간 단축

2. 개발 비용 절감

그래서 많은 스타트업이 크로스 플랫폼 개발이 가능한 Reative Native 프레임워크를 채택해서 어플리케이션 서비스를 제공하고 있습니다. (e.g. Meta, Instagram, Airbnb, Discord …)

위의 장점만 보더라도 React Native를 선택하는 것이 맞는 선택 같지만 저는 다음과 같은 이유로 Swift를 선택하게 됩니다.

1. 개발 언어의 익숙함

2. 기술적인 도전

3. 새로운 언어에 대한 학습 비용

당장은 새로운 언어에 대한 학습 비용도 들기도 하고, 언어에 대한 익숙함을 무시할 수는 없기 때문이었습니다. 그리고 개인적으로 도전하고 싶은 학습 거리들이 많이 있었습니다.

네이티브 개발이 주는 이점도 분명하게 존재하고, Apple에서는 SwiftUI라는 프레임워크를 새롭게 제공하면서 기존보다 개발 생산성을 높일 수 있게 되어 괜찮은 선택이라고 생각을 했습니다.

이외에도

사실 전부 새로운 기술로 대체해서 개발을 해보고 싶었으나, 어느 정도 현실과의 타협은 필요했기에 제외할 것은 제외하고 개발을 진행하기로 결정했습니다. 기술적인 고민을 전부 기록하기에는 내용도 길어지고 재미없기 때문에 요정도로 기술 선택 이야기는 마무리하겠습니다 ㅎㅎ

AI와 협업하기

명색이 AI 기반으로 한 서비스를 개발하는데 개발도 스마트해야겠다라는 생각이 들어서 친구를 데려왔습니다 ㅎㅎ 바로 AI-CodeReview-Bot 인데요. 제가 개발 코드를 작성하고 원격 저장소에 업로드하게 되면 AI Bot이 코드에 대한 리뷰를 진행해줍니다.

얼마만큼의 양질의 코드 리뷰를 해줄지는 잘 모르겠지만, 그래도 작업하면서 쓸쓸하지는 않겠어요… 🥹 모든 코드에 대한 리뷰는 바라지는 않고, 특정 코드에 대해 의견이 궁금하거나 개선이 필요하다면 그 때 유용하게 활용할 수 있을 것 같습니다.

새로운 시작!

오늘은 이 정도로 메이커 로그를 마무리 해보려고 합니다. 아직 개발 초기 단계라 이야기할 수 있는 내용이 많지는 않습니다. 2주차 쯤 되면 MVP의 윤곽이 잡힐 것 같으니 그 때 더 재미있는 내용으로 돌아와 보도록 하겠습니다.

마지막은 서비스의 시작을 알리는 예쁜 화면과 함께하시죠. 🎉

디스콰이엇한테 등 떠밀려 갑자기 팀빌딩 해버린 썰.txt

지난주까지만 해도 저는 이런 사람이었어요.

• 아이디어는 있지만 풀타임으로 근무를 하고 있어, 프로덕트화를 시작 할 엄두가 안 나는 사람

• 디스콰이엇 내에 활발하게 글을 올리는 사람을 바라보기만 하는 프로 눈팅러

• 프로덕트를 꾸준히 만들어 나가는 사람들이 부러울 따름인, 에너지 레벨이 낮은 사람

아이디어가 숙성되다 못해 썩기 직전

지금으로부터 거의 1년 전, Chat GPT가 등장했을 때 처음 소라고동의 마법에 대한 무척이나 러프한 아이디어를 떠올렸습니다. 그러나 직장에 들어간 지 얼마 안됐고, 적응하느라 정신이 없었습니다. 그래서 사이드 프로젝트를 진행할 생각을 전혀 하지 못했습니다. 핑계

소라고동의 마법은 AI Agent와의 상호작용을 통한 회고 습관 형성 서비스입니다.

2023년도 상반기, 제 상태에 대해 만족스럽지 못한 나날이 있었습니다. 이에 평소에 회고를 잘 하지 않던 제가 자발적으로 회고의 필요성을 느꼈고 제 회고 습관을 만들어 줄 서비스가 필요했습니다. 이에 "소라고동의 마법" 아이디어에 대한 검증을 진행한 후 세상에 필요한 서비스라는 결론을 내리게 되었습니다. 그럼에도 불구하고 앞에서 말했듯 스스로의 상태가 만족스럽지 못했기에 여전히 아이디어를 실현할 용기와 에너지가 없었습니다. 핑계2

"소라고동의 마법"을 탄생시키고 싶다는 욕심만 마음에 가득 품은 채 삶을 살아가던 중, PMC W23 모집 공고를 보게 되었습니다. 일반적인 창업 지원 프로그램과 달리, 많은 페이퍼워크가 필요하지 않으면서 실질적으로 프로덕트 메이킹에 필요한 부분만 커뮤니티의 도움을 받아 해결할 수 있겠다는 생각이 들어 지원을 했습니다. 합격 소식을 들은 직후, 프로덕트 메이킹에 접어들 큰 원동력을 얻었습니다.

합격 소식을 듣자마자 한 일

급작스럽게 웰컴 네트워킹 행사에 참여하기 위해, 오랜 세월 동안 아이디어를 묵힌 사람 치고는 용기가 필요한 일들을 해치웠습니다.

네트워킹의 필수품을 만들었습니다.

나의 직책, 팀의 비전을 담은 문구, 키 그래픽... 명함 만들기 활동은 정체성에 대해 고민하게 해주었습니다. 넘쳐나는 우수한 프로덕트 속에서, 명함을 받으시는 분들께 아직 런칭된 적도 없는 프로덕트를 더 정확히 각인시켜 드리려면 색다른 전략이 필요했습니다. 앱 내 인터랙션의 핵심이 되는 손잡이 모티브를 재현해 컨셉을 인지시켜 드리고자 했습니다. 급하게 명함을 디자인하고, 대학 재학 시절 디자인 수업을 들으면서도 한 번도 방문한 적 없는 24시간 출력 센터를 처음으로 방문했습니다. 그리고 집에 와서 새벽 내내 가내수공업으로 명함에 고동 손잡이가 될만한 링을 직접 붙였습니다. 디지털 프로덕트 메이커에게 손톱 빠질 것 같은 일이 생길 줄은 상상도 못했지만, 아무튼 기대감도 생기고 즐거웠습니다.

소개 페이지를 만들었습니다.

그리고 명함에 들어갈 프로덕트 소개 페이지를 노션으로 재빠르게 만들었습니다. 아직 실제 사용 가능한 프로덕트가 없는 상태이다 보니 앱 출시 소식을 받아보실 수 있도록 대기자 신청 폼도 함께 만들었습니다. 프로덕트 소개 페이지에 제품의 핵심 가치를 담기 위해 아이디어 검증 단계에서 모았던 데이터를 다시 꺼내보았습니다. 설문을 통해 수집했던 정량적인 데이터를 비로소 이용 가능한 형태로 정리하고, 예비 사용자 인터뷰 내용을 살펴보며 어떤 면으로 인해 프로덕트를 쓰게 될지 정성적인 데이터 또한 확인해 보는 시간을 가졌습니다. 짧은 언어로 내가 만들 프로덕트를 정의하는 일이란 참으로 어려운 일이더군요.

여정을 함께 시작할 소중한 팀원들을 모았습니다.

저는 기획/디자인/UX 리서치 등을 약간씩 할 수 있지만 직접 소프트웨어를 개발할 만한 역량은 없습니다. 제 부족한 점을 채워주면서, 문제 해결에 대한 열망으로 가득한 팀원들을 찾았습니다. 특히 UX를 다루고 있는 저는 UX의 중요성에 대해 잘 알고 있는 개발자들과 함께했으면 좋겠다는 생각이 있었는데, 제가 먼저 말하기도 전에 사용자 중심적으로 제품을 만들고 싶다는 이야기를 하는 사람들이었습니다.

저는 이런 팀원들을 만나서 무척이나 감사한데, 다른 팀원들은 어떻게 생각할지도 궁금하네요. 다른 멤버들의 메이커로그도 확인해 보세요!

• @김태현 의 글 <2주 안에 MVP 개발하기(1)>

• @Robin Oh 의 글 <실리콘밸리부터 창업까지>

용기가 생겼다는 추가 증거 (에피소드)

웰컴 네트워킹에서는 운영진분들께서 비슷한 점이 있는 프로덕트 메이커들을 같은 테이블에 묶어주셨습니다. 알고 보니 PMC W23 기간동안 피어 세션을 함께 할 메이커들이었고, 팀명을 정했습니다. 갑자기 용기가 솟구쳐 팀명 발표를 하겠다고 난리를 쳤는데, 저 날 최고 심박수를 찍었네요🫀 저는 그만큼 간이 작은 사람

참고로 Q 테이블에 앉았던 소라고동의 마법, ToDa, boota., 날리 팀은 공통적으로 AI에게 어떤 요청을 하면 좋을지 고민하고 있었기에 Querify를 팀명으로 삼았습니다. PMC W23을 통해 좋은 질문과 프로덕트를 만들어 갈 Querify 소속 팀들의 행보를 지켜봐 주세요!

특히 네트워킹에서 프로덕트 메이커 분들과 얘기하고 난 후 첫 출시 버전 서비스 들어갈 Feature를 추가하는 결정을 내렸습니다. 빠른 런칭에 혈안이 되어 사용자에게 사랑받는는 MLP(Minimum Lovable Product)가 되어야 한다는 점을 잊고 있었네요. 다른 팀과 고민을 나누며 우리 팀 프로덕트의 차이점을 파악하고, 대화를 하며 와우포인트가 무엇인지 간접적으로 파악할 수 있었어요.

그래서...

PMC W23을 시작하며 얻은 교훈은 아래와 같아요.

Lesson Learn

1. 어디부터 어떻게 시작해야 할지 모르겠다면, 명함이나 소개페이지같이 고객과 맞닿아 있는 자료를 만들어 보는 것은 생각 정리에 도움을 줍니다. 팀과 구성원, 그리고 나의 정체성에 대해 생각해 볼 수 있는 좋은 기회가 되었어요.

2. 긴 시간 동안 아이디어를 썩혔다고 묵혔다고 해서 크게 불안해 할 필요는 없는 것 같습니다. 시간이 지나도 여전히 해야 한다고 느끼면 내가 그 문제에 대한 진정성을 가지고 있는 것이며, 아직도 시장을 지배하는 프로덕트가 나오지 않았다면 우리가 하면 되니깐요! 실행력과 추진력이 높은 보통의 창업가들과 달리, 시작하고 싶을 때까지 기다리는 사람도 어딘가에는 있어요.

3. 시작하고 싶지만 내적 동기가 충만하지 않거나 엄두가 나지 않는다면, 너무 빡세지 않은 외부 시스템이나 커뮤니티의 힘을 빌려보는 것도 좋은 방법입니다. 팀빌딩까지 해버리도록 등 떠밀어 주신 디스콰이엇, 감사합니다.

도움이 되는 회고 습관 형성 서비스를 만들기 위해,

여러분의 이야기를 듣고 있어요 👤 

20분 비대면 인터뷰 참여하시고 스타벅스 기프티콘 받아가세요!

YC(와이콤비네이터) 파트너가 말하는 MVP

안녕하세요! W23에 참가한 한국어 학습앱 '보카도' 메이커 곽동원입니다. 연이틀 메이커로그를 남깁니다. 먼저 간단 홍보부터ㅎㅎ

'보카도'는 AI를 활용한 언어 교육에 관심이 있는 팀원을 구합니다. 사이드 프로젝트도 환영해요! 같이 멋진 프로덕트를 만들고 싶으신 분, 커피챗 주세요! :)

제가 스타트업을 하는데 있어 많은 도움을 얻고 있는 채널이 3개 있는데요. 오늘은 그 중에 하나인 와이컴비네이터(YC) Michael Seibel의 강연이 공감되어 공유합니다.(영어로 되어 있어서 일부 내용은 오류가 있을 수 있어요)

MVP를 만들 때 기억해야 할 것

1. MVP를 빨리 출시하기

2. 초기 고객을 얻기

3. 피드백을 받기

4. 개선 반복

초기 MVP 요건

1. 1주일이내 개발(1개월이 아님)

2. 최소(핵심) 기능

3. 작은 수의 초기 고객

4. 초기 고객 피드백을 바탕으로 개선 반복

불안정한 MVP예시

1. 에어비앤비(2008년임을 감안하면 나쁜 수준은 아닌듯;;)

   

2. 트위치

3. 스트라입스

MVP 해킹하는 법

1. MVP 시간을 정하기(Time box your spec)

2. MVP 스펙을 쓰기(Write your spec)

3. MVP 스펙을 줄이기(Cut your spec)

핵심 : MVP와 사랑에 빠지지 마라. 고객을 얻는 것이 무엇보다 중요하다.

어제 포스팅에 1달만에 앱출시 한 걸 썼는데 다음 MVP는 1주일로 줄여봐야겠네요. 참고로 원본 영상은 아래에 있습니다.

PMC W23 투자유치 분야에 참여하는 플루언트의 KPI 공유

미국 하버드 대학교(Harvard University) 연구진의 발표에 따르면, 여러 주변 사람들에게 목표를 알린 후 달성하지 못했다는 사실을 들키면 수치심을 느낄 수 있다고 합니다. 연구진은 “이러한 수치심을 피하기 위해서라도 계획한 일을 끝까지 완수할 가능성이 커진다”라고 밝혔습니다.

PWC W23에 참여하는 멤버들에게 6주간의 목표를 공유한 후, 최선을 다해 KPI를 달성해보고자 합니다.

저의 KPI는 다음과 같습니다.

1. 매주 2건의 투자 미팅 진행

2. 6주가 끝나기 전에 투자 클로징 (1M/2M)

3. 매일 글쓰기 (평일)

다행히도, 금주에는 1번 KPI를 달성할 수 있을 듯 합니다. 오늘은 트랜스링크 김범수 부대표님을 만났고, 내일은 일본의 MIRAI HOLDINGS 팀을 만날 예정입니다.

오늘 김범수 부대표님에게 받은 피드백이 현재 라운드를 돌고 있는 AI 스타트업에게 힌트가 될까 하여 공유드립니다.

• AI, 특히 생성형 AI 시장에는 매우 많은 기업이 뛰어들고 있고, 국내에서 하고 있는 아이템은 이미 미국에서 시도하고 있을 경우가 큼. 때문에, 미국 고객이 있는지, 우리의 기술을 실제로 경쟁력이 있는지 면밀히 확인해봐야 함.

• 디지털 휴먼에 대한 Use case가 없다면, 글로벌 시장에 진출하기 어려움. 대부분의 국내 디지털 휴먼 관련 회사들은 피부로 와닿는 Use case를 만들어내지 못했음.

• B2B 엔터프라이즈 대상 용역 업무는 현재 시장의 상황에서는 필요하지만, 항상 회사의 궁극적 목표를 잊지 말아야 함.

• 고객이 느끼는 불편함과 그로 인해 어떤 베네핏을 줄지에 대해 명확히 정의하지 않으면, 글로벌 VC를 설득할 수 없음.

• B2B 온프레미스로 해외 시장에 진출해서 성공한 사례가 없음. SaaS로 버티컬하게 시작하는게 좋음.

글로벌 지향 AI 프러덕트를 만드는 저희 팀에게 피가 되고 살이 되는 조언이었으며, 피드백을 반영하여 다음 투자 미팅에 참여해볼 예정입니다. 현재 투자 라운드를 돌고 있는 다른 AI 스타트업의 투자 유치 관련 소식도 기대해보겠습니다 :)

[W23] 파키스탄 개발자와 한달만에 앱출시한 ssul

저는요..

안녕하세요. 이번 W23에 참가한 한국어 학습앱 '보카도' 메이커 곽동원입니다. 오랜만에 메이커로그를 남깁니다.

1개월만에 앱출시

오늘은 1개월만에 구글 플레이스토어에 앱출시한 경험을 정리하려고 합니다. 사실 예전에 1주일만에 혹은 1일만에 앱출시한 분들의 포스팅을 인상깊게 본터라 1개월만에 출시한건 대단한건 아니라고 생각합니다.

중요한 것은 출시 데드라인을 1개월로 잡고 일정대로 진행했기에 나름의 성취감(?)을 가지게 되었다는 것인데요.(이런걸 자뻑이라고 하죠)

MVP를 플러터플로우라는 노코드툴로 직접 만드는 것도 고려했습니다. 하지만 노코드툴로 실제로 만들어보니 최소 기능을 구현하는 것은 가능하지만 scalable한 서비스를 만들려면 처음부터 제대로할 개발자를 채용하는게 낫다는 생각이 들었어요.

있던것

애플리케이션 개발 전에 준비되어 있던 것은 몇 개 없었습니다. 자신감, 아이디어, AI 서비스에 대한 관심, 1명 정도를 간신히 채용할 수 있는 자금(?) 정도였습니다.

없던것

그에 비해 부족한 점은 너무 많았습니다. 개발자도 없고 디자이너도 없고 기획도 없고 팀도 없고(팀은 지금도 없어요ㅎㅎ) 없는 것을 꼽자면 한도 끝도 없겠죠.

왜? 해외 개발자를

이유는 크게 두가지 였습니다. 일단 저의 서비스는 외국인이 대상이고 글로벌 서비스를 목표로 하기 때문에 외국인에게 개발을 맡겨봐도 재밌겠다는 생각이 들었습니다. 두 번째로 비용측면에서 현실적인 이슈도 감안해야 했구요. 국내에 중급 이상 개발자를 고용하려면 500만원 이상을 생각해야 했는데, 초기라 비용을 최소화 하는게 맞다고 판단했습니다.

슈퍼코더와의 미팅

해외 개발자를 채용하는 플랫폼은 여러군데 있었습니다. 그중에 슈퍼코더를 선택한 이유에는 특별한건 없습니다. 예전에 슈퍼코더의 세미나를 들었었는데 해외개발자와의 협업이 매력적으로 들렸습니다. 물론 해외개발자를 채용한 지금은 그렇게 생각만큼 저렴하지는 않다는 생각도 듭니다만.. 그래도 기존 업력이 있는 회사를 최대한 선택하려고 했습니다.

.

Let's do this!

그래도 일단 해보자라고 생각했습니다. 슈퍼코더를 통해 디자인이 가능한 해외 개발자를 외주로 알아보기 시작했고 몇 번의 인터뷰를 거친 끝에 인도개발자와 파키스탄개발자를 저울질하다 최종적으로 파키스탄에서 개발자를 채용하게 되었습니다.(슈퍼코더에 감사^^)

좌충우돌

처음 일을 해보는거라 의사소통의 문제가.. 생각보다 크더군요. 특히 영어로 소통을 해야 하는데 파키스탄 친구도 저도 영어가 주 언어가 아니다보니 초반에는 엉뚱한 방향으로 흘러가는 경우도 있었습니다. 재밌는 점은 이 친구가 제가 생각한 것과 다르게 해놓은 것도 있지만 생각보다 잘해놓은 것도 있어서 의견을 나누는 과정은 꽤 흥미로웠습니다.

Fitting..

다만 1주, 2주, 3주 시간이 지나면서 제가 원하는 것이 무엇인지 파키스탄 친구도 점점 이해하게 되었고 어떤 식으로 피드백을 줘야할지도 감을 잡게 되었습니다. 거의 의사소통은 OK로만 진행되는 수준이었지만 매일 밤 11시가 넘어 줌미팅을 진행하며 서로 프로세스를 확인했어요. 한국이랑 4시간 시간차가 난다고 하네요. 소통은 주로 급한건 whatsapp으로 전체적인 프로젝트 관리는 trello를 사용했습니다.

드디어 출시

처음부터 '무조건 1개월안에 출시가 목표'다라고 데드라인을 정하였고 원하는대로 1개월만에 구글 플레이스토어에 MVP를 출시하게 되었습니다. 부족한 기능은 많지만 하나씩 업데이트를 해나갈 예정입니다. 테스트 기간중이라 아직 사용자는 10명이 채되지 않지만 먼저 지인들을 대상으로 피드백을 받고 있어요.(주변에 한국어에 관심이 있는 외국인 친구가 있으신 분은 소개 좀..)

이제부터 시작

이제부터 시작이라고 생각합니다. 애플쪽 앱출시도 해야하고 정식출시 후 마케팅도 진행해야 하니까요. 지금은 MVP를 통해 PMF를 찾아 보는 단계입니다. PMF를 찾는 것은 보물찾기처럼 생각하려구요. 어렵지만 신나게~

다음은

다음번엔 왜 이 애플리케이션을 개발하게 되었는지도 짧고 굵게 정리해 보려구요. 얼마 전 데모데이 김범수님께서 1분 피치의 중요성도 강조하셨었지요. 그럼 오늘 포스팅은 이것으로 마치겠습니다.

'보카도'는 언어학습에 관심이 있는 개발자(flutter)를 모시고 있습니다. 사이드 프로젝트도 환영해요! 같이 멋진 프로덕트를 만들고 싶으신 분, 커피챗 주세요! :)

마케팅 산업에서는 AI를 어떻게 활용할 수 있을까요?

AI가 안 쓰이는 분야가 없다고는 하는데, 마케팅까지 한다고?

AI 대전환 시대가 도래하면서 너도나도 AI를 개발 및 사용하기 시작하였습니다. 시장 초기에는 단순히 개발자들만 AI를 기술적으로 접근하여 고도화하였지만 최근에는 비개발자들 사이에서도 AI 활용이 두드러지고 있죠. 비개발자 출신인 제가 지금 AI 스타트업에서 AI에 대한 지식을 쌓고 있는 것만 봐도 그런 것 같네요. 점차적으로 우리의 실생활에 밀접하게 AI가 활용되고 있습니다. 첨단기술부터 소비재, 금융, 정부 및 공공, 제조업까지 AI가 활용되고 있지 않은 분야가 없을 정도입니다. 과거에는 AI가 단순히 기업의 비용을 절감하는 용도로만 사용될 것으로 예상되었으나, 생성형 AI의 등장으로 기업의 매출을 증대할 수 있는 방향으로도 AI가 활발히 사용되고 있습니다. 그렇다면, AI가 어떤 산업에서 어떻게 활발히 활용되고 있을까요?

제가 오늘 말씀드리고 싶은 AI 활용 사례는 ‘마케팅 산업’에서의 이야기입니다. 마케팅은 잠재 고객과 직접적으로 맞닿아 있는 산업이기 때문에 생성형 AI가 더욱 활발히 활용되고 있습니다. 마케터들이 AI로 생성한 콘텐츠는 고객 확보로 이어지고 이는 매출 증대에 긍정적으로 작용하게 됩니다. 뿐만 아니라, 고객의 데이터를 자동 분석하여 진행하는 고객 맞춤화된 마케팅 전략은 구매 전환율에 큰 도움이 되기도 합니다. 실제로 Verified Market Research에 따르면, 전세계적으로 마케팅 산업에서 사용되는 AI 시장의 규모는 2030년 약 783억 달러에 이를 것으로 예측된다고 하니, 마케팅 산업에서의 AI 활용은 매우 긍정적인 전망이라고 할 수 있겠습니다.

출처: Verified Market Research

그렇다면, 제가 지금까지 Dalpha에서 시장 조사를 하고 많은 마케터 분들을 만나면서 얻은 인사이트를 바탕으로 어떻게 실제로 마케팅 산업에서 AI가 활용될 수 있는지 공유 드리겠습니다.

마케터를 위한 AI 활용법

이미지 생성 AI

엇비슷한 상품이 매일 같이 쏟아지고 있는 현 시대에, 광고 콘텐츠에서 차별점을 갖는 것은 매우 중요합니다. 똑같은 상품을 보더라도, 광고 콘텐츠가 흥미를 유발하게 될 경우 소비자들이 클릭할 확률이 굉장히 높아지겠죠? 저도 신박한 광고 콘텐츠들을 보면 괜시리 어떤 회사이고 어떤 상품인지 궁금해서 항상 들어가보곤 합니다. 이러한 차별화된 콘텐츠는 실제 잠재 고객들의 구매로 이어지게끔 하는 전환율도 매우 높습니다. 이러한 콘텐츠 중에서도 이미지는 확실하게 이목을 집중시킬 수 있기 때문에 굉장히 중요합니다. 하나의 상품에 대한 글 10줄보다 임팩트 있는 사진 1장이 확실한 효과를 불러일으킬 수 있죠. 따라서, 마케터 분들은 차별화된 이미지 생성에 많은 시간을 쏟지만 생각보다 무에서 유를 창조하는 영역은 쉽지가 않습니다.

이미지 생성 AI는 마케터 분들의 이러한 수고를 쉽게 덜어줄 수 있습니다. 실제로 저도 회사에서 마케팅을 담당하고 있는데, 매일같이 Pinterest 같은 사이트들을 참고하면서 콘텐츠를 제작하기에는 한계가 있더라고요. 그래서 제가 실제로 콘텐츠를 생성하기 위해 찾아봤던 툴을 공유드리려고 해요.

바로 Stability AI의 Stable Diffusion이 그 보조 툴인데요, 이미 많이 유명해서 사용하는 분들이 많지만 이를 마케팅에 활용하시는 분들은 한국에 아직 많이 없는 것 같더라고요. 텍스트 프롬프팅을 통해  원하는 이미지의 형태나 키워드를 입력하면 관련된 이미지를 AI가 자동 생성해줍니다. 예를 들어, 제가 코카콜라를 빈티지한 과거의 느낌으로 광고를 하고 싶다고 하면, “1950s Advertisement for Coca-Cola”라는 텍스트 프롬프트를 입력할 수 있겠죠? 그럼 다음과 같은 이미지가 생성됩니다.

출처: Open Art

어떠신가요? 정말 퀄리티가 높지 않나요? 이런 식으로 광고 이미지를 생성하여 콘텐츠 제작 시 참고하는 보조 툴로서 잘 활용할 수 있을 것 같습니다.

카피라이팅 생성 AI

마케팅에서 이미지만큼이나 중요한 또 다른 콘텐츠는 바로 카피라이팅입니다. 일반적으로 제품이나 브랜드의 인지도를 높이기 위해 마케팅의 목적으로 작성하는 텍스트를 카피라이팅이라고 하는데요, 기업이 타겟팅하고자 하는 고객 세그먼트에 알맞고 차별화되는 카피라이팅을 생성해야 합니다. 하지만, 이 역시 이미지와 마찬가지로 마케터 분들이 모두 수작업으로 창의적이고 Hooking한 콘텐츠를 생성해야 하죠. 따라서, AI 툴을 활용하여 카피라이팅 후보군을 생성해볼 수 있습니다.

다양한 카피라이팅 생성 AI 툴이 존재하지만, 모두에게 익숙한 ChatGPT를 사용할 수 있겠죠? 제가 Dalpha의 숏폼 편집 AI 솔루션을 마케팅하기 위한 카피라이팅을 ChatGPT에게 직접 부탁해보았습니다.

출처: ChatGPT

제가 사용해보고 퀄리티에 깜짝 놀랐습니다. 저는 회사명, 상품명, 상품 특징, 고객과 관련된 자세한 정보를 바탕으로 ChatGPT에게 카피라이팅 생성을 부탁하였는데요, 실제로 사용해볼 수 있을 것 같습니다. 이처럼 텍스트 프롬프팅을 통해 마케팅을 집행하고 싶은 정보를 자세히 입력하면 맞춤화된 광고 카피라이팅을 자동으로 작성할 수 있습니다.

Dalpha 카피라이팅 생성 AI

개인화 마케팅

마지막으로, 개인화 마케팅에도 다양한 AI가 사용될 수 있습니다. 과거에는 다량의 상품을 다수의 고객에게 노출시켜서 판매하기 위해 매스 마케팅이 주를 이루었습니다. 그러나, 경쟁이 치열해지고 소비자들의 니즈가 점차 구체화되면서 기업은 잠재 고객을 세분화하기 시작하였습니다. 이렇게 세분화된 고객 세그먼트를 기반으로 맞춤화된 개인화 마케팅을 진행하며 고객 이탈을 막고 구매 전환율을 높일 수 있었죠. 이러한 개인화 마케팅을 위해서는 고객의 행동이나 타겟 등의 데이터를 분석하고 활용해야 하는데, 이를 일일이 분석하고 예측하는 것은 시간과 비용이 많이 소요됩니다. 따라서, AI를 활용하여 개인화 마케팅을 하는 사례가 증가하고 있습니다. 구체적으로 어떻게 개인화 마케팅을 할 수 있는지 말씀드려 볼게요.

메시지 알림 및 쿠폰 발송

축적한 고객 데이터를 바탕으로, 고객별로 맞춤화된 메시지를 자동 작성할 수 있습니다. 예를 들어, 쇼핑몰에서 청바지가 궁금해서 탐색했던 고객 데이터를 바탕으로 고객에게 “청바지 찾고 계신가요? Dalpha의 신상 청바지를 확인해보세요.” 등의 맞춤화 메시지를 발송할 수 있습니다. 또한, 시계열 데이터를 활용하여 고객의 참여 혹은 접속률이 가장 높은 시간대에 맞게 메시지를 발송할 수도 있죠. 메시지 뿐만 아니라, 쿠폰을 고객별로 가장 적합한 비율로 제공함으로써 유저의 구매 빈도를 높이거나 이탈을 방지할 수 있습니다.

상품 추천

이 글을 읽고 계시는 독자 여러분들 모두 한 번쯤은 쇼핑을 하시면서 “OOO님을 위한 추천”이라는 탭을 보신 적이 있으실 겁니다. 개인화된 상품 추천을 통해 고객이 최근에 본, 혹은 구매한 상품과 유사한 상품을 추천할 수 있습니다. 이는 고객의 재구매율을 향상시켜 고객을 Lock-in할 수 있는 효과를 불러일으킬 수 있죠. 실제로 네이버는 ‘AiTEMS’를 통해 네이버 검색에서 상품 키워드를 입력하면 고객의 행동 데이터를 분석하여 맞춤형 상품 추천 블록을 노출합니다. 하단에 첨부한 사진과 같이, ‘남자 손목시계’라고 검색어를 입력하면 제가 상품을 탐색했던 데이터를 바탕으로 추천 상품을 맞춤 쇼핑 블록으로 노출하게 됩니다.

출처: 네이버

동적 웹 페이지(Dynamic Website)

동적 웹 페이지는 말 그대로 개인별로 서로 다른 웹페이지를 노출하는 것을 의미합니다. 이는 아마 대표적인 예시를 보여드리는 것이 이해가 빠르게 되실 것 같은데요, 많은 분들이 사랑하고 계시는 OTT 서비스인 넷플릭스에서는 동적 웹 페이지를 유용하게 사용하고 있습니다.

출처: Motocms

넷플릭스는 고객의 시청 데이터를 기반으로, 맞춤화된 화면을 노출합니다. 실제로 넷플릭스 사용자 시청 콘텐츠의 약 80%가 AI 추천 기반 서비스라고 하네요. 저도 제가 좋아하는 장르와 비슷한 콘텐츠를 추천 받을 때 해당 웹페이지를 통해 콘텐츠를 주로 시청하곤 합니다.

그래서, 앞으로는 어떻게 될건데?

저의 개인적인 생각으로는, 향후 마케팅 산업에서의 AI 활용 영역은 무궁무진할 것으로 예상됩니다. 앞서 말씀드린 생성형 AI를 통한 콘텐츠 생성 뿐만 아니라, 고객 데이터를 기반으로 한 고객 여정 고도화까지, 정말 다양한 분야에서 사용될 수 있죠. 일부 마케터 분들은 AI가 직업을 대체할 수도 있지 않을까라는 위협에 빠지기도 합니다. 그러나, 이러한 걱정 대신 오히려 AI를 어떻게 내 작업에 잘 활용할 수 있을까에 대한 고민을 이어나간다면 업무를 더욱 효율적으로 할 수 있겠죠? 고객 데이터를 기반으로 한 마케팅 CRM 툴은 시간 및 비용 감축에 많은 도움이 될 것이며, 생성형 AI의 경우에는 마케터 분들의 창의적인 콘텐츠 생성에 초석이 되어줄 수 있습니다.

이상으로 오늘 마케팅 산업에서의 AI 활용법에 대한 글을 작성해보았는데요, 앞으로도 꾸준히 특정 산업에서의 AI 활용법에 대한 내용을 공유 드리도록 하겠습니다. 추가적으로, 저희 Dalpha에서도 마케팅 산업에서 활용될 수 있는 다양한 AI 솔루션을 보유하고 있으니, AI Store를 둘러보시거나 직접 문의를 주셔도 감사할 것 같네요. 다음 글에서 더욱 좋은 인사이트를 공유 드릴 수 있도록 노력하겠습니다. 감사합니다.

Dalpha AI Store에서 마케팅 AI 둘러보기

NVIDA가 한국에 최초로 투자한 AI스타트업 Twelve Labs

시리즈A 130억원 규모의 투자를 유치한 트웰브랩스

어제 10X AI 클럽장이신 혜림님께서 쓰신 글을 보고, 생성AI 솔루션을 만드는 수 많은 기업들이 어떻게 고객 가치를 발굴하고 혁신할지에 대한 고민을 하던 찰나 한가지 뉴스를 접하게 됩니다. 엔비디아가 처음으로 한국의 AI 스타트업에 투자하기로 결정했고, 그 스타트업은 Twelve Labs라는 곳인데요. 어떤 곳인지 한번 살펴보았습니다.

영상계의 'Ctrl + F'가 되고자 하는 영상이해 AI 솔루션, TwelveLabs

바야흐로 검색도 유튜브에서 하는 시대, 우리는 텍스트보다 영상에 매우 친숙한 삶을 살고 있습니다. 저도 날씨가 건조한 요즈음 가습기 구매를 위해 가장 먼저 한 행동은, 유튜브에 가습기추천을 검색 했었으니까요.

영상이 주는 힘은 강력합니다. 시각적으로 다채롭고 제공되는 정보도 굉장히 많기 때문이죠. 배경 음악, 자막, 움직이는 피사체, 색깔 등 많은 데이터를 갖고 있습니다. 2025년까지 우리가 접하는 데이터의 80%가 이러한 비정형 데이터가 될 것이라고도 합니다.[1] 하지만 그렇기에 내가 원하지 않는 데이터도 상당히 많습니다. 네이버 블로그에 ~하는 법을 검색하면 라인이모지로 도배되고 결국 원하는 정보는 맨 아래에 있는 것처럼 말이죠.

그래서 Twelve Labs는

• (문제) '수 많은 정보가 담긴 비디오 내 특정 순간과 장면을 검색하는 것의 어려움'을 해결 하기 위해

• (솔루션) '비디오에서 행동, 객체, 화면에 표시된 텍스트, 음성 및 인물과 같은 핵심 기능을 추출하는 종합적인 AI를 개발했습니다.

• (제품) 그리고 이를 API로 판매하고 있는데요. 검색 API와 벡터API를 제공합니다.

Amy가 팀원과 함께 회의실에서 회의하는 장면 "찾아줘"

복잡한 기술 끝에는 결국 얼마나 고객 편익을 제공할 수 있냐가 핵심이라고 생각하는데요. 해당 솔루션을 통해 쉽고, 빠르게 내가 원하는 장면을 찾을 수 있습니다.

또한 광고 삽입, 콘텐츠 검토, 미디어 분석 및 실시간 피드백과 같은 추가 기능을 제공하는데요, 예를 들어 어떤 비디오가 폭력적인지 또는 교육적인지까지 구별할 수 있다고합니다. 이 때 트웰브랩스는 Oracle과의 장기 계약을 체결하여 Oracle의 클라우드 인프라를 사용하여 AI 모델을 훈련시키고 있다고 하네요.

만약 이 API를 MBC에서 구매한다고 한다면, 없는게 없는 무한도전 밈이 더 가속화 될 것 같습니다ㅋㅋㅋ 또한 방송사들이 자료화면을 찾을 때 더 다채롭고 풍부하게 구성도 가능합니다. 넷플릭스에서 최근 개봉한 베컴 다큐멘터리만 보더라도 정말 대단하고 느꼈던게, 인터뷰이의 말하는 모든 장면들을 다 긁어서 화면으로 송출하고 있더라구요.

Twelve Labs에 대해 더 궁금하시다면, 다음 조이너리 인터뷰를 확인해보세요!

진짜 재밌는 이야기가 많습니다!!

• 어떻게 학부 출신의 국내 스타트업이 실리콘밸리 VC, 세계적인 AI 석학에게 220억 원의 시드 투자를 받을 수 있었을까?

• 글로벌 탑티어 벤처 투자사에게 투자를 받는 비법은 무엇일까?

• 국군 사이버작전사령부에서 시작된 인연

• 1탄- 트웰브랩스의 창업 시작부터 세계 최고 VC에 투자받기 까지

• 2탄 - AI최고 스타트업의 팀 빌딩과 채용, 조직문화에 대하여

고객의 문제를 제대로 해결하는 AI스타트업의 글로벌 투자유치 전망

ChatGPT에 이어 생성 AI 분야에 선두주자가 되기 위해, 빅테크 기업들의 투자경쟁이 점점 활발해지고 있는데요. NVIDA가 직접 투자에 참여할 만큼 매우 뜨거운 감자라고 생각합니다. 이는 곧, 기술경쟁력과 고객가치를 혁신하는 곳에 집중하는 AI스타트업이라면 글로벌 투자 유치 전략을 고려해볼 수 있을 것 같습니다.

어떤 스타트업들이 글로벌 자금을 레버리지 할 수 있을까요? 또 그런 스타트업들은 어떤 문제를 어떻게 해결하고 있을까요?

이번주부터 디스콰이엇에 AI와 SaaS를 주제로 PMC*W23에 참가하는 58개의 팀의 메이커로그가 6주간 올라올 예정입니다. 이 중에는 특히 투자유치를 목표로 참가하는 분들도 계시는데요. 고객의 문제를 어떤 방식으로 혁신해서 풀고 있을지 많은 관심 부탁드립니다:)

[1] https://www.purestorage.com/kr/knowledge/big-data/structured-vs-unstructured-data.html

[2] 사진은 모두 트웰브랩스 공식 홈페이지

Record Statistics #1

제 석사 연구 주제인 Record Statistics (신기록 경신 통계)에 대해서 얘기를 해보고자 합니다.

우선 신기록 경신이 무엇인지 알기 위해서는 신기록 경신에 대한 명확한 정의부터 필요합니다.

신기록 경신은 말 그대로, 여태까지 등장한 최고/최저 값보다 더 높은/낮은 값이 등장하면 일어납니다.

예를 들어서 {1, 5, 0, 6, 1, -2, 8, 10}이 시간 순서대로 일어난 시계열이라고 할 때, 신기록을 경신한 횟수는 몇 번일까요?

Upper Record Number (상승하는 신기록 경신 횟수): 5회 (1, 5, 6, 8, 10)

Lower Record Number (하락하는 신기록 경신 횟수): 3회 (1, 0, -2)

라고 할 수 있습니다.

별 게 없어 보이지만, 이 정의로부터 Record Statistics가 시작이 됩니다.

Record Statistics에서 관심을 갖는 대상은 주로 Record Number (신기록 경신 횟수)입니다. 하지만 통계라는 이름에 걸맞게 이론적 기반으로 Average Record Number (신기록 경신 횟수의 기댓값)을 구해내죠.

Record Statistics에서 사용되는 데이터는 연구 대상의 동일한 기간에서 시계열들을 포함합니다.

예를 들어, 서울시의 강수량 데이터가 연구 대상인 경우에, 서울시 안에 포함된 지자체들의 강수량 시계열 데이터들이 사용된다는 것이죠. (그래야 통계를 알아낼 수 있겠죠?) Average Record Number를 구하는 방법은 이러한 지자체들의 강수량 데이터에서 각각의 Record Number가 있을텐데 이들의 평균 값을 계산하면 됩니다.

이는 데이터 속에서 Record Statistics를 찾는 방법입니다. 하지만, 이렇게 구한 Average Record Number가 어떤 의미를 갖는 지에 대해서는 알지 못하므로 분석하기가 어렵습니다.

해당 분야 연구자들은 여러 Random walk 모델들에서 Record Statistics가 어떻게 되는지 이론 기반으로 연구를 했습니다. 이렇게 구한 이론적 기반들을 통해 해당 데이터가 어떤 Random walk 모델을 따르는지 구하는 것이 연구의 주된 방향입니다.

이론적인 기반에 사용되는 내용들을 수식이 너무 다양하고 많아서 한번에 설명을 드리긴 어려울 것 같습니다..

이론적인 Average Record Number를 구하는 과정 속에서 사용되는 다른 변수들로는 Survival Probability와 First Passage Probability 등이 있습니다.

다음 시간에 이 둘에 대해 자세히 다뤄보도록 하겠습니다.

감사합니다.

AI 시대에 우리가 진짜로 지켜야 할 가치는 무엇일까?

구글 엔지니어 구글의 AI LaMDA 자의식 가졌다 기밀 폭로해

2022년 하반기 즈음에 이런 기사가 났던 걸로 기억한다. 그 당시만 하더라도 동료 AI 연구원들은 모두 말도 안된다며 그저 성능이 좋기 때문에, 엄청나게 많은 데이터가 학습이 되었기 때문에 그렇게 느낄 수도 있겠다 정도로 치부했던 것 같다. 그 해년도 학회에 Emergent Abilities of Large Language Models 이라는 연구 논문이 발표되었으나 관심도 없었다. 나중에 이런게 있었어? 라며 Google의 엔지니어가 어느 정도 옳았음을 알게 되었다.

Emergent ability는 모델 크기가 임계값을 넘었을 때 개발자의 의도와는 다르게 high performance를 보인다는 현상으로 현재에는 RLHF를 적용하면 10B 이상의 모델에서도 발생한다고 알려져 있다.

이 논문이 발표될 때 즈음 만해도 인공지능 4대 석학 중 한 명인 Yann Lecun은 GPT 시리즈를"그건 단지 타이핑을 도와주는 도구일 뿐"이라며 폄하했고 혹자는 Stochastic Parrot(확률로 말하는 앵무새)라고 생성형 모델을 폄하했었다.

실제로, 필자도 비슷한 생각을 가지고 있었다.

2023년 진짜 지능을 가진 AI의 등장

하지만, 2023년 ChatGPT 출시 이틀 만에 MAU 100만이라는 말도 안되는 수치를 보여주며 인기 몰이를 하고 나서야 필자를 포함한 AI 연구자들의 생각이 바뀌었다.현재 Emergent Ability는 지능으로 추정되고 있고 실리콘밸리에서는 AGI라는 단어를 사용하기 시작했다.

경쟁 1년 차 왜 OpenAI를 아무도 이기지 못하는 것일까?

OpenAI에서 출시한 GPT-4는 여전히 압도적인 성능으로 오늘 날짜인 10월 24일 현재에도 성능을 따라가는 모델은 존재하지 않는다. META에서 오픈소스 진영에 Llama2를 공개했음에도 왜 누구도 OpenAI를 이길 수 없는 것일까?

AGI 모델을 만들기 위해서는 3가지 해자(moat)가 존재하는데 특히, 3번의 Data가 오늘의 핵심 주제이다.

1. Infra : 컴퓨팅 파워

   • 연산 자원이 어마어마하게 든다 여기에 필요한 자금력이 AGI를 만드는데 필수요건이다.

   • GPT-3(175B)수준의 모델을 한번 학습하는데는 50억원 가량 비용이 소모된다.

   • AI는 여전히 미지의 영역이며 먼저 탐색을 통해 발견해야 하는 연구 영역이다.

   • 대규모 Infra 구축 경험을 가진 인력은 AI 개발자보다 더 귀하다.

   우선, 여기서 오픈소스 진영의 99%가 시도조차 할 수 없다. AGI 개발의 굉장히 강력한 해자로 작용한다.

   그래도 자금력이 있다면 클라우드를 이용하여 어떻게든 시도할 수 있다.

2. Algorithm : 차별화 된 알고리즘

   • 앞서, Infra의 장벽을 돌파한 1%의 기업들은 기존의 공개된 Algorithm에 더해 새로운 시도를 할 수 있고 연구를 통해 주요한 Algorithm을 발견하면 바로 기술적 우위에 들어설 수 있다.

   • 문제는, 세계적인 AI 학회에서 해마다 새로운 기술이 쏟아져 나오고 있기 때문에 몇 개월만 지나도 누구나 할 수 있는 기술이 되어 버리거나 경쟁력을 잃게 된다.

   • OpenAI는 RLHF와 같은 학습에 강화학습을 도입하는 기존 학회에서 트랜드가 다른 기법을 도입했고 이 기법은 아는 사람이 매우 드물기 때문에 경쟁력을 가질 수 있었다.

   • 결정적으로, 이런 경쟁력있는 Algorithm을 개발하려면 1.Infra가 지원되어야 하는데 연구할 수 있는 인구 자체가 엄청나게 줄어들게 된다.

   이 두 가지 해자를 넘어 경쟁력 있는 알고리즘까지 갖춘 회사들은 이제 손에 꼽는다 이름만 대면 들어본 기업들이 쏟아지고 처음 보는 회사라도 Series B, C 이상 단계에 있을 확률이 높다. 하지만, 여전히 GPT-4는 도전적인 목표이다.

3. Private data : 차별화 된 "나만의" 데이터

   • Data는 인공지능을 개발하기 위한 기본적인 자산으로 이전 10년 간 수 많은 알고리즘이 나왔지만 그에 반해 개발된 데이터셋의 수는 매우 적다. 아직도 많은 기업들은 Bounding Box를 사용하고 있고 자연어 분야에서는 Instruct 구조에서 벗어나지 못한다.

   • OpenAI는 데이터도 직접 개발하는 회사이다. 이전의 Clip 역시, 신선한 방법으로 라벨링을 진행했으며, GPT는 말할 것도 없다.

   • 자율주행 분야를 잠깐 살펴보면, 데이터에 대한 장벽이 매우 높다. 수집부터 굉장히 큰 허들이기 때문에 데이터 수집을 따로 해주는 업체가 있을 정도이다.
     하지만, 해당 분야는 여전히 전통적 AI를 사용하기 때문에 지능의 영역으로 넘어갈 한번의 기회가 더 있다. 또 다른 유니크한 데이터셋을 만드는 회사가 기회를 얻을 수 있을 것이다(이미 있을 수도 있다.)

   이 세 가지 해자를 모두 보유하고 있는 회사는 지구상에 몇 개없다.
   지능을 유발할 수 있는 데이터셋을 보유한 회사는 더 없다. 이런 회사들과 경쟁할 수 있는 한국 기업은 없는 것 같다.

그렇다고 노다지 AI 판에서 빠져야 하나?

많은 기업들이 거대 인프라, 알고리즘 개발 능력, 데이터셋 구축 능력이 부족해서 API를 통해 신 사업 기회를 모색하고 있다. 이는 비용을 확실히 줄일 수 있는 현명한 방법이 맞으며 새로운 기회를 창출할 수 있다.

하지만, Twitter가 API만 제공하던 시절 수많은 App이 스토어에 등록되었으며 Twitter 공식 앱이 나오자마자 모두 사라진 것을 보았을 때 비슷한 맥락으로 지금하고 있는 서비스의 핵심 가치가 GPT의 후속작으로 인해 공격 받는다면 3rd party 앱들과 같은 운명을 맞지 않을까 생각된다.

나만의 해자가 필요하다(데이터를 꾸준히 모을 수 있는 구조가 중요)

AI를 활용해야만 한다면 나만의 해자는 어떻게 구축할 수 있을까? 빅테크 기업들과 같은 수순을 밟기엔 자본도 인력도 모자라다.

그들이 할 수 없는 가치를 찾으면서 AI를 만들어야 하는데 PMC W23에서 발표해주신 채널톡의 엔지니어분의 말씀이 인상적이었다.

결국, OpenAI가 침범하지 못하는 영역은 서비스 본질에 있고 나만의 데이터에 있다. GPT-4가 아무리 뛰어나다고 하지만 여전히 특정 task를 수행하기 위한 Bert의 성능에 뒤쳐진다. 이 부분은 언젠간 AGI의 등장으로 사라지겠지만 현재에도 여전히 기업의 업무를 수행하는 AI로 자리 잡고 있다.

서비스와 제품이라는 해자를 깊게 파 놓아야 한다. 이게 기본이며 나만의 데이터가 생기는 구조를 만들면 AI를 개발하며 경쟁력을 갖출 수 있다. AGI 기업이 우리의 산업 영역에 침범한다면 나만의 데이터를 보유한 기업을 AGI가 이기기 힘들다.

지금은 물론, 생성형 AI가 뜨거운 화두이고 누구나 도입하기 때문에 공포에 질려 누구나 이 판에 들어오려고 한다.

그런데, 경쟁사 보다 빨리 생성형 AI를 도입한다고 해서 좋은 마케팅 포인트가 될까?
꼭 LLM이어야만 우리의 문제가 해결되고 비용을 줄일 수 있을까?

아직도 Custom LLM의 가격은 여전히 비싸다. 아까 말한 3가지의 해자 중 2가지를 직접 해결하더라도 나만의 데이터가 없으면 API 가져와 쓰는게 훨씬 낫다.

우리가 사는 세상은 컴퓨터는 매년 2배로 싸지고 AI 논문은 해마다 3만 건씩 배출된다.

가만히 앉아 있어도 알아서 2가지의 해자는 마르게 돼있다.
매년 말라가는 해자에 물을 채워 넣는 건 밑 빠진 독에 물 붓기다.

그 동안 AI에 너무 매몰되어 있지 않으셨으면 좋겠다.
서비스와 제품을 공고히 구축하고 그를 통해 데이터가 생기는 시점부터 AI를 도입해도 늦지않다.
만약, 현재 바로 AI를 도입할 수 있는 여력이 되는 팀이라면 당장 신선하고 신박한 나만의 데이터셋을 구축하여 새로운 AI를 만듦으로써 나만의 성을 공고히 구축하기를 당부 드린다.

LLM을 코드 안으로 넣으려는 시도들 (feat. OpenAI Function call API)

10X AI Club 톡방에 올린 내용을 공유합니다!

OpenAI Function Call이 6월13일에 출시된 이후 LLM 개발의 게임체인저가 아닐까 생각했습니다. (6월 13일을 외우고 있는 이유는 모델이름에 0613이 들어가기 때문..)

Function call을 통해서 비정형 데이터를 정형 데이터(JSON)로 변환하고 이를 코드에서 바로 사용할 수 있도록 하는 것이죠.

같은 흐름으로 LLM을 Pythonic 한 파이썬 코드의 일부로 만드려고 하는 시도들이 많았는데, 점점 이렇게 Low Level로 LLM이 프로덕트 안쪽으로 통합되지 않을까 상상해봅니다.

관련해서 재밌게 팔로잉하고 있는 라이브러리 공유드립니다!

https://jxnl.github.io/instructor/

https://github.com/PrefectHQ/marvin

개인적으로 instructor 라이브러리의 개발자 Jason은 제가 트위터에서 좋아하는 분인데 Pydantic을 사용해서 LLM을 코드 안으로 넣으려는 시도를 많이 하시더라고요.

https://twitter.com/jxnlco

맥킨지에서 바라보는 GenAI와 CX

00:00:02

1. ️📊 McKinsey의 John은 AI가 비즈니스에 미치는 영향에 대해 연구하고 웹 세미나에 참여하며, McKinsey는 디지털 변형을 선도하는 글로벌 컨설팅 회사이다.

• McKinsey는 디지털 변형을 선도하는 글로벌 컨설팅 회사로, John은 AI가 비즈니스에 미치는 영향에 대한 연구와 웹 세미나에 참여하였다.

• McKinsey는 전통적으로 경영 컨설팅 회사이지만, 현재는 더 많이 디지털에 참여하고 있으며, 머신러닝, 데이터 과학, 엔지니어링 등에 많은 시간을 투자하고 있다.

• John은 고객 운영 소프트웨어와 대화형 AI에 대해 5년간 경험을 쌓았으며, 약 10년 동안 고객 운영 분야에서 광범위하게 활동하였다.

• McKinsey에서 일하면서 기술 자체보다는 시장, 수요, 도전 과제에 대해 고민하고 해결책을 제시하는 것을 좋아한다.

• 조사 결과, 디지털 자체 서비스에 대한 수요는 계속해서 증가하고 있지만, 기술 스택의 통합 부족과 직원 이탈 등의 문제로 인해 수요를 충족시키는 것이 점점 어려워지고 있다.

00:02:51

2. 🤔📊AI 및 디지털 응용 프로그램을 통해 고객 경험 향상 및 운영 효율화를 목표로 함.

• 설문 조사 결과, 전 세계의 200여 명의 임원들 중 절반 이상이 다음 2~3년 내에 AI 또는 디지털 응용 프로그램에 예산을 투자할 것이라고 밝혔다.

• 고객 경험을 향상시키기 위해 자체 서비스 개선, 다양한 채널 접근성 개선, 문제 해결 능력 강화 등을 고려하고 있다.

• 고객 운영 개선은 기존의 수동적인 방식에서 RPA, 비즈니스 프로세스 관리, 다양한 기술을 활용한 자동화로 진행되고 있다.

00:04:07

3. 🤖 AI 도구의 발전으로 인해 그리드락이 줄어들고, 대화에서의 교육보다는 인식 수준을 높이는 것이 중요하다.

• AI 도구의 발전으로 그리드락을 줄이는 데 도움이 되는 제너레이티브 AI 애플리케이션에 대해 설명한다.

• 제너레이티브 AI에 대한 대화에서 교육보다는 인식 수준을 높이는 것이 중요하다.

• Google의 'Attention is all you Need'를 시작으로 제너레이티브 AI 기술이 널리 알려지고 있다.

• Google은 첫 번째 대형 언어 모델인 'Bert'를 개발하였고, 이후 'OpenAI'가 이를 따랐다.

• AI의 발전은 AI의 폭발적인 발전이 아니었지만, 오랜 시간 동안 존재할 것이다.

(중략)

*이 영상 요약노트는 Lilys AI로 제작되었습니다.

*전문 보기 링크 : https://lilys.ai/result?videoId=BSD7CZtvgfw&source=video&result=summaryNote

플루언트가 생성 AI를 활용해서 풀고있는 문제

생성 AI 시장의 흐름

챗GPT는 지난 12월 공개된 지 단 5일만에 사용자 100만명을 모았습니다.

생성형 AI는 텍스트 생성을 시작으로 코드, 이미지, 음성, 비디오, 3D를 생성하는 방식으로 진화하고 있습니다.

실제로 2023 CVPR에서 가장 많이 등장한 주제는 2D 이미지를 3D로 재구성(Reconstruction)하는 분야입니다. 대표적으로 NeRF 기반 모델이 있으며, 제출된 해당 분야 논문은 총 246편으로, 지난 해(137편)에 비해 2배 가까이 늘었습니다. 현재 생성AI는 3D 모델을 생성하는 방식으로 발전하고 있으며, 만들어진 3D 모델을 움직이려는(3위) 시도들이 나오고 있습니다.

생성 AI 시장 규모

글로벌 생성 AI 시장은 매우 빠른 속도로 성장하고 있으며, 챗GPT와 같은 대화형 AI의 성능이 증명되면서, 이제는 AI와 인터랙션이 가능할 것이라는 기대로 디지털 휴먼 시장 또한 비슷한 속도로 성장하고 있습니다.

블룸버그 인텔리전스 보고서에 따르면 생성형 AI 시장은 10년 후 무려 1700조 규모로 성장할 것으로 예상하고 있습니다. 디지털 휴먼 시장 역시 10년 후 560조 규모로 성장할 것으로 기대되고 있습니다.

플루언트의 미션, 비전, 코어 밸류

• MISSION: AI가 인류와 커뮤니케이션 할 수 있는 세상을 만듭니다.

• VISION: 글로벌 모션 생성 기업 1위

• CORE VALUE: 용기, 겸손, 협력

운이 좋게도, 플루언트의 방향성은 현재 시장의 흐름과 잘 맞아 떨어집니다.

저희는 2년 전부터 디지털 휴먼의 모션을 생성하는 AI를 개발하고 있었습니다.

현재는 B2B 엔터프라이즈를 대상으로 솔루션을 공급하고 있으며, 글로벌 타겟의 프러덕트를 개발하고 있습니다.

저희는 챗봇, 디지털 휴먼, AI 가상비서 등 텍스트와 음성, 카메라로 오는 정보를 통해 자동으로 모션이 생성되는 에코시스템을 만들고자 하는 목표를 가지고 있습니다.

플루언트가 풀고 있는 문제

저희는 기업의 문제를 해결합니다. 기업은 장비의 제약, 호환성, 실시간성, 가격 등의 문제로 3D 아바타의 모션을 생성하는데 어려움을 겪고 있습니다. 플루언트는 몇 개의 대기업과 계약 및 PoC 계약을 체결하면서, 기술 상용화를 완료했으며, 우리가 가진 기술로 Cash를 만들어낼 수 있다는 것을 증명했습니다.

플루언트의 계획

저희는 글로벌 생성 AI 시장의 파도에 올라탈 예정입니다. 텍스트, 음성, 영상 Input에 대응하는 3D 모션을 자동으로 생성하는 Product를 만들 것입니다. 이를 위해 자금이 필요하며, 이것이 저희가 PWC 2023에서 투자 유치 분야에 참여하는 이유이기도 합니다. 참가자와 피어러닝 및 파트너 네트워킹을 통해 남은 투자를 클로징할 예정이니, 많은 피드백 및 관심 부탁드립니다.

(처음 써보는 글이라, 두서 없이 작성했는데, 다음번엔 더 정돈된 글로 찾아오겠습니다 :))

생성AI 제품으로 과연 스타트업은 손익분기점을 넘길 수 있을까?

가장 중요하게 생각해야할 질문이지만 저희가 평소에 쉽게 간과하고 있을 수 있는 AI 업계의 현황에 대해 리서치 글을 작성하고자 합니다.

최근에 눈에 들어온 뉴스 아티클이 있는데, 대략 내용은 이렇습니다. “마이크로소프트, 구글과 같은 대기업들은 현재 생성AI 제품들로 이익을 내고 있지 않아 많은 투자자들의 걱정을 사고 있습니다. Github Copilot는 월 $10 구독료가 있지만 마이크로소프트는 오히려 고객 당 $20를 잃고 있습니다. 그 이유에는 클라우드 비용, GPU 비용, 그리고 GPT-4와 같이 비싼 API에 의존한다는 점이 있죠. 이를 해결하고자 기업들에서는 직접 더 싼 AI 모델을 만들거나, 엔드 유저에게 더 높은 구독료를 요구합니다. [https://archive.md/jMM1k]”

이 뉴스가 왜 저에게 더 심각하게 다가왔는지는 전 글들을 확인하시면 알 수 있습니다. 제가 예전에 앞으로 AI 스타트업은 어떻게 살아남아야하는가에 대해서 몇개의 글을 적은 적이 있는데, 그때 가장 우려했었던 것은 기존의 incumbent들이 (클라우드 SaaS 대기업 ex) Google, Microsoft, Amazon, etc.) AI 스타트업들이 하고 있는 제품들을 보고 자신의 기존 제품에 바로 그 AI workflow를 적용시켜버린다면 게임이 끝난다는 것입니다.

Game Over.

그 이유에는 여러가지가 있지만, 기본적으로 incumbent 기업들이 갖고 있는 네크워크 moat와 이미 PMF를 찾은지 한참 지나서 손익분기점을 넘기고도 계속 매출을 내고 있는 점이 가장 큽니다. 여기서 계속 발생하는 incumbent vs 새로운 스타트업의 경쟁 구도는 처음 보는 것이 아닙니다. 지금 생성AI 기술혁신이 발생하면서 많은 대기업들과 스타트업들이 이쪽으로 shift하고 있는 흐름은 예전에 클라우드가 생기고 나서의 shift와 매우 비슷합니다. 반면 Cloud 혁신 때에는 새로 생긴 SaaS 스타트업들이 incumbent (기존의 기업들)보다 시장 우위를 재빠르게 차지했습니다.

SANGEET PAUL CHOUDARY의 “How to lose at Generative AI!” 글에 의하면 그 이유에는 여러가지가 있습니다.

1. Incumbent들은 desktop에 다운받아야 하는 앱을 사용하면서 하나의 소프트웨어와 지원 인프라가 단일 고객에게 제공되는 환경을 구축해놨었는데, 제품 전체를 갑자기 browser로 바꿔야하면서 단일 소프트웨어가 여러 고객에게 제공되어야하는 환경을 구축하는데에 엄청 많은 변화를 요구했음

2. 클라우드로 가기 위해서는 full software stack을 바꿔야 했음

3. GTM 모델이 완전히 다른 구독제 방식으로 바뀌어야 했음 (더 낮은 CAC, 더 높은 churn을 요구함)

4. (CFO가 이 모든걸 이해해야 했음)

이와 다르게 처음부터 Cloud를 지원할 수 있도록 빌딩한 SaaS 스타트업들은 훨씬 쉽고 빠르게 시장을 장악할 수 있었습니다. 하지만 이번 생성AI때의 혁신과는 완전 다른 모습을 볼 수 있습니다. Cloud때와 마찬가지로 많은 incumbent들과 스타트업들이 이 기술에 맞는 플랫폼을 구축하려고 하는데, 지금은 incumbent들이 훨씬 우위를 차지하고 있다는거죠. 그 이유는 위와 완전히 다릅니다.

1. AI 기술들을 전체 코드 architecture가 바뀌지 않아도 API로 쉽게 적용시킬 수 있다는 이점.

2. 이미 B2B 고객들을 대량 보유하고 있는 incumbent에게는 더더욱 쉽게 API 바로 적용, HuggingFace와 같은 앱을 쉽게 구축/호스팅할 수 있는 플랫폼을 바로 활용할 수 있음

3. LLM 학습시키는데 필요한 비용, API 비용, GPU 비용 등을 신생 스타트업보다는 감당할 수 있음

즉 다시 요약을 해보자면, 스타트업들은 초기 PMF를 찾기 위해 무한 실험 사이클을 돌리면서 API 비용과 GPU 비용이 어마무지하게 나오지만, incumbent들은 이미 갖고 있는 고객 베이스 위에 자신의 제품에 알맞는 AI workflow 모델을 적용시키기만 하면 훨씬 빠르고 저렴하게 매출을 올릴 수 있다는 것입니다.

How to win

그렇기 때문에 스타트업이 승산을 조금이라도 더 볼 수 있는 방법은 incumbent들이 이미 자리잡고 있는 기존의 프로덕트 위에 AI 툴을 합치는 방향이 아닌, 1) 자신이 파인튜닝한 AI 모델을 API/제품으로 제공하는 방향으로 가거나 2) AI와 workflow를 혼합시키는 방향으로 제품을 만들어야한다고 생각합니다.

1. 자신이 파인튜닝한 AI 모델 API/제품으로 제공

이 경우에는 수평적으로 가거나 수직적으로 가는 방법이 있습니다. 수평적으로 가는 것은 특정 AI 모달리티(기능)에 포커스를 맞춰 제품을 전범위의 고객에게 제공한다는 것이고, 수직적으로 가는 것은 컨텍스트에 맞게 정말 필요한 타켓 고객에게만 제공한다는 것입니다.

예를 들어 미드저니나 스테이블디퓨전과 같은 이미지 생성AI 모델들은 특정 분야의 그룹을 위한 것이 아니라 이미지 생성을 하고 싶은 누구나 자신의 모델을 base layer로 사용하게끔 합니다. 뤼튼과 같은 경우에도 텍스트 생성 모달리티를 기반으로 수평적 제품을 제공하고 있습니다. 혹은 ‘이루다’ 캐릭터 AI 챗봇과 같은 것도 특정 성격과 말투를 생성하기 위해 파인튜닝한 모델 위에 빌딩해서 다양한 곳에 use case로 활용하는 수평적 제품이죠. 반대로 예를 들어 AI 모델을 여행 데이터에 파인튜닝해서 여행 계획 일정표를 유저의 prompt에 맞게 생성해주는 제품은 특정 고객만을 위한 수직적 제품입니다.

두가지 경우에 각각 장단점이 있는 것 같습니다. 수평적으로 가는 것의 장점은 다른 회사들과 다양하게 파트너십을 맺을 수 있고, 더 많은 개발자들이 자신의 AI 모델을 테스트해보고 빌딩하면서 여러 스타트업들이 자신의 제품을 base layer로 쓸 수 있습니다. (community growth, marketing growth effect)

반면 단점은 처음에 특정 유저/고객에게 집중해서 만드는 제품이 아니기 때문에 첫 고객을 유치하는데에 꽤 많은 시간과 유지/실험 비용이 들 수 있습니다. 즉 모두를 위한 제품이 될 수 있지만 동시에 모두에게 그저그런, 쓸 이유가 명확하지 않은 제품이 될수도 있습니다. 한번에 너무 많은 것을 제공하려고 하다보면 포커스를 놓치기 마련이죠. 그래도 특정 AI 모달리티에만 집중을 한다면 지금 단계에서는 꽤 괜찮을 거라는 생각이 듭니다.

수직적으로 가는 것의 장점은 당연히 특정 use case에게 집중을 하는 것이니까 수평적 방향 보다는 훨씬 빨리 PMF를 뚫는 다는 것입니다. 반면 제품을 제공하게되는 시장 사이즈가 그만큼 작다는 것이 최대 단점일수도 있습니다.

1. AI와 workflow 혼합시키기

이 방향은 제가 전의 글에서 언급한 AI native 제품들을 뜻합니다. AI 기술의 혁신으로 앞으로 10년간 우리가 예상하지도 못할 새로운 패러다임의 비즈니스 모델들과 AI에 맞춘 제품들이 나오게 될 것입니다. 여기서 스타트업들이 우위를 차지하려면 몇가지 점들을 계속 생각하고 있어야 할 것입니다.

• incumbent들이 이미 들어가있지 않은 분야/use case에서 수직적 AI 제품 제공

• incumbent들이 만든 B2B SaaS workflow들을 AI copilot workflow로 다 통합해버리는 제품. 예를 들어 slack+tally+gmail+discord 이런 툴들을 AI가 한번에 업무 자동화해줄 수 있는 제품 (Zapier가 하고 있지만, 아직 기회는 훨씬 더 많이 열려있다고 봅니다.)

• AI native 제품 (AI 기술을 활용한, AI에 의존할 수 밖에 없는 창의적이고 혁신적인 제품. 여태까지 우리가 보지 못한 형태의 비즈니스 모델과 서비스)

1. 추가로 마지막 방향은 처음에 AI 제품을 무료로 출시해서 유저들을 모은 다음, 네트워크를 키워서 점차 가격을 매기는 것. 장점은 PMF를 빨리 찾을 수 있는 것과 커뮤니티를 키운다는 것이지만 단점은 유저들이 왜 pay해야하는지 공감을 하지 못하면 빠른 속도로 제품에서 이탈하게 됩니다.

결론은 스타트업을 빌딩하고 있다면 incumbent가 갑자기 들어와서 이 툴을 자신의 기존 서비스에 장착했을 때 완전히 몰락할 가능성이 없도록 계속 염두에 두면서 빌딩해야 한다는 것입니다.

애초에 손익분기점을 넘길 수 있나요?

AI 스타트업을 하면서 가장 많이 고민하는 점은 제품의 가격을 어떻게 측정해야되는지에 대한 것입니다. 저도 처음에 측정할때 별걸 다 고려하면서 계산했는데,

• 만약 내가 OpenAI API 크레딧을 쓴다면 내가 한번 텍스트를 생성할때마다 몇개의 토큰을 쓰면서 총 얼마의 크레딧이 차감되는지 계산함

• 특정 함수나 LLM을 사용하면 더 비싸다는 것도 고려해야 함

• 몇명의 유저가 내가 지정한 가격에 제품을 사용하면 손익분기점을 넘길 수 있을지 고민

여기서 추가로 생각해야 하는 것은

• 한명의 유저가 얼마나 많이 API 콜을 할지 모른다는 것. 즉 한명의 유저가 내가 예상한 것보다 훨씬 많이 사용해서 뜻밖의 API 크레딧 무한 차감 현상을 경험할 수도 있음.

• 할루시네이션 결과값들도 결국 비용 나간다는 것

그리고 가장 중요한 것은

• 애초에 목표 시장이 작거나, AI 기술을 적용하기에 개방적이지 않은 시장이라면 더더욱 뚫기 어려움

• 특히나 전문성을 요구하는 일은 사람들이 AI에 반감을 보이거나 의심을 함

손익분기점을 넘기고자 엔드 유저에게 높은 가격을 부르게 되면 이익은 발생하겠지만 장기적으로 봤을때에는 유저 경험이 떨어져서 제품의 retention이 급격히 떨어지게 됩니다. 하지만 그렇지 않으면 스타트업 입장에서는 투자 라운드를 돌아야하고, 안 그러면 계속 출혈을 하게 됩니다. 현재 Microsoft, Google, Amazon과 같은 incumbent들도 이런 악순환 굴레를 겪고 있다는 것을 보면 아직은 갈길이 먼 것 같습니다. 앞으로 더더욱 API 비용과 GPU 비용을 낮출 수 있는 기술 발전이 필요합니다. AI가 현재 buzzword여서 내년에는 투자 라운드도 줄어들고 식을 거라는 말이 많이 나오지만, 그렇다기엔 AI 기술이 Chat GPT로 인해 한번 세상에게 어떤 것을 할 수 있는지 보여줬고, 그런 기술이 받춰주는 이상 죽지 않을거라 믿습니다. 그저 keep going하면 될 것 같습니다.

짧스콰이엇 AI 뉴스레터

[오늘 읽은 뉴스레터]

• ElevenLabs에서 자신의 목소리 혹은 다른 사람의 목소리로 29개국 언어로 통역과 더빙을 할 수 있게 새로운 버젼을 출시했습니다. https://elevenlabs.io/dubbing

• Moonhub AI는 세상 첫 AI 채용 자동화 에이전트입니다. 챗GPT에게 프롬프트를 치듯이 “Bay Area에 있는 아이비리그 candidates 좀 찾아줘”하면 바로 채용할만한 분들을 리스트업 해줍니다. 현재 100명 이상의 B2B 기업들과 함께 하고 있고 그 중에는 Anthropic도 고객사에 있습니다. 5분 안에 자신이 원하는 캔디더트 찾기: https://www.moonhub.ai/

  • 번외로 10X AI University 2주차 강의에서 채용 지원 자동화 에이전트를 직접 만들 수 있게 알려드리고 있습니다. 채용 공고들을 AI로 리스트업한 다음, 자신의 이력서와 비교해서 왜 내가 이 채용 공고에 적절한 캔디더트인지 설명하는 이메일까지 작성하는 것을 자동화 시켜주고 있습니다.

• Character.ai에서 그룹챗 기능을 출시했습니다: https://beta.character.ai/

• YC 지원을 준비하고 있는 분들이 계신다면 자기 팀의 지원서를 AI로 컨설팅 받아보세요: https://www.knowsilos.com/

• OpenAI는 작년의 $28M 연매출에 비해 현재 연매출 $1.3B를 찍고 있습니다. 이는 AI 업계 내에서도 어마무지한 성장 속도입니다. Anthropic은 OpenAI의 연매출의 1%도 안되는 $100M을 내고 있습니다. https://readwrite.com/openais-financial-ascent-from-28-million-to-1-3-billion-in-yearly-revenue/

• LLM을 만들때 가장 기본적인 기술인 transformers를 이제 자연어뿐만 아니라 프로그래밍 언어들도 알아들을 수 있도록 활용하고 있습니다. https://arxiv.org/abs/2310.08232v1

그 외 도움될만한 AI 업계 현황 리포트 자료 공유해드립니다 [State of AI Report 2023]: https://www.stateof.ai/

새로운 학문을 배우는데엔 딱 100시간만 투자하면 됩니다 (10X AI University 런칭)

10X AI Club 참여 이유

8월 말에 10X AI Club을 처음 설립한 후 지금까지 133명의 분들이 클럽에 조인해주셨고, 카카오톡 오픈채팅방에도 40명의 멤버분들이 참여해주시고 있습니다.

그동안 꾸준히 각 한명한명이 어떤 이유로 클럽에 참여하셨는지, 무엇을 가장 배우고 싶은지 노션에 정리하고 있었는데요, 참가 신청 이유에는 여러가지가 있었습니다.

1. 자신이 기존에 빌딩하고 있는 제품에 AI를 활용하고 싶은 분들 (사업/제품개발 목적)

   • 헬스케어, 병원 (Medical AI) (생각보다 많음)

   • 패션 (AR/VR) (생각보다 많음)

   • 업무 생산성/자동화 SaaS 툴 (가장 많음)

   • 데이터 추천/탐색형 툴 (두번째로 가장 많음)

2. AI 프로덕트를 빌딩하고 있는 분들 (AI 관련 정보 얻기 목적)

   • 이미지 생성을 활용한 광고/마케팅 컨텐츠 제작

   • ChatGPT를 활용한 대화형 서비스

   • RPG 게임

   • 생성AI 세일즈 챗봇

   • LLM 활용한 자동화 서비스

3. 개발 능력은 없지만 어떻게 만드는지 배우고 싶은 분들 / 인사이트 얻고 싶은 분들 (배움 목적)

4. AI 커뮤니티에 조인해서 네트워킹하고 싶은 분들 (커뮤니티 욕구)

이를 토대로 제가 어떻게 하면 가장 많은 도움을 효과적으로 줄 수 있을지 고민을 했습니다.

2번은 현재 제가 10X AI Club(https://disquiet.io/club/10xAIclub)에 올리는 인사이트 글들과 카카오톡 오픈채팅방에서 매주 공유드리는 "이번주 읽은 글들"을 올리면서 도움을 드리고 있습니다.

10X AI University 런칭 이유

하지만 2번을 위해 제가 하는 것들으로만은 나머지 1번, 3번, 4번이 해소되고 있지 않다는 느낌을 받았습니다.

그래서 1번, 3번을 도와드리기 위해 10X AI University라는 것을 9월 18일에 하기로 결정하고, 9월 27일에 첫 런칭 얼리버드 홍보를 했었습니다. https://dis.qa/bQCLPw

많은 분들은 직접 자신의 제품에 AI를 활용하고 싶은 욕구가 뚜렷했고, 직접 배우고 싶은 욕구도 강했습니다. 하지만 어디서부터 어떻게 시작해야할지 감이 안잡힌 상태에서 AI를 접목시키는 것이란 매우 어려운 일이겠다라는 생각이 들었습니다.

저도 처음에 블록체인 업계를 들어가고자 했을때 딱 그 심정이었어요. 컴퓨터공학과를 나오긴 했지만, 학교에서는 블록체인에 대해서 전혀 가르치지 않았고, 주변 사람들도 하는 사람들이 없어서 정말 막막했습니다. 운이 좋게도 제 지인이 블록체인 연구를 하는 분을 소개시켜줘서 어떤 리소스들을 봐야하는지, 무엇을 공부하면 좋은지 추천해줘서 그것부터 그냥 냅다 읽기 시작했습니다.

가장 와닿았던 말은 "어떤 분야여도 100시간만 투자하면 뭐든 배울 수 있다"였는데, 그날 이후로 저는 제 방 벽에다가 100시간짜리 바를 만들고 하루에 몇시간씩 투자할때마다 색칠해나갔어요.

어떻게 블록체인 공부를 했는지에 대한 글은 여기있습니다: https://brunch.co.kr/@hyerimyong/16

블록체인 공부에 70시간을 투자했을때쯤 저는 작년 서울에서 열린 Korea Blockchain Week에서 많은 블록체인 파운더분들과 대화가 가능하게 됐고, 한 스타트업에서 잡오퍼를 받게 되어 일을 하기 시작했어요.

이와 마찬가지로 여러분도 인공지능에 100시간만 투자하면 정말 그냥 뭐든 할 수 있습니다.

AI 프로젝트 개발, 자신의 제품에 AI 생산성 툴을 만들어서 접목시키는거, 어떤 AI 리서치/논문/뉴스 글을 읽어도 이해가 되는거.. 다 가능해요.

저는 블록체인 공부를 처음 시작할때 저한테 추천 리소스들이랑 도움을 줬던 분들에게 너무 감사합니다. 아마 그분들 아니였으면 어디서부터 시작해야할지 허우적거리다가 동기부여가 떨어졌을 것 같아요. 그 뒤로 AI를 처음 배울때에는 저는 어느정도 새로운 학문을 어떻게 효율적으로 배워야하는지에 대한 노하우가 생겨서 좀 더 쉽게 배우고 응용할 수 있었던 것 같아요.

제가 블록체인 공부를 할때 받았던 도움을 이젠 AI 공부를 하고자 하는 여러분에게 드리고 싶습니다. 그래서 10X AI University를 만들기로 결정했고, 오늘 공식적으로 런칭이 됐어요. https://www.10xaiclub.com/ 10X AI Universtiy에 있는 AI Developer Bootcamp 강의는 10X AI Club 멤버분들이 가장 배우고 싶은 토픽들을 위주로 커리큘럼을 짰습니다.

Week 1 기본기 다지기

• AI 없이 쇼핑 자동화 툴 만들기

• AI 없는 쇼핑 자동화 툴 웹사이트 만들기

• AI 쇼핑 에이전트 만들기

Week 2 업무 자동화

• 이메일 자동화 에이전트

• 채용 지원서 자동화 에이전트

Week 3 챗봇

• 비즈니스 챗봇 만들기

• 챗봇 코드 이해하기

• 챗봇 LLM 이해하기

Week 4 생성AI

• DALL-E 이미지 생성 (미드저니 시뮬레이션)

• ElevenLabs 오디오 생성

• 추가 리소스

Week 5 캐릭터 AI

• 카카오톡 캐릭터 AI 챗봇

• 캐릭터 AI 파인튜닝

Week 6 업무 자동화

• 마케팅/뉴스레터 업무 자동화 에이전트 만들기

프로젝트들은 OpenAI부터 Langchain, LLM, GPT, DALL-E, ElevenLabs 등을 쓰면서 직접 개발할 수 있도록 알려드리고 있습니다. 애초에 프로그래밍에 대해 전혀 모르시는 분들을 위해 만든 강의여서 더욱 쉽게 이해할 수 있도록 모든 부분들을 글과 이미지로 세세하게 알려드리고, 영상 강의도 있으며 그래도 안된다면 디스코드 방에서 질문/답변을 할 수 있도록 하고 있습니다.

맛보기 강의들이 궁금하시면 다음 링크에서 확인하실 수 있어요!

VSCode 셋업하기 영상 자료: https://youtu.be/zOhCdFngliA?si=4eiDZs53DC29avDB

글 자료: https://military-roundworm-8aa.notion.site/VSCode-8551d0c68c1a4baa83eb56423b102d61

Github 연결하기 영상자료: https://youtu.be/lTjHlBAr17U?si=wjBxmHZuHCr3azhx

글 자료: https://military-roundworm-8aa.notion.site/Github-3fc07bb0a544438995eaaac6ac52af22

지금도 얼리버드 할인이( 500,000원 1차 얼리버드 할인: 30%, 350,000원) 진행되고 있으니 AI 프로그래밍에 대해서 익숙해지고 실제 자기 비즈니스에 접목시키고 싶은 분들은 참가 신청 부탁드리겠습니다.

10X AI Club 정기모임

마지막으로 위에서 리스트업한 4번에 대해 아직 도움을 못드리고 있는 것 같습니다.

저번 PMC Pre-networking 이벤트를 함께 주최하면서 10X AI Club의 첫 오프라인 모임을 갖게 됐습니다. 이번주부터 6주동안 PMC 운영진으로 참여하게 되는데요, 이런 오프라인 이벤트들을 통해서 더 많은 AI 스타트업을 빌딩하고 있는 분들과 만나며 인사이트를 얻고 참여를 못하시는 분들에게도 배운 점을 공유드릴 예정입니다.

하지만 앞으로 PMC 외에도 AI 커뮤니티에 대한 이런 오프라인 모임은 꾸준히 지속되어야 한다고 생각합니다.

디스콰이엇 팀과 함께 운영하며 덕분에 어떻게 오프라인 이벤트들을 주최해야하는지 정말 많이 배우고 있고, 이를 토대로 10X AI Club도 조만간 이러한 정규모임들을 갖게될 예정이니 많은 관심 부탁드리겠습니다!

긴 글 읽어주셔서 감사합니다 :)

🤔 80일 동안 LLM 논문 400개를 정리하면서 느낀 점

7월 25일에 저는 대뜸 회사 슬랙에 LM (Language Model) 논문을 매일 정리해오겠다고 말했습니다. 그때 당시에는 한창 LLM의 인기가 높아지고 LLM을 활용한 다양한 서비스들이 출시되었기에 전 세계가 LLM에 집중하던 시기였습니다. 우리 팀도 LLM의 가능성에 대해 믿고 있었고, LLM으로 어느 팀보다 더 뛰어난 프로덕트를 만들기 위해서는 리서치가 필요하겠다 느꼈습니다.

사실 2-3달만 지나면 팀원들의 관심이 시들해져 자연스럽게 리서치를 그만하지 않을까 싶기도 했습니다. 잠깐 반짝했다가 요즘에는 뜸한 블록체인이나 메타버스처럼요. 근데 갈수록 LLM의 중요성은 화두되었고 어쩌다보니 사내에 공유하기 위해 정리하던 내용을 뉴스레터로도 만들어 매주 포스팅을 하고 있게 되었습니다. (이것도 이제 10주차가 되었네요..)

제가 포스팅하는 매주 가장 핫했던 LLM 논문을 정리하는 뉴스레터 👇

https://corca.substack.com/p/top-llm-papers-of-the-week-74f

매일 2-30개 이상의 논문을 훑고 중요한 4-5개 논문들을 뽑아 정리해오는 것을 80일째 하다보니 느낀 점들이 몇 가지 있어 이렇게 글을 적어봅니다. 참고로 저는 그저 학부생이자 3년차 머신러닝 엔지니어 정도입니다. 아직 많이 부족하니 가볍게만 읽어주세요 ㅎㅎ..

1. 이해가 되지 않는 논문을 몇시간 붙잡고 있지 마세요.

저는 논문을 읽다가 조금이라도 어렵게 느껴진다면 바로 패스합니다. 제가 논문을 보고있는 Arxiv에는 Computer Language 관련해서만 하루에 70개에서 어떨 때는 150개의 논문이 올라옵니다. 한 논문이 이해가 되지 않아도 제게는 나머지 69개의 논문이 남아있습니다. 적어도 그 중 20개는 초록만 읽어도 쉽게 이해가 되더라구요. 물론 어려운 논문을 몇 시간 붙잡고 이해했을 때 얻는 쾌감이 있긴 합니다. 하지만 지금은 하나에 깊게 들여다볼 때가 아니라고 생각합니다. 매일 새로운 방법론과 모델들이 제시되고 보통 그와 관련된 논문들은 초록만 읽어도 쉽게 이해가 됩니다. 그런 논문들만 빠르게 파악해도 충분하다고 생각합니다.

⭐️논문 빠르게 훑는 법⭐️

1. 초록 읽고 "뭔 소리여.." 하는 생각들면 바로 패스. (아직 이걸 읽을 실력이 되지 않았다는 것)

2. 논문에 있는 그림 감상할 때, 그림이 맘에 들면 계속 읽기.

3. 보통 Introduction 마지막 문단 쪽에 자신들의 main contribution을 bullet point로 정리해둡니다. 그거 읽기.

4. 그것까지 맘에 들었으면 적당히 실험 결과 맛보고 Limitation 파악하고 마무리하기.

1. 한국이 LLM 리서치에 있어서 많이 느린 것 같습니다.

논문에는 저자와 그의 소속이 보입니다. 대부분의 논문은 Microsoft, Google, Facebook (Meta), Alibaba 등 유명 해외 IT 기업과 MIT, Standford 등 유명 미국 대학에서 나오는 것 같습니다. 물론 중국 대학도 어마어마하게 많이 보이고 싱가포르, 홍콩도 꽤 보이더라구요. 한국은 가끔씩 KAIST, Naver에서 하루에 1-2개 정도 보이는 수준입니다. 정말 자신이 LLM의 가장 최전선의 연구를 파악하고 싶다라고 하시면, 외국의 자료, 커뮤니티들을 많이 봐야합니다. 저는 개인적으로 Twitter(X)를 통해 팔로업을 하고 있습니다. 제 트위터는 @L0Z1K입니다. ^^

1. 좋은 아이디어는 차고 넘친다. 누가 먼저 실제 프로덕트로 만드는지가 중요한 싸움이다.

GPT-4V가 머지않아 API로 사용가능해질 것 같습니다. 이미 리서치를 하다보면 이걸로 요런것도 할 수 있고 저런것도 할 수 있고 이런 게 문젠데 이건 이렇게 수정이 가능하고 등등.. 모든 얘기가 이미 다 나와있습니다. 실행력만 있다면 LLM을 가지고 정말 뛰어난 프로덕트를 만들 수 있다고 생각합니다. 저도 만들고 있는 멋진 프로덕트를 완성하여 자랑할 날이 오면 좋겠네요.

적고 나서 보니 너무 뻔한 얘기만 적어뒀나 싶네요.. 다음에는 더 얻을게 많은 좋은 글로 돌아오겠습니다. 😅

GPT 구동 원리에 대한 개념적 설명을 담은 '디코더 유형 트랜스포머 아키텍처 개론'

안녕하세요. Samuel입니다. 제가 전체 메이커로그에 글을 올렸는데, 권도언님께서 조언 주셔서 저희 클럽에도 다시 한 번 올려 봅니다. 중복되는 거 아닌지 모르겠네요.

제가 셀프 프로젝트의 일환으로 인공지능 교육과 관련해서 작은 자료를 하나 만들어 봤습니다. 자료명은 "디코더 유형 트랜스포머 아키텍처 개론 (초보자를 위한 Conceptual Tutorial)"이고, 발표자료 형태로 구성해 봤습니다. GPT 같은 언어모델의 구동 원리를 알고 싶으신 분들, 특히 트랜스포머 아키텍처에 관심은 있으나 코드나 수학, 언어적 장벽으로 인해 접근에 어려움을 겪는 분들께 도움을 드리고자 만든 자료입니다. 그래서 수식이나 코드 보다는 말이 많이 담겼습니다.

제가 GPT에 특별히 관심이 많았기 때문에 트랜스포머 중에서도 '디코더 유형 트랜스포머 아키텍처'에 대해서만 일단 다루어 봤습니다.

아마 여기, 현업에 계신 분들이 보시기엔 너무 쉽고 당연한 내용일 수도 있겠습니다. 주변에 GPT에 대해 쉽게 설명해야 할 필요가 있으실 때 사용하시면 유용할 듯도 싶습니다😅. 감사합니다!

https://cogdex-dtta.streamlit.app/

Llama 7b를 쉽고 싸게 Fine-Tuning 하기

먼저 Llama 7b를 구글 코랩에서 바로 fine-tuning 할 수 있는 링크를 전달드립니다. T4에서도 Llama 7b를 바로 fine-tuning 할 수 있는 것을 볼 수 있습니다. 심지어 단 몇 분만에요!!!

이건 마치 줄 서서 겨우 먹을 수 있는 유명 쉐프의 비싼 요리를 싼 가격에 밀키트로 쉽게 먹을 수 있게 된 것과 비슷하다고 볼 수 있습니다.

https://colab.research.google.com/drive/1Ly01S--kUwkKQalE-75skalp-ftwl0fE?usp=sharing

올해 초 허깅페이스에서 PEFT라는 효율적으로 Fine-tuning을 할 수 있는 기술을 공개합니다(https://github.com/huggingface/peft ).

간략하게 2천만 원이 넘는 그래픽카드(A100 80GB)로도 못하던 fine-tuning을 PEFT 덕분에 가능하게 된 것이죠. 가능은 했지만 1개 그래픽카드로 fine-tuning을 시키는데 오랜 시간이 걸렸습니다.

그리고 중순에 QLoRa라는 획기적인 기법이 등장하면서, 이제 2백만 원이 안되는 그래픽 카드(T4)로 fine-tuning이 가능해지기 시작합니다. 물론 그래도 T4로하면 오랜 시간이 걸리거나 종종 메모리가 부족해, A100으로 빠르게 처리하는 편이었습니다.

그러다 PEFT와 QLoRa 그리고 몇몇 최적화 기능이 들어가면서 2천만 원짜리 그래픽카드 하나로는 엄두도 못 냈던 fine-tuning을 이젠 구글 코랩에서 무료로 쓸 수 있는 그래픽카드(T4)로 해볼 수 있게 된 것입니다(다만 무료로 쓰면 금방 컴퓨터 소스가 부족해서 fine-tuning 몇 번 못할 수 있습니다.).

물론 위에 말한 것처럼 정식 요리가 아닌 밀키트이기 때문에 서비스로 쓰기엔 성능의 무리가 있을 수 있지만, 가벼운 작업은 충분히 잘하는 것을 볼 수 있습니다. 심지어 밀키트답게 fine-tuning 시간도 금방입니다.