AI 관련 프로젝트들을 함께 공유하며 최신 기술들을 직접 활용할 수 있도록 배워가는 클럽입니다. 온라인 뿐만 아니라 오프라인 정기 모임을 통해 스타트업 파운더들, 빌더들, 학생들이 함께 모여 서로 인사하고 아이디어를 키워갈 수 있는 클럽이 될 예정입니다.
가이드라인
["클럽 신청 전 디스콰이엇 프로필(이력, 스킬, 관심 토픽)을 꼭 작성해주셔야먄 클럽 가입이 승인됩니다. ","만들고 있는 프로덕트도 있다면 프로필에 올려주세요. ","클럽 승인이 되면 오픈카톡방에 초대해드리겠습니다.","AI 활용 사례와 실제로 활용하기 위해 만드는 법까지 공유할 예정입니다.","정기 오프라인 모임과 세미나들을 열 예정입니다."]
김동철
대충 스케치해도 생성 AI가 사실처럼 만들어주는 NVIDIA Canvas
인공지능이 그려주는 그림 NVIDIA Canvas 입니다.
인공지능이 포토샵의 영역이었던 사진 편집 및 합성 영역에도 깊숙히 들어왔습니다. 이 정도의 사진을 합성하려면 꽤 많은 시간을 들여 사진을 수집하고 수정을 해야 한 장을 완성시킬 수 있었습니다. 전문가 분들이 쓰시는 것을 보면 수십여개의 레이어에서 작업을 하시더군요.
엔비디아 캔버스는 마법같이 놀라운 일을 만들어 냅니다. 그림판에 낙서하듯 슥슥 그림을 그리면 실시간으로 사실적인(photorealistic) 이미지로 변환해 줍니다. 요즘 미드저니나 스테이블 디퓨전으로 text to image 가 가능하지만, 프롬프트만이 아닌 작가의 의도를 위치와 영역까지 좀 더 상세하게 반영 할 수 있다는 점에서 image to image 방식인 엔비디아의 캔버스가 유용해 보입니다.
NVIDAI Canvas 공식홈 및 다운로드는 아래 링크를 참고하세요.
김동철
어릴적 나이키 신발을 모으고 싶었지만 그렇지 못했기에
이렇게 다 큰 성인이 되어서야
생성 AI 로 나이키 신발을 모아 보았습니다.
추상적인 것을 구체화하고
구체적인 것을 추상화하는 것을
시도해보곤 합니다.
프롬프트에는 구체적인 묘사가 좋을 때도 있지만
추상적인 단어나 문장이 효과적일 때도 있습니다.
예를들어 이런식으로 말이지요.
사랑과 평화가 담긴 신발을 디자인 해줘
여기서 그치면 뭔가 좀 아쉽습니다. 추상적인 것을 재료로 시점을 바꿔 접근하면 이렇게 됩니다.
사랑 3방울에 평화 2방울을 섞은 신발을 디자인 해줘
우리가 가지고 있는 감각기관의 교차를 재료로 하는 것도 꽤 재미있습니다. 우리는 다섯가지 감각기관을 갖고 있고 가끔 여섯번째 감각기관이 동작하기도 합니다. 정의 내릴 수 없는 그런 촉 말이지요. 저는 이것을 경험상 이렇게 정의하곤 합니다. 한개의 감각기관이 뛰어나진 않는데, 다른 감각기관의 조합으로 해당 감각을 극대화 하는 것. 지금의 GPT-4 MoE 모델이 이런 방법을 차용한 모델이기도 하고요.
사랑의 향기가 나고, 평화의 맛을 섞어 신발을 디자인 해줘
좀 더 인문학적 프롬프트를 넣어보기도 합니다.
사랑은 마음의 빛, 평화는 그 빛들의 대화
유명 시인의 시를 넣어보기도 하고
영화 대사를 넣어보기도 합니다.
그러면 창의적이고 신선한 이미지들이 많이 나와요.
프롬프트를 하다가 막히면,
여러분의 이야기를 넣어보세요.
오늘 있었던 일
그 과정에서 느꼈던 감정
이것들을 그려달라고 하면 잘 그려줍니다.
제 인스타에도 가끔 구경와주시길
김동철
2023년 NVIDIA H100을 가장 많이 구매한 회사는?
이게 무슨 NVIDIA 주가 올리는 기사인가 싶겠지만, 아닙니다. GPU 전쟁은 이미 시작되었고, 미국은 중국으로 엔비디아 GPU 수출을 제재하였습니다. AI 발전을 막겠다는 국가적 전쟁입니다. 무섭지 않지만 무시무시한 이야기 같습니다.
GPU 확보가 국가 AI 경쟁력을 좌우할 수 있다는 전망이 나오고 있습니다. 과장해서 H100 GPU 확보가 핵 보유와 같은 힘을 갖을 것이다라는 해석도 있습니다.
NVIDIA는 이익을 추구해야하는 기업이기에, H100 보다 성능을 낮춰 H800, A800을 만들어서 수출 규제를 피해 수출을 해보려 했지만 미국 정부는 이것도 막았습니다.
Generative AI 알고리즘 SW 시장을 잡기위해서는 현재 NVIDIA H100이 많이 필요합니다. HW 칩셋으로 보면 CPU 하면 인텔, GPU 하면 엔비디아, 메모리 하면 삼성, 모바일 CPU하면 ARM이 꽉 잡고 있지요.
이전 GPU 빈부격차의 시대, GPU 푸어 vs GPU 리치 글 참고
상황이 이렇다보니 NVIDIA H100을 가장 많이 구매한 회사 통계가 나왔습니다. <클라우드 및 데이터 센터 시장 업데이트> 보고서에 따르면 NVIDIA H100 GPU의 출하량은 2023년 2분기 동안 약 900톤에 달하였고, H100 GPU가 수량으로는 약 300,000개 이상이라고 합니다.
NVIDIA H100의 가격은 현재 쿠팡기준 대당 약 5천 3백만원, 수량부족으로 약 9천만원에도 올라오기도 했었다고 합니다. H100 GPU 8대를 장착한 NVIDIA 공식서버 DGX H100은 약 6억 1천만원(46만달러)
NVIDA H100 구매량 순 회사명인데, 미래의 시가총액 순으로 보이기도 합니다. 메타는 SNS도 잘하지만 최근 몇개월간은 AI 기술을 잘하는 테크 회사로 급성장 중 입니다. (Meta AI Llama-2, AudioCraft, Imagine, SAM 등)
- Meta 150,000 대
- Microsoft 150,000 대
- Google 50,000 대
- Amazon 50,000 대
- Oracle 50,000 대
- Tencent 50,000 대
- CoreWeave 40,000 대
- Baidu 30,000 대
- Alibaba Cloud 25,000 대
- Bytedance 20,000 대
- Lambda 20,000 대
- Tesla 15,000 대
아랍에임리트(UAE)에서도 국가적으로 H100을 주문했고 빠르게 LLM을 만들어 내놓은게 팰컨 40B(Falcon 40B)입니다.
AMD에서도 생성 AI용 GPU, MI300X을 출시한다고 합니다. 아시다 싶이 지금 AI 시장엔 NVIDIA가 장악했고 그렇다보니 대부분의 AI Engineer는 CUDA로 개발하고 있으며, AI 학습/추론 라이브러리들이 CUDA를 지원하고 있습니다. 이거 한번 자리잡은 것은 바꾸기가 힘듭니다. 물론 AMD MI300X이 RODm이라는 SW를 통해 CUDA를 지원한다고는 합니다. 경험상 이런 미들웨어나 중간에 뭐 거치면 늘 기존 코드가 에러가 나고 성능이 떨어졌어요.
NVIDIA는 H100보다 2배 빨라진 H200을 내년 2분기에 출시한다고 합니다.
이 장황한 글에 인사이트로는, NVIDAI 주식을 모아야 겠습니다.
김동철
1. 크롬 스토어에 가서 Superpower ChatGPT를 검색하여 설치합니다.
2. 그러면 한층 업그레이드된 UI/UX를 보여주는 Superpower GPT로 업그레이드됩니다. GPT 성능이 업그레이드 되진 않습니다.
3. 제일 마음에 들었던 것은 폴더 관리 기능입니다. GPT를 1년 쯤 쓰다보니 왼쪽 사이드 메뉴에 채팅 채널이 너무 많아졌고 관리가 안되서 고민이었는데, 오픈AI에서도 업그레이드 해주길 기대해봅니다.
4. 두번째로 마음에 드는 것은 Custom Instructions 을 프로필로 저장하고 선택할 수 있게 한 부분입니다. 지금까진 껏다 켰다 하며 자주 쓰는 것을 몇가지를 메모장에 적어두고 바꿔가며 사용했었는데 이 점도 편리해졌습니다.
5. 오리지널 ChatGPT의 UI/UX가 불편했었구나 하는 것을 역으로 느끼게 해준 Superpower ChatGPT의 UI/UX 입니다.
Superpower를 얻은 ChatGPT의 모델 선택 기능
Superpower를 얻은 ChatGPT의 플러그인 선택 기능
김동철
사람들은 AI의 생산성 향상으로 인해
노동 시간이 획기적으로 줄어들고
자신이 원하는 일을 할 수 있을 것
테슬라 자동차의 오토파일이 생각납니다. 누군가 '운전시간의 80% 가량은 오토파일럿이 하고 나는 그동안 다른 일을 한다'라고 했던게 생각납니다.
마찬가지로 문서작업은 GPT가 하고, 코딩도 GPT가 하며, 포토샵 작업을 Stable Diffusion이 하는 등 반복적인 노동시간이 줄어드는 시대는 어느정도 가까이에 다가온 것 같습니다.
어떤 직업이 더 빨리 사라질 것인가 하는 고민보다, 이렇게 해서 생긴 여유시간에 사람들은 무엇을 할까를 고민하고, 그 시간을 차지하는 자가 AI 시대의 다음 승자가 될 것 같습니다.
콘텐츠 소비(릴스, 숏츠), 건강(스포츠), 자기개발(독서), 소모임(디스콰이엇) 등이 떠오릅니다.
여러분은 새로 생긴 여유시간에 무엇을 하실건가요?
[참고기사] https://www.aitimes.com/news/articleView.html?idxno=154539
김동철
우리는 숫자가 중요한 시대에 살고 있습니다. 숫자를 맹신하는 것은 아니지만, 또 믿을게 숫자 밖에 없기도 합니다. 적어도 하나의 판단 지표는 될 수 있습니다.
새로운 장소에서 새로운 사람을 만나면,
"몇 살이에요?
"몇명이서 오셨어요?"
이런것 따위를 묻곤 합니다.
이렇게 우리는 자꾸만 숫자를 묻습니다. 살면서 위 질문을 해봤거나 받아 봤다는 것은 여러분은 꽤 행복한 삶을 살았다는 증거입니다. 우리끼리니까 묻는 얘기지만,
"근데 이런 질문 몇번이나 받아 보셨어요?"
엄마도 아빠도 숫자를 궁금해 합니다.
엄마는 아이에게 묻습니다.
"몇점 받았는데?"
"몇등했어?"
그래서, 물었습니다.
"챗GPT는 몇점입니까?"
GRE, SAT, Law 등을 풀었고 등수가 인포그래픽으로 잘 정리된 것이 있어서 공유합니다.
GPT의 환각증세, 그럴듯한 거짓말 등 다양한 이슈는 여전하지만. 일단 저보다 똑똑하다는 것은 증명되었습니다. GPT-4 리스펙!
김동철
사용량 1위가 프로그래밍이군요. GPT를 프로그래밍 할 때 쓰고 계셨다면 제대로 활용하고 계신겁니다. 파이썬 코딩할때 쓰면 맛집 제대로 찾아오셨습니다. 단, 최신 라이브러리는 반영이 안되어 있고, 이미 널리 알려진 SOTA 알고리즘 코드들을 물어보는게 좋습니다. 예를 들어 철저한 메모리 관리로 안전성이 보장된 개발언어라고 불리는 Rust 는 최근 1~2년 사이 급변했는데 GPT는 Rust와 다소 옛 추억에 머물러있었습니다.
교육쪽 사용량은 줄어들었다 합니다. 잘못된 정보를 한번일라도 답변해주면 신뢰가 급격하게 떨어집니다. 교육자료는 한번만 잘못 답변해줘도 실뢰도는 제로가 되어버립니다. 교육분야는 특히나 정확한 내용을 전달하는 것이 중요한데 말이지요. 그래서 저는 이쪽 분야는 자료 요약, 정리 위주로 사용합니다. PDF 올려놓고 요점만 뽑아줘 이런 류들은 정말 잘합니다. 경쟁사 조사해줘 이런류는 잘못된 정보, 최신 정보의 부재로 매우 위험한 접근입니다.
콘텐츠 생산에 사용량이 생각보다 순위가 낮아서 살짝 의문이었습니다. 사용량이 제일 많을 줄 알았는데 말지요. 아마도 저는 교육도 교육 콘텐츠라 생각했던것 같습니다. 유튜브 스크립스 생성, 인스타 릴스 주제 추천 등 콘텐츠 생산에 쓰이고 있는 모습니다. 그런데 하도 보다보니 GPT로 만든 글과 스크립트가 느껴진 경우도 몇번 있습니다. 그래서 그런 글이나 유튜브를 보면 거부감이 들고 보기 싫어지기도 하더라고요. 곰곰히 생각해보니 노력을 들이지 않은 콘텐츠는 나도 읽는 노력을 들이고 싶지 않다입니다. 얼마든지 GPT를 썼더라도 저자가 수정하고 다듬고 조사해서 정성들여 만든 콘텐츠는 그게 느껴지고, 저도 꼼꼼하게 읽는 정성을 들이게 됩니다.
마케팅은 데이터와 심리를 기반으로 해야한다고 생각하는데, 그 중 데이터 기반 접근에 있어서 GPT 활용은 좀 조심스럽게 접근해야 한다고 생각합니다. 이전의 자료들로 2023년 이후의 인사이트를 얻으려고 하는 것과 같습니다. 거시적 관점, 그리고 인간의 심리와 욕구가 크게 변하는 것은 없지만, 키워드, 단어, 밈, 유행어들은 너무나도 빠르게 변하고 있으니 GPT 활용의 범위를 잘 구분지어 활용해야 합니다.
김동철
1. 카리브해의 작은섬 앵귈라는 AI 도메인 때문에 연 약 330억~400억 정도의 도메인 등록 수익이 에상된다고 합니다.
2. 앵귈라는 완도 크기만한 작은 섬으로 인구는 2만명에 못 미치고 산호초와 백사장으로 유명한 관광지이지만, 팬데믹 기간 도중 큰 타격을 입었다고 합니다.
3. 앵귈라는 '닷에이아이(.ai)' 도메인 등록으로 올해 2500만~3000만달러(약 330억~400억원)의 수익을 올릴 것으로 예측했다고 합니다.
4. 이런게 바로 앉아서 돈방석! AI 시대에 가장 편하게 돈 벌은 수혜자 TOP 1 이지 않을까 싶습니다.
김동철
생성 AI 시대의 알짜기업 허깅페이스 3,000억 투자유치
생성 AI 개발자들의 천국 허깅페이스
기업가치 5조 9천억, 3천억원 투자유치
1. 생성 AI 계의 깃허브 허깅페이스[1], 기업가치 5조 9천억원, 매출 약 400억원입니다. 각종 생성 AI 모델들 데모를 돌려볼 수 있습니다.
2. 구글, 엔비디아, 아마존, AMD, 인텔, IBM, 퀄컴, 세일즈포스로부터 약 3,000억원 투자를 유치[2]했습니다.
3. Meta, MS, Upstage 등 공룡 IT 기업들이 계정을 만들어 허깅페이스에 비용을 지불하며 사용중[2]입니다.
4. 허깅페이스 리더보드[5]에 각종 Open LLM들의 랭킹이 올라옵니다. 최근 한국 업스테이지가 SOLAR 10.7B 모델이 다시 1위를 탈환했습니다! 👏
5. 참고로 개발자들의 천국 오픈소스 깃허브는 MS가 약 8조원에 인수[3]했습니다.
6. 오픈AI(ChatGPT)는 하루 서버비만 9억원 이상을 소비하며 적자행진 중이지만, 허깅페이스는 생성 AI 서버를 운영하며 공룡 IT 기업들로부터 비용 받으며 웃고 있을 듯합니다. (그래서 기업 아이콘이 웃는 모습일지도)
7. 아마존이 한발 늦었다를 외치며 아마존 세이지메이커(SageMaker)를 만들어 저 같은 사람 불러서 홍보하고 있는데, 허깅페이스를 조단위로 인수하는게 빠를 듯 보입니다. 물론 언제나 AWS는 리스펙입니다.
8. 여기서 이 무대를 관람하며 쓴 웃음을 짓고 있는 네이버. 네이버는 2017년경 허깅페이스를 만났고, 초창기에 투자할 기회는 있었지만, 그냥 인큐베이팅 입주사 정도로 거쳐 간 것으로 보입니[4].
참고
[2] https://stock.mk.co.kr/news/view/212850
[3] https://www.digitaltoday.co.kr/news/articleView.html?idxno=200377
[4] https://www.sedaily.com/NewsView/26798EBEF3
Huggingface Open LLM Leaderboard
김동철
구글 이미지 생성 AI, Google Imagen 2 출시
1. 구글에서 이미지 생성 AI 서비스인 Imagen 2를 제공하기 시작했습니다.
2. 매우 사실적이고 고품질 고해상도를 지원합니다.
3. 다국어 텍스트 생성이 가능합니다. 글자가 들어간 로고, 제품 이미지 등을 만들 때 유용할 것 같습니다.
4. 영어 포함 7개국 프롬프트를 지원합니다.
(English, Chinese, Hindi, Japanese, Korean, Portuguese, Spanish)
5. Imagen 2 를 테스트로 써볼 수 있는 곳
- https://artsandculture.google.com/experiment/2QFyx9MN7Inxtg
6. 가장 유용할 것 같고 기대되는 기능은 Fluid style conditioning
- 레퍼런스 이미지를 넣으면 이를 기반으로 이미지를 생성해주는 기능입니다.
김동철
조단위 투자를 받은 생성형 AI 회사들, 어디에 돈이 가장 많이드나
조단위 투자를 받고 있는 생성형 AI 스타트업들은 대체 돈을 어디다가 쓸까 너무 궁금했습니다. 찾아보다 유사한 기사가 있어서 발췌해 보았습니다.
요약하면 컴퓨팅 비용, 인재유치, 학습 데이터셋 비용이라고 기사가 나온게 있더군요.
오픈AI의 경우 하루 컴퓨팅 서버비만 9억정도를 지출하고 있다는 기사를 올해 8월쯤 접했는데, 지금은 하루 10억넘게 Azure에 MS로 부터 투자받은 크레팃으로 비용을 지출하고 있지 않을까 싶습니다.
저의 경험으로 RTX 3090 Ti로 GAN 으로 데이터 학습하는데 약 6시간정도 걸리더군요.
스테이블 디퓨전(Stable Diffusion)으로 이미지 파인튜닝 모델(Fine-tuning Model) 하나 만드는 데는 약 4시간정도 걸리곤 했습니다. 물론 steps, epoch, batch size 등 시간을 좌우하는 파라미터들은 많습니다.
김동철
AI 인턴들을 소개합니다
손이 빠른 AI 인턴 4명과 함께 일하고 있습니다. 일단 뭔가를 시작하면 GPT, Bard, Bing, Claude 이렇게 4개를 띄워놓고 시작합니다. 제안서를 쓰기도 하고, 강연 의뢰가 들어오면 할당된 시간과 대상에 따라 컨셉과 목차도 바꾸고, 해당 업종에 따른 수정 하기도 합니다. 정기적으로 제품 리뷰 글도 쓰는데 맥락을 잡을 때 이용합니다. 새로운 지식을 학습 할 때 요점정리에 이용합니다. 다만 최근 지식들은 학습이 되어있질 않아 그냥 물어보면 안되고 PDF나 텍스트로 올린 후 요약 정리를 요청합니다. 요약은 기가막히게 잘해줍니다. 수많은 지식에 대해 단어와 단어 관계, 토큰과 토큰 사이의 상관 관계도가 잘 학습되어 있어서 그런것 같습니다. 플러그인에서 WebGPT 를 켜고 위키피디아 등 잘 정리된 사이트의 URL을 주고서 요약하는 방법을 사용합니다.
몇 글자 분량의 이야기를 써달라고 하면, 만족스럽게 이야기를 만들어 줍니다. 이 부분은 실망한 기억이 없습니다. 그럴듯한 스토리는 정말 잘 써줍니다. 등장인물 배경 시대적 분위기 등 사전 정보를 넣어주면 넣어준 대로 잘해주고, 정보를 별로 넣지 않아도 잘 써줘서 만족스러웠습니다.
Python 개발언어는 GPT-4가 잘해주니 GPT-4랑 주로 일하게됩니다. 다만 Claude-2 에다가는 얼마나 긴 코드를 다룰수 있는지 궁금해서 해보긴 했습니다. 뭐 딱히 기억날만한 이벤트가 없는 것을 보면, 대단하게 놀랄만한 것은 없었습니다. Python이 다른 언어에 비해 쉽긴 쉬운언어인지 LLM들이 Python 문법을 이해한 것 같습니다.
몇몇 인턴은 이제 보내주려하다가도 언제 또 업그레이드 되어 돌아올지 모르지 지우지는 않고 있습니다. 가끔 이전에 특정 업무는 잘했던 좋았던 추억이 미련으로 남아 다시 한번 물어보기도 합니다.
LLM 애플리케이션 개발로 핫한 LangChain을 GPT-4에 아무리 물어봐도 데이터가 없습니다. LangChain 진영에서는 GPT API를 엄청 쓰고 있는데 말이죠. 2022년 10월쯤에 등장했기 때문이라서 WebGPT 같은 플러그인도 써보지만, 기본 셋팅대로 사용해보면 검색 결과 상위 6개로부터 검색된 내용을 정리해서 알려주고 있는데 내용이 뒤죽박죽 되어 엉망이 되기도 합니다. 이런류의 최근 알려진 기술에 관한 지식은 Bard가 조금 더 낫습니다. Claude-2는 그마나 최근 자료를 학습해서 좀 잘 할 것 같아서 물어보면 종종 심하게 이상한 경우가 좀 있습니다. CLOVA-X는 열려있는 대화창의 히스토리를 너무 참조하는 것 같고요. 한번 잘못된 방향으로 빠지면 새 대화창을 열고 있습니다.
ChatHub 이것을 활용법으로 소개하려고 하다가 글이 길어졌습니다. 최근 Github에서 Chathub라는 크롬 확장앱을 발견했는데 열심히 써보고 있습니다. 제가 했던 행위를 몇단계나 줄여주었어요. 무료로는 2개까지 연동되고 유로는 6개까지 된다고 합니다.
링크 : https://github.com/chathub-dev/chathub
한번의 질문으로 2개의 답변을 동시에 받아보겠습니다.
유료를 쓰면 6개까지 동시에 답변을 해줍니다.
김동철
마이크로소프트가 놓친 것들, 그리고 Microsoft Designer
MS가 이번에 샘 알트만 뿐만아니라 오픈AI 개발자 수백명을 데리고 올 기회가 있었고, AI 시대에 아주 거대한 주도권을 쥐는 큰 흐름 변화를 가져올 수 도 있었지만, 샘 알트만의 오픈AI 복귀로 영입은 무산되었습니다.
시가총액 기준으로 MS는 언제나 전세계 1,2위에서 있어왔습니다. 애플이야 6개월마다 신제품 이슈도 있고 혁신적인 느낌을 주며 마케팅도 잘 되어있지만, MS가 애플보다 시가총액이 더 높았던 시가가 훨씬 길고 많았습니다. MS는 언제나 업계의 큰 형님이었지요.
MS가 Windows OS와 오피스 시장에 장악력을 가지고 있다보니 놓친 것들이 많습니다. 우린 이미 유사품이 다 있는데 또 만들어서 뭐해? 이런 느낌으로 대응이 늦다보니, 슬랙, 노션, 줌과 같은 조단위 유니콘 기업들이 탄생하는 동안 어느정도 쥐고 있던 시장도 놓쳤습니다. 뒤늦게 MS Teams(슬랙 대응), MS Loop(노션 대응) 등을 만들어 대응하고는 있으나 주변에서 사용하는 스타트업은 손에 꼽습니다. 지켜보면서 안타까웠던 것 중 MS는 이미 2011년에 85억달러(9조 2천억원)이 들여 음성/화상 채팅 솔루션 스카이프(Skype)를 인수하여 좋은 솔루션을 가지고 있었음에도, 줌에게 자리를 빼앗겨 버렸죠. 개인노트 저장관리 오프스 제품군인 원노트(OneNote) 있었지만 역시나 주변에서 쓰는 사람을 못봤습니다.
매출 1조원 가량의 Canva, 미리캔버스, 망고보드 같은 서비스들이 꽉 잡고 있어서 그런지 현재 Microsoft Designer는 그리 주목받지 못하고 있는 것 같습니다. 가끔 트렌드 파악하고자 여려 사이트들을 들어가보곤 하는데 MS Designer 첫 화면에 보여주고 있는 이미지들이 눈에 띕니다. 마치 Adobe Firefly를 보는 듯하군요.
대략 기능들을 보니 이미지 생성, 디자인 생성, 물체 제거, 배경제거, 배경블러, 브랜드킷이 있습니다.
Adobe Firefly
참고로 아래 이미지는 Adobe Firefly 첫화면 입니다.
김동철
GPU 빈부격차의 시대, GPU 푸어 vs GPU 리치
1. 현재 공룡 IT 기업들은 GPU를 2만개 이상 보유했는가를 기준으로 GPU-푸어 vs GPU-리치 기업으로 나뉜다고 합니다.
2. 확보한 기업은 생성 AI 서비스로 수익을 더 내서 더 많은 GPU를 확보하고, 확보하지 못한 기업은 도태되어 빈익빈 부익부 현상이 극대화 될거라는 예측이지요.
3. GPU를 많이 확보한 기업이 GPU 클라우드 컴퓨팅 서비스만 잘 해도 될것 같습니다.
4. 아마존 AWS, MS Azure, 구글 GPC 등이 잘하고 있지만, 런팟(Runpod.io) 같이 GPU 인스턴스만 빌려주는 스타트업도 있습니다. AWS GPU 인스턴스보다 저렴하니 스테이블 디퓨전으로 서버를 구축해서 본격적으로 서비스를 하실 스타트업이라면 Runpod 인스턴스를 꼭 검토해보시길.
5. 여기서 주목해야할 부분은 GPU의 기준이 NVIDIA H100, A100 이라는 점.
6. NVIDIA는 블록체인(비트코인) 시장에서도 큰 돈을 벌었는데, 이번 생성형 AI 시기에도 큰 돈을 벌고 있다는 소식입니다. 2023년 들어와서 2분기에서 벌써 1분기대비 급성장 신호 포착.
7. 여러분의 GPU는 무엇을 쓰고 계신가요?
주문 확보량.
김동철
저는 그림 그리는 것을 좋아합니다. 그런데 코딩도 좋아합니다. 그래서 Art & Technology에 서서 그 공간을 탐색하고 있습니다. 인터랙티브 미디어 아트란 무엇인가 챗GPT에 물어보았습니다. 몇가지 주요한 요소들이 보이는데, 관람객 참여, 상호작용, 기술, 센서, 프로그래밍, 예술과 공학의 융합된 현대 미술의 형태라고 설명해 줍니다. 개인적으로 AI 아트가 가졌으면 하는 요소들 입니다.
개인적으로 Brownian motion과 같이 이런 예측 불가능한 자연속의 Random 요소를 좋아합니다. 예시로 이러한 이미지가 관객의 소리, 관객의 움직임 등에 따라 움직임이 반응하고 방향이 바뀐다면 인터렉티브한 기본적인 요소는 갖춘셈입니다.
Brownian motion 알고리즘, 액체나 기체 속에서 미소입자들이 불규칙하게 운동하는 현상
챗GPT에게 물어보았습니다. 역시 저보다 잘 설명해 주는군요. 프로세싱은 MIT Media Lab에서 자바 기반으로 만들어졌고 교육용, 인터랙티브 미디어 아트 코딩하는 분들이 많이 사용하는 언어와 개발 환경입니다.
> 다운받기, https://processing.org/
챗GPT에 페르소나 프롬프트 작업을 합니다. 이런 프롬프트가 프롬프트 엔지니어링의 시작입니다.
> 앞으로 Stackoverflow 개발자 처럼 답변해줘
Processing 에서 동작하는 간단한 코드를 요청해봅니다.
> Processing 으로 동작하는 모션 그래픽 코드를 작성해줘
5. 에러 없는 완성된 코드가 나왔습니다.
우측 상단의 [Copy code]를 클릭하여 코드를 복사 후 프로세싱에서 돌려봅니다.
에러 없이 완성된 코드
중력 값이 조금은 단조로운 화면이 나왔습니다. 어딘가 코딩 수업 Tutorial 03 번쯤에서 봤을 법한 코드입니다. (이런거나 짜라고 GPT 씩이나 쓴게 아닌데..)
다소 단조로운 실행 화면
이런거나 짜려고 GPT 씩이나 쓴게 아닐텐데. 뭔가 좀더 인터랙티브한 요소를 가미해보겠습니다. 사용자의 움직임에 반응하는 요소를 넣으려고 하다보니 마우스에 반응 하는 코드를 요청해 보았습니다. 파티클 시뮬레이션이라는 전문용어도 넣어 봅니다. 혹시나 전문용어는 영어로 작성하는게 인식을 좀 더 잘 할까 싶어 영어로 주문합니다.
> Processing 에서 동작하는 마우스 클릭에 반응하며 터지는 particle simulation 코드로 작성해줘.
코드는 잘 나왔고 넣어서 실행해보니 NullPointerException 에러가 나는군요. 한줄 한줄 에러를 잡아보려고 코드를 보다가 각성하게 되었습니다. 우리에겐 GPT가 있습니다. 일은 GPT가 하고 우리는 방향제시를 잘 해주면 됩니다. 그리고 결과물에 대한 분별력을 갖추고 있어야 합니다.
이렇게 간단한 코드도 에러가 나니? 한마디 좀 해주고, NullPointerExeption 에러도 잡아보라고 시켜봅니다. 그랬더니 수정된 코드를 주는군요. 다 알면서 처음부터 이렇게 짜줄 것이지 말입니다.
철저하게 보스 모드로 이것 저것 주의를 줍니다. 이러면서도 사실 크게 기대하진 않습니다. 실수는 또 할테고 또 잡아주면 됩니다.
> 다음부턴 NullPointerException 에러가 나지 않게 코드를 작성해줘
이 쯤에서 마무리 지을까 했는데 저는 one more thing 문화를 좋아해서 하나만 더 해보려고 합니다.
> Processing 으로 동작하는 화려한 모션 그래픽 코드를 작성해줘
이제 좀 쓸만한 코드가 나온 것 같습니다. 예전에 이걸 생으로 짜려고 벡터, 인력, 척력, 중력 뭐 이런걸 공부해던 추억이 새록새록 납니다. 정확하게는 군체 움직임을 위한 Boids flocking 알고리즘이었지요. 프로세싱 코드는 첨부하였습니다.
마우스로 드래그 하면 Force 가 적용되어 움직이는 공들
[소스코드 다운]
이정민
생각보다 우리 가까이에 있을지도 모릅니다.
정식 프로덕트는 전혀 아니고 (훨씬 더 편한 플라멜은 이미 베타 테스트 중)
그 대신 미래에는 어떤 모습의 도구가 등장할 지 함께 고민해보고자 스모어톡과 함께 일하고 있는 AI 디자이너(인간 아님, AI)와 함께 영상을 찍어보았습니다.
참고로 스모어톡은 AI 시대에 걸맞는 정말 간편한 UI/UX를 고민하고 있습니다.
혹시 관심 있으신 분들은 커피챗 부탁드립니다.
김동철
위 이미지는 실물 사진(노트북)과 AI 이미지로 배경이 생성되어 AI가 합성해준 이미지입니다.
제품을 파는 쇼핑몰을 운영하는 분들에게는 제품 사진 찍는게 고민입니다. 스튜디오 예약, 작가섭외, 소품준비 등 여러가지 준비해야 것들이 많습니다. 그런데 앞으로 생성형 AI가 이 고민을 해결해 줄 것 같습니다.
프로세스는 크게 3단계로 이뤄집니다. 원본사진의 배경제거(Background Removal) -> 배경생성(Generate Background) -> 합성(Composite)
Stable Diffusion을 만들어 공개한 이세대의 대인 Stability AI의 ClipDrop 을 이용할 것입니다.
노트북 사진으로 테스트 해보겠습니다. 다양한 각도에서 촬영한 사진을 몇장 준비힙니다. 아이폰이나 갤럭시 스마트폰 사진으로도 충분합니다. 아래와 같이 다른 각도에서 찍은 사진 몇장을 준비하였습니다.
배경제거시 배경은 단순할수록 좋습니다. 배경제거 AI도 똑똑해져서 웬만해서는 잘 분리해줍니다. 예전에는 이거 따내려고 한참 매직봉과 선택툴로 고생했던 기억이 납니다.
클립드롭(Clipdrop.co) 사이트에 접속합니다.
아래로 스크롤 하다보면 배경교체(Replace Background) 메뉴를 클릭합니다. (참고로 유료만 이용 가능합니다)
촬영한 사진을 업로하고 원하는 배경 프롬프트를 입력합니다.
<끝>
클립드롭 사이트에서 배경교체 메뉴를 클릭, 사진을 업로드 하면 자동으로 배경을 제거해줍니다. 크기와 위치를 조절한 후 배경으로 촬영되었으면 하는 프롬프트를 입력합니다.
이렇게 해서 생성하고 합성된 AI 이미지들 중 괜찮게 합성된 이미지들을 선별해 보았습니다. 확대해서 보면 좀 어색하지만, 작게보면 그럭저럭 볼만합니다.
감상해보세요! 그림자까지 반영된 부분은 좀 놀랍습니다.
김동철
Meta의 이미지 생성기 Meta AI Imagine 사용기
1. 요즘 무서운 속도로 SNS 회사에서 하이테크 회사로 거듭나고 있는 Meta의 이미지 생성기 Imagine를 사용해보았습니다.
2. 사용해보니 Clipdrop, Fooocus와 같은 심플한 UI에, SDXL 정도의 퀄리티를 보여줍니다.
3. Meta가 어찌보면 생성 AI시대의 수혜자가 될수 있겠다 생각을 하게 됩니다. 상업적으로 사용하라고 공개한 언어모델인 Llama 부터, 오디오 생성기 AudioCraft, 이미지 생성기 Imagine 까지, 세상을 놀라게 했던 SAM(Segment Anything Model)도 있고요. 물론 HW 쪽 최고 수혜자는 NVIDIA !
4. 접속 주소는 아래와 같습니다. 현재는 미국에만 제공하고 있어 VPN으로 IP 우회가 필요합니다.
5. 결과물 몇개를 첨부하며, 이 모든 기술이 인스타그램 릴스 생성에 자연스럽게 녹아들어갈 모습을 상상해봅니다.
Cailyn Yong
[10X AI Club 1기 멤버십 1/3 회고] 오퍼레이터 분들께 도움을 요청합니다!!
*이 글은 10X AI Club 1기 멤버십 진행과정에 대한 Building in Public 회고입니다.
11/29일에 10X AI Club 1기 멤버분들과 첫 Pre-Networking 이벤트를 열었습니다.
그 뒤로 첫번째 스터디 세션, 데브 세션을 진행했어요. 앞으로 2 사이클의 스터디+데브 세션이 남아 있어서, 여태까지 진행하면서 제가 느낀점 - 좋았던 점과 어떻게 더 개선할 수 있는지에 대해 글을 씁니다.
이날 정말 많은 분들께서 와주셨어요!
첫 모임인 만큼 앞으로 프로그램의 일정과 계획에 대해서 안내해드렸고, 서로 알아가는 시간을 가졌습니다.
프리네트워킹을 마치고 그 다음날 부터 디스콰이엇의 비공개 클럽에 "업무자동화"를 주제로 학습 자료들을 올리기 시작했습니다. 학습자료들은 GPTs를 갖고 계신 분들과 아직 대기자이신 분들을 위해서 다양하게 올렸어요.
[GPTs]: GPTs 내에서 Zapier Action 연동해서 업무자동화 챗봇 만들기
[Code]: PDF, URL, CSV 파일을 학습시킨 AI와 대화할 수 있는 챗봇 만들기 + 웹사이트 인터페이스 구축하는 방법
[Code]: Assistant API + Zapier Action
이 자료들은 12/06 스터디 세션 전까지 각자 학습해오고, 스터디세션 당일날 어렵고 잘 안된 부분들에 대해 Q&A 할 수 있는 세션을 마련했습니다. 추가로 멤버분들마다 각자 만들고 싶은 AI 프로젝트 아이디어들을 미션으로 올리게 했고, 스터디세션에서 아이디어 피칭을 하고 팀원들을 모집했어요.
세션 마지막 30분에서는 팀원분들과 함께 따로 Zoom 소회의실에서 처음 만나서 다음주 Dev Session때까지 만들 프로젝트에 대한 계획/회의를 할 수 있도록 시간을 드렸습니다. 세션이 끝난 후 팀원들끼리 대화할 수 있는 슬랙 채널을 만들어드렸고, 거기서 멤버분들은 서로 소통을 하며 프로젝트들을 조금씩 만들기 시작했어요.
사실 제가 가장 놀라고 감동받은 부분은 어제 진행된 데브 세션이었어요.
각 팀마다 진행상황에 대한 발표를 해주셨는데, 짧은 시간임에도 불구하고 정말 많은 준비를 해오셨고, 실제로 대화해볼 수 있는 데모까지 준비해와주셨습니다.
현재까지 10X AI Club 1기에서 만들어지고 있는 AI 프로젝트들입니다. 각 팀마다 일주일간 어떤 주제의 프로젝트를 만들었는지, 잘 된 부분들, 잘 안되고 어려웠던 부분들에 대해 짧게 소개를 해주셨습니다.
자소서 첨삭 GPTs
발달장애인을 위한 「읽기 쉬운 자료」 제작 서비스
돌아가신 분과 AI 채팅할 수 있는 GPTs
엔젤투자 매칭 서비스
보고있는 뉴스의 정치적 성향을 판단해 주는 GPTs
자기계발 GPTs
이커머스 고객 맞춤 패션 잡지 발송 자동화봇
가상화폐 데이터를 바로 시각화해주는 챗봇
썸네일로 뉴스를 소비할 수 있는 GPTs
British English Tutor
할일 우선순위 GPTs
개인적으로 너무 재미었었던 부분은, 각 팀마다 겪고 있는 문제들이 공통적인게 많다 보니, Q&A를 하면서 다른팀이 겪고 있는 문제에 대한 해결책을 다른 팀도 적용시켜볼 수 있다는 것이었습니다. 서로 고민 해결을 해보고, 회의를 하면서 해결책을 조금씩 찾아가는게 신기했어요.
사실 제가 처음 1기 멤버십 커리큘럼을 기획할때 저는 일방적인 강의 세션들보다는 서로가 함께 해보면서 배워볼 수 있는 경험을 제공해드리고 싶었어요. 그래서 Dev Session이라는 것을 기획했고, 이렇게 실제로 팀을 구성해서 직접 만들어보는걸 계속 푸시했습니다.
데브세션이 끝나고 나서 이번 세션까지의 피드백을 받았는데, 제가 우려하던 점들을 멤버분들께서 직접 말씀해주시니까 더욱 개선해야겠다는 생각이 들었습니다.
스터디세션에 공유햐주시는 과제(?)들이 어느용도인지, 어디에 유용한지 설명이 부족한것같아요
스터디세션에서 RAG, 프롬프트 엔지니어링, 파인튜닝 등 GPT 초보자를 위한 배경지식, 개념에 대한 자료도 있으면 좋겠습니다.
커리큘럼이나 수업등에 공지를 자주나 미리 해주셨으면 더 좋겠다.
주신 스터디 자료들을 따라가지 못한 부분과 각 주마다, 세션마다 어떻게 진행되는지를 명확히 알기 어려웠고, 아무래도 평일 퇴근 시간 이후 모임이다보니 이탈자들도 보였던 것 같아 아쉬웠습니다. 초심자가 따라가기에 어려운 내용들이 있어 이 부분에 대해서 어떻게 해야 할 지 조금 막막한 부분이 있었습니다. 처음 진행하시는 것이다 보니 어려운 점이 많으시겠지만, 그래도 앞으로 더 좋은 방향으로 더 발전해 나갈 수 있다고 생각합니다 :)
1. 일정 - 오프라인 일정을 격주 수요일이 아닌 토요일로 하면 참여율이 올라갈 것 같습니다. 아무래도 수요일 오후 7시는 퇴근하고 오기 빠듯한 분들도 계시고, 네트워킹 파티나 데브 세션은 시간이 부족함을 느껴서, 토요일 오후 5-8시 또는 6-9시로 진행하면 더 좋을 것 같다고 생각하였습니다. 그렇게 하면 그 시간 이후에도 추가로 미팅이나 이야기를 더 나누고 싶으신 분들은 따로 시간을 가질 수도 있을 것 같구요..! 몇 가지 오프라인 모임이나 세미나를 참석해보았는데, 주로 평일엔 온라인, 주말에 오프라인 또는 온라인이 참석률이 가장 높아보였습니다!
2. 인원 - 처음 모집시에 인원을 제한하면 더 좋을 것 같습니다. 처음 미팅 때보다 이번 미팅 때 사람이 확실히 적었기도 했고, 팀 프로젝트나 다른 활동들에서 보이지 않으시는 분들도 많이 계신 것 같아서 30명 내외로 운영 가능한 인원을 정하여 드라이브 하면 어떨까 생각하였습니다.
3. 세션 진행 방식
1) 첫 오프라인 미팅 - 처음 모임 때는 전체적인 커리큘럼 안내, 네트워킹뿐만 아니라 커리큘럼 안에서 진행될 콘텐츠들(스터디 세션 때 GPTs나 Assistant API를 활용한 것 + 앞으로 진행될 내용 등)을 각 파트마다(업무자동화 or 챗봇 개발 등) 가볍게 소개해주는 정도 또는 나오게 될 결과물 대표로 1가지씩만 보여주시면 좋을 것 같습니다! 그렇게 하면 사람들이 앞으로의 방향성이나 스터디 기간내에 도전할 프로젝트 아이디어에 대해서 조금 더 생각할 수 있는 시간과 감을 잡는데 도움이 될 것 같습니다.
2) 스터디 세션 - 스터디 세션 때에는 다음 스터디 세션 전까지 테마를 정한 콘텐츠들을 데모로 시연하는 모습들을 보여주시면 좋을 것 같습니다. 첫 오프라인 미팅 때 보여주셨던 것보다 더 디테일하게, 이번에는 4개의 영상과 교육자료를 보여주셨는데, 그런 부분들을 데모 시연으로 보여주시고, 질의응답 같은 것을 받거나, 간단한 설명이 있으면 좋을 것 같고, 추가로 생성형 AI에 관련한 개념 및 공부할 자료들에 대해서 가르쳐 주셨으면 더 좋을 것 같습니다!
3) 데브 세션 - 팀 또는 개인 단위의 프로젝트 발표 및 진행상황 공유, 인사이트 공유 시간을 갖고, 실제 팀 미팅과 네트워킹에 조금 더 시간을 투자하면 좋을 것 같습니다. 아무래도 오프라인으로 팀 미팅이 가능한 시간이 거의 없고, 온라인으로만 하다보니 다들 고충들이 있을 것 같고, 다양한 산업군과 백그라운드를 갖고 계시니 다양한 분들과의 만남을 통해 생각의 폭이 넓어지는 좋은 자리가 될 수 있을 것 같기 때문입니다.
4) 전체적인 흐름 - 스터디 세션 -> 다음 스터디 세션, 2주간은 스터디 세션 때 배운 내용을 통하여 개인이 테스트해보고 공부 및 인사이트 도출, 공유하는 개인 미니 프로젝트 또는 스터디 형식이면 좋을 것 같고, 데브 세션 -> 다음 데브 세션, 2주간은 팀 단위 프로젝트 및 네트워킹, 스터디 세션과 팀 프로젝트 막히는 부분을 중점적으로 해결하는 형식이면 좋을 것 같다는 생각을 하였습니다. 업무 시간 중이라 정리를 제대로 하지 못하고 두서없이 작성하였는데, 진행하시거나 앞으로의 혜림님의 행보에 도움이 되셨길 바라며, 앞으로도 잘 부탁드리겠습니다 😊 어제 여쭤본 것 처럼 진행하면서 막히는 부분은 한 번 더 해보고, 계속 막히는 부분은 따로 연락드려서 꼭 해결해보겠습니다! 좋은 시간과 스터디 만들어주셔서 감사드리고, 화이팅하시길 바라겠습니다! :D
피드백을 토대로 제가 앞으로 개선해야할 부분들은:
기초 지식에 대한 설명 자료 공유
직장인들이 많다보니 어떻게 하면 시간 활용을 가장 효율적으로 할 수 있을지 해결방안 찾기 (수 -> 토?)
커리큘럼에 대한 설명 미리미리, 그리고 자주 공유. (처음 모집할때부터 이건 제대로 수립을 하고 공유했어야함)
스터디세션 때에는 학습 자료들에 대한 데모 시연, 팀 단위로 잘 안된 부분 Q&A 더 받기, 추가 개념과 공부할 자료들 소개시켜드리기
데브세션 때에는 팀 미팅 + 네트워킹 더 많이 할 수 있도록 시간 할당 (이번에는 발표 시간이 너무 길었음)
추가적으로 제가 좀 더 잘 운영할 수 있는 방법이 떠오르신다면 댓글에 남겨주세요 ㅠㅠ
1기를 운영하다 보니 제가 부족한 부분이 많은 것 같습니다.
김형준
아숙업과 character.ai가 만난다면? 캐릭터 챗봇, 펭추리 개발기
펭추리는 카카오톡에서 사용할 수 있는 AI 챗봇입니다. 소소한 잡담을 나누거나 맛집을 추천받고, 일러스트를 선물해줄 수 있어요. 아숙업처럼 카톡에서 쓸 수 있으면서 character.ai 처럼 캐릭터와 대화를 나누는 경험을 제공해줍니다.
12월 11일 월요일에 오픈했고, 메이커 로그를 쓰는 지금까지 약 40명의 유저들과 700여건의 대화를 나눴어요! 한두번 말걸어보고 이탈하는 유저들이 대부분일줄 알았는데, 기대 이상의 사용율을 보여주고 있습니다.
(글을 읽고 있는 지금, 펭추리가 궁금하시다면 아래 프러덕트 링크를 눌러서 사용해보세요!)
이 메이커 로그에서는 제가 왜 챗봇 서비스를 개발하게 되었는지, 챗봇 서비스를 기획하고 개발하며 어떤 난관들이 있는지를 공유해보겠습니다!
한달 전 이맘때에 열렸던 opeaAI dev day를 기억하시나요? 저도 아침에 일어나자마자 유투브에 올라온 샘 알트만 형님의 키노트를 봤습니다. 멀티 모달 모델, dalle 3, GPTs 등등 입이 떡벌어질만한 신기술을 쏟아내는 가운데 제 눈길을 끄는게 있었어요.
바로 기존의 GPT-4 API 보다 더 빠르고, 3배 가량 더 저렴한 GPT-4-Turbo API 소식이었습니다. 이전에는 한국어를 그럴듯하게 생성하려면 GPT-4가 필수적이었지만, 너무 느리고 비싸서 언감 생심이었습니다. (몇번 테스트만 해봐도 금세 $10를 넘겨버려서 도저히 손 떨려서 못썼습니다 ㅠㅠ)
직접 테스트 해본 결과, GPT-4-Turbo API는 정말이지 대박이었습니다! 훌륭한 퀄리티로 한국어를 생성해주며 latency나 비용도 잘만 통제하면 감당 가능한 수준이었습니다. 너무 훌륭한 도구가 새로 생겼는데 개발자 된 도리로서 가만히 있을 수 없겠죠? 바로 아이디에이션을 시작했습니다.
기획 과정에서 중요하게 생각한 건 크게 2가지 입니다.
무조건 쓰기 편할 것
유저가 또 써야할 이유가 있을 것
별도의 웹 사이트, 혹은 앱을 설치해서 유저가 챗봇과 대화하게 만드는 것은 거의 불가능하다고 판단했습니다. 어떻게든 설치하기 쉽고, 쓰기 편하게 만드는게 관건이었습니다.
다음으로는 또 써야할 이유가 있어야하는 점입니다. 대부분의 AI 서비스들이 유저 리텐션을 확보하는데 실패합니다. 유저들은 처음 몇번은 신기해하지만, 금세 이탈해버립니다. 기가 막히게 재미가 있거나, 유용하지 않다면 유저를 붙들어 놓을 수 없을거라 생각했어요.
이런 관점에서 벤치마킹을 할 서비스들을 쭉 찾아봐서 아숙업과 캐릭터AI가 눈에 들어왔어요. 아숙업은 카카오톡에서 chatGPT를 쓸 수 있는 기능 만으로도 사용자를 160만명 확보했어요. 다음으로 캐릭터 AI는 AI 캐릭터와 대화할 수 있는 경험으로 MAU 2억을 달성했습니다.
이미 검증되어 있는 모델을 적절하게 섞어보기로 했습니다. 편의성 측면에서는 아숙업을, 재미의 측면에서는 캐릭터 AI를 본따서 카카오톡에서 쓸 수 있는 챗봇 서비스를 만들어보기로 했습니다.
먼저 캐릭터가 있어야겠죠? 기존에 유명한 캐릭터를 사용하는 것은 저작권 침해 요소가 너무 다분하기 때문에 고유한 캐릭터를 하나 만들어보기로 했습니다. 먼저 dalle 3를 이용해서 이미지를 만들어봤습니다. 노란 목도리를 맨 아기 펭귄 캐릭터를 컨셉으로 마음에 드는 캐릭터가 나올 때까지 돌려봤습니다.
다음으로 대화 시나리오를 설계해야 합니다. 단순히 chatGPT API를 사용하면 유저에게 정교한 대화 경험을 전달하지 못할거라 생각했어요. 시나리오를 세분화하고, 각 시나리오 별로 정확한 답변을 생성해주고자 시나리오를 설계했습니다.
한가지 배운점은 LLM에 입력으로 들어가는 정보가 적을 수록 답변의 퀄리티가 올라간다는 것입니다. 예를들어 일상 대화를 생성할 수도 있고, 맛집 추천을 해줄 수도 있게 chatGPT API를 호출하기 보다는, 앞단에 의도 분류를 넣고 각 의도별로 프롬프트를 따로따로 만들어서 텍스트를 생성하는 것이 훨씬 효과적이었습니다.
혹시나 챗봇 서비스 설계와 관련해서 더 궁금한 것들이 있으시면 편하게 커피챗 요청 주세요! ㅎㅎ
이 부분부터는 개발 지식 좀 필요합니다. chatGPT API를 이용한 서비스는 극단적인 I/O bound 애플리케이션입니다. 본인이 직접 CPU를 사용해서 연산을 수행하지 않고 openAI 측 서버에 요청을 보내놓고 대기하는데 대부분의 시간을 보냅니다. 따라서 async 방식으로 동작하는 서버를 개발하는 것이 훨씬 효율적입니다.
저는 python에서 async 방식을 지원하는 대표적인 프레임워크인 fastAPI를 사용했습니다. 그리고 외부 API 호출이라던가 DB 세션 유지 등도 모두 비동기 방식으로 구축했습니다.
chatGPT API를 이용해서 챗봇 서비스를 개발했다고 하면 얼핏 쉬워보일 수 있습니다. 하지만 막상 개발해보면 생각지도 못한 난관에 부딫힙니다. 이번에 펭추리를 개발하면서 제가 겪었던 예외 상황들이었습니다.
json_output 옵션을 주었음에도 json 포맷으로 안내려옴
스트리밍 방식으로 대화 생성 중 멈춰버림
tool call 파라미터에 한글을 전달 못함
tool call 파라미터를 json 포맷으로 전달하지 않음
대화 생성 속도가 갑자기 급격하게 느려짐
그 외에도 정말 시행착오가 많았습니다. 비슷한 상황을 맞딱뜨릴 다른 개발자분들을 위해서 몇가지 팁을 준비해봤습니다.
Azure OpenAI Service를 쓰세요. 확실히 안정적입니다. 특히 한국과 가까운 region을 선택하세요.
retry는 사랑입니다. 가능한 단계를 많이 쪼개고 착실하게 retry 로직을 넣어주세요.
LLM은 생각보다 실수를 많이 합니다. 테스트 코드를 촘촘하게 작성하고, 예외 처리 로직을 추가하세요.
프롬프트는 단순하고 짧게 작성하세요. 고민이 많아질 수록 이상한 답변이 튀어나옵니다.
GPT-3.5와 GPT-4를 적절히 섞어서 사용하세요. GPT-3.5를 적절히 사용하면 비용이 많이 줄어듭니다.
이 외에도 수많은 예외들이 발생합니다. LLM을 원하는 대로 제어하는 것이 쉽지 않더라구요. 혹시나 챗봇 서비스 개발과 관련해서 더 궁금한 것들이 있으시면 편하게 커피챗 요청 주세요! ㅎㅎ
일단 카카오톡에서 펭추리는 정말 말을 잘합니다! 미리 입력한 시나리오와 캐릭터 설정에 맞게 유저에게 실감나는 대화를 제공하고 있습니다. 제 친구가 "서른 먹고 내가 심심이를 오래 하고 있을 줄은 몰랐다"고 할 정도였으니까요.
책 추천, 음악 추천 등등 펭추리에 추천하고 싶었지만 꾹 참았던 기능들이 남아있습니다. 유저들의 반응을 계속 살피면서 꾸준히 제품을 업데이트할 생각이에요. 빠르게 이탈하는 유저들을 붙잡기 위해서 선톡하기 등의 기능도 실험 중입니다.
마지막으로 펭추리가 그리고 있는 큰 그림은 멀티 메신저 플랫폼 챗봇입니다. 카카오톡 뿐만 아니라 라인, 슬랙, 텔레그램, 디스코드 등 모든 메신저 플랫폼에서 소통할 수 있는 챗봇으로 키워볼 생각입니다.
마치며지금까지 카카오톡에서 사용하는 캐릭터 챗봇, 펭추리의 기획과 개발 과정을 정리해보았습니다. 사실 펭추리도 다른 대부분의 AI 서비스와 마찬가지로 높은 확률로 PMF를 찾는데 실패할 것입니다. 그럼에도 새로운 기술을 이용해서 전례없는 서비스를 만들어나가는 과정이 너무 즐거웠고, 많은 것들을 배울 수 있었습니다.
혹시나 더 궁금하신 점들이 있으시면 커피챗 요청해주세요! 펭추리가 더 많은 사람들에게 알려질 수 있게 프러덕트 페이지에서 업보트 한번씩 부탁드리겠습니다.
감사합니다!
말하는 펭귄 펭추리
카카오톡에서 말하는 펭귄, 펭추리와 대화를 나눠보세요!
