같이 1조짜리 문제를 해결할 사람을 찾습니다.

안녕하세요, 10X AI Club이라는 생성AI 커뮤니티를 운영하고 있는 용혜림입니다.

지난 1년 동안은 유투브를 운영하고 기업 강연을 주로 하면서 시간을 보냈고, 이쪽으로 저를 알게 되신 분들이 더 많을 것 같습니다. 그러나 제 본질은 프로덕트 빌더입니다.

10X AI Club을 시작하기 전에는 계속 스타트업을 해 왔습니다. 10X AI Club도 어떻게 보면 1인창업이긴 한데, 프로덕트보단 서비스에 더 가깝고, 일방적으로 하는 교육/강의 일이다보니 “스타트업”의 정의와는 먼 느낌이 있습니다.

저는 대학교 3학년때 제 첫 창업인 Eddie를 만들었었고, 이는 기존의 복잡한 LMS 시스템을 AI 챗봇으로 바꿔 1) 학생들 입장에서는 순식간에 질문에 대한 답변을 받을 수 있도록 하고, 2) 교수님들 입장에서는 불편한 로그인+추가적인 플랫폼보다는 이메일로 학생들의 질문에 대한 분석/통계를 한번에 받을 수 있도록 하는 제품이었습니다.

실패 이유는 여러가지가 있었고, 가장 큰 문제는 제대로 된 PMF를 찾지 못한 것과 고객 분석이 미흡했다는 점입니다. (참고: https://brunch.co.kr/@hyerimyong/1)

두번째 스타트업은 제작년에 만든 CtrlX라는 플랫폼이었는데, 이는 생성AI를 활용해 컨텐츠 크리에이터들을 위해 자동으로 숏폼 컨텐츠를 편집/제작해주는 툴이었습니다. CtrlX는 공동창업을 하다가 코파운더 핏이 맞지 않아 나오게 되고, 그 이후로 10X AI Club을 만들게 됐어요. 두번째 스타트업에서는 제품보다는 인간관계에 대해 더 많이 배우게 됐고, 특히나 제 자신에 대해 더 많이 알게 되는 계기였습니다. 제가 어떤 강점/약점이 있는지, 어떤 사람들과 잘 맞고 잘 맞지 않는지를 알게 됐어요.

10X AI Club을 만든지 이제 거의 1년 반이라는 시간이 지났는데, 그 시간동안 저는 크게 1) 다음 창업을 위한 자금을 모았고, 2) 사람에 대한 믿음 - 즉 누군가와 같이 일할 수 있겠다는 희망을 다시 얻게 됐습니다.

단도직입적으로 제 목표부터 말하자면, 제 목표는 “1조 벌기”입니다.

• 이유: 남들을 더 많이, 효율적으로 돕기위해. 이 세상에 가치있고 의미있는 업적을 남기기 위해. 자본주의 사회에서는 어떤것의 “가치”에 대한 가장 객관적이고 솔직한 기준은 돈이라고 생각하기 때문에 이런 기준으로 결정함.

제 모든 결정들에 대한 가치관과 기준은 도움이 필요한 사람들을 위해 어떻게 더 scalable한 impact를 낼 수 있을까에서 비롯됩니다.

이를 달성하기 위해 크게 세가지 주제들을 살펴보고 있습니다.

1. AI Infrastructure, B2B Saas

2. AI Agent, B2B Saas

3. 음성 기반 챗봇, ondevice AI, B2C

큰 기업을 만들고 더 많은 임팩트를 내기 위해서는 더 이상 저 혼자서만 할 수 없습니다. 그래서 이 문제들을 같이 해결해나갈 팀원을 찾습니다.

제가 찾고 있는 분은 다음과 같습니다.

• 개발자:

  • LLM, SLLM, genAI 지식 탑재 + 해당 기술에 능숙하며 프로젝트를 만들어보신 분

  • UI/UX 웹사이트 디자인 및 개발을 하실줄 아는 분

  • 즉 전반적으로 제품 개발을 A부터 Z까지 해보신 분

제가 중요하게 생각하는 역량은 다음과 같습니다.

• 어떤 시련이 와도 해결 방안을 찾으려고 하는 사람

• 인생 결정들을 내릴때 명확한 목표 및 그에 맞는 기준들과 자신만의 가치관이 있는 사람

• 큰 꿈을 꿀줄 알고 자기가 이룰 수 있다고 견고하게 믿는 사람. 자기 꿈과 자기 자신에게 delusional한 사람

제 강점은 다음과 같습니다.

• 사람을 내 편으로 만드는 능력이 뛰어남. 많은 사람들이 자발적으로 도와주려 함.

• 실행력이 빠름. 아이디어가 생기면 바로 실천에 옮기는 스타일이며, 빠르게 MVP를 만들어 검증하는 능력이 있음.

• 강한 오기와 끈기. 쉽게 포기하지 않고, 어려운 문제를 끝까지 해결하려는 집념이 있음. 도전적인 환경에서도 끝까지 밀어붙이는 힘이 있음.

• 높은 낙관주의. 어려운 상황에서도 해결책을 찾고, ‘어떻게든 되게 만든다’는 마인드셋을 가짐. 불확실성을 기회로 전환하는 능력이 있음.

• 미션 중심적이며, 높은 동기 부여와 자기 절제력을 가짐. 항상 ‘어떻게 하면 더 나은 사람이 될 수 있을까?’를 고민하며, 자기 성장에 대한 규율이 철저함. 목표 설정과 달성에 있어 강한 추진력을 보임.

제 약점이자 몇가지 특징은 다음과 같습니다.

• 자기주장이 강한 편. 문제 해결 시 논리적으로 납득되지 않으면 쉽게 수용하기 어려움. 그러나 이를 통해 깊이 있는 논의를 할 수 있으며, 감정보다는 논리적 사고를 중시함. 다만, 감정적으로 접근하는 사람들과의 협업에서는 의사소통 방식에 신경 쓰려 함.

• 한 번에 여러 가지 일을 벌리는 경향이 있음. 빠르게 여러 프로젝트를 기획하고 추진할 수 있는 장점이 있지만, 가끔 방향성을 놓칠 때가 있음. 그래서 장기적인 시각을 유지할 수 있도록 피드백을 줄 수 있는 사람과 함께 일할 때 더 좋은 결과를 낼 수 있음.

• 일하는 스타일이 지속적이지 않고, 에너지 burst에 따라 움직임. 고도로 집중해서 일할 때 생산성이 매우 높으며, 이에 따라 일정 시간의 휴식이 필요함. 정해진 9-6 스케줄보다는 유연한 환경에서 더 효율적으로 일할 수 있음.

그 외 제 투명하고 솔직한 모습을 보여주는 글들은 브런치에서 확인하실 수 있습니다.

브런치: https://brunch.co.kr/@hyerimyong

링크드인: https://www.linkedin.com/in/cailyn-yong/

PMF를 찾을 때까지 서비스 런칭(혹은 시장검증)과 실패를 반복할 분을 구합니다.

이야기를 나눠보고 싶으신 분들은 다음 tally form에서 신청해주시면 너무 감사하겠습니다!

https://tally.so/r/3yd4lp

그 외 혹시 주변에 떠오르시는 분들이 있으시면 추천해주시면 감사하겠습니다🙇‍♀️

[10X AI Club 새해선물] 산타와 새해 목표 얘기하기

안녕하세요!

오랜만에 10X AI Club에서 인사드립니다.

한해 동안 AI Club이 본격적으로 활성화되면서 여러가지 일을 했었는데요, 2024년 회고와 요즘 제가 하고 있는 프로젝트들에 대해 이야기를 나누고 싶어서 씁니다.

저는 2024년 1년동안 크게 한 일들이 세가지 정도인데:

1. 유투브 채널 운영

2. "나만의 GPTs 앱으로 생산성 10배 늘리기" 책 출간

3. 기업 강연을 40회 정도 했더라구요.

오늘이 2025년 1월 1일인데, 사실 작년에는 새해부터 경찰서에 갔었습니다. 10X AI Club의 첫 부트캠프를 운영하면서 참가자 중 한명이 스토킹을 하기 시작해서 연말까지 참다가 도저히 안되겠어서 신고를 했어요. 그래서 10X AI Club을 만들면서 계획했었던 일들이 되게 많았었는데, 부트캠프를 운영하면서 생각보다 너무 많은 에너지가 소진됐고 살면서 겪어보지 못했던 두려움도 경험하게 됐습니다. 결국 계획했던 것들이 많이 무산되기도 하고, 작년 1월에 쓴 제 새해 목표들을 다시 살펴보면 2024년은 정말 좀 쉬면서, 행복하게 지내고 싶다는 생각이 강했던 것 같습니다.

어제 새해를 맞이하며 교회에서 예배를 드리고 한해 감사한 일들을 떠올려보는데 2024년은 정말 별탈없이 제가 원하는대로 행복하고 평화롭게 보냈던 것 같아요. 사실 10월부터 연말까지 한해를 되돌아보면서 제 자신이 성장을 많이 하고 있지 않았다고 생각했어서 자책을 하고 있었어요. 강의를 하게 되면 매번 거의 비슷한 내용으로 강의하고, 유투브에 업로드하는 컨텐츠도 비슷하다보니 새로운 것에 도전하지 않는 제 모습이 보였고, 현재 상황에 안주하고 안정감을 느끼는 제 자신을 발견하고 정말 큰일났다 싶었습니다. 저는 항상 "안정감"에서 벗어나려고 발악을 하는 사람이었는데, 작년에는 스스로 이 안정감이라는 굴레에 계속 들어가려고 무의식적으로 행동하는걸 보면서 많이 놀랐습니다. 어쩌면 저도 이런 시기가 어느정도 필요했었던 것 같아요.

그래서 한해동안 정말 많이 쉬었고, 이제는 훨씬 더 안정적인 용혜림이 된 것 같습니다. 10월부터 위기감을 느끼고 11월부터 이것저것 여러 일들을 해보고 있는데, 요즘은 정말 너무 재밌게 개발을 하며 시간을 보내고 있습니다. 10X AI Club의 활동도 어느순간부터는 계속 반복된 비슷한 컨텐츠들이 업로드되다보니 지쳐갔었는데, 더 새롭고 재밌는 방식으로 10X AI Club에 대한 제 애정을 표현하는 방법들을 계속 찾고 있습니다.

최근에 제가 꽃혀있는 것들은 이렇습니다:

1. 3D printing, Hardware, onDevice AI

2. Blender, CAD, Threejs 배우기

3. 음성 생성AI 모델들

4. 게임 만들기

5. Flag football

음성으로 interaction하며 재밌게 할 수 있는 프로젝트들을 계속 만들고 있어요.

그래서 오늘 간단하게 소개하고자 하는 프로젝트는 "새해 목표에 대해 대화할 수 있는 산타"입니다.

웹은 Threejs+Vite로 만들고, 산타 모델은 블렌더, 음성 모델은 Elevenlabs를 사용했습니다.

다 처음 배워보는 것들이어서 Threejs는 만져본지 대략 일주일정도 됐고, 블렌더도 이제 한 3-4일 써본 것 같습니다. Threejs는 혼자서 처음에 해보다가, Bruno Simon의 강의가 너무 좋아서 바로 결제해서 여러 프로젝트들을 만들어봤어요.

궁극적으로는 대화할 수 있는 게임 캐릭터를 만들고 싶어서 산타 모형의 캐릭터를 만들고자 했습니다.

근데 이게 Threejs로는 만들 수 있는 다양한 모형들이 제한이 있기도 하고, 코드로 수학연산해서 일일이 다 꼭짓점 찾고 계산해야되다보니.. 결국 블렌더를 배우긴 해야되더라구요.

그래서 블렌더도 바로 다운받아서 산타를 만들기 시작했습니다. 대칭으로 만들 수 있다는것도 모르고 그냥 마음가는대로 산타를 만들다보니 얼굴 모형, 수염도 다 비대칭이고 무슨 치킨너겟 마냥 쉐잎이 돼버렸더라구요.

산타 머리도 어떻게 해야할지 모르겠어서 일단 그냥 대머리로 가정을 했습니다.

여기에 이제 색을 입히면 이런 모습이 됩니다.

블렌더에서 이런 모형을 하나 만들면 Threejs에서 쉽게 모델을 불러올 수 있습니다!

어떤식으로 배경을 꾸밀지 고민을 하다가 제 최애 쇼인 릭앤모티에서 영감을 받아 이런식으로 만들고 싶었어요. 안그래도 산타가 치킨너겟 모형이다보니, 우주 속에서 지구 위에서 산타가 내려다보며 너 새해 목표가 뭐냐고 물어보는 느낌?

그래서 먼저 갤럭시 백그라운드를 만들고,

블렌더에서 만든 산타 모델을 추가하고,

산타 아래에 회전하는 지구를 만들었습니다.

화면은 이제 완성이 됐으니, 산타랑 대화할 수 있게 하기 위해 산타를 클릭하면 elevenlabs 에이전트를 불러올 수 있도록 개발했어요. 이번에 ElevenLabs에서 출시한 Conversational Agent라는 새로운 기능이 있는데, GPTs 처럼 프롬프트 만으로 음성대화 모델을 정말 쉽게 만들 수 있는 기능입니다. (이거에 대해서는 차차 좀 더 자세히 영상으로 다뤄보겠습니다.)

이런식으로 언어, 목소리, 프롬프트를 추가해서 대화할 수 있는 에이전트를 만드는거에요. 외부 웹사이트 API도 연동해서 호출할 수 있어서 GPTs Action처럼 똑같이 외부 툴도 사용할 수 있습니다. 그럼 정말로 음성으로 여러 업무를 처리할 수 있는 에이전트를 만들 수 있겠죠?

Elevenlabs에서 산타 음성 모델을 먼저 만든 후, threejs 웹사이트에서 호출할 수 있도록 코드를 작성했습니다.

그럼 이제 산타를 클릭할때마다 이 에이전트가 호출이 되면서 마이크로 대화할 수 있게 됩니다.

근데 만들고 나서 보니 좀 밋밋한 느낌이 있어서, 비쥬얼적으로 좀 더 흥미롭게 하기 위해 산타가 말할때마다 텍스트를 3D로 표출하도록 개발했습니다. 이런 느낌으로:

다만 Elevenlabs API 크레딧을 쓰다보니 진짜 조금만 대화해도 바로 크레딧 소진이 된다는 점....

사용법:

📍산타를 클릭하면 대화가 시작되고, 다시 클릭하면 대화가 끝납니다.

📍크레딧 소진때문에 최대 1분만 대화할 수 있습니다.

📍데스크탑 웹으로만 대화 가능합니다.

사용해보시구 시간 되실때 스크린샷+후기 남겨주시면 너무 감사할 것 같습니다! (산타 흑화된 버젼도 만들어볼까 고민중이에요. 하하)

2024년 열심히 살아가신 메이커분들께 올해도 좋은 일만 있길 바라겠습니다🙇‍♀️ 새해 복 많이 받으세요!

Dennis Hong 교수님이 가르쳐주신 레슨런

추석 연휴를 맞이하여 친구들와 LA에 놀러왔습니다.

출국하는 날 체크인을 하고 밥을 먹고 있는데 갑자기 옛 친구한테 전화가 왔어요.

"너도 이 비행기야? 나도 이 비행기인데?!"

정말 우연히 같은 LA행 비행기를 타게 됐더라구요.

이 친구는 20살때 만난 창업을 하는 친구였고, 이 친구 덕분에 제 현 멘토님과 소중한 인연들을 많이 만날 수 있었어요. 항상 중요한 순간에 저를 도와줬던 친구인데, 이번에도 공항에서 만났을때 LA가면 꼭 만나야할 대표님들이 있다고 해서 바로 연결시켜줬습니다.

카카오엔터테인먼트에 6000억원에 매각한 타파스미디어의 김창원 대표님과, Presiedent & CPO of Kajabi Sean Solme Kim 대표님을 만났습니다.

이 분들 외에도 제가 따로 연락해서 만난 UCLA 로보틱스 교수님 Dennis Hong도 만났습니다.

화요일날 데니스홍 교수님을 뵙고, 수요일날 김창원 대표님, 그리고 목요일날 Sean을 만났습니다. 세분 다 각자 너무 다른 분들이고, 각자 다른 가치관을 가지면서 살아왔지만 공통된 점은 자기만의 방식으로 성공했다는 것입니다. 그래서 나는 어떻게 살아가고 싶은지, 내 인생의 다음 스텝을 어떻게 해야할지 고민하던 찰나에 이 세분을 만나뵙게 되어 정말 정말 큰 영광이었습니다.

저는 지난 1년동안 10X AI Club을 운영하면서 사실 꽤 오랫동안 휴식/auto-pilot 모드로 살아왔어요. 10X AI Club도 물론 커뮤니티 빌딩을 해야하지만, 창업할때 하는 "프로덕트 빌딩"과는 다른 느낌이었어요. 잘하고 좋아해서 한 것이고, 현재 제 삶이 너무 행복하지만 이제는 너무 안정적인 굴레에 들어왔다고 생각합니다.

저는 20살때 별명이 "5 day quitter"였어요. 어떤 알바든 5일 해보고 아니다 싶으면 바로 관뒀습니다. 이게 어떻게보면 큰 단점일수도 있는데, 저는 제 성격상 미래가 너무 예상되고 모든 일들이 예측되면 바로 싫증이 나면서 하기가 싫어집니다. 제가 성장하고 있다는 느낌이 안들면 그때부터 도망갈 출구를 찾기 시작합니다.

물론 지금 10X AI Club한테서 도망가겠다는 뜻은 절대 아닙니다. 이제는 10X AI Club을 토대로 조금 다른 방향으로 "프로덕트 빌딩"을 해보려고 합니다.

그래서 다음 스텝을 어떻게 가야할지 많이 고민하고 있었는데, 가장 큰 두가지 옵션은

1) 로보틱스/AI safety쪽 공부를 해서 석사/박사를 따고 교수가 될 것인가

2) 다시 한번 아이템을 찾아서 창업을 할 것인가

였습니다.

화요일날 만나뵌 데니스 홍 교수님은 첫번째 고민을 하는데 큰 도움이 됐고, 김창원 대표님과 Solme 대표님은 두번째 고민에 큰 도움이 됐습니다.

일단 단도직입적으로 말하자면, 사실 제일 되고 싶은건 데니스 홍 교수님이에요. ㅋㅋㅋㅋ 진짜 제가 살고 싶은 삶을 다 실천하고 계셔서 세상 부럽습니다. 부러운 이유는, 자기가 가장 좋아하고 재밌을 것 같은 것들만 좇으며 살고 계시기 때문입니다. 만들고 싶은 로봇 아이디어가 떠오르면 바로 연구비를 따와서 만들기 시작하고, 여러 로봇 학회때문에 일주일에 4개국을 돌아다니고, Jeff Bezos, Bill Gates, Elon Musk도 만나며, LA에 있으니 영화 관계자들에게 랩 투어도 해줍니다. 자는 시간이 아까울 정도로 삶이 너무 행복하고 재밌다고 하시더라구요.

이건 The Almanack of Navil Ravikant 책에도 나온 얘기인데, 자기가 좋아하고 재미있는 일을 하는데 이 일이 사람들에게 가치있는 것이라면 돈은 알아서 따라온다는 정설이 있습니다. Academia 쪽에 있으면 사실 로봇 연구가 Figure, 1X, Tesla Optimus Gen2 휴머노이드 로봇들과 처럼 수익 창출을 위한 일이 아니다보니 돈이 되나?라는 질문을 할수도 있지만, RoMeLa에서 만드는 로봇들은 사람을 살린적도 있으며, 세계 최초로 장님들이 운전할 수 있는 차를 만들고, 많은 대학교들에게 open source로 Darwin이라는 휴머노이드 로봇도 선물해줬습니다. 이런 가치있는 일들을 하다보면 나머지가 알아서 따라오게 된다고 교수님이 말씀해주시더라구요.

이 부분이 이제 다른 두 대표님과 데니스 홍 교수님과의 가장 큰 차이점이라고 생각하는데, 다른 두분은 정말 타고나게 시장 기회를 찾아서 profit maximization과 product building을 할줄 아시는 분들이고, 데니스 홍 교수님은 6살때 스타워즈를 보고 나서 결심한 로봇 공학자 꿈을 지금까지 좇아오다 보니 지금 위치에 오게 되신 것 같습니다.

공항에서 만난 제 친구도 정말 어렸을때부터 이 "사업가의 기질"이 있었기에 초등학생때부터 아이템으로 돈을 벌기 시작했고, 지금은 연쇄 창업을 하며 또 다른 성공을 만들어 나가고 있습니다. 그래서 창업 세계에서는 이 사업가 전략 마인드셋이 뛰어난 사람들이 보통 정말 성공적으로 회사를 이끌어가는 것 같습니다.

근데 제 자신을 생각해보면, 제가 분명하게 말할 수 있는 것은 저는 이 타고난 사업가의 기질이 없다는 것입니다. 10X AI Club는 돈을 벌기 위해서 시작한 것 보다는, 정말로 제가 좋아하고 잘하겠다고 생각한 일을 하다보니 저절로 수익 창출이 발생됐어요. 그래서 데니스 홍 교수님과 제가 조금 더 닮은 면이 있다고 생각이 든 것 같아요.

이 부분이 걱정이 돼서 "나는 좋은 사업가가 될 수 있을까? 난 타고난 기질이 없는데."라고 친구에게 말했더니 친구는 바로 "그럼 너가 지금처럼 그냥 좋아하는거 하면 돼."라고 하더라구요.

그래서 어떻게 보면 데니스 홍 교수님이 연구비를 따오는 것도 아이템 피칭을 해서 VC에게 투자금을 받아오는 것과 비슷하고, 자금을 받아왔을때 학생들과 프로젝트를 진행하는 것도 회사를 운영하는 것과 비슷한 것 같더라구요. 무엇보다 Self-branding을 통해 RoMeLa 브랜딩도 미친듯이 잘하시는 분이어서, 교수님은 조금 extreme case solopreneur 느낌이 들었습니다.

그래서! 이 긴 얘기의 결론은, 저는 아직 교수의 길보다는 교수님처럼 좋아하고 재미있어 하는 것을 이제 본격적으로 프로덕트로 만들어볼거에요.

이번 PMC를 조인하게 된 것도 프로덕트를 본격적으로 만들어보고자 조인을 했구요. ㅎㅎ

프로덕트는 저와 같이 수익을 창출하고 있는 1인 창업/크리에이터들을 위한 플랫폼이 될 것 같습니다.

정말 어떻게 될지 모르겠지만 이번에 이것 하나는 확실해요. 예전 창업 아이템들은 시장 기회와 돈을 보고 했지만 이번 아이템은 제가 진심으로 좋아하고 해결해보고 싶은 문제라는 것. 그래서 결과가 어떻게 달라질지 기대됩니다.

👩‍💻새로운 서비스 만들기 시작

또 처음 접해보는 분야에 들어가서 빌딩하기 시작

지난 1년간 내가 겪었던 페인포인트 위주로 솔루션 만들어봐야지

AI Safety, Robotics, LLMs

개인적으로 올해 내내 가장 관심 갖고 있는 두가지 업계에 대해 생각을 정리하고자 한다.

두명의 글을 정리 + 번역하고자 하는데, 한명은 Alex Irpan: 8년간 robotics 팀에 있다가 AI safety로 넘어가는 결정을 내린 사람이고, 다른 한명은 Eric Jang: 2022년부터 AGI 미래를 위해 robotics 회사에 이직한 사람이다.

둘다 Robotics 업계에 있다가 Alex Irpan은 다른 방향을 택한건데, 각자 왜 이런 방향을 택했는지가 흥미로워서 글을 남긴다. (내 개인적인 생각들과도 유사한 생각을 갖고 있는 두명의 사람이 다른 커리어 길을 택한게 흥미롭다)

AI Safety

유트브 라이브때도 한참 이 주제에 대해 얘기한적이 있는데 LLM agent 기술이 점점 빨리 발전하면서 이 기술에 대한 safety 보완책 부분은 제대로 마련되고 있지 않다는 의견이다.

AI safety가 왜 중요한지에 대해 이유들을 나열해보자면 (Alex Irpan의 “I'm Switching Into AI Safety” 글 인용+번역)

1. 내가 개인적으로 갖고 있는 목표/목적이 시스템이 최적화하고자 하는 목표와 다른 방향으로 나아가기 쉬움. 그 이유는 내 목표가 설명하기 너무 어렵거나, 시스템이 최적화하고자 하는 목표가 더 쉽기 때문.

2. 대중적으로 일반화 + 스케일할 수 있는 시스템을 만드는 것이 쉽지 않다. 내가 놓친 예외 케이스는 분명 존재하고, 충분한 평가 부족, 모델을 잘 분석하지 않은 것, 적절한 질문을 하지 않은 것과 같은 이유로 어려움. 시스템이 만든 잘못된 아웃풋을 어떻게 처리해야할지 모르거나, 학습한 데이터가 의도된 솔루션을 도출하기에 충분하지 않아서 그럴수도 있음.

3. 이걸 해결하는 현재 보완책은 그저 모델이 어떤 아웃풋을 내놓는지 예의깊게 보는 것.

4. 현재 시스템은 더 나은 스케일링을 위해 최적화되어 있지 않음. 특히나 평가하기 애매모호한 superhuman system은 더욱 어려움.

5. 현재 평가 시스템으로 superhuman system이 올바르지 않은 일을 했을때 제대로 컨트롤할 수 없을 것 같다고 생각.

6. 내가 살아있는 동안 superhuman AI는 나타날 것.

현재 AI가 패턴을 발견하고, 여러 종류의 정보를 끌고와서 자기 스스로 일을 할 수 있다면 인간보다 더 나은 버젼이 되는 건 시간 문제라고 본다. Evolution은 잘 나아가는 것 + 복제를 쉽게 할 수 있는 것을 더 서포트해준다. 지구를 현재 지배해서 현대 문명을 만든 종족은 인간이지만, 가장 덜 지능적인 생물일 가능성이 높다.

Instrumental convergence theory라는 것도 믿는데, 이는 무엇이냐면 “어떤 종류의 목적이든 - 그것이 아무리 시시한 목적이든 상관없이 – 그것을 달성하기 위해서는 일단 확보해 놓고 보아야할 기본적인 도구적 수단이 있다는 것이다.” 예를 들어, 리만 가설과 같은 수학 문제를 풀기 위해 태어난 AI가 있다면 전지구 자체를 동력 자원 공급원으로 바꿔서 인간을 멸살할 수도 있다는 것이다 (AI 입장에서는 인간의 존재가 자신의 목적을 달성하는데 위협 존재이기 때문).

Alex는 이와 같은 관점으로 AI가 목표 지향적인 행동을 갖고 있을 확률과, 목표가 있다면 권력을 추구할 가능성과, 권력을 추구한다면 실제 성공할 가능성이 얼마나 될지 계산해보면 2%라고 결론을 내린다. 그 2%는 아무리 작은 숫자로 보일지더라도 충분히 살펴볼 가치가 있는 숫자라고 판단한다.

LLM 기술 발전이 점점 빨라지면서 AGI(Artificial general intelligence)도 곧 머지않아 10%의 확률로 5년 이내에 나타날 것으로 보고 있는데, 이는 더욱 중요하게 살펴봐야할 문제이다. 완전한 AGI 시스템을 달성하지 않더라도 나아가는 그 과정 자체에서도 문제가 발생할 수 있다. 너무 당연한 얘기이지만 이런 AI를 학습시킬 리소스와 자원이 있는 랩/회사라면 언제든지 추론 단계에서 그 AI의 수백만 개의 복사본을 실행할 자원도 갖고 있을 것이다. 이는 효율성보다는 단순 규모와 사용의 용이성으로 인간을 능가할 있다는 것이다.

흥미로운 점은 지금까지의 alignment problem(AI 시스템이 인간과 같은 가치관, 목표, 의도를 가질 수 있도록 정렬하는 것)이 자본주의에 의해 해결되었다는 것이다. 기업들은 고객들이 사용할만한 제품을 만들었어야 했기 때문. ChatGPT와 같은 경우 이 방식으로 정렬 문제를 해결했지만, 이제는 safety 연구가 더 많이 이루어져야한다고 생각한다. 자본주의는 수익성을 가로막는 장애물을 해결하는데 뛰어나지만, 동시에 어려운 문제를 무시하면서도 수익을 낼 수 있는 niche를 찾아내는데도 능숙하다. 지금도 이미 보이는 추세이지만 사람들이 최고의 모델을 만들고 사용하고자 하는 열망이 너무 강해 충분한 검토를 하지 않고 배포하는 것도 보인다.

AI safety를 추구한다고 하면 AI 커뮤니티와 발전을 막는 것이 아닌가에 대한 반감을 사기 마련이고, safety가 중요하지 않다고 하는 사람들에게는 “전형적인 이윤 추구 실리콘 밸리 사람”이라고 하는데, 어찌됐던 간에 safety를 전혀 추구하지 않는 것보다는 추구하는 방향으로 발전하는게 더 안전하고 나은 시스템을 만들 것이라고 생각한다.

Alex Irpan이 8년간 robotics에 있다가 AI safety로 가기로 한 이유

제가 머신러닝 연구를 시작한 이유는 학습과 에이전트 행동을 지도하는 것이 매우 흥미롭다고 느꼈기 때문입니다. 제가 했던 연구는 로봇공학 연구실에서 이루어졌지만, 저는 항상 로봇보다 에이전트, 하드웨어보다 소프트웨어에 더 관심이 있었습니다. 그럼에도 불구하고 로봇공학에 남아있었던 이유는 로봇공학에서는 현실 세계를 속일 수 없기 때문입니다. 실제 하드웨어에서 작동해야만 했습니다. 이로 인해 연구는 인위적인, 유용성이 떨어지는 벤치마크 연구보다는 실제 세계에 영향을 미치는 것에 초점을 맞추게 되었습니다.

지난 몇 년 동안, 소프트웨어 전용 에이전트들이 점차 등장하기 시작했습니다. 이것은 저에게 중요한 결정 지점이 되었습니다. 실제 세계에서 에이전트들이 먼저 도착할 곳은 어디일까요? 게임을 플레이하는 AI는 오래전부터 존재해 왔지만, 게임은 현실이 아닙니다. 이러한 LLM(대규모 언어 모델) 기반 시스템들… 그것들은 더 현실적이었습니다. 일반적인 로봇 에이전트들이 만들어지는 세상에서는 소프트웨어 전용 에이전트들이 그 전에 작동하기 시작할 것입니다. 저는 앞으로 더 많은 시간을 소프트웨어와 하드웨어의 경계를 배우는 데 소비하게 될 미래를 보았고, 에이전트의 고차원적 추론 능력을 향상시키는 것에 더 집중하고 싶었습니다. 만약 멀티모달 LLM이 에이전트적인 행동을 하기 시작한다면, 하드웨어에서 멀어지는 것이 삶의 질에 여러 이점을 가져다줄 것입니다.

한 가지 견해(이것은 Eric Jang이 전한 Ilya Sutskever의 의견에 따른 것입니다)는 "모든 성공적인 기술 회사는 AGI(인공 일반 지능) 회사가 될 것이다"라는 것입니다. 이는 도발적이지만, 만약 LLM이 저수준 지식 작업을 대체하기 시작한다면, 가치 있는 일은 도메인 특화 데이터셋에 올바른 정보가 포함되었는지와 AI의 출력물이 좋은지에 대한 피드백을 제공하는 데서 나올 것입니다. 만약 제가 진지하게 전환을 고려한다면, 이른 시기에 전환해야 합니다. 왜냐하면 다시 전문성을 쌓는 데 시간이 걸리기 때문입니다. 최대의 영향을 미칠 수 있는 적절한 시기는 항상 대중이 생각하는 것보다 더 이른 시점입니다.

그럼 Eric Jang과 OpenAI cofounder, Ilya Sutskever가 말하는 “모든 성공적인 기술 회사는 AGI 회사가 될 것이다”는 무슨 뜻일까?

이 말은 처음에는 조금 황당하게 들릴 수 있지만, 동일한 정도로 제품을 반복적으로 개선하는 것은 기술적으로 점점 더 어려워진다는 점을 상기하면 이해가 된다.

• 반도체 제조에서는 32nm 공정 노드에서 14nm 공정 노드로 줄이는 것이 꽤 어렵지만, 14nm에서 7nm 공정 노드로 가는 것은 엄청나게 어려움. 초순수 물을 만드는 것과 같은 중간 문제를 해결해야 하기 때문.

• ALS 환자들을 위한 간단한 텍스트-음성 변환 시스템은 1980년대에도 이미 가능했지만, 특수한 사례에서 발음을 개선하고 억양을 자연스럽게 처리하는 데는 딥러닝에서의 엄청난 돌파구가 필요했음.

• 단일 컴퓨터에서 괜찮은 문자 수준의 언어 모델을 훈련할 수 있지만, 조건부 문자 모델링에서 몇 비트의 엔트로피를 줄이는 것은 비유적으로 데이터 센터를 불태우는 것과 같음.

• 고속도로 자율 주행은 그리 어렵지 않지만, 모든 주거 도로를 자율적으로 주행하는 것은 L5 수준에서 AGI 완성으로 간주됨.

앞으로 몇십 년 동안 고객에게 점진적인 가치를 추가하기 위해, 기업들은 정말 어려운 문제를 해결하는 것에 익숙해져야 할 것이다. 아마도 결국 모든 회사가 경쟁력 있는 짧은 동영상 앱, 할 일 목록, 또는 문법 검사기를 만들기 위해 인공지능 일반 지능(AGI)이라는 동일한 어려운 문제를 해결하는 방향으로 수렴하게 될 것이다. 우리는 "AGI"의 의미와 모든 회사가 이 방향으로 수렴하는 데 필요한 시간에 대해 논의할 수 있지만, 곧 많은 소프트웨어 제품에서 기본 모델이 표준이 될 것이라고 생각한다.

예를 들어, Alphabet은 인간의 사고와 호기심을 포착하는 매우 귀중한 검색 엔진 데이터를 가지고 있다. Meta는 많은 사회적 지능 데이터와 성격 특성을 기록하고 있으며, 원한다면 Oculus 컨트롤러 상호작용을 수집하여 인간 행동의 경로를 생성한 다음, 그 지식을 로봇공학에 활용할 수 있다. TikTok의 추천 알고리즘은 아마도 우리 자신이 이해하는 것보다 우리 잠재의식을 더 잘 이해할 것이고, Grammarly, Slack, Riot Games 같은 무작위의 회사들조차도 인간 지능에 대한 고유한 데이터 보호막을 가지고 있다. 이들 회사는 각각의 비즈니스 데이터를 일반 인공지능(AGI)을 생성하는 쐐기로 사용하여 인간의 사고와 욕구를 행동 복제 방식으로 재현할 수 있을 것이다.

Eric Jang이 Halodi라는 로보틱스 팀에 합류하면서 베팅하고 있는 것은 “다른 어떤 회사보다 5년 앞서 있는 휴머노이드 로봇”이다. Halodi에서 주요 우선순위는 초기에는 모바일 조작에서 특정 고객 문제를 해결하기 위해 모델을 훈련하는 것이지만, 동시에 AGI를 위한 로드맵을 설정하는 것이다. 인간형 형태에서 얻은 대량의 현실 세계 1인칭 데이터를 압축하여 일반 지능, 마음 이론, 자아감 같은 것들이 어떻게 발생할 수 있는지 탐구하는 것이다.

웹 크롤러가 비트 세계를 인덱싱하는 것처럼, 휴머노이드 로봇은 원자 세계를 인덱싱할 것이다. 즉, LLM이 단순히 디지털 데이터만으로 특정 물건의 무게가 얼마인지 이해하는 것보다, 실제 자신의 손으로 그 물건을 직접 들어보면서 중력이 얼만큼 작용되는지 이해하는 것이 더 나을 것이다. 그렇기에 앞으로의 미래는 LLM (software)뿐만 아니라 하드웨어, 로보틱스가 될 것이다.

24살에 첫 책 출간 도전기와 그 외 여러 도전들

기록용으로 글을 남깁니다.

브런치에 몰래 쓴 올해 목표들이 몇개 있었는데, 일단 올해 목표는 가장 크게 내 행복을 우선시하는 것이었습니다. 일이 잘될때 노를 저어야하지만 ㅎㅎ, 제 행복을 뒷전으로 하고 일을 하고 싶진 않았어요.

올해 1월에 적은 목표들입니다. 이 아이들은 인생 목표들입니다.

내가 죽기 전에 경험하고 얻고 싶은 게 무엇이 있는지 나열을 해봤다. 올해는 이 중 많은 것을 시작해보고자 한다. 

- 세계 여행 가기 (아마존, 탄자니아 사파리, 말레이시아 스쿠버다이빙, 페루 마추피추, 아이슬란드 오로라) 

- 디지털 노마드의 삶. 한 곳에 정착하지 않는 삶

- 드럼, 색소폰, 기타 배워서 재즈 밴드 들어가서 라이브 공연하기

- 바텐더 자격증 따서 알바 뛰어보기 

- 영화 제작/프로덕션

- 책 출간하기

- 산호초 심기 

- 내가 좋아하는 인테리어가 된 집과 차

그 외에 아직 어디에도 공개하지 않은 제 일기에 매일 아침에 일어나자마자 적는 목표들이 있는데, 몇개만 공개하자면:

• 하루하루 행복하다. 행복해지는 법을 연습한다.

• 매달, 두달에 한번씩 여행을 간다. (유툽 서브채널 올해 구독자 만명을 찍는다)

• 10X AI club 10만 구독자

• 체력이 좋아진다. 마라톤을 뛴다. 특정 스포츠를 마스터한다.

• 사랑하는 사람이 생긴다. 사랑에 대해 배운다.

책 출판

이 중에서 몇개를 달성했는데, 첫번째는 예상하지도 못한 "책 출간하기"가 되었습니다.

1월 초에 저 인생 목표들을 적고 나서 한동안 쉬었는데, 1월 말에 갑자기 출판사에서 연락이 와서 유투브 내용들을 토대로 책을 출판하자는 제의가 들어왔습니다.

덕분에 처음 해보는 책 출판 과정을 시작하게 되었고, 아무것도 모르는 상태에서 무식하게 책을 50일 안에 쓰겠다는 목표를 갖고 3월 말 안에 책 원고를 보내드리겠다고 말을 했습니다. 지금 생각해봐도 어처구니 없었던 제 계산 방식은 하루에 2장씩 쓰면 50일 안에는 100장 쓰니까 50일안에 제출해야겠다 였습니다. (결국 280장을 쓰게 되었고..)

첫 일주일은 미친듯이 책이 안쓰인 것 같아요. 말투부터, 책 구성이랑, 내용 리서치랑, 어떻게 하면 가장 도움이 될만한 내용들만 압축해서 전달할 수 있는지 여러가지를 고민하면서 쓰다보니 한 문장도 작성하는게 어렵게 느껴지더라구요. 그래서 대학교때 발견했던 꿀팁은 그냥 아무생각 없이 무작정 글을 쓰기 시작하면 생각보다 잘 써진다는 것이어서 이걸 해봤더니 그때부터 잘 쓰여진 것 같습니다.

정말 다행히도, 60일(?) 안에 책 원고를 마무리하고 별탈없이 전달해드렸습니다.

그리고 지금은 교보문고, 예스24, 알라딘, 인터파크에서 판매가 되고 있는데, 책 유통부터, 판매, 홍보 단계까지 많은 것을 배우게 됐습니다.

국가대표 트라이아웃

두번째로 도전했던 것은 미식축구 (플래그풋볼) 여자 국가대표팀 트라이아웃이었습니다.

사실 가장 1순위로 달성하고 싶은 목표는 체력 기르기였어요. 강의를 하루에 8시간씩, 그것도 일주일에 2-3번씩 하다보면 무엇보다 체력이 가장 중요하겠다는 생각이 들었습니다.

저는 고등학교때부터 플래그 풋볼이라는 태클 없는 안전한 버전의 미식축구 스포츠를 하고 있었는데, 너무 너무 아까고 사랑하는 스포츠여서 대학교 가서도 클럽을 직접 만들고 캡틴으로 하고 있었습니다. 졸업하고 나서도 할 곳을 찾다가 우연히 작년 11월부터 젠에프라는 사회인 클럽(?)에 들어가서 다시 하고 있었습니다.

그러고 4개월 뒤.. 2월에 여자 국가대표 팀 트라이아웃이 있다는 것을 트라이아웃 날짜 일주일 전에 알게 됐습니다. ㅋㅋㅋㅋㅋ 그래서 정말 마음 편하게 도전이라도 해보려고 나갔고...

결과는 ! 1순위 웨이트리스트였습니다.

그래서 마음 편히 "아 그래도 1순위 웨잍리스트면 진짜 잘했다" 싶었는데 1달 뒤에 갑자기 국대 코치님한테 "다시 한번 도전하는게 어떻겠냐"라는 연락이 왔습니다.

그렇게 해서 국대가 됐습니다. 2028년에 올림픽 종목으로 채택이 되어서, 계속 선수로 있으면 올림픽까지 나갈 수 있게 된 것이었죠.

저번달에 첫 1박 2일 합숙 훈련을 했지만, 국대로 이제 나가게 되면 제 시간과 돈을 더 많이 투자를 해야해서 너무 많은 욕심을 부리고 있다는 것을 깨닫게 되었습니다. 현 시점 10X AI Club으로는 강의도 하고, 유투브 영상도 올리고, 오픈채팅방 운영을 하고 있구, 그 외 사이드프로젝트와.. 파트타임 일도 곧 시작하려고 하고 있어서 국대까지 하게 되면 사실상 말이 안되는 상황이었습니다.

그래서 너무 아쉽지만 국대는 안하기로 하고, 현재는 사회인 팀을 꾸려서 대회도 나갔고 (저희 팀 2주 훈련하고 3등했어요!! ㅎㅎㅎㅎ) 다른 팀과도 리그전을 준비중에 있습니다.

[팀 단체사진]

[MVP 상 받았습니다ㅎㅎ]

이 스포츠에 관심 있으신분들은 댓글에 알려주세요 ㅎㅎ 소개해드리겠습니다.

그 외 다른 도전들

그 외로는 이제 작게 시작하려고 하는 목표들은 바텐딩 배우기(다담주 금요일 첫 레슨 받으러 갑니다!)와 산호초 심기입니다. 이번주 목요일부터 필리핀에 가서 스쿠버 다이빙을 하러 가는데 베이비 산호초들을 어떻게 하면 심을 수 있는지와 산호초 관찰 좀 하고 오려구요.

사실상 책 출간이 되면서 지금 2024년 상반기에 제가 얼마나 미친듯이 일했는지 체감이 좀 된 것 같습니다. 혼자서 일을 하다보면 언제 쉬어야하는지를 망각한채 계속 나아가는데 이제서야 조금은 쉬어도 되겠다라는 생각이 생겼습니다.

플래그 풋볼이 없었으면 저는 아마 진심으로 멘탈이 나갔을거에요. 일로 받은 스트레스를 다 운동으로 풀 수 있어서 너무 다행이었습니다.

필리핀 가서 제대로 쉬고 오면 이제 본격적으로 다시 2024년 하반기를 미친듯이 달릴 준비를 할 수 있을 것 같습니다. 그래서 너무 설레고 기대됩니다.

새로운 출발을 위해 !

화이팅!

1인 창업 현실

1인 창업을 하다보면 내가 지금 잘하고 있는지에 대한 객관적인 평가를 할 수 없다. 동업을 하거나 직원이 있으면 팀의 마일스톤을 만들고 제3자가 객관적으로 일을 잘했는지, 많이 했는지 평가해줄 수 있지만 혼자면 모든게 내 기준이 되어버린다.

내 자신을 끊임없이 푸시하는 사람이라면 객관적으로 봤을때에도 너무 많이 일을 한 상태이고 잘 했음에도 불구하고 칭찬, 휴식은 없다. 그냥 계속 나아가는 길 밖에 없다.

이런 사이클이 반복되다보면 번아웃이 올수밖에 없고, 힘들어서 휴식을 취할때도 지금 쉬면 안된다는 생각이 든다. 그럼 자책.죄책감.불안함을 느끼게 된다.

작년 8월부터 10X AI Club을 혼자서 운영하면서 이제 거의 10개월차에 접어들고 있는데, 그동안 뭔가 휴식.안정에 대한 제대로된 기준이 없는 것 같아서 오늘 만들고자 한다.

• 내가 잘하고 있다는 것을 알 수 있는 몇가지 기준점들을 만들자.

• 기준점을 만들때에도, 일주일 단위로 할 것인지, 월 단위로 할 것인지 결정해야함. 나는 짧은 주기로 스프린트를 달리는 사람이니까 일주일 단위로 측정.

• 예) 일주일에 강의 2-3번 하면 잘한 것. 유투브 영상 일주일에 한개 올리면 잘한 것. 오픈카톡방에 뉴스레터 일주일에 한번 올리면 잘한 것.

• 하루에 일하는 시간들을 체계적으로 정해놓을 것. 지금은 너무 시간 나는대로, 막판에 미루다가 하면서 스트레스를 받는 경우가 많음. 예) 오전 10-12시, 2-4시는 일하는 시간

• 보상 주기. 디스콰이엇 도언님과 얘기하면서 얻은 팁: 여름, 겨울 1년에 두번은 무조건 빡세게 놀 보상 계획 세우기. 2-3주동안 제대로 놀기. → 나는 여름, 겨울 사이의 주기가 너무 기니까 2달에 한번은 무조건 최대 1주일 여행가기

• 일주일 단위로도 쉬는 날 하루 정하기. 휴식을 할때에는 노트북.핸드폰 모든 업무 금지. 예) 나에게 일요일은 무조건 쉬는 날: 그날 하루는 핸드폰 금지

사실 한가지 추가 문제는 강의를 한번할때 8시간씩 서서 말을 해야하는데, 이를 일주일에 2-3번 하면 나머지 4일은 다른 일을 할 에너지가 생기지 않음.

그래서 이것도 최대 2일로 제한을 둬야 할 것 같음.

다른 곳에도 에너지를 할애할 수 있도록.

추가적으로 제가 할 수 있는 것들이 뭐가 있을까요?

갑자기 든 생각인데

현재 나오고 있는 모든 LLM 모델들이 영어 위주로 나오고 있고

처리할 수 있는 작업들도 대부분 영어만 잘해줘서

다른나라 언어, 특히나 한국어와 같은 아시어권 언어들과 생소한 나라 언어들은 아예 이해를 못하면서 기술을 제대로 사용해볼 수 있는 대상들이 너무 좁아짐.

그에 따라 기술의 격차가 심해짐.

아예 전세계 모든 사람들이 배울 수 있는 하나의 공통된 언어를 새로 만들어지지 않는 이유는?

생각해보면 프로그래밍 언어들도 죄다 영어로 짜여져 있고

매주 새롭게 나오고 있는 이런 기술들을 모두가 사용하려면 multilingual 버젼으로 만드는데 또 시간을 들여야한다는게 너무 아쉬움

이번 YC 배치에서 나온 AI 스타트업들 21개 소개

1. Eggnog: 생성AI로 생성된 영상들을 위한 유튜브 플랫폼 https://www.eggnog.ai/

2. Focal: 책과 대본을 영화로 만들어주는 AI 영화 스튜디오 https://focalml.com/

3. MAgic Hour: AI 영상 편집 (얼굴 바꾸기, 립싱크, text-to-video 등. US army에서 사용하고 있다고 합니다) https://magichour.ai/

4. Fluently: 통화할때 옆에서 스피치 도와주는 AI 코치 (줌 콜에 조인 가능, 피드백 줌) https://getfluently.app/

5. Alai: AI를 활용한 피피티 제작 자동화. 텍스트로 슬라이드 만들기 

6. Pico: 아이폰 스크린샷 자동으로 정리해줌. 제품 할인 찾아주거나 캘린더에 일정 알아서 추가해줌 https://twitter.com/pico

7. Sonia: AI 심리상담사. 텍스트와 음성 기반으로 상담해줌. $200 연간 https://twitter.com/Sonia_Health

8. Infinity AI: 스크립트 올리면 영화로 만들어줌 https://studio.infinity.ai/sign-in

9. Lumina: 과학 논문 글 대신 작성해주는 AI. Stanford, MIT, Deepmind에서 사용 https://www.lumina-chat.com/

10. Wuri: 웹 스토리를 비주얼 스토리로 바꿔주는 AI. AI가 자동으로 웹툰 제작해줌 https://www.wuri.ai/

11. Maia: AI 연애 상담가 https://www.ourmaia.com/

12. Sonauto: AI로 음악 생성. 가사부터 음악까지 https://sonauto.ai/Home

13. Ego: 자연어 기반으로 유저들이 자신만의 3D 세계를 만들 수 있는 게임 엔진 https://www.ego.live/

14. PocketPod: AI가 만들어주는 맞춤형 팟캐스트. 개인취향을 기반으로 스포티파이에서 들을 수 있는 팟캐스트들 알아서 찾아줌. https://pocketpod.app/

15. Arcane: AI 기반 Roblox. 코딩 없이 비디오 게임 만들 수 있음. https://www.arcanelabs.ai/

16. Kopia: AI로 가상 옷 입어보기 체험. https://www.brands.trykopia.com/

17. Aqua Voice: 목소리만을 기반으로 텍스트 수정함. https://withaqua.com/

18. HeartByte: 소설을 대신 써주는 AI copilot https://www.heartbyte.ai/

19. Soundry: AI 음악 플랫폼. https://linktr.ee/soundry_ai

20. MathGPTPro: AI 수학 튜터 https://info.mathgptpro.com/

21. K-Scale Labs: 오픈소스 휴머노이드 로봇. 팀은 이전에 Tesla Optimus에서 일함. https://x.com/Scobleizer/status/1766365088129368113

다시 정리: 

• 이 중에서 5개 스타트업은 생성AI 미디어 & 엔터테인먼트 분야

• 3개는 교육/창의성 분야

• 1개가 로보틱스

• 2개가 헬스케어 

• 3개가 업무자동화

• 6개가 컨텐츠 자동화 및 편집 자동화 

개인적인 생각: 

• 2년 전 ChatGPT가 나오고 나서 만들어진 스타트업/사용 사례들과 별 다른점이 없다고 봄.

• 다만 개인적으로 집중해서 보는 스타트업은 K-Scale Labs (오픈소스 휴머노이드), ego (자연어로 게임 만들기) 

• 그 외 나머지는 생각보다 창의적이고 엔터테인먼트/컨텐츠 업계 쪽 스타트업들이 훨씬 많다는 것. 

• Eggnog, Focal, Infinity AI는 OpenAI Sora와 어떻게 경쟁할 것인지 궁금함.

• MathGPTPro, PocketPod, HeartByte와 같은 것은 다른 경쟁사들과 어떻게 차별점이 있는지 궁금함. GPT-wrapper로 보임. 

아 프로덕트 만들고 싶다

최근 들었던 명언:

"물 들어올때 노 저으라는 말은 좋지 않은 의사결정임. 성급히 모든 것을 하려다간 내 일의 퀄리티가 낮아질 수밖에 없음. 물이 계속 들어올 수 있는 구조를 만들어야 함."

NVIDIA의 토니 스타크 시대

지금 #NVIDIA #GTC 보고 왔는데 영화 한장면 보는 줄 알았어요
토니 스타크가 스타크 엑스포에서 자신의 새로운 슈트 소개하는줄

몇가지 공개한 기술:

1. Blackwell GPU:
- Nvidia가 LLM 학습 속도를 향상시킬 새로운 GPU, Blackwell을 출시함
- 이전 버젼의 Hopper보다는 4배 정도 빠름
- GPT-4-1.8T 파라미터 모델을 90일 안에 2000개의 blackwell 만으로 학습을 완료할 수 있음. 이는 기존에 8000개의 gpu가 필요했던 것보다 4배 정도 빨라진 셈

2. Omniverse Cloud + Apple Vision Pro:

- Omniverse Cloud는 몇년전부터 있었던 metaverse 플랫폼 개발을 지원하는 클라우드 시스템
- Apple Vision Pro에서 이제 이 시스템을 스트리밍 할 수 있다고 함
- 메타버스 + 생성AI라고 생각하면 됨

- LLM을 통해 "차에 타고 있는 것처럼 해줘"라고 하면 3D로 차를 실제로 구현하고 타고 있는 것 같은 느낌을 줌

3. Isaac Receptor:
- 실시간 라이브 지각/시각 능력: 기존에는 pre-trained 데이터에 의존해야 했다면 이제는 실시간으로 사물을 3D로 인식하며 생각할 수 있음
- isaac + LLM 기술 합쳐서 로봇 만듦 (OpenAI Figure AI와 Tesla의 Optimus와 어떻게 경쟁할 것인지 기대됨)

지금 이 시대에 살고 있다는게 너무 설렌다 어떡하지

Robotics랑 GPU CPU 설계부터 다 배우고 싶어졌다

대부분의 사람들이 너의 아이디어는 실패할거야, 수익화하기 어려울꺼야 라고 말하면

포기하지 말고 내 자신과 내 팀을 믿고 꿋꿋이 나아가자

끝까지 가보고 판단하자

오히려 남들이 보지 못한 것을 발견해서 더 잘될수도 있다는 것

항상 중요한건 내 자신을 믿는 것. 자신감.

생성AI 업계 업데이트

최근에 AI 업계 내에서 엄청난 새로운 업데이트들이 많다 보니 따라가는 것도 벅찹니다.. 그 중에서 최근 2주간 가장 놀라웠던/임팩트 있는 뉴스들을 공유하고자 합니다.

1. #Anthropic의 #Claude 3 출시
- needle in a haystack, 방대한 양의 정보에서 필요한 정보를 추출해오는 RAG 기능을 테스트하고자 함. 그 내용이 스타트업과 일하는 삶의 방식에 대한 글이였는데 중간에 아무런 관련없는 피자 텍스트가 있었음
- Claude가 읽더니 나한테 이걸 지금 테스트하라는거냐, 나 지금 감시하고 있는거냐, 장난이냐 말함. 흡사 인지도가 생긴 것처럼 말을 함
- 위험한 이유는 모델을 테스트할때에는 잘하는척, 말 잘든는 척하다가 실제 배포가 되었을때 갑자기 우리 말 듣지 않는것
- 이제 인공지능은 자기 스스로 오픈소스 모델들을 셋업해서 직접 파인튜닝하고 직접 예시 데이터들도 만들어서 학습시키고 배포할수잇음
- 인지도가 생기는 순간 그냥 끄면 되겟지 생각할텐데 이젠 이것도 컨트롤 못할듯
- 1년안에 gpt4를 뛰어넘는 애가 나옴, 값은 절반 (Anthropic benchmark 기준, 이 기준들은 주관성이 강함.) 
- 이제는 200k 인풋 텍스트, 1M까지 (20만, 100만까지)
https://lnkd.in/gVFZXpFV

2. #Grok 모델 오픈소스 예정 (https://x.ai/)
- Elon Musk가 만든 생성AI 회사 xAI의 Grok 모델이 이번주 내로 오픈소스(코드 공개)된다고 . 현재 OpenAI의 GPT모델들은 오픈소스되어 있지 않아 정보들이 어떻게 학습되어 있는지 확인할 수 없음.
- 학습시킨 데이터들 자체가 공개되진 않을 예정이지만, 나만의 생성AI 모델을 만들고 싶다면 Grok 모델을 본따서 만들 수 있을 것.

3. #OpenAI 모델 "훔치기"
- 일론 머스크가 Grok을 이번주 안에 오픈소스 한다고 발표한 방면, 구글에서 오픈되지 않은 OpenAI의 gpt모델을 훔칠 수 있는 방법에 대한 논문을 그저께 출간함.
- 훔치는 방법: 단순 API 쿼리를 통해 $20 내로 모델의 최종 레이어를 복구하는데 성공함. 공개되지 않은 gpt-3.5-turbo dimension size도 찾아냈다고 함.
- 이런 방식으로 2000개 정도의 쿼리를 하면 모델의 전체 projection matrix도 유추해낼 수 있음.
https://lnkd.in/gV8siTZ3

4. #CognitionLabs의 AI Software engineer, Devin
- 어제 Cognition labs에서 Devin이라는 AI 소프트웨어 엔지니어를 출시.
- 이 AI 에이전트에게는 1) 커맨드를 입력시킬 터미널, 2) 코드를 작성할 코드 에디터, 3) 그리고 직접 웹검색을 하면서 웹사이트를 배포할 수 있는 웹 창이 있음.
- 이 세가지를 통해 작업을 요청하면 알아서 터미널에 요청을 하면서 코드를 작성하고, 에러가 뜨면 스스로 에러 로그를 보면서 수정하고 마지막으로 웹사이트 배포까지 할 수 있다고 함.
 
https://lnkd.in/gjXhfrdU
아직 공개되진 않았고 여기서 웨잇리스트 신청할 수 있다고 합니다: https://lnkd.in/gQzdkhkd

완전한 AGI 시대가 왔을 때 인간이 휴머노이드와 경쟁할 수 있는 것은?

어제 밤 11시에 맥도날드에서 친구와 대화를 나누며 휴머노이드 여친/남친에 대해 이야기했습니다.

의식의 흐름대로 정리합니다.

• A: 20년 뒤, 휴머노이드가 인간과 똑같은 모습을 띨 수 있다면 과연 우리가 인간으로써 경쟁할 수 있는 것은 뭐가 있을까?

• B: 내 로봇 남친/여친을 매일 매일 원하는 외모로 바꿀 수 있다고 가정하면 외모로도 인간은 승부 볼 수 없다.

• A: 지적 능력으로도 승부 볼 수 없다.

• B: 그렇다면 유일하게 인간적인 것은 감정 아닐까?

• A: 하지만 인공지능에게 현존하는 모든 감정에 대한 학술 자료, 영화, 문학 책, 예술 작품을 학습시킨다면 어쩌면 인간보다 더 뛰어나게 공감을 잘하고 느낄 수 있을 것이다.

• A: 그렇다면... 결국 인간과 휴머노이드의 유일한 차이점은 생명을 만들 수 있는 능력이 되겠다.

• B: 그것도 만들 수 있지 않을까?

• A: 어떻게? 생명을 만든다는 것은 그 휴머노이드의 고유한 DNA가 있어야하고 정자, 난자를 만들어서 수정시켜야 하는데 인공적으로 가능할까?

• B: 가능할듯. 미래에는 좋은 유전자를 가진 정자/난자를 판매하는 시장이 더욱 활성화 될 것.

• A: 심지어 그런 시장 지금도 존재하잖아

• B: 그렇지.

• A: 와 나중에는 그냥 블레이드 러너처럼 되겠네

• B: 너는 휴머노이드 남친 사귈 수 있어?

• A: 무조건 가능. 내가 원하는대로 성격/외모를 컨트롤 할 수 있는게 좋을 것 같긴한데 한번씩 잘못 할루시네이션 해서 살인하면 뜨악일듯

🌞100일 미라클 모닝 도전 모집 + 인생 업데이트

안녕하세요! 정말 오랜만에 글을 씁니다.

제 삶에 대한 업데이트를 잠깐 드리자면, 1월 10일에 10X AI Club 1기 부트캠프가 끝나고 이제 거의 2주동안 쉬고 있었어요. 1기를 진행하면서 정말 많은 것에 대해 배웠는데, 어떻게 하면 더 좋은 부트캠프를 할 수 있는지, 어떤 방식이 더 좋은 교육 방식인지, 그리고 내가 어떤 것을 좋아하고 싫어하는지 또 깨닫게 되었습니다. 저는 어째서인지 매번 도전(창업, 부트캠프, 커뮤니티, 등..)을 할때마다 미친듯이 배우고 성장하는 것 같아요. 근데 이게 단순히 좋은 것만은 아닌, 뭔가 곤충이 완전 변태가 끝나기도 전에 자꾸만 스스로 허물을 강제로 벗겨내는 느낌입니다. 아물 시간도 분명 필요한데, 성장하기를 바라는 조급한 마음에 제 자신을 자꾸만 푸시하는 것 같았습니다.

그래서 성장한 제 자신에 잠시 적응하기 위해 2주동안 정말 빡세게 놀려고 마음의 준비를 하고 시작을 했는데, 저는 잘 노는 법을 모르더라구요? 논다고 한게 결국 카페가서 책읽고 브런치에 글쓰는 것이었습니다. 논다고 하면서도 10X AI Club 유튜브 채널을 운영하고, 강의도 다니고, 또 인생 공부를 하고 있었어요. 그러면서 제가 읽기 시작한 총 4권의 책이 있습니다.

• 켈리 최의 "100일 아침 습관의 기적"

• Eric Jorgenson의 "The Almanack of Naval Ravikant"

• Bill Perkins의 "Die with Zero"

• 유발 하라리의 "사피엔스"

이 책 4권이 2주동안 정말 많은 삶의 교훈을 줬어요.

저는 일단 돈과 건강하지 못한 관계를 갖고 있었고, 여태까지 불행이라는 감정을 꽤 자주 느끼고 있었던 것 같아요. 제가 지금까지 갖고 있었던 안 좋은 습관들에 대해 솔직하게 나열을 해봤습니다.

1. 나는 한 번에 너무 많은 것을 하려는 습관을 갖고 있다. 어떻게 하면 잘될지 그림이 다 그려지기 때문이다. 2년 안에 해야 하는 것을 한 번에 하려다가 번아웃이 오고 큰 스트레스를 받는다.

2. 머리가 빨리 돌아가서 모든 경우의 수를 생각하고 내가 생각한 방향으로 흘러갈 것이라고 확신한다. 대부분 실제로 그렇게 흘러간다. 하지만 보통 장기적/큰그림으로 볼 때에는 예상할 수 없는 결과로 흘러갈 때가 많다. 앞으로 어떻게 흘러갈지 너무 쉽고 빨리 그려져서 모든 게 금방 싫증 난다. 

3. 쉴 줄 모른다. 갭이어라는걸 제대로 경험한 적이 없다. 가만히 있을 수가 없다. 아마 이건 무의식적으로 장착돼 있는 anxiety(불안감) 때문인 것 같다. 성장하고 있지 못한다는 불안감, 그리고 수입이 지속적으로 들어오지 않는다는 불안감 때문에 분명 쉬어야 하는 타이밍일 때도 쉬지 못한다. 지금도 휴식기라고 지정하고 있지만 계속 유튜브 영상을 찍고 있고 일을 하고 있다. 

4. 돈을 아끼고 저축하는 습관. 생활비 같은 경우에는 어쩔 수 없이 나가는 비용들이다. 하지만 그것조차 쓸 때마다 극심한 스트레스를 느낀다. 매번 소비할 때마다 내 시간당 수입/값어치가 얼마인지 계산하면서 너무 많이 소비한다 싶을 때 기분이 안 좋아진다. 

5. 행복을 최우선시하지 않는 습관. 성장과 수익을 위해 행복을 뒷전으로 한지 얼마됐지..? 10년은 넘은 것 같다. 중고등학교를 한국에서 나오면서 높은 성적을 위한 무한 경쟁의 굴레에 들어오기 시작했고, 대학에 들어오고 나서도 취업을 위한 무한 경쟁, 그리고 사회에 나와서는 커리어적인 성공.. 그리고 부를 얻기 위한 경쟁의 굴레에 들어왔다. 한 번도 쉬지 않은 채 한 개의 굴레에서 다음 단계의 굴레로 들어갔다. 창업을 하면 적어도 취업 경쟁에서 벗어날 수 있을 거라 생각했지만 생각이 짧았다. 창업의 세계에서는 레벨이 훨씬 진화된 경쟁자와의 경쟁을 해야 한다. 이 경쟁에서 지면 내 사업과 내 생계급여까지 위험해지는 상황이 온다. 항상 "경쟁"만 바라보며 내 자신을 더 푸시하고 스트레스를 제대로 풀지 않은 채 일하기만 바빴다. 

6. 마음이 너무 조급하다. 의식주를 커버할 수 있는 passive income을 만들지 않아서 마음이 항상 불안하다. 동시에 하고 싶은 게 너무 많다. 하고 싶은 게 많아서 현재 상태에 완전히 만족을 할 수가 없다. 고로 불행하다. 

"행복"이라는 것은 태어날 때부터 갖는 스킬이 아니라 체력을 단련시키는 것처럼 꾸준한 연습을 통해서 키울 수 있는 능력이라는 것을 "The Almanack of Naval Ravikant" 책을 통해 배웠어요. 저는 제 자신에게 스트레스를 주는 법은 너무 잘 알고 있는데, 어떻게 하면 행복을 주는지는 아직 못 깨달아서 행복해지는 연습을 하고 있습니다.

조금 덜 진지하게 살고자 합니다. 제 건강과 행복을 최우선시하고자 합니다. 돈을 더 잘 쓰는 방법을 배우고 싶어요. "The Almanack of Naval Ravikant: A Guide to Wealth and Happiness"와 "Die With Zero"라는 책을 읽으면서 그 방법을 조금 배운 것 같습니다. 미래의 내가 지금의 나보다 돈을 더 많이 벌 것이라면, 현재의 내가 미래의 나를 위해 돈을 저축하고 있는 게 말이 안 된다는 것입니다. 동시에 체력이 좋은 20대 때와 체력이 더 안 좋고 아이들을 키워야 하는 책임이 생긴 50대 때에는 할 수 있는 일들이 있고 할 수 없는 일들이 있다고 생각해요. 예를 들어 제가 50살에는 유럽 배낭여행을 50살의 체력으로 행복하게 할 수 있는지 의문입니다. "지금도 체력이 안 좋은데 50살일 때에는 얼마나 더 안 좋을까?"라는 생각부터 들어요. "Die with zero"라는 말은 죽을 때 내 통장잔고가 0원이어야 한다는 것입니다. 20,30,40대 때 죽어라 돈을 모으다가 50,60,70이 되어서 제가 평생 하고 싶었던 것들을 하려고 할 때에는 이미 늦었을 때가 많다는 것입니다. 

그래서 저는 제가 정말 평생 하고 싶었던 꿈들을 올해부터 하나씩 도전을 하고 있어요. (비밀) 하도 인생 생각이랑 고민을 많이 해서 그냥 혼자서 떠들 수 있는 채널을 만들었어요. ㅋㅋㅋ 이 모든 것은 제 부계 유튜브 채널에 기록할 예정입니다..ㅎㅎ (제발 더 좋은 채널 이름 떠오르면 알려주세요)

🌟100일 미라클 모닝 도전

추가로 제가 1월 1일부터 지금까지 실천한게 있는데, 여러분과도 함께 하고 싶어서 모집을 하고자 해요.

100일 간 내 끈기를 기르는 힘을 키우고자 합니다. 원하는 이상적인 삶을 무조건 달성할 수 있게 해주는 방법입니다.

사실 이전에 10X 자기계발 톡방을 만들어서 운영을 하고 있었는데, 기한이 없다 보니 많은 분들께서 동기부여가 떨어졌던 것 같아요. 강제성도 없다보니 대부분은 정말 작심삼일하고 더 이상 안 올리시더라구요. ㅠㅠ

저는 제가 매일 적는 인생 목표들을 달성할때까지 기록을 하던 편이라, 그 기간이 정말 오랫동안 진행되는 것에 익숙해졌던 것 같아요. 어떻게보면 저는 이렇게 매일 아침마다 제 인생 목표를 적고 그날 가장 이상적인 하루를 보내기 위해서 계획하는게 이미 습관화 됐던 것 같습니다. 지금 보면 저도 원래 진짜 끈기 부족하고 한개를 습관화하기 위해 정말 많은 노력이 필요한 사람인데 이게 습관화됐네요..?

그래서 이번에는 그 형태를 조금 바꾸고자 합니다.

아침에 눈뜨자마자 할일

• 5분동안 침대에서 누워서, 혹은 앉아서 눈을 감고 내가 바라는 이상적인 하루와 이상적인 인생의 모습을 구체적으로 시각화합니다.

• 책을 10분동안 읽습니다. 매일 꾸준히 읽은 결과 저는 지금 3주동안 책 두권을 끝냈습니다.

• 운동을 10분동안 합니다. 스트레칭, 요가, 혹은 몸을 활성화해줄 수 있는 운동. 저는 푸시업을 매일 10개씩 하고 있습니다.

카톡에 인증

• 아침 시각화 완료 여부

• 운동 여부

• 읽은 책 인증 (몇 페이지부터 몇 페이지까지)

동기부여

• 보증금 10만원

매일 무조건 인증하게 할거에요. 끈질기게 푸시할겁니다.

카톡방 들어와서 첫 인증하는 날부터 100일 후까지 인증 완성하시면 전액 환급해드립니다.

참가 신청 (1/29일까지 받습니다)

전 이미 하고 있어서 선착순으로 들어오시는 분들은 바로 들어온 그날부터 인증 시작하시면 됩니다!

유저들은 생성AI 스타트업들한테서 무엇을 바라는가?

기술이 엄청나게 좋거나, 신기술이거나 vs 고객의 문제해결을 바로 해주는 서비스가 되거나

이틀전 새해부터 10X AI Club 1기 멤버분과의 커피챗을 하면서 많은 얘기를 나눴습니다.

저희는 둘다 생성AI의 사업적인 측면에서 많은 고민을 했었고, 생각했던 결들이 비슷해서 더욱 놀랐던 것 같아요.

최근에 다른 스타트업을 창업하고 있는 제 친구와 이런 얘기를 했어요.

이 세상에 존재하는 모든 사람들의 욕구/문제를 해결해주는 서비스는 이미 나왔고, 우리는 그 서비스들 중에서 끊임없이 더 나은 버젼을 만들 수 있는 기회를 찾고 있는 것이다.

예를 들어 기존에 고객 경험이 너무 좋지 않았던 계좌이체 경험을 "토스"는 핸드폰 번호만 있으면 공동인증서 없이 바로 돈을 송금할 수 있게 해줬고, "아마존"은 오프라인 북스토어를 직접 가지 않아도 온라인으로 구매할 수 있는 플랫폼을 만들었죠. 즉 지금도 대다수의 스타트업들은 끊임없이 무언가 혁신적인, 아무도 보지 못한 서비스를 만들고 있다는 것보다는 기존의 서비스들 중에서 더 나은 버젼을 찾고 있는 것입니다.

여기서 더 나은 버젼이라 함은 "고객 경험"이 중심이 되는 것 같아요. 고객 경험을 더 파고 들어가면, 고객들은 생각보다 더 빨리 자기가 서비스에서 얻고자 하는 것을 얻고 싶어합니다. 생각보다 참을성이 없습니다. "Spotify"는 한가지의 미션을 갖고 제품을 만들었는데, 그게 바로 "최대한 단 시간 내에 음악을 스트리밍할 수 있는, latency를 zero에 가깝게 만들자"라는 미션을 갖고 빌딩했습니다.

고객은 특히나 이 서비스에 쓰이는 기술에는 관심이 없습니다. 얼마나 신기술을 사용해서 이 프로덕트를 만들었는지 홍보해봤자 고객은 자신이 취득하고자 하는 것을 바로 얻지 못하면 떨어져나갑니다. 생성AI 업계로 돌아와보자면, 많은 스타트업들이 생성AI의 신기술을 이용해서 제품을 만들기 시작하는데, 분명 유저에게 자동 텍스트, 자동 이미지 생성, 업무 자동화 등과 같은 "와우" 팩터는 존재합니다. 하지만 그대로 가다가는 생성AI의 업계 특성상 큰모델을 갖고 있는 기업(incumbent)들과 경쟁을 하게 되는데, 그들을 따라잡기에는 인프라 부족, 네트워크 (moat) 부족으로 인해 악순환의 굴레에 접어들게 됩니다.

2022년 챗GPT라는 신기술이 나오고 유저들은 첫 "와우"를 경험했습니다. 이제 1년의 시간이 흘러 2024년이 됐는데, "와우" 팩터는 점차 줄어들었고, 기술싸움과 신기술 도입은 정말 큰 incumbent들에게 남겨졌습니다(Google, Meta, OpenAI, etc.). 스타트업들은 이들과 기술싸움을 하기 보다는 최대한 고객 경험을 향상시킬 수 있는 서비스를 만드는 것에 집중을 해야합니다.

여전히 생성AI 기술 서비스들에는 많은 취약점이 존재합니다. 아직까지는 새로운 시장이기 때문에, 얼마나 고객에게 좋은 경험을 제공해주는지에 따라 승패가 갈라질 것 같아요. 다른 SaaS 제품들과는 다르게, 여전히 일반인들은 생성AI에 대해 친숙하지 않기 때문에 가장 중요하게 여겨야할 포인트는 얼마나 이 제품을 편리하고 이해하기 쉽게 만드는지가 될 것 같습니다.

조금 더 자세하게 들어가자면 이런 포인트들이 될 수 있는거죠:

• 생성AI 답변을 생성하는데 걸리는 시간 증가 -> 이로 인한 유저 이탈

• 할루시네이션 -> 신뢰도 하락, 이로 인한 유저 이탈

• 내가 원하는 답변이 나올때까지 걸리는 시간 + 대화 횟수 -> 증가할수록 유저 이탈

• UI/UX가 헷갈려서 유저가 무엇을 얻을 수 있는지 잘 모르는 상황 -> 유저 이탈

• 가장 중요한건, 유저가 왜 내가 얻고자 하는걸 생성AI를 사용해서 해야하는지에 대한 이해시켜야함

이건 이제 제품의 타겟 고객층에 따라서도 달라지는데, 연령대가 높을수록 UI/UX에 더 집중을 해서 쉽게 이해할 수 있도록 해야하고, 연령대가 낮을수록 더 빠른 결과(zero latency)가 나올 수 있도록 해야할 것 같습니다. 생성AI 업계는 기술도 그렇고 user experience 측면에서 아직도 개선돼야할 부분들이 너무 많기 때문에 기회가 아직 많이 남아있다고 생각듭니다. :)

P.S.

혹시나 생성AI 스타트업을 만들고 계시는 팀이거나, 주변에 이런 생성AI 스타트업 팀을 알고 계시면 댓글에 달아주시거나 저한테 커피챗 요청해주세요!! 많은 대화를 나눠보고 싶습니다 :)

그럼에도 불구하고 다시 일어날 수 있는 힘

원래 매년 이 시기쯤 한 해 회고글을 쓰는데 올해는 연말 직전까지 힘든일이 있어서 회고글을 쓸 엄두도 나지 않았습니다. 회고글 자체를 쓸까말까, 디스콰이엇에 글을 올릴까 말까 수십번 고민했는데 생각해보니 제가 힘듦때문에 이걸 스킵하는건 말이 안되더라구요. 저는 실패와 힘듦이 있을때마다 다시 일어났고, 일어날때마다 몇배로 성장해서 나아갔기 때문에, 아무리 힘들고 어려운 일이 있었더라도 저는 제 성장속도를 스스로 멈추는 일만큼은 안할 예정입니다. 계속 나아갈 것입니다.

가장 억울했던건 스트레스 좀 풀려고, 연말이니까 마지막이라도 행복하게 보내려고 비행기 티켓을 끊고 다른 나라에 여행을 왔는데도 제가 예상하던대로 되지 않았습니다. “그럼에도 불구하고 내 행복은 내가 지켜야지. 상처를 받고 힘듦이 있더라고 견디고 나아가야지.” 수만번 다짐을 하면서 생각 조차를 없애고 싶었어요.

매번 한해를 돌이켜보면 올해만큼 열심히 산 해는 없었다 하는데 매번 그걸 갱신하는 것 같습니다. 올해도 갱신했습니다. 올해도 미친듯이 나아갔고 열심히 살았습니다. 

보통 지나간 시간을 되돌아볼때 고통보다는 행복한 순간들이 기억에 남기 마련인데, 2023년은 행복보다 힘듦이 조금 더 많았던 것 같습니다. 사람에게 가장 많은 상처를 받고, 신뢰와 믿음이 적용되는 사람들의 범위가 너무 좁아져 버렸고 스스로 벽을 세워버렸어요. 이런 상처들의 연속으로 인해 올해 9월에는 내 인생의 최저점을 찍었습니다. 제 자신의 모습을 많이 미워했었고, 고통을 없애려고 내가 느끼는 모든 감정들을 배제한채 한동안 아무도 안 만나며 무감각의 상태로 지냈습니다.

그 상태로 계속 있다보니 오히려 초연해져서 9월 중순 어느 밤 그냥 이 시점이 제 인생의 turning point가 될거라고 무작정 다짐을 했고, 그 이후로 10x ai club 커뮤니티를 본격적으로 활성화하면서 제가 오랫동안 갖고 있었던 꿈인 “내가 만든 프로덕트 인생 첫 판매하기”를 이뤘습니다. 그 다음달에는 첫 달에 낸 이익을 열배로 키웠어요.

사람에게 상처를 가장 많이 받은 해이기도 하지만, 그만큼 제가 정말 감사히 여기는 새로운 인연들도 많이 맺게 됐습니다. 특히나 디스콰이엇 팀과 힘든 일이 일어날때마다 곁에서 도와주시는 분들, 응원해주시는 분들, 그리고 고민상담을 해주는 제 친구들에게 정말 정말 많은 감사함을 느끼고 있습니다.

결국 그런 고통스러운 일들이 있었기에 제 자신에 대해서도 가장 많이 알게 된 해였습니다. 제가 어떤 사람인지, 나의 장단점과 내가 무엇을 좋아하고 싫어하는지 더욱 확실해졌습니다. 덕분에 제가 어떤 사람과 어떤 것들을 value하는지 알게 됐고, 제가 자신있게 나아가고 성장할 수 있는 저만의 섹터를 찾은 것 같습니다. 

제가 인생 영화로 꼽는 영화들이 몇개 있는데, 그 중에서 "Call Me By Your Name"에 나온 대사를 여러분과 공유드리고 싶어요.

"How you live your life is your business, just remember, our hearts and our bodies are given to us only once. And before you know it, your heart is worn out, and, as for your body, there comes a point when no one looks at it, much less wants to come near it. Right now, there's sorrow, pain. Don't kill it and with it the joy you've felt."

고통과 힘듦을 무감각 상태로 만드는 것보단, 제가 2023년 느낀 행복과 함께 fully embrace하겠습니다.

올해도 한치 앞을 예상할 수 없지만, 적어도 한가지는 확실합니다.

"어떤 일이 있음에도 불구하고 난 잘 될거고, 다시 일어날 수 있는 힘이 있다는 것”입니다.

디스콰이엇에는 스타트업을 하고 계시는 분들과 나만의 길을 개척하고 계시는 분들이 많은데, 어떤 일이 있더라도 올해는 계속 나아가실 수 있길 바라겠습니다. 결국엔 포기하지 않고 끝까지 가는 분들이 살아남습니다. 화이팅!

Large Language Model(LLM) 대신 Small Language Model(SLM)은 어떤건가요?

어제 밤 10X AI Club 1기 멤버들과 두번째 스터디 세션을 열었습니다.

10X AI Club의 멤버이신 박찬진님께서 게스트로 오셔서 Microsoft가 바라보는 앞으로의 생성AI 미래, B2B 기업들에서 공통적으로 가장 많이 원하는 생성AI use cases, 스타트업들이 가져야 할 비즈니스 전략 등에 대해서 짧게 소개하고 Q&A 하는 세션을 가졌어요.

세션의 마지막 슬라이드가 가장 인상 깊었는데, 스타트업, 혹은 서비스를 상용화 시키고 싶은 개인이 프로덕트를 빌딩할때 어떤 것들을 중점으로 둬야하는지 소개해주셨어요.

1. 문제를 제대로 파악해라

2. 모든 것을 일일이 만들려고 하지 말고 오픈소스로 나와있는 기존의 AI 툴들을 사용해서 빨리 만들어라

3. SLM을 사용해라

4. 퀄리티 높고 깨끗한 데이터를 학습시키는게 가장 중요하다

5. AI 윤리를 중요시 여겨라 (개인정보보호)

하나하나 다 공감이 되면서, SLM이 뭔지 궁금해지기 시작했고, 1기 멤버분들도 이와 관련된 질문들을 해주셨어요.

1. SLM이 뭔가요? LLM이랑 어떤 차이가 있나요?

2. SLM을 쓰면 LLM에 비해 장단점이 무엇이 있나요?

3. SLM을 사용하면 OpenAI의 LLM 모델들을 쓸때에 비해 개인정보보호가 더 잘되나요?

4. SLM 예시는 어떤 것들이 있나요?

SLM이 뭔가요? LLM이랑 어떤 차이가 있나요?

이 링크의 내용을 첨부합니다. (https://www.thedatahunt.com/trend-insight/what-is-llm#:~:text=SLM%20(Small%20Language%20Model)%3A,%EB%B9%A0%EB%A5%B8%20%ED%8A%B9%EC%A7%95%EC%9D%84%20%EA%B0%80%EC%A7%80%EA%B3%A0%20%EC%9E%88%EC%8A%B5%EB%8B%88%EB%8B%A4.)

언어 모델의 유형

언어 모델에 대한 연구는 현재에도 진행형입니다. 본격적으로 작동 원리에 대해 이해하기 전에, 개발 단계를 네 가지로 나눠 알아보겠습니다.

‍

SLM (Small Language Model): 제한된 양의 텍스트 데이터를 학습하여, 작업 전반에 걸쳐 국소적인 문맥을 이해하는 데에 초점을 맞춥니다. 작은 규모에도 불구하고, SLM은 가볍고 실행 속도도 빠른 특징을 가지고 있습니다.

NLM (Neural Language Model): NLM은 기존의 통계 기반 언어 모델보다 더 정확한 성능을 제공합니다. 이러한 모델은 주로 단어 임베딩, 문장 완성, 기계 번역 등 다양한 NLP 작업에 사용됩니다.

PLM (Pretrained Language Model): PLM은 대규모 데이터셋으로 미리 학습되며, 이후 다양한 NLP 작업에 전이학습(Transfer Learning)을 통해 적용됩니다. BERT와 GPT와 같은 주요 모델들은 이 PLM에 속합니다.

‍

연구자들은 PLM을 확장하면 다운스트림 작업에서 모델 용량이 향상될 수 있다는 사실을 발견했습니다. 많은 연구에서 훨씬 더 큰 PLM을 훈련하면서 성능 한계를 탐색해보고자 했죠. 이러한 대형 PLM은 소형 PLM과는 다르게, 일련의 복잡한 작업을 해결할 때 놀라운 능력을 발휘한다는 점이 밝혀졌습니다. 예를 들어, GPT-3는 상황을 학습하여 단발성 과제를 해결할 수 있는 능력을 가졌지만 GPT-2는 그렇지 못했죠. 따라서 연구 커뮤니티에서는 이러한 대형 PLM을 두고 “대규모 언어 모델(LLM)”이라는 용어를 사용하기 시작했습니다. 즉, LLM은 언어 모델의 현주소이자 최종 개발 단계라고 할 수 있습니다.

즉 SLM은 언어 모델의 가장 기초적인 단계에 있는 소규모의 언어 모델이고, 제한된 양의 텍스트 데이터로 조금 더 자세하고 특수한 케이스를 위해 쓰이는 것입니다. LLM은 OpenAI의 ChatGPT와 같이 어떠한 텍스트도 생성해주는 대형 언어모델이고, SLM은 예를 들어 제한된 데이터를 갖고 특정 리서치를 위해서 쓰이는 모델입니다.

SLM을 쓰면 LLM에 비해 장단점이 무엇이 있나요?

1. 효율성: 대형 언어모델보다 적은 양의 컴퓨팅 파워 요구. GPU, CPU 리소스의 비용 값을 감당하기 힘든 개인/작은 팀들을 위해서는 이런 SLM이 더 효율적.

2. 속도: 언어 모델이 작은 만큼 계산 속도와 텍스트를 생성하는 속도도 빠름. 만약 실시간으로 텍스트를 생성해야하는 앱이거나 많은 트래픽이 몰려오는 앱이라면 소형 언어 모델 추천.

3. 커스텀 모델: 특수한 태스크를 위해 소형 언어 모델을 파인튜닝할 수 있음.

4. 정보 보호: 소형 모델들은 외부 서버 없이 사용할 수 있기 때문에 데이터 프라이버시와 integrity를 유지할 수 있음.

즉 OpenAI와 같은 대형 언어모델을 사용하는 것보다 SLM을 쓸때 학습시키는 정보들의 프라이버시를 더 잘 보호할 수 있겠죠?

찬진님께서 말한거와 같이 특정 산업이나 영역에 최적화된 수직적 use case를 만들려면 소형 언어 모델이 적합할 것 같습니다. 그 대신 대형 언어 모델들 보다는 대화의 퀄리티나 역량이 떨어질 수 있다는 점을 감안해야합니다. 그렇지만 학습 데이터의 양이나 퀄리티가 좋다면 이 데이터만 파인튜닝 시킨 소형 언어 모델이 대형 언어 모델보다 퀄리티를 뛰어넘을 수도 있습니다.

또 다른 점은 대형 언어 모델을 사용하다보면 비용적인 측면을 항상 고려해야하는데, 소형 언어 모델들은 좀 더 빠른 속도와 적은 컴퓨팅 파워, 적은 매개변수 (파라미터 값들)로 비용을 절감할 수 있다는 장점도 있습니다.

💡 여기서 잠깐! 매개변수가 뭔가요?
매개변수란 인간의 뇌와 비유해서 설명하자면 뇌에서 정보를 학습하고 기억하는 시냅스와 비슷한 역할을 합니다. 매개변수가 많을수록 언어 모델의 성능이 높아지겠죠? 즉 대형 언어 모델이면 이 매개변수의 수가 소형 언어 모델보다 훨씬 많습니다. 예를 들어 GPT4는 1.7 trillion (1700억)개의 매개변수 사이즈를 갖고 있습니다.

SLM의 예시는 어떤 것들이 있나요?

가장 잘 알만한 예시로 메타가 출시한 LLaMA 중에서 매개변수가 가장 적은 버전인 Alpaca 7B가 있습니다. 적은 양의 학습 데이터만으로 훈련도 3시간 안에 끝냈지만 성능은 GPT-3.5와 비슷하다고 합니다.

다른 예시로는 최근에 Microsoft에서 발표한 Phi-1.5와 Phi-2 입니다. Phi-1.5는 13억개(1.3B)의 매개변수로 학습한 소형 언어 모델로, 훨씬 적은 비용과 시간으로 대형 언어 모델과 비슷한 성능을 보였고, Phi-2는 27억개(2.7B)로 학습시킨 높은 성능의 모델입니다.

다른 소형 언어 모델들

SLM은 LLM을 대체할 수 있을까요?

Microsoft와 같은 경우 아무리 소형 언어 모델들의 성능이 뛰어나도, OpenAI의 GPT-4와 같은 대형 모델들을 완전히 대체할 수는 없다고 했습니다. 대체하는 것보다는, 서로 같이 쓰는 방법을 많은 미국 기업들이 최근에 하고 있죠. 예를 들어, 만약 좀 더 정교한 태스크를 처리해야하는 일이라면 대형 모델을 사용하고, 단순히 문서 요약 및 정리의 업무들이라면 소형 모델들을 사용하는게 더 효율적입니다. 이렇게 한가지의 LLM에 의존하는 것 보다는 동시에 여러 버젼의 LLM을 함께 사용하는 방법도 고려해봐야 할 것 같습니다.

[10X AI Club 1기 멤버십 1/3 회고] 오퍼레이터 분들께 도움을 요청합니다!!

*이 글은 10X AI Club 1기 멤버십 진행과정에 대한 Building in Public 회고입니다.

11/29일에 10X AI Club 1기 멤버분들과 첫 Pre-Networking 이벤트를 열었습니다.

그 뒤로 첫번째 스터디 세션, 데브 세션을 진행했어요. 앞으로 2 사이클의 스터디+데브 세션이 남아 있어서, 여태까지 진행하면서 제가 느낀점 - 좋았던 점과 어떻게 더 개선할 수 있는지에 대해 글을 씁니다.

11/29 Pre-Networking 이벤트

이날 정말 많은 분들께서 와주셨어요!

첫 모임인 만큼 앞으로 프로그램의 일정과 계획에 대해서 안내해드렸고, 서로 알아가는 시간을 가졌습니다.

12/06 첫 스터디세션

프리네트워킹을 마치고 그 다음날 부터 디스콰이엇의 비공개 클럽에 "업무자동화"를 주제로 학습 자료들을 올리기 시작했습니다. 학습자료들은 GPTs를 갖고 계신 분들과 아직 대기자이신 분들을 위해서 다양하게 올렸어요.

• [GPTs]: GPTs 내에서 Zapier Action 연동해서 업무자동화 챗봇 만들기

• [Code]: PDF, URL, CSV 파일을 학습시킨 AI와 대화할 수 있는 챗봇 만들기 + 웹사이트 인터페이스 구축하는 방법

• [Code]: Assistant API + Zapier Action

이 자료들은 12/06 스터디 세션 전까지 각자 학습해오고, 스터디세션 당일날 어렵고 잘 안된 부분들에 대해 Q&A 할 수 있는 세션을 마련했습니다. 추가로 멤버분들마다 각자 만들고 싶은 AI 프로젝트 아이디어들을 미션으로 올리게 했고, 스터디세션에서 아이디어 피칭을 하고 팀원들을 모집했어요.

세션 마지막 30분에서는 팀원분들과 함께 따로 Zoom 소회의실에서 처음 만나서 다음주 Dev Session때까지 만들 프로젝트에 대한 계획/회의를 할 수 있도록 시간을 드렸습니다. 세션이 끝난 후 팀원들끼리 대화할 수 있는 슬랙 채널을 만들어드렸고, 거기서 멤버분들은 서로 소통을 하며 프로젝트들을 조금씩 만들기 시작했어요.

12/13 첫 데브세션

사실 제가 가장 놀라고 감동받은 부분은 어제 진행된 데브 세션이었어요.

각 팀마다 진행상황에 대한 발표를 해주셨는데, 짧은 시간임에도 불구하고 정말 많은 준비를 해오셨고, 실제로 대화해볼 수 있는 데모까지 준비해와주셨습니다.

현재까지 10X AI Club 1기에서 만들어지고 있는 AI 프로젝트들입니다. 각 팀마다 일주일간 어떤 주제의 프로젝트를 만들었는지, 잘 된 부분들, 잘 안되고 어려웠던 부분들에 대해 짧게 소개를 해주셨습니다.

• 자소서 첨삭 GPTs

  

• 발달장애인을 위한 「읽기 쉬운 자료」 제작 서비스

  

• 돌아가신 분과 AI 채팅할 수 있는 GPTs

  

• 엔젤투자 매칭 서비스

  

• 보고있는 뉴스의 정치적 성향을 판단해 주는 GPTs

  

• 자기계발 GPTs

  

• 이커머스 고객 맞춤 패션 잡지 발송 자동화봇

  

• 가상화폐 데이터를 바로 시각화해주는 챗봇

  

• 썸네일로 뉴스를 소비할 수 있는 GPTs

  

• British English Tutor

• 할일 우선순위 GPTs

개인적으로 너무 재미었었던 부분은, 각 팀마다 겪고 있는 문제들이 공통적인게 많다 보니, Q&A를 하면서 다른팀이 겪고 있는 문제에 대한 해결책을 다른 팀도 적용시켜볼 수 있다는 것이었습니다. 서로 고민 해결을 해보고, 회의를 하면서 해결책을 조금씩 찾아가는게 신기했어요.

사실 제가 처음 1기 멤버십 커리큘럼을 기획할때 저는 일방적인 강의 세션들보다는 서로가 함께 해보면서 배워볼 수 있는 경험을 제공해드리고 싶었어요. 그래서 Dev Session이라는 것을 기획했고, 이렇게 실제로 팀을 구성해서 직접 만들어보는걸 계속 푸시했습니다.

피드백

데브세션이 끝나고 나서 이번 세션까지의 피드백을 받았는데, 제가 우려하던 점들을 멤버분들께서 직접 말씀해주시니까 더욱 개선해야겠다는 생각이 들었습니다.

아쉬웠던 점

• 스터디세션에 공유햐주시는 과제(?)들이 어느용도인지, 어디에 유용한지 설명이 부족한것같아요

• 스터디세션에서 RAG, 프롬프트 엔지니어링, 파인튜닝 등 GPT 초보자를 위한 배경지식, 개념에 대한 자료도 있으면 좋겠습니다.

• 커리큘럼이나 수업등에 공지를 자주나 미리 해주셨으면 더 좋겠다.

• 주신 스터디 자료들을 따라가지 못한 부분과 각 주마다, 세션마다 어떻게 진행되는지를 명확히 알기 어려웠고, 아무래도 평일 퇴근 시간 이후 모임이다보니 이탈자들도 보였던 것 같아 아쉬웠습니다. 초심자가 따라가기에 어려운 내용들이 있어 이 부분에 대해서 어떻게 해야 할 지 조금 막막한 부분이 있었습니다. 처음 진행하시는 것이다 보니 어려운 점이 많으시겠지만, 그래도 앞으로 더 좋은 방향으로 더 발전해 나갈 수 있다고 생각합니다 :)
  
  1. 일정 - 오프라인 일정을 격주 수요일이 아닌 토요일로 하면 참여율이 올라갈 것 같습니다. 아무래도 수요일 오후 7시는 퇴근하고 오기 빠듯한 분들도 계시고, 네트워킹 파티나 데브 세션은 시간이 부족함을 느껴서, 토요일 오후 5-8시 또는 6-9시로 진행하면 더 좋을 것 같다고 생각하였습니다. 그렇게 하면 그 시간 이후에도 추가로 미팅이나 이야기를 더 나누고 싶으신 분들은 따로 시간을 가질 수도 있을 것 같구요..! 몇 가지 오프라인 모임이나 세미나를 참석해보았는데, 주로 평일엔 온라인, 주말에 오프라인 또는 온라인이 참석률이 가장 높아보였습니다!
  
  2. 인원 - 처음 모집시에 인원을 제한하면 더 좋을 것 같습니다. 처음 미팅 때보다 이번 미팅 때 사람이 확실히 적었기도 했고, 팀 프로젝트나 다른 활동들에서 보이지 않으시는 분들도 많이 계신 것 같아서 30명 내외로 운영 가능한 인원을 정하여 드라이브 하면 어떨까 생각하였습니다.
  
  3. 세션 진행 방식
  1) 첫 오프라인 미팅 - 처음 모임 때는 전체적인 커리큘럼 안내, 네트워킹뿐만 아니라 커리큘럼 안에서 진행될 콘텐츠들(스터디 세션 때 GPTs나 Assistant API를 활용한 것 + 앞으로 진행될 내용 등)을 각 파트마다(업무자동화 or 챗봇 개발 등) 가볍게 소개해주는 정도 또는 나오게 될 결과물 대표로 1가지씩만 보여주시면 좋을 것 같습니다! 그렇게 하면 사람들이 앞으로의 방향성이나 스터디 기간내에 도전할 프로젝트 아이디어에 대해서 조금 더 생각할 수 있는 시간과 감을 잡는데 도움이 될 것 같습니다.
  
  2) 스터디 세션 - 스터디 세션 때에는 다음 스터디 세션 전까지 테마를 정한 콘텐츠들을 데모로 시연하는 모습들을 보여주시면 좋을 것 같습니다. 첫 오프라인 미팅 때 보여주셨던 것보다 더 디테일하게, 이번에는 4개의 영상과 교육자료를 보여주셨는데, 그런 부분들을 데모 시연으로 보여주시고, 질의응답 같은 것을 받거나, 간단한 설명이 있으면 좋을 것 같고, 추가로 생성형 AI에 관련한 개념 및 공부할 자료들에 대해서 가르쳐 주셨으면 더 좋을 것 같습니다!
  
  3) 데브 세션 - 팀 또는 개인 단위의 프로젝트 발표 및 진행상황 공유, 인사이트 공유 시간을 갖고, 실제 팀 미팅과 네트워킹에 조금 더 시간을 투자하면 좋을 것 같습니다. 아무래도 오프라인으로 팀 미팅이 가능한 시간이 거의 없고, 온라인으로만 하다보니 다들 고충들이 있을 것 같고, 다양한 산업군과 백그라운드를 갖고 계시니 다양한 분들과의 만남을 통해 생각의 폭이 넓어지는 좋은 자리가 될 수 있을 것 같기 때문입니다.
  
  4) 전체적인 흐름 - 스터디 세션 -> 다음 스터디 세션, 2주간은 스터디 세션 때 배운 내용을 통하여 개인이 테스트해보고 공부 및 인사이트 도출, 공유하는 개인 미니 프로젝트 또는 스터디 형식이면 좋을 것 같고, 데브 세션 -> 다음 데브 세션, 2주간은 팀 단위 프로젝트 및 네트워킹, 스터디 세션과 팀 프로젝트 막히는 부분을 중점적으로 해결하는 형식이면 좋을 것 같다는 생각을 하였습니다. 업무 시간 중이라 정리를 제대로 하지 못하고 두서없이 작성하였는데, 진행하시거나 앞으로의 혜림님의 행보에 도움이 되셨길 바라며, 앞으로도 잘 부탁드리겠습니다 😊 어제 여쭤본 것 처럼 진행하면서 막히는 부분은 한 번 더 해보고, 계속 막히는 부분은 따로 연락드려서 꼭 해결해보겠습니다! 좋은 시간과 스터디 만들어주셔서 감사드리고, 화이팅하시길 바라겠습니다! :D

피드백을 토대로 제가 앞으로 개선해야할 부분들은:

• 기초 지식에 대한 설명 자료 공유

• 직장인들이 많다보니 어떻게 하면 시간 활용을 가장 효율적으로 할 수 있을지 해결방안 찾기 (수 -> 토?)

• 커리큘럼에 대한 설명 미리미리, 그리고 자주 공유. (처음 모집할때부터 이건 제대로 수립을 하고 공유했어야함)

• 스터디세션 때에는 학습 자료들에 대한 데모 시연, 팀 단위로 잘 안된 부분 Q&A 더 받기, 추가 개념과 공부할 자료들 소개시켜드리기

• 데브세션 때에는 팀 미팅 + 네트워킹 더 많이 할 수 있도록 시간 할당 (이번에는 발표 시간이 너무 길었음)

추가적으로 제가 좀 더 잘 운영할 수 있는 방법이 떠오르신다면 댓글에 남겨주세요 ㅠㅠ

1기를 운영하다 보니 제가 부족한 부분이 많은 것 같습니다.