같이 1조짜리 문제를 해결할 사람을 찾습니다.

안녕하세요, 10X AI Club이라는 생성AI 커뮤니티를 운영하고 있는 용혜림입니다.

지난 1년 동안은 유투브를 운영하고 기업 강연을 주로 하면서 시간을 보냈고, 이쪽으로 저를 알게 되신 분들이 더 많을 것 같습니다. 그러나 제 본질은 프로덕트 빌더입니다.

10X AI Club을 시작하기 전에는 계속 스타트업을 해 왔습니다. 10X AI Club도 어떻게 보면 1인창업이긴 한데, 프로덕트보단 서비스에 더 가깝고, 일방적으로 하는 교육/강의 일이다보니 “스타트업”의 정의와는 먼 느낌이 있습니다.

저는 대학교 3학년때 제 첫 창업인 Eddie를 만들었었고, 이는 기존의 복잡한 LMS 시스템을 AI 챗봇으로 바꿔 1) 학생들 입장에서는 순식간에 질문에 대한 답변을 받을 수 있도록 하고, 2) 교수님들 입장에서는 불편한 로그인+추가적인 플랫폼보다는 이메일로 학생들의 질문에 대한 분석/통계를 한번에 받을 수 있도록 하는 제품이었습니다.

실패 이유는 여러가지가 있었고, 가장 큰 문제는 제대로 된 PMF를 찾지 못한 것과 고객 분석이 미흡했다는 점입니다. (참고: https://brunch.co.kr/@hyerimyong/1)

두번째 스타트업은 제작년에 만든 CtrlX라는 플랫폼이었는데, 이는 생성AI를 활용해 컨텐츠 크리에이터들을 위해 자동으로 숏폼 컨텐츠를 편집/제작해주는 툴이었습니다. CtrlX는 공동창업을 하다가 코파운더 핏이 맞지 않아 나오게 되고, 그 이후로 10X AI Club을 만들게 됐어요. 두번째 스타트업에서는 제품보다는 인간관계에 대해 더 많이 배우게 됐고, 특히나 제 자신에 대해 더 많이 알게 되는 계기였습니다. 제가 어떤 강점/약점이 있는지, 어떤 사람들과 잘 맞고 잘 맞지 않는지를 알게 됐어요.

10X AI Club을 만든지 이제 거의 1년 반이라는 시간이 지났는데, 그 시간동안 저는 크게 1) 다음 창업을 위한 자금을 모았고, 2) 사람에 대한 믿음 - 즉 누군가와 같이 일할 수 있겠다는 희망을 다시 얻게 됐습니다.

단도직입적으로 제 목표부터 말하자면, 제 목표는 “1조 벌기”입니다.

• 이유: 남들을 더 많이, 효율적으로 돕기위해. 이 세상에 가치있고 의미있는 업적을 남기기 위해. 자본주의 사회에서는 어떤것의 “가치”에 대한 가장 객관적이고 솔직한 기준은 돈이라고 생각하기 때문에 이런 기준으로 결정함.

제 모든 결정들에 대한 가치관과 기준은 도움이 필요한 사람들을 위해 어떻게 더 scalable한 impact를 낼 수 있을까에서 비롯됩니다.

이를 달성하기 위해 크게 세가지 주제들을 살펴보고 있습니다.

1. AI Infrastructure, B2B Saas

2. AI Agent, B2B Saas

3. 음성 기반 챗봇, ondevice AI, B2C

큰 기업을 만들고 더 많은 임팩트를 내기 위해서는 더 이상 저 혼자서만 할 수 없습니다. 그래서 이 문제들을 같이 해결해나갈 팀원을 찾습니다.

제가 찾고 있는 분은 다음과 같습니다.

• 개발자:

  • LLM, SLLM, genAI 지식 탑재 + 해당 기술에 능숙하며 프로젝트를 만들어보신 분

  • UI/UX 웹사이트 디자인 및 개발을 하실줄 아는 분

  • 즉 전반적으로 제품 개발을 A부터 Z까지 해보신 분

제가 중요하게 생각하는 역량은 다음과 같습니다.

• 어떤 시련이 와도 해결 방안을 찾으려고 하는 사람

• 인생 결정들을 내릴때 명확한 목표 및 그에 맞는 기준들과 자신만의 가치관이 있는 사람

• 큰 꿈을 꿀줄 알고 자기가 이룰 수 있다고 견고하게 믿는 사람. 자기 꿈과 자기 자신에게 delusional한 사람

제 강점은 다음과 같습니다.

• 사람을 내 편으로 만드는 능력이 뛰어남. 많은 사람들이 자발적으로 도와주려 함.

• 실행력이 빠름. 아이디어가 생기면 바로 실천에 옮기는 스타일이며, 빠르게 MVP를 만들어 검증하는 능력이 있음.

• 강한 오기와 끈기. 쉽게 포기하지 않고, 어려운 문제를 끝까지 해결하려는 집념이 있음. 도전적인 환경에서도 끝까지 밀어붙이는 힘이 있음.

• 높은 낙관주의. 어려운 상황에서도 해결책을 찾고, ‘어떻게든 되게 만든다’는 마인드셋을 가짐. 불확실성을 기회로 전환하는 능력이 있음.

• 미션 중심적이며, 높은 동기 부여와 자기 절제력을 가짐. 항상 ‘어떻게 하면 더 나은 사람이 될 수 있을까?’를 고민하며, 자기 성장에 대한 규율이 철저함. 목표 설정과 달성에 있어 강한 추진력을 보임.

제 약점이자 몇가지 특징은 다음과 같습니다.

• 자기주장이 강한 편. 문제 해결 시 논리적으로 납득되지 않으면 쉽게 수용하기 어려움. 그러나 이를 통해 깊이 있는 논의를 할 수 있으며, 감정보다는 논리적 사고를 중시함. 다만, 감정적으로 접근하는 사람들과의 협업에서는 의사소통 방식에 신경 쓰려 함.

• 한 번에 여러 가지 일을 벌리는 경향이 있음. 빠르게 여러 프로젝트를 기획하고 추진할 수 있는 장점이 있지만, 가끔 방향성을 놓칠 때가 있음. 그래서 장기적인 시각을 유지할 수 있도록 피드백을 줄 수 있는 사람과 함께 일할 때 더 좋은 결과를 낼 수 있음.

• 일하는 스타일이 지속적이지 않고, 에너지 burst에 따라 움직임. 고도로 집중해서 일할 때 생산성이 매우 높으며, 이에 따라 일정 시간의 휴식이 필요함. 정해진 9-6 스케줄보다는 유연한 환경에서 더 효율적으로 일할 수 있음.

그 외 제 투명하고 솔직한 모습을 보여주는 글들은 브런치에서 확인하실 수 있습니다.

브런치: https://brunch.co.kr/@hyerimyong

링크드인: https://www.linkedin.com/in/cailyn-yong/

PMF를 찾을 때까지 서비스 런칭(혹은 시장검증)과 실패를 반복할 분을 구합니다.

이야기를 나눠보고 싶으신 분들은 다음 tally form에서 신청해주시면 너무 감사하겠습니다!

https://tally.so/r/3yd4lp

그 외 혹시 주변에 떠오르시는 분들이 있으시면 추천해주시면 감사하겠습니다🙇‍♀️

[10X AI Club 새해선물] 산타와 새해 목표 얘기하기

안녕하세요!

오랜만에 10X AI Club에서 인사드립니다.

한해 동안 AI Club이 본격적으로 활성화되면서 여러가지 일을 했었는데요, 2024년 회고와 요즘 제가 하고 있는 프로젝트들에 대해 이야기를 나누고 싶어서 씁니다.

저는 2024년 1년동안 크게 한 일들이 세가지 정도인데:

1. 유투브 채널 운영

2. "나만의 GPTs 앱으로 생산성 10배 늘리기" 책 출간

3. 기업 강연을 40회 정도 했더라구요.

오늘이 2025년 1월 1일인데, 사실 작년에는 새해부터 경찰서에 갔었습니다. 10X AI Club의 첫 부트캠프를 운영하면서 참가자 중 한명이 스토킹을 하기 시작해서 연말까지 참다가 도저히 안되겠어서 신고를 했어요. 그래서 10X AI Club을 만들면서 계획했었던 일들이 되게 많았었는데, 부트캠프를 운영하면서 생각보다 너무 많은 에너지가 소진됐고 살면서 겪어보지 못했던 두려움도 경험하게 됐습니다. 결국 계획했던 것들이 많이 무산되기도 하고, 작년 1월에 쓴 제 새해 목표들을 다시 살펴보면 2024년은 정말 좀 쉬면서, 행복하게 지내고 싶다는 생각이 강했던 것 같습니다.

어제 새해를 맞이하며 교회에서 예배를 드리고 한해 감사한 일들을 떠올려보는데 2024년은 정말 별탈없이 제가 원하는대로 행복하고 평화롭게 보냈던 것 같아요. 사실 10월부터 연말까지 한해를 되돌아보면서 제 자신이 성장을 많이 하고 있지 않았다고 생각했어서 자책을 하고 있었어요. 강의를 하게 되면 매번 거의 비슷한 내용으로 강의하고, 유투브에 업로드하는 컨텐츠도 비슷하다보니 새로운 것에 도전하지 않는 제 모습이 보였고, 현재 상황에 안주하고 안정감을 느끼는 제 자신을 발견하고 정말 큰일났다 싶었습니다. 저는 항상 "안정감"에서 벗어나려고 발악을 하는 사람이었는데, 작년에는 스스로 이 안정감이라는 굴레에 계속 들어가려고 무의식적으로 행동하는걸 보면서 많이 놀랐습니다. 어쩌면 저도 이런 시기가 어느정도 필요했었던 것 같아요.

그래서 한해동안 정말 많이 쉬었고, 이제는 훨씬 더 안정적인 용혜림이 된 것 같습니다. 10월부터 위기감을 느끼고 11월부터 이것저것 여러 일들을 해보고 있는데, 요즘은 정말 너무 재밌게 개발을 하며 시간을 보내고 있습니다. 10X AI Club의 활동도 어느순간부터는 계속 반복된 비슷한 컨텐츠들이 업로드되다보니 지쳐갔었는데, 더 새롭고 재밌는 방식으로 10X AI Club에 대한 제 애정을 표현하는 방법들을 계속 찾고 있습니다.

최근에 제가 꽃혀있는 것들은 이렇습니다:

1. 3D printing, Hardware, onDevice AI

2. Blender, CAD, Threejs 배우기

3. 음성 생성AI 모델들

4. 게임 만들기

5. Flag football

음성으로 interaction하며 재밌게 할 수 있는 프로젝트들을 계속 만들고 있어요.

그래서 오늘 간단하게 소개하고자 하는 프로젝트는 "새해 목표에 대해 대화할 수 있는 산타"입니다.

웹은 Threejs+Vite로 만들고, 산타 모델은 블렌더, 음성 모델은 Elevenlabs를 사용했습니다.

다 처음 배워보는 것들이어서 Threejs는 만져본지 대략 일주일정도 됐고, 블렌더도 이제 한 3-4일 써본 것 같습니다. Threejs는 혼자서 처음에 해보다가, Bruno Simon의 강의가 너무 좋아서 바로 결제해서 여러 프로젝트들을 만들어봤어요.

궁극적으로는 대화할 수 있는 게임 캐릭터를 만들고 싶어서 산타 모형의 캐릭터를 만들고자 했습니다.

근데 이게 Threejs로는 만들 수 있는 다양한 모형들이 제한이 있기도 하고, 코드로 수학연산해서 일일이 다 꼭짓점 찾고 계산해야되다보니.. 결국 블렌더를 배우긴 해야되더라구요.

그래서 블렌더도 바로 다운받아서 산타를 만들기 시작했습니다. 대칭으로 만들 수 있다는것도 모르고 그냥 마음가는대로 산타를 만들다보니 얼굴 모형, 수염도 다 비대칭이고 무슨 치킨너겟 마냥 쉐잎이 돼버렸더라구요.

산타 머리도 어떻게 해야할지 모르겠어서 일단 그냥 대머리로 가정을 했습니다.

여기에 이제 색을 입히면 이런 모습이 됩니다.

블렌더에서 이런 모형을 하나 만들면 Threejs에서 쉽게 모델을 불러올 수 있습니다!

어떤식으로 배경을 꾸밀지 고민을 하다가 제 최애 쇼인 릭앤모티에서 영감을 받아 이런식으로 만들고 싶었어요. 안그래도 산타가 치킨너겟 모형이다보니, 우주 속에서 지구 위에서 산타가 내려다보며 너 새해 목표가 뭐냐고 물어보는 느낌?

그래서 먼저 갤럭시 백그라운드를 만들고,

블렌더에서 만든 산타 모델을 추가하고,

산타 아래에 회전하는 지구를 만들었습니다.

화면은 이제 완성이 됐으니, 산타랑 대화할 수 있게 하기 위해 산타를 클릭하면 elevenlabs 에이전트를 불러올 수 있도록 개발했어요. 이번에 ElevenLabs에서 출시한 Conversational Agent라는 새로운 기능이 있는데, GPTs 처럼 프롬프트 만으로 음성대화 모델을 정말 쉽게 만들 수 있는 기능입니다. (이거에 대해서는 차차 좀 더 자세히 영상으로 다뤄보겠습니다.)

이런식으로 언어, 목소리, 프롬프트를 추가해서 대화할 수 있는 에이전트를 만드는거에요. 외부 웹사이트 API도 연동해서 호출할 수 있어서 GPTs Action처럼 똑같이 외부 툴도 사용할 수 있습니다. 그럼 정말로 음성으로 여러 업무를 처리할 수 있는 에이전트를 만들 수 있겠죠?

Elevenlabs에서 산타 음성 모델을 먼저 만든 후, threejs 웹사이트에서 호출할 수 있도록 코드를 작성했습니다.

그럼 이제 산타를 클릭할때마다 이 에이전트가 호출이 되면서 마이크로 대화할 수 있게 됩니다.

근데 만들고 나서 보니 좀 밋밋한 느낌이 있어서, 비쥬얼적으로 좀 더 흥미롭게 하기 위해 산타가 말할때마다 텍스트를 3D로 표출하도록 개발했습니다. 이런 느낌으로:

다만 Elevenlabs API 크레딧을 쓰다보니 진짜 조금만 대화해도 바로 크레딧 소진이 된다는 점....

사용법:

📍산타를 클릭하면 대화가 시작되고, 다시 클릭하면 대화가 끝납니다.

📍크레딧 소진때문에 최대 1분만 대화할 수 있습니다.

📍데스크탑 웹으로만 대화 가능합니다.

사용해보시구 시간 되실때 스크린샷+후기 남겨주시면 너무 감사할 것 같습니다! (산타 흑화된 버젼도 만들어볼까 고민중이에요. 하하)

2024년 열심히 살아가신 메이커분들께 올해도 좋은 일만 있길 바라겠습니다🙇‍♀️ 새해 복 많이 받으세요!

Dennis Hong 교수님이 가르쳐주신 레슨런

추석 연휴를 맞이하여 친구들와 LA에 놀러왔습니다.

출국하는 날 체크인을 하고 밥을 먹고 있는데 갑자기 옛 친구한테 전화가 왔어요.

"너도 이 비행기야? 나도 이 비행기인데?!"

정말 우연히 같은 LA행 비행기를 타게 됐더라구요.

이 친구는 20살때 만난 창업을 하는 친구였고, 이 친구 덕분에 제 현 멘토님과 소중한 인연들을 많이 만날 수 있었어요. 항상 중요한 순간에 저를 도와줬던 친구인데, 이번에도 공항에서 만났을때 LA가면 꼭 만나야할 대표님들이 있다고 해서 바로 연결시켜줬습니다.

카카오엔터테인먼트에 6000억원에 매각한 타파스미디어의 김창원 대표님과, Presiedent & CPO of Kajabi Sean Solme Kim 대표님을 만났습니다.

이 분들 외에도 제가 따로 연락해서 만난 UCLA 로보틱스 교수님 Dennis Hong도 만났습니다.

화요일날 데니스홍 교수님을 뵙고, 수요일날 김창원 대표님, 그리고 목요일날 Sean을 만났습니다. 세분 다 각자 너무 다른 분들이고, 각자 다른 가치관을 가지면서 살아왔지만 공통된 점은 자기만의 방식으로 성공했다는 것입니다. 그래서 나는 어떻게 살아가고 싶은지, 내 인생의 다음 스텝을 어떻게 해야할지 고민하던 찰나에 이 세분을 만나뵙게 되어 정말 정말 큰 영광이었습니다.

저는 지난 1년동안 10X AI Club을 운영하면서 사실 꽤 오랫동안 휴식/auto-pilot 모드로 살아왔어요. 10X AI Club도 물론 커뮤니티 빌딩을 해야하지만, 창업할때 하는 "프로덕트 빌딩"과는 다른 느낌이었어요. 잘하고 좋아해서 한 것이고, 현재 제 삶이 너무 행복하지만 이제는 너무 안정적인 굴레에 들어왔다고 생각합니다.

저는 20살때 별명이 "5 day quitter"였어요. 어떤 알바든 5일 해보고 아니다 싶으면 바로 관뒀습니다. 이게 어떻게보면 큰 단점일수도 있는데, 저는 제 성격상 미래가 너무 예상되고 모든 일들이 예측되면 바로 싫증이 나면서 하기가 싫어집니다. 제가 성장하고 있다는 느낌이 안들면 그때부터 도망갈 출구를 찾기 시작합니다.

물론 지금 10X AI Club한테서 도망가겠다는 뜻은 절대 아닙니다. 이제는 10X AI Club을 토대로 조금 다른 방향으로 "프로덕트 빌딩"을 해보려고 합니다.

그래서 다음 스텝을 어떻게 가야할지 많이 고민하고 있었는데, 가장 큰 두가지 옵션은

1) 로보틱스/AI safety쪽 공부를 해서 석사/박사를 따고 교수가 될 것인가

2) 다시 한번 아이템을 찾아서 창업을 할 것인가

였습니다.

화요일날 만나뵌 데니스 홍 교수님은 첫번째 고민을 하는데 큰 도움이 됐고, 김창원 대표님과 Solme 대표님은 두번째 고민에 큰 도움이 됐습니다.

일단 단도직입적으로 말하자면, 사실 제일 되고 싶은건 데니스 홍 교수님이에요. ㅋㅋㅋㅋ 진짜 제가 살고 싶은 삶을 다 실천하고 계셔서 세상 부럽습니다. 부러운 이유는, 자기가 가장 좋아하고 재밌을 것 같은 것들만 좇으며 살고 계시기 때문입니다. 만들고 싶은 로봇 아이디어가 떠오르면 바로 연구비를 따와서 만들기 시작하고, 여러 로봇 학회때문에 일주일에 4개국을 돌아다니고, Jeff Bezos, Bill Gates, Elon Musk도 만나며, LA에 있으니 영화 관계자들에게 랩 투어도 해줍니다. 자는 시간이 아까울 정도로 삶이 너무 행복하고 재밌다고 하시더라구요.

이건 The Almanack of Navil Ravikant 책에도 나온 얘기인데, 자기가 좋아하고 재미있는 일을 하는데 이 일이 사람들에게 가치있는 것이라면 돈은 알아서 따라온다는 정설이 있습니다. Academia 쪽에 있으면 사실 로봇 연구가 Figure, 1X, Tesla Optimus Gen2 휴머노이드 로봇들과 처럼 수익 창출을 위한 일이 아니다보니 돈이 되나?라는 질문을 할수도 있지만, RoMeLa에서 만드는 로봇들은 사람을 살린적도 있으며, 세계 최초로 장님들이 운전할 수 있는 차를 만들고, 많은 대학교들에게 open source로 Darwin이라는 휴머노이드 로봇도 선물해줬습니다. 이런 가치있는 일들을 하다보면 나머지가 알아서 따라오게 된다고 교수님이 말씀해주시더라구요.

이 부분이 이제 다른 두 대표님과 데니스 홍 교수님과의 가장 큰 차이점이라고 생각하는데, 다른 두분은 정말 타고나게 시장 기회를 찾아서 profit maximization과 product building을 할줄 아시는 분들이고, 데니스 홍 교수님은 6살때 스타워즈를 보고 나서 결심한 로봇 공학자 꿈을 지금까지 좇아오다 보니 지금 위치에 오게 되신 것 같습니다.

공항에서 만난 제 친구도 정말 어렸을때부터 이 "사업가의 기질"이 있었기에 초등학생때부터 아이템으로 돈을 벌기 시작했고, 지금은 연쇄 창업을 하며 또 다른 성공을 만들어 나가고 있습니다. 그래서 창업 세계에서는 이 사업가 전략 마인드셋이 뛰어난 사람들이 보통 정말 성공적으로 회사를 이끌어가는 것 같습니다.

근데 제 자신을 생각해보면, 제가 분명하게 말할 수 있는 것은 저는 이 타고난 사업가의 기질이 없다는 것입니다. 10X AI Club는 돈을 벌기 위해서 시작한 것 보다는, 정말로 제가 좋아하고 잘하겠다고 생각한 일을 하다보니 저절로 수익 창출이 발생됐어요. 그래서 데니스 홍 교수님과 제가 조금 더 닮은 면이 있다고 생각이 든 것 같아요.

이 부분이 걱정이 돼서 "나는 좋은 사업가가 될 수 있을까? 난 타고난 기질이 없는데."라고 친구에게 말했더니 친구는 바로 "그럼 너가 지금처럼 그냥 좋아하는거 하면 돼."라고 하더라구요.

그래서 어떻게 보면 데니스 홍 교수님이 연구비를 따오는 것도 아이템 피칭을 해서 VC에게 투자금을 받아오는 것과 비슷하고, 자금을 받아왔을때 학생들과 프로젝트를 진행하는 것도 회사를 운영하는 것과 비슷한 것 같더라구요. 무엇보다 Self-branding을 통해 RoMeLa 브랜딩도 미친듯이 잘하시는 분이어서, 교수님은 조금 extreme case solopreneur 느낌이 들었습니다.

그래서! 이 긴 얘기의 결론은, 저는 아직 교수의 길보다는 교수님처럼 좋아하고 재미있어 하는 것을 이제 본격적으로 프로덕트로 만들어볼거에요.

이번 PMC를 조인하게 된 것도 프로덕트를 본격적으로 만들어보고자 조인을 했구요. ㅎㅎ

프로덕트는 저와 같이 수익을 창출하고 있는 1인 창업/크리에이터들을 위한 플랫폼이 될 것 같습니다.

정말 어떻게 될지 모르겠지만 이번에 이것 하나는 확실해요. 예전 창업 아이템들은 시장 기회와 돈을 보고 했지만 이번 아이템은 제가 진심으로 좋아하고 해결해보고 싶은 문제라는 것. 그래서 결과가 어떻게 달라질지 기대됩니다.

👩‍💻새로운 서비스 만들기 시작

또 처음 접해보는 분야에 들어가서 빌딩하기 시작

지난 1년간 내가 겪었던 페인포인트 위주로 솔루션 만들어봐야지

AI Safety, Robotics, LLMs

개인적으로 올해 내내 가장 관심 갖고 있는 두가지 업계에 대해 생각을 정리하고자 한다.

두명의 글을 정리 + 번역하고자 하는데, 한명은 Alex Irpan: 8년간 robotics 팀에 있다가 AI safety로 넘어가는 결정을 내린 사람이고, 다른 한명은 Eric Jang: 2022년부터 AGI 미래를 위해 robotics 회사에 이직한 사람이다.

둘다 Robotics 업계에 있다가 Alex Irpan은 다른 방향을 택한건데, 각자 왜 이런 방향을 택했는지가 흥미로워서 글을 남긴다. (내 개인적인 생각들과도 유사한 생각을 갖고 있는 두명의 사람이 다른 커리어 길을 택한게 흥미롭다)

AI Safety

유트브 라이브때도 한참 이 주제에 대해 얘기한적이 있는데 LLM agent 기술이 점점 빨리 발전하면서 이 기술에 대한 safety 보완책 부분은 제대로 마련되고 있지 않다는 의견이다.

AI safety가 왜 중요한지에 대해 이유들을 나열해보자면 (Alex Irpan의 “I'm Switching Into AI Safety” 글 인용+번역)

1. 내가 개인적으로 갖고 있는 목표/목적이 시스템이 최적화하고자 하는 목표와 다른 방향으로 나아가기 쉬움. 그 이유는 내 목표가 설명하기 너무 어렵거나, 시스템이 최적화하고자 하는 목표가 더 쉽기 때문.

2. 대중적으로 일반화 + 스케일할 수 있는 시스템을 만드는 것이 쉽지 않다. 내가 놓친 예외 케이스는 분명 존재하고, 충분한 평가 부족, 모델을 잘 분석하지 않은 것, 적절한 질문을 하지 않은 것과 같은 이유로 어려움. 시스템이 만든 잘못된 아웃풋을 어떻게 처리해야할지 모르거나, 학습한 데이터가 의도된 솔루션을 도출하기에 충분하지 않아서 그럴수도 있음.

3. 이걸 해결하는 현재 보완책은 그저 모델이 어떤 아웃풋을 내놓는지 예의깊게 보는 것.

4. 현재 시스템은 더 나은 스케일링을 위해 최적화되어 있지 않음. 특히나 평가하기 애매모호한 superhuman system은 더욱 어려움.

5. 현재 평가 시스템으로 superhuman system이 올바르지 않은 일을 했을때 제대로 컨트롤할 수 없을 것 같다고 생각.

6. 내가 살아있는 동안 superhuman AI는 나타날 것.

현재 AI가 패턴을 발견하고, 여러 종류의 정보를 끌고와서 자기 스스로 일을 할 수 있다면 인간보다 더 나은 버젼이 되는 건 시간 문제라고 본다. Evolution은 잘 나아가는 것 + 복제를 쉽게 할 수 있는 것을 더 서포트해준다. 지구를 현재 지배해서 현대 문명을 만든 종족은 인간이지만, 가장 덜 지능적인 생물일 가능성이 높다.

Instrumental convergence theory라는 것도 믿는데, 이는 무엇이냐면 “어떤 종류의 목적이든 - 그것이 아무리 시시한 목적이든 상관없이 – 그것을 달성하기 위해서는 일단 확보해 놓고 보아야할 기본적인 도구적 수단이 있다는 것이다.” 예를 들어, 리만 가설과 같은 수학 문제를 풀기 위해 태어난 AI가 있다면 전지구 자체를 동력 자원 공급원으로 바꿔서 인간을 멸살할 수도 있다는 것이다 (AI 입장에서는 인간의 존재가 자신의 목적을 달성하는데 위협 존재이기 때문).

Alex는 이와 같은 관점으로 AI가 목표 지향적인 행동을 갖고 있을 확률과, 목표가 있다면 권력을 추구할 가능성과, 권력을 추구한다면 실제 성공할 가능성이 얼마나 될지 계산해보면 2%라고 결론을 내린다. 그 2%는 아무리 작은 숫자로 보일지더라도 충분히 살펴볼 가치가 있는 숫자라고 판단한다.

LLM 기술 발전이 점점 빨라지면서 AGI(Artificial general intelligence)도 곧 머지않아 10%의 확률로 5년 이내에 나타날 것으로 보고 있는데, 이는 더욱 중요하게 살펴봐야할 문제이다. 완전한 AGI 시스템을 달성하지 않더라도 나아가는 그 과정 자체에서도 문제가 발생할 수 있다. 너무 당연한 얘기이지만 이런 AI를 학습시킬 리소스와 자원이 있는 랩/회사라면 언제든지 추론 단계에서 그 AI의 수백만 개의 복사본을 실행할 자원도 갖고 있을 것이다. 이는 효율성보다는 단순 규모와 사용의 용이성으로 인간을 능가할 있다는 것이다.

흥미로운 점은 지금까지의 alignment problem(AI 시스템이 인간과 같은 가치관, 목표, 의도를 가질 수 있도록 정렬하는 것)이 자본주의에 의해 해결되었다는 것이다. 기업들은 고객들이 사용할만한 제품을 만들었어야 했기 때문. ChatGPT와 같은 경우 이 방식으로 정렬 문제를 해결했지만, 이제는 safety 연구가 더 많이 이루어져야한다고 생각한다. 자본주의는 수익성을 가로막는 장애물을 해결하는데 뛰어나지만, 동시에 어려운 문제를 무시하면서도 수익을 낼 수 있는 niche를 찾아내는데도 능숙하다. 지금도 이미 보이는 추세이지만 사람들이 최고의 모델을 만들고 사용하고자 하는 열망이 너무 강해 충분한 검토를 하지 않고 배포하는 것도 보인다.

AI safety를 추구한다고 하면 AI 커뮤니티와 발전을 막는 것이 아닌가에 대한 반감을 사기 마련이고, safety가 중요하지 않다고 하는 사람들에게는 “전형적인 이윤 추구 실리콘 밸리 사람”이라고 하는데, 어찌됐던 간에 safety를 전혀 추구하지 않는 것보다는 추구하는 방향으로 발전하는게 더 안전하고 나은 시스템을 만들 것이라고 생각한다.

Alex Irpan이 8년간 robotics에 있다가 AI safety로 가기로 한 이유

제가 머신러닝 연구를 시작한 이유는 학습과 에이전트 행동을 지도하는 것이 매우 흥미롭다고 느꼈기 때문입니다. 제가 했던 연구는 로봇공학 연구실에서 이루어졌지만, 저는 항상 로봇보다 에이전트, 하드웨어보다 소프트웨어에 더 관심이 있었습니다. 그럼에도 불구하고 로봇공학에 남아있었던 이유는 로봇공학에서는 현실 세계를 속일 수 없기 때문입니다. 실제 하드웨어에서 작동해야만 했습니다. 이로 인해 연구는 인위적인, 유용성이 떨어지는 벤치마크 연구보다는 실제 세계에 영향을 미치는 것에 초점을 맞추게 되었습니다.

지난 몇 년 동안, 소프트웨어 전용 에이전트들이 점차 등장하기 시작했습니다. 이것은 저에게 중요한 결정 지점이 되었습니다. 실제 세계에서 에이전트들이 먼저 도착할 곳은 어디일까요? 게임을 플레이하는 AI는 오래전부터 존재해 왔지만, 게임은 현실이 아닙니다. 이러한 LLM(대규모 언어 모델) 기반 시스템들… 그것들은 더 현실적이었습니다. 일반적인 로봇 에이전트들이 만들어지는 세상에서는 소프트웨어 전용 에이전트들이 그 전에 작동하기 시작할 것입니다. 저는 앞으로 더 많은 시간을 소프트웨어와 하드웨어의 경계를 배우는 데 소비하게 될 미래를 보았고, 에이전트의 고차원적 추론 능력을 향상시키는 것에 더 집중하고 싶었습니다. 만약 멀티모달 LLM이 에이전트적인 행동을 하기 시작한다면, 하드웨어에서 멀어지는 것이 삶의 질에 여러 이점을 가져다줄 것입니다.

한 가지 견해(이것은 Eric Jang이 전한 Ilya Sutskever의 의견에 따른 것입니다)는 "모든 성공적인 기술 회사는 AGI(인공 일반 지능) 회사가 될 것이다"라는 것입니다. 이는 도발적이지만, 만약 LLM이 저수준 지식 작업을 대체하기 시작한다면, 가치 있는 일은 도메인 특화 데이터셋에 올바른 정보가 포함되었는지와 AI의 출력물이 좋은지에 대한 피드백을 제공하는 데서 나올 것입니다. 만약 제가 진지하게 전환을 고려한다면, 이른 시기에 전환해야 합니다. 왜냐하면 다시 전문성을 쌓는 데 시간이 걸리기 때문입니다. 최대의 영향을 미칠 수 있는 적절한 시기는 항상 대중이 생각하는 것보다 더 이른 시점입니다.

그럼 Eric Jang과 OpenAI cofounder, Ilya Sutskever가 말하는 “모든 성공적인 기술 회사는 AGI 회사가 될 것이다”는 무슨 뜻일까?

이 말은 처음에는 조금 황당하게 들릴 수 있지만, 동일한 정도로 제품을 반복적으로 개선하는 것은 기술적으로 점점 더 어려워진다는 점을 상기하면 이해가 된다.

• 반도체 제조에서는 32nm 공정 노드에서 14nm 공정 노드로 줄이는 것이 꽤 어렵지만, 14nm에서 7nm 공정 노드로 가는 것은 엄청나게 어려움. 초순수 물을 만드는 것과 같은 중간 문제를 해결해야 하기 때문.

• ALS 환자들을 위한 간단한 텍스트-음성 변환 시스템은 1980년대에도 이미 가능했지만, 특수한 사례에서 발음을 개선하고 억양을 자연스럽게 처리하는 데는 딥러닝에서의 엄청난 돌파구가 필요했음.

• 단일 컴퓨터에서 괜찮은 문자 수준의 언어 모델을 훈련할 수 있지만, 조건부 문자 모델링에서 몇 비트의 엔트로피를 줄이는 것은 비유적으로 데이터 센터를 불태우는 것과 같음.

• 고속도로 자율 주행은 그리 어렵지 않지만, 모든 주거 도로를 자율적으로 주행하는 것은 L5 수준에서 AGI 완성으로 간주됨.

앞으로 몇십 년 동안 고객에게 점진적인 가치를 추가하기 위해, 기업들은 정말 어려운 문제를 해결하는 것에 익숙해져야 할 것이다. 아마도 결국 모든 회사가 경쟁력 있는 짧은 동영상 앱, 할 일 목록, 또는 문법 검사기를 만들기 위해 인공지능 일반 지능(AGI)이라는 동일한 어려운 문제를 해결하는 방향으로 수렴하게 될 것이다. 우리는 "AGI"의 의미와 모든 회사가 이 방향으로 수렴하는 데 필요한 시간에 대해 논의할 수 있지만, 곧 많은 소프트웨어 제품에서 기본 모델이 표준이 될 것이라고 생각한다.

예를 들어, Alphabet은 인간의 사고와 호기심을 포착하는 매우 귀중한 검색 엔진 데이터를 가지고 있다. Meta는 많은 사회적 지능 데이터와 성격 특성을 기록하고 있으며, 원한다면 Oculus 컨트롤러 상호작용을 수집하여 인간 행동의 경로를 생성한 다음, 그 지식을 로봇공학에 활용할 수 있다. TikTok의 추천 알고리즘은 아마도 우리 자신이 이해하는 것보다 우리 잠재의식을 더 잘 이해할 것이고, Grammarly, Slack, Riot Games 같은 무작위의 회사들조차도 인간 지능에 대한 고유한 데이터 보호막을 가지고 있다. 이들 회사는 각각의 비즈니스 데이터를 일반 인공지능(AGI)을 생성하는 쐐기로 사용하여 인간의 사고와 욕구를 행동 복제 방식으로 재현할 수 있을 것이다.

Eric Jang이 Halodi라는 로보틱스 팀에 합류하면서 베팅하고 있는 것은 “다른 어떤 회사보다 5년 앞서 있는 휴머노이드 로봇”이다. Halodi에서 주요 우선순위는 초기에는 모바일 조작에서 특정 고객 문제를 해결하기 위해 모델을 훈련하는 것이지만, 동시에 AGI를 위한 로드맵을 설정하는 것이다. 인간형 형태에서 얻은 대량의 현실 세계 1인칭 데이터를 압축하여 일반 지능, 마음 이론, 자아감 같은 것들이 어떻게 발생할 수 있는지 탐구하는 것이다.

웹 크롤러가 비트 세계를 인덱싱하는 것처럼, 휴머노이드 로봇은 원자 세계를 인덱싱할 것이다. 즉, LLM이 단순히 디지털 데이터만으로 특정 물건의 무게가 얼마인지 이해하는 것보다, 실제 자신의 손으로 그 물건을 직접 들어보면서 중력이 얼만큼 작용되는지 이해하는 것이 더 나을 것이다. 그렇기에 앞으로의 미래는 LLM (software)뿐만 아니라 하드웨어, 로보틱스가 될 것이다.

메이커 여러분은 다들 꿈이 뭔가요?

요즘 자꾸만 내 부모님의 직업이 미팅/네트워킹 장소에서 언급이 어쩌다가 되는데, 부모님의 직업과 전공이 내 삶에 어떤 영향을 끼쳤는지 계속 고민해봤다.

부모님은 두분 다 미대 출신이며 아빠는 자동차 디자이너다.

아빠는 어렸을때부터 공부보다 더 중요한건 무조건 내가 좋아하는걸 좆아야한다는 것을 가르쳐주셨다.

내가 삶에서 만난 첫번째 어른인 아빠는 정말 자신이 좋아하고 하고 싶은걸 일로 전환시킨 사람이다.

그래서 나도 당연하게 중학교때부터 내가 좋아하는게 뭔지 찾기 시작했다.

크게는 이렇게 나의 삶의 가치관에 영향을 주셨는데, 부모님과 아예 다른 업계에서 일을 하고 있는 나는 과연 내 피에도 이런 예술? 창작? 스킬이 있는지 항상 고민하게 된다.

그래서 내린 결론은, 제로투원을 하고 있는 모든 창업가들은 예술가와 다를게 없다고 생각한다.

자기가 좋아하는 문제를 제품이라는 창작물로 만들어서 일로 만들었으니까.

우리는 전부 예술가이다.

세번째 날.

이번에는 유저인터뷰보다는 이 시장에 대해 잘 알고 계시는 분의 조언.. 아이템에 대한 정말 맵고 솔직한 반대의견을 들었다.

스타트업 아이템을 말했을때 100이면 99명이 반대해도 정말 믿는다면 끝까지 해야된다는 말이 있다.

근데 가끔은 그 안된다는 반대 의견이 정말 좋은 어디바이스일때도 있다.

내가 혼자서 믿고 잘될거라는 아이템을 맹목적으로 하다가 진짜 나중에돼서 너무 멀리 와버리고 망할때도 있는데,

'이래서 공동창업자가 있는게 중요한가보다. 이래서 멘토님, 창업 선배님들에게 조언을 구하는게 이렇게 중요한가보다'를 오늘 새삼 깨달았다.

제품을 만드는 동안 계속 로그를 작성해보고자 한다.

어제 밤 두번째 유저 인터뷰를 했다.

유저 인터뷰를 하면서 가장 중요한건 내 제품/솔루션이 무엇인지 최대한 알려주지 않는 것. 내 솔루션이 중요한게 아니라 향후 미래 사용자가 될 이 분의 문제점이 뭔지 더 중요하기에.

그러는 와중에도 내가 생각하고 있는 제품의 중심을 놓치지 않는게 중요하다.

많은 유저 인터뷰를 하다보면 배가 산으로 갈때가 있는데 이때 너무 멀리 좇아가지 않는 것도 중요.

초반에 내가 생각했던 제품의 방향이랑 살짝 다른 방향으로 흘러가고 있긴 한데 이게 맞는 해결책인 것 같다는 확신이 점점 든다.

어제 첫번째 유저 인터뷰를 했다.

유저 인터뷰는 거의 1년만이다.

인터뷰를 하면서 내가 똑같이 겪었던 문제들이 언급되었고, 새로운 기회를 만들어볼 수 있겠다는 생각에 너무 설레서 잠이 잘 안왔다.

잠재적으로 해왔던 생각들이 확신이 되니까 기뻤다.

이게 이제 4번째 창업인데, 소름인건 내 첫번째 스타트업이었던 LMS 플랫폼 에디와 CtrlX와 짬뽕한 프로덕트를 만들려고 하는 것이다.

인생 일들이 이렇게 이어지는걸 보면 참 신기하다. 평소에도 더 많은걸 계속 도전해봐야 이렇게 나중에라도 연결지을수 있다는걸 또 깨닫는다.