안녕하세요. 반갑습니다. AI는 관심은 많은데 뭐부터 시작해야하는지 잘 모르지만 이곳에서 많이 배워보려 합니다. 감사합니다

AI의 미래가 궁금합니다

서울의 모 회사에서 근무하는 프론트엔드 개발자입니다

바이브 코딩에 살짝 발을 들여놓기는 했는데

언젠가 이 직종도 밀려날 거 같고(애는 커가는데 ㄷㄷㄷ) 해서

AI의 말석에서라도 밥 벌어 먹고 살고 싶어 기웃거리는 중입니다

잘 부탁 드립니다

빠르고 정확한 선택은 정말 어렵다

스타트업은 늘 생존에 집중해야 한다고 생각해요.

실제로, 생존확률과 신기록 돌파 확률은 이론 상 거의 동일하게 취급이 돼요.

그러기 위해서는 정말 빠르고 정확한 수많은 운영적, 기술적 판단들이 필요하게 돼요.

예전에는 정확한 판단에 집중을 했어요. 이정도로 많은 선택이 주어지기 전에는요.

정말 많은 선택 상황이 오면 빠른 판단을 하되 정확도는 떨어질 수 밖에 없어요.

판단의 정확도는 우선 빠른 판단 하에 회고를 통해 정정되어야 하는 부분이 되어버렸어요.

예를 들어, AI 모델을 사용할 때도 여러 모델을 결합해서 쓸지, 하나의 모델로 해결하는게 나을 지, 데이터는 충분히 있는지, 존재하는 데이터 특성이 현재 우리 서비스에 적합한지, 등 고려해야 할 게 정말 많더군요..

이외에도 데이터 분석을 위해 필요한 항목들이 무엇이 있는지, 이 데이터 분석이 어떤 부분을 개선하기 위해 필요한건지, 등

수많은 고민과 선택의 순간들에 있어서 삐끗하면 생존확률과 신기록 돌파 가능성이 낮아짐을 잊지 않기를 바래보며 글을 남겨봅니다.

[10X AI Club 새해선물] 산타와 새해 목표 얘기하기

안녕하세요!

오랜만에 10X AI Club에서 인사드립니다.

한해 동안 AI Club이 본격적으로 활성화되면서 여러가지 일을 했었는데요, 2024년 회고와 요즘 제가 하고 있는 프로젝트들에 대해 이야기를 나누고 싶어서 씁니다.

저는 2024년 1년동안 크게 한 일들이 세가지 정도인데:

1. 유투브 채널 운영

2. "나만의 GPTs 앱으로 생산성 10배 늘리기" 책 출간

3. 기업 강연을 40회 정도 했더라구요.

오늘이 2025년 1월 1일인데, 사실 작년에는 새해부터 경찰서에 갔었습니다. 10X AI Club의 첫 부트캠프를 운영하면서 참가자 중 한명이 스토킹을 하기 시작해서 연말까지 참다가 도저히 안되겠어서 신고를 했어요. 그래서 10X AI Club을 만들면서 계획했었던 일들이 되게 많았었는데, 부트캠프를 운영하면서 생각보다 너무 많은 에너지가 소진됐고 살면서 겪어보지 못했던 두려움도 경험하게 됐습니다. 결국 계획했던 것들이 많이 무산되기도 하고, 작년 1월에 쓴 제 새해 목표들을 다시 살펴보면 2024년은 정말 좀 쉬면서, 행복하게 지내고 싶다는 생각이 강했던 것 같습니다.

어제 새해를 맞이하며 교회에서 예배를 드리고 한해 감사한 일들을 떠올려보는데 2024년은 정말 별탈없이 제가 원하는대로 행복하고 평화롭게 보냈던 것 같아요. 사실 10월부터 연말까지 한해를 되돌아보면서 제 자신이 성장을 많이 하고 있지 않았다고 생각했어서 자책을 하고 있었어요. 강의를 하게 되면 매번 거의 비슷한 내용으로 강의하고, 유투브에 업로드하는 컨텐츠도 비슷하다보니 새로운 것에 도전하지 않는 제 모습이 보였고, 현재 상황에 안주하고 안정감을 느끼는 제 자신을 발견하고 정말 큰일났다 싶었습니다. 저는 항상 "안정감"에서 벗어나려고 발악을 하는 사람이었는데, 작년에는 스스로 이 안정감이라는 굴레에 계속 들어가려고 무의식적으로 행동하는걸 보면서 많이 놀랐습니다. 어쩌면 저도 이런 시기가 어느정도 필요했었던 것 같아요.

그래서 한해동안 정말 많이 쉬었고, 이제는 훨씬 더 안정적인 용혜림이 된 것 같습니다. 10월부터 위기감을 느끼고 11월부터 이것저것 여러 일들을 해보고 있는데, 요즘은 정말 너무 재밌게 개발을 하며 시간을 보내고 있습니다. 10X AI Club의 활동도 어느순간부터는 계속 반복된 비슷한 컨텐츠들이 업로드되다보니 지쳐갔었는데, 더 새롭고 재밌는 방식으로 10X AI Club에 대한 제 애정을 표현하는 방법들을 계속 찾고 있습니다.

최근에 제가 꽃혀있는 것들은 이렇습니다:

1. 3D printing, Hardware, onDevice AI

2. Blender, CAD, Threejs 배우기

3. 음성 생성AI 모델들

4. 게임 만들기

5. Flag football

음성으로 interaction하며 재밌게 할 수 있는 프로젝트들을 계속 만들고 있어요.

그래서 오늘 간단하게 소개하고자 하는 프로젝트는 "새해 목표에 대해 대화할 수 있는 산타"입니다.

웹은 Threejs+Vite로 만들고, 산타 모델은 블렌더, 음성 모델은 Elevenlabs를 사용했습니다.

다 처음 배워보는 것들이어서 Threejs는 만져본지 대략 일주일정도 됐고, 블렌더도 이제 한 3-4일 써본 것 같습니다. Threejs는 혼자서 처음에 해보다가, Bruno Simon의 강의가 너무 좋아서 바로 결제해서 여러 프로젝트들을 만들어봤어요.

궁극적으로는 대화할 수 있는 게임 캐릭터를 만들고 싶어서 산타 모형의 캐릭터를 만들고자 했습니다.

근데 이게 Threejs로는 만들 수 있는 다양한 모형들이 제한이 있기도 하고, 코드로 수학연산해서 일일이 다 꼭짓점 찾고 계산해야되다보니.. 결국 블렌더를 배우긴 해야되더라구요.

그래서 블렌더도 바로 다운받아서 산타를 만들기 시작했습니다. 대칭으로 만들 수 있다는것도 모르고 그냥 마음가는대로 산타를 만들다보니 얼굴 모형, 수염도 다 비대칭이고 무슨 치킨너겟 마냥 쉐잎이 돼버렸더라구요.

산타 머리도 어떻게 해야할지 모르겠어서 일단 그냥 대머리로 가정을 했습니다.

여기에 이제 색을 입히면 이런 모습이 됩니다.

블렌더에서 이런 모형을 하나 만들면 Threejs에서 쉽게 모델을 불러올 수 있습니다!

어떤식으로 배경을 꾸밀지 고민을 하다가 제 최애 쇼인 릭앤모티에서 영감을 받아 이런식으로 만들고 싶었어요. 안그래도 산타가 치킨너겟 모형이다보니, 우주 속에서 지구 위에서 산타가 내려다보며 너 새해 목표가 뭐냐고 물어보는 느낌?

그래서 먼저 갤럭시 백그라운드를 만들고,

블렌더에서 만든 산타 모델을 추가하고,

산타 아래에 회전하는 지구를 만들었습니다.

화면은 이제 완성이 됐으니, 산타랑 대화할 수 있게 하기 위해 산타를 클릭하면 elevenlabs 에이전트를 불러올 수 있도록 개발했어요. 이번에 ElevenLabs에서 출시한 Conversational Agent라는 새로운 기능이 있는데, GPTs 처럼 프롬프트 만으로 음성대화 모델을 정말 쉽게 만들 수 있는 기능입니다. (이거에 대해서는 차차 좀 더 자세히 영상으로 다뤄보겠습니다.)

이런식으로 언어, 목소리, 프롬프트를 추가해서 대화할 수 있는 에이전트를 만드는거에요. 외부 웹사이트 API도 연동해서 호출할 수 있어서 GPTs Action처럼 똑같이 외부 툴도 사용할 수 있습니다. 그럼 정말로 음성으로 여러 업무를 처리할 수 있는 에이전트를 만들 수 있겠죠?

Elevenlabs에서 산타 음성 모델을 먼저 만든 후, threejs 웹사이트에서 호출할 수 있도록 코드를 작성했습니다.

그럼 이제 산타를 클릭할때마다 이 에이전트가 호출이 되면서 마이크로 대화할 수 있게 됩니다.

근데 만들고 나서 보니 좀 밋밋한 느낌이 있어서, 비쥬얼적으로 좀 더 흥미롭게 하기 위해 산타가 말할때마다 텍스트를 3D로 표출하도록 개발했습니다. 이런 느낌으로:

다만 Elevenlabs API 크레딧을 쓰다보니 진짜 조금만 대화해도 바로 크레딧 소진이 된다는 점....

사용법:

📍산타를 클릭하면 대화가 시작되고, 다시 클릭하면 대화가 끝납니다.

📍크레딧 소진때문에 최대 1분만 대화할 수 있습니다.

📍데스크탑 웹으로만 대화 가능합니다.

사용해보시구 시간 되실때 스크린샷+후기 남겨주시면 너무 감사할 것 같습니다! (산타 흑화된 버젼도 만들어볼까 고민중이에요. 하하)

2024년 열심히 살아가신 메이커분들께 올해도 좋은 일만 있길 바라겠습니다🙇‍♀️ 새해 복 많이 받으세요!

비개발자가 AI 서비스를 만들어보고 싶을 때..

13년차 개발자/PM/창업/AI프로젝트 경력자가 재능기부로 진행하는 AI Square School 원데이 클래스

AI 코딩 도구(Cursor)를 사용해서 하루 만에 ChatGPT를 만들어보면서 코딩을 경험해보는 원데이 클래스입니다.

개발자 뿐만이 아니라, 비개발자도 본인의 도메인 지식이나 열정을 살리고, AI의 도움을 받아 서비스를 만들어볼 수 있습니다.

코딩을 배울때는 사실 학습자료가 없어서 못하는 것이 아니라, 문제가 생겼을 때, troubleshooting이 어려운 것이 문제입니다.

온라인이 아니라, 오프라인으로 최대 6명 이내로 진행하면서 한분씩 봐드리면서 진행해보고자 합니다.

관심이 있으신 주니어/코딩입문자 분들을 기다리고 있습니다!

함께 모이신 분들끼리 모이셔서 네트워킹도 하시고, 간단하게나마 사이드프로젝트도 진행해보시길 강력히 추천드립니다!

신청페이지: https://www.notion.so/fredriccliver/AI-Square-School-1495606d044180f18506dbe870a085b8

안녕하세요, LLM Application들을 개발해보고 있는 예비창업자입니다. 반갑습니다!

회사 이름만 넣으면 AI가 우리 기업에 맞는 AI를 추천합니다.

안녕하세요 B2B AI 스타트업에서 일하는 권의진입니다.

왜 많은 기업들이 관심과 기대에도 불구하고, 손쉽게 AI 프로젝트를 시작하지 못할까요?
많은 이유가 있겠지만 대부분은 "적합한 레퍼런스를 찾기 어렵기 때문" 입니다.

모든 기업의 의사결정은 타당성 조사(feasibility)가 선행되는 것이 핵심이고,
적은 비용과 시간으로 조사를 진행하려면 나와 유사한 사례들을 찾는 것이 중요합니다.
각 사례가 어떻게 성공했고, 왜 실패했는지를 알게 되면 더욱 좋겠죠 :)

하지만 아쉽게도 🔺AI 기술과 시장의 미성숙함 🔺전문가의 부재 🔺파편화 된 사례 등으로

AI Scene에서 우리 기업에 적합한 레퍼런스를 찾기 힘든 것이 현실입니다.

DALPHA가 그동안 고객사분들에게 AI 컨설팅을 진행한 이유이기도 합니다.
_______________________________________________

위와 같이 기업들이 겪는 어려움을 풀어보고자, DALPHA 팀이 지난 2년 동안

기업들의 AI 도입을 진행하며 쌓은 데이터와 노하우를 활용하여 만든 "맞춤 AI 추천" 기능을 소개합니다.

회사 이름만 입력하시면 30초 만에 우리 기업에 적합한 AI 레퍼런스를 추천합니다. 무료입니다.

DALPHA가 보유한 🔶 1,500개의 AI 컨설팅 DB 🔶 산업별 AI 활용 실사례 420건의 데이터를 활용했으며, 한 달 동안 이미 800개의 기업이 추천 결과를 받아갔습니다.
_______________________________________________

맞춤 AI 추천 기능이 AI를 성공적으로 도입하는데 작게나마 도움이 되었으면 합니다.
부족한 기능이지만 많이 사용해보시고, 피드백 주시면 감사하겠습니다.

AI 도입에 어려움이 있으시거나, 더 궁금하신 점이 있으시다면
언제든 편하게 연락주세요 😊

안녕하세요

창업준비중 입니다

AI 서버 비용만 월 500만원 발생한다는 스타트업 대표의 하소연에서 시작한 사업 아이템

안녕하세요,

온디바이스 AI 최적화 및 배포 솔루션을 개발하고 있는 피카부랩스입니다.

저희는 최근에 AI 관련 프로덕트를 개발하는 분들이 증가하는 것을 보고, '이들이 겪게 될 문제를 해결하자!' 는 생각으로 아이템을 발굴하게 되었습니다.

Vision AI 모델 돌리느라 월 500만원씩 나가요ㅜ

한 대표님의 하소연이었습니다.

대표님은 B2B 대상 AI서비스를 제공하는데, 문제는 Vision AI모델 서버 비용이 너무 많이 발생하고 있었습니다. 이 기능을 빼자니 고객이 너무 좋아하고, 가격을 올리자니 고객이 이탈하는 상황이라 이도저도 못하고 있었죠.

딱 한마디 하셨어요.

'온디바이스 AI로 최적화하고 싶어요'

저희는 여기에서 기회를 발견했습니다.

AI 서버 비용, 온디바이스로 해결하기

AI는 클라우드에서 운용하게 됩니다. 호출당 비용으로 과금되기 때문에 처음엔 괜찮다 싶다가도, 트래픽이 확 늘어나면 비용이 기하급수적으로 증가합니다.

가장 확실한 해결 방법은 고객의 스마트폰에서 AI를 동작하게 하는 온디바이스 AI 기술을 적용하는 것입니다. 유수의 글로벌 리서치 회사나 빅테크에서도 온디바이스AI를 도입하기 위해 많은 노력들을 하고 있더라구요.

근데, 이게 실제로 가능해?

온디바이스AI를 구현할 때 가장 큰 문제는

1) AI 모델이 너무 크고,

2) 구동 환경이 GPU에서 NPU로 바뀌는 데다가

3) OS, 프레임워크의 변수까지 고려하면서

4) 성능 감소를 최소화해야 합니다.

iOS, Flutter 기반 앱에서 FER AI 동작시키기

저희는 이런 허들을 하나씩 풀어나가기 위해 시장을 좁게 정의했습니다.

iOS, Flutter 기반 앱에서 FER(Facial Emotion Recognition, 감정인식) AI를 동작시키도록 최적화하기

여러 허들이 있었는데, 다양한 기법들을 동원해 이를 해결할 수 있었습니다.

온디바이스AI 시연 보러가기

이번에 세미나를 열어서 저희 노하우를 무료로 공유해보려 합니다.

이유는, 많은 분들에게 '이런 방식으로 해결할 수 있다'는 것을 보여드리고 싶고, 온디바이스에 관심 있는 분들과 더 많은 얘기를 나누고 싶습니다.

참석자분들에게 온디바이스AI 최적화 무료 컨설팅 1회 및 네트워킹 시간을 가질 수 있으니, 관심 있으신 분들은 참여해서 많은 것을 얻어가실 수 있을 것 같습니다.

많은 관심과 참여 부탁드려요!

• 행사명 : 성능 90%를 유지하는 온디바이스 AI 구현 노하우

• 일정 : 2024년 11월 28일(목) 19:00 ~ 21:00

• 장소 : 서울 서초구 서초대로78길 44, 3층 토크벨류

• 가격 : 무료

• 신청 링크 :

큐샵AI - 웹사이트 제작의 패러다임을 바꿉니다.

큐샵AI란?

큐샵AI는 텍스트 입력으로 3분만에 웹사이트를 만드는 AI툴입니다.

첫 제품 출시 이후

9월에 큐샵AI 알파 버전을 런칭하였습니다.
MVP 버전을 빠르게 구현하였고, 유저 피드백을 신나게 받았습니다. 😅

가장 많이 받은 피드백은 퀄리티 문제였습니다.

즉, 알파 버전은 창의적인 디자인 생성에 중점을 두었으나, 결과물의 품질 편차가 컸습니다.

베타 버전에서는 이를 개선하여 창의성과 품질의 균형을 맞추는 데 주력했습니다.

개선점

AI가 생성한 이미지, 배경색, 폰트, 색상이 서로 조화를 이루어 사이트 전반의 통일감을 높였습니다.

또한 큐샵의 UI 디자인 요소를 기반으로 제작되어 일관된 사용자 경험을 제공합니다.

주요 개선사항:

• 디자인

  • 더욱 안정적인 디자인 품질

  • 조화로운 톤 앤 매너

  • 일관된 디자인 시스템 적용

  • 향상된 이미지 생성

• 콘텐츠

  • 사용자가 입력한 프롬프트 맥락에 꼭 맞는 텍스트 생성

다음 버전에서는

• 다음주에는 쇼핑몰 기능이 탑재됩니다.

• 정식 버전에는 Figma AI처럼 서브 페이지도 함께 생성됩니다. 기대해 주세요. 😊

실제 큐샵AI로 웹사이트 생성되는 과정을 녹화한 화면입니다.

*실제로는 3분 정도 소요됩니다.

회원가입 하시면 무료로 3개까지 웹사이트를 생성하실 수 있습니다.

디콰인 특전으로 혹시 크레딧 부족하시면 DM주시면 충전하여 드리겠습니다. 😀

큐샵AI가 웹사이트 제작의 패러다임을 바꿉니다!

감사합니다.

경쟁력 있는 AI 제품이 되기 위해서

안녕하세요. 딜랏의 테크니컬 리더 임세진입니다.

시간이 지날수록 AI 자체 기술을 보유한 기업들의 입지가 확고해지고 있는 것 같습니다. 그리고 수많은 AI 기술들이 실제 서비스에 사용하기 쉽게 개발되고 있죠.

수많은 스타트업들을 포함한 기업들이 이런 AI 빅테크 기업들보다 이미 AI 기술력 개발 시작이 뒤쳐진 시점에서 앞으로 무엇을 해야하는가에 대한 질문이 나올 수 있습니다. 좌절감은 덤으로 생길 수도 있어요.

그래서 더더욱 AI 서비스를 만들고 싶다고 개발을 시작하는 것이 아니라, 만들고 싶은 서비스가 있고 과연 그 서비스에 AI가 필요한가?에 대한 접근 방법이 중요해지는 것 같습니다.

자체적인 사용자들의 생태계가 이미 구축이 되어 있는 경우면 AI 도입을 검토하기 전에 최종적으로 이 서비스 생태계의 미래의 모습을 그려보고, 그 미래의 모습에 AI가 꼭 있어야만 하는지 검토하는 것이 좋아보입니다.

AI 기술의 활용은 정말 중요한 것 같습니다. 하지만 기업의 자원이 만만치 않게 소모되기 때문에 적절하게 AI를 적용해야 하는 부분들을 최적화해서 활용하는 것이 중요한 것 같습니다.

📰 바람 잘 날 없는 오픈AI

made by flamel.app

어제는 사실 Meta의 라마 3.2 에 대한 관심이 집중될 줄 알았습니다.

하지만 OpenAI 가 모든 관심을 다 가져가고 있습니다.

한동안은 혁신 때문이었지만 최근에는 그것 보다는 내부 갈등이 더 큽니다.

OpenAI 의 CTO(최고기술책임자)인 미라 무라티가 팀을 떠나겠다고 발표했습니다.

창립 멤버 중 거의 유일하게 샘 알트먼 CEO를 지키고 있었다는 점에서 상당히 충격적인 발표입니다.

출처 : x.com

같은 시간 최고 연구 책임자인 밥 맥그류, 부책임자인 배럿 제프도 팀을 나오겠다고 밝혔습니다.

생각해보면 OpenAI 의 햇심 팀원 이탈 문제는 일시적인 일이 아닙니다.

일리야 수츠케버는 팀을 나온 가장 대표적인 인물입니다.

AGI 를 개발하는 과정에서 인지하게 되는 위험성을 사전에 막아야 한다는 신념을 갖고 있는 인물이죠.

AI의 사업화를 주장하는 샘 알트먼 CEO와 충돌하면서 작년 11월 일명 '쿠데타'를 일으키기도 했습니다.

결국 수 개월 후 팀을 나오면서, 그가 이끌던 인공지능 제어 팀(Superalignment)도 해산되었습니다.

그리고 그는 단 번에 1조원 이상 투자를 유치하여 안전한 AGI 를 개발하고 있습니다.

출처 : x.com

존 슐만은 아예 경쟁사로 이동했습니다.

OpenAI 의 공동 창업자로서 AI 모델 개선 업무를 담당하며 챗GPT 개발에 중추적인 역할을 한 것으로 알려져 있습니다. 최근에는 안전 및 보안 분야에서 활동했지만, 경영진의 방향성에 거부 의사를 나타내고 경쟁사인 Anthropic 으로 이동하여 인간의 가치에 맞는 AI를 개발하겠다고 밝혔습니다.

출처 : x.com

이 외에도 안드레이 카파시 (공동 창업자)는 팀 이탈, 그렉 브록만 (공동 창업자 및 의장) 은 휴직으로 팀에서 모습을 감추고 있는데요. 그 뿐만 아니라 공동 창업자는 아니지만 AI 및 제품 개발에 핵심적인 역할을 수행하던 인력 또한 팀을 나오고 있는 모습을 보이고 있습니다.

그 동안은 AI 안전에 대한 문제 제기가 팀원의 이탈 이유였습니다.

이번에는 OpenAI의 영리화로 보여집니다.

이전의 영리화 논의와는 차원이 다르게 비영리 법인의 영리 법인으로의 변화라는 점에서 다릅니다.

출처 : OpenAI

OpenAI 는 그 동안 상당히 특수한 지배 구조를 갖춘 조직이었는데요.

설립 목적이 인류를 위한 AI 개발이었기 때문에 영리 목적을 제외 시켰습니다.

사실 이것이 가능했던 것은 당시 AI 연구 비용이 크게 높지 않았고, 일론 머스크와 피터 틸 등 업계 거물들의 막대한 지원이 있었기 때문입니다.

그러나 일론 머스크의 이사회 사임과 더불어 AI 연구 비용의 증가로 더 이상 OpenAI 는 외부 자금 수혈 없이 생존이 어려워졌고 1) 비영리 재단 산하에 2) 한도 수익을 추구할 수 있는 3) 영리 법인을 설립하게 되었습니다.

참고로 최근 OpenAI 의 기업 가치는 $80B (100조원 이상) 입니다.

출처 : 포브스

OpenAI 는 매년 수 조원의 적자를 내기 때문에 자금 수혈이 필요한 상황입니다.

최근 활발히 투자 유치 활동을 하고 있는 것으로 알려졌는데, 이번에 목표하고 있는 기업 가치는 $150B 입니다.

상상도 하기 힘든 큰 액수이지만 많은 관심이 몰리고 있는 상황입니다.

출처 : 블룸버그

단, 조건이 붙은 관심인데요.

현재의 수익 한도 조건은 투자자 입장에서는 제한적인 수익만 가능하다는 것을 의미하기도 합니다.

또한 비영리 재단 산하에 있는 지배 구조는 언제든 해당 법인의 가치가 0으로 떨어질 수도 있는 위험성을 의미하기도 합니다.

따라서 투자자는 영리 법인이 비영리 법인의 지배를 받는 구조를 바꾸기를 요구했으며, OpenAI 가 이에 응하는 과정에서 그래도 AI 안전을 지지했던 미라 무라티 CTO가 팀을 떠나는 것으로 관측됩니다.

출처 : 테크크런치

이 과정에서 샘 올트만 CEO 는 처음 OpenAI 의 지분 7%를 받게 되는 것으로 알려져 많은 사람들의 질타가 쏟아지고 있습니다.

과연 AI 안전은 정말 가능했던 것일까요?

그리고 AI 안전을 열망하는 핵심 인력이 향후에 세상에 보일 것은 무엇일까요?

마지막으로 OpenAI 를 이끌었던 핵심 가치가 많이 사라진 지금, 이전 세대의 리더십 부재가 앞으로 어떤 미래를 이끌게 될까요?

RAG를 활용한 AI 챗봇을 계획하신다면 알아두면 좋은 정보

안녕하세요.

디스콰이엇 덕분에 최근 RAG를 활용한 챗봇 개발 문의가 많이 들어와, 열심히 RAG 기반 AI챗봇을 만들고 있습니다.

해외 대학교의 TA 봇을 시작으로, 제품 검색 AI 챗봇, 법무법인 사례 검색 AI 챗봇에 이르기까지 다양한 분야의 AI 챗봇을 개발하고 있습니다.

최근 RAG AI 챗봇에 대한 관심이 뜨거워지고 있음을 체감하고 있습니다.

미팅을 나가면 많은 분들께서 이미 RAG에 대해 상당한 지식을 갖추고 오셔서, 흥미로운 제안들을 해주시곤 합니다.

이에 RAG를 활용한 챗봇 개발이나 도입을 고려하시는 분들께 도움이 되고자 이 글을 작성합니다.

1. gpt vs claude vs gemini vs 로컬모델

1) 챗봇을 도입할 때 가장 많이 여쭤보시는 부분이 로컬모델 활용입니다.

이는 주로 보안 및 데이터 유출에 대한 우려 때문인데요, 하지만

- gpt, claude, gemini api 문서를 보면, api에 사용된 input 및 output은 학습에 사용하지 않는다고 명시되어 있습니다. 또한 법적으로 요구되지 않는한 데이터를 30일 이후에 삭제합니다.(https://openai.com/enterprise-privacy/)

- 로컬모델에서 가장 많이 언급되는 llama 3.1 모델 중 그나마 쓸만한 70B 모델만 해도 학습 및 추론에 비싼 하드웨어가 필요합니다. 그리고 성능도 상대적으로 많이 떨어집니다. 가장 큰 문제는 모델 업데이트가 빈번해서 지속적인 관리가 필요합니다. 참고로 llama2 공개가 23년7월, llama3 공개가 24년4월, llama3.1 공개가 24년7월이었습니다.

그래서 법적으로 데이터 관리에 힘써야 하는 일부 기업이 아닌 이상 gpt, claude, gemini 중 하나를 골라 저렴하고 편하게 쓰는게 좋습니다.

2) gpt vs claude vs gemini 중 그럼 무엇을 추천하냐

[gemini]

- gemini의 가장 큰 문제는 저작권 및 성윤리 뭐 그런 이슈로 답을 종종 안한다는 겁니다. 심지어 어린이용 챗봇을 만들었을 때, 어린이가 "똥!"하고 대답하면 챗봇이 바보가 됩니다. 그래서 챗봇으로 쓰기 어렵습니다.

[claude vs gpt]

- gpt와 cladue는 답변 성능이 거의 비슷합니다. 어떤 부분에선 gpt가 좋고 어떤 부분에서 claude가 앞섭니다. 심지어 가격도 비슷합니다. 참고로 gpt-4o가 10월 2주차부터 저렴한 (gpt-4o-2024-08-06)api를 도입할 예정입니다.

- 다만 대량의 데이터 처리 시, gpt의 답변 속도가 약간이나마 빨라서, 저희는 주로 gpt를 사용해 챗봇을 만들었습니다.

2. 일반인 상대 챗봇을 만들 때에는 Vector search + GraphDB를 같이 활용하는 GraphRAG로 설계하는 게 좋습니다.

1) Vector search

Vector search는 비슷한 뜻을 가진 단어들은 벡터 공간에 저장해서 검색하는 방법입니다.

예를 들어 아래 이미지처럼 king, man, woman이 비슷하니 뭉쳐있고, apple banana, orange가 비슷하니 뭉쳐 있는 것처럼 비슷한 뜻을 가진 단어들을 묶어서 검색하는 방법입니다.

[이미지 참조 : causewriter.ai]

하지만 이 방식에도 한계가 있습니다. 아래 예시처럼, 한글 + 전문적 데이터를 이용하는 챗봇은 일반인이 사용하는 단어를 이해하지 못하는 경우가 종종 발생합니다. (오한과 관련 없는 약이 추천됩니다.)

이러한 문제를 해결하기 위해 gpt를 활용하여 GraphDB 검색용 쿼리를 생성하여 검색하는 방법이 필요합니다.

이 방식을 사용하면 아래 이미지처럼 gpt가 GraphDB 검색용 쿼리를 생성해 적합한 제품을 추천해주는 것을 볼 수 있습니다.

2) 그렇다고 단순히 GraphDB만 사용하면, 또 다른 문제가 발생할 수 있어 Vector search도 함께 사용해야 합니다.

예를 들어, 사용자가 "ice아메리카노 주세요"라고 요청했을 때, GraphDB에서는 "아이스 아메리카노"로 정확히 매칭되는 결과를 찾지 못할 수 있습니다. 이러한 경우에 비슷한 의미를 찾아주는 Vector search가 유용합니다.

다행히도 Neo4j와 같은 GraphDB 솔루션에서는 Vector search 기능도 함께 제공하고 있어, 두 기술을 결합하여 사용하는 것이 효과적입니다. 이렇게 함으로써 정확한 키워드 매칭과 의미적 유사성을 모두 고려한 검색이 가능해집니다.

이러한 방식을 통해 일반 사용자의 다양한 표현과 전문 용어 사이의 간극을 더욱 효과적으로 메울 수 있습니다.

3. gpt는 최대한 쪼개서 사용해야 합니다.

gpt가 정말 우수하지만, 아직 완벽하지는 않습니다. 특히 RAG처럼 입력값이 많은 경우 gpt의 답변이 기대에 미치지 못할 때가 있습니다.

아래는 RAG 챗봇의 잘못된 답변 예시입니다. 답변에서 알 수 있듯이 관련 없는 사례들을 가져와 억지로 대답 한 것을 볼 수 있습니다. 기대했던 답변은, "관련된 사례가 없습니다. 당사의 카카오톡 상담을 통해 연락주시면 상담을 제공해드릴 수 있습니다." 같은 것이었지만, GPT의 특성상 어떻게든 답변을 만들어내려고 하여 위와 같은 부적절한 답변이 나왔습니다.

위 사례들은 **** 사례로, 귀하의 경우와 직접적으로 일치하지 않을 수 있으나, **** 와 관련한 자문을 제공한 사례입니다. 이런 사례들을 참고하여 법률적 자문을 받는 것이 도움이 될 수 있습니다.

이런 문제를 해결하기 위해서는 프롬프트 하나에 여러 조건을 때려넣는 것이 아닌, 기능별로 쪼개서 gpt를 사용하면 됩니다.

1) 추출한 데이터가 유저 질문과 관련 있는지 체크하는 gpt

2) 관련이 있으면 답변하는 gpt

3) 관련이 없으면 카카오톡을 통해 상담을 요청하도록 유도하는 gpt

이렇게 기능을 분리하여 GPT를 사용하면 더 정확하고 적절한 답변을 제공하는 것을 보실 수 있습니다.

4. 이용자를 잘 아는 내가 알려줘야 내 마음에 드는 챗봇이 나옵니다.

가장 중요한 부분입니다. 막상 챗봇은 만들고 RAG 성능 평가에서 높은 점수를 받더라도 점수와 별개로 답변이 아쉬운 경우가 많습니다. 이런 식으로 말하는 거보다 요런 식으로 말해주면 좋겠는데 하는 생각이 듭니다.

왜냐하면 챗봇이 아직 고객상담 뉴비이기 때문입니다. 그래서 경험이 많은 내가 어떻게 답변해야 하는지 가이드를 제공해줘야 합니다.

간단하게 분류 / 질문 유형 / 질문 예시 / 답변 예시 / 답변 순서 가이드라인 형태로 표를 만든 후 테스트를 하면 됩니다.

막상 처음에는 답변 예시나 가이드라인을 적는 것이 어색할 수 있습니다. 뭘 넣어야 하지, 어떤 식으로 답변하는게 좋은거지? 하는 생각이 드는데요.

이럴 땐, 아래 순서에 따라 만드시면 됩니다.

1) 일단 질문 예시만 많이 만들어 챗봇 테스트를 진행합니다.

2) 각 질문에 대한 답변이 마음에 들면 뭐가 마음에 드는지 마음에 안들면 뭐가 마음에 안드는지 한번 적어봅니다.

3) 마음에 안드는 부분을 위주로 챗봇을 고친 후에 다시 테스트합니다.

4) 그러면 아 이 부분이 이래서 좋았던 거고, 저 부분은 이래서 안 좋았던 거구나 하고 파악할 수 있습니다.

위 과정을 여러 번 반복하면 효과적인 가이드라인을 만드실 수 있습니다. 이 가이드라인이 꼭꼭꼭 있어야 챗봇의 답변을 더욱 정교하고 만족스럽게 만들 수 있습니다.

RAG 기반 AI 챗봇에 대해 더 많은 정보들을 쓰고 싶은데, 막상 생각나는게 크게 4가지네요. 뭔가 여러 이미지들을 넣고 싶었는데, 막상 적합한 이미지들이 없어 장황한 줄 글이 되어 버렸네요 ㅠㅠ.

다음번에 기회가 된다면 이미지를 가득가득 눌러 담아 저희가 만든 챗봇들을 쭈욱 정리해보겠습니다.

RAG에 대해 궁금한 점이 있으시면 언제든 편하게 물어봐주세요.

📰 새로운 공식 : 제3지대의 소버린 모델 = 유니콘?

made by flamel.app

SSI 의 천문학적인 투자 유치 액수로 인해 묻힌 감이 없지 않아 있지만 일본의 사카나 AI도 9월 4일 약 1,350억원 ($100M 이상) 규모의 시리즈 A 투자를 유치했습니다. 그리고 유니콘이 되었습니다.

출처 : Sakana AI

사카나 AI는 일본 도쿄를 근거로 구글 브레인 출신 데이비드 하와 라이온 존스가 공동 창업한 AI 연구 스타트업입니다. 이 중 라이온 존스는 지금의 AI 패러다임을 지배하는 트랜스포머 논문의 공동 저자 중 한 명입니다. GTC 2024 에서도 젠슨 황 옆에 위치해 사진 촬영하고 있는 모습이 포착되었습니다.

출처 : x.com

그 동안 사카나 AI는 AI Scientist, Evolutionary Model Merge 등 훌륭한 연구 성과를 보였을 뿐더러 최고 수준의(SOTA) 일본어 기반 텍스트, 이미지 등 거대 AI 모델을 학습 및 배포하는 노력을 보여주었습니다.

출처 : Github

참고로 글로벌 조사 기관인 Tortorise 가 23년 6월에 발표한 국가별 AI 역량 순위에 따르면 일본은 10위권 내에 위치하지도 못합니다. 그런데 유니콘 AI 스타트업을 탄생시켰습니다.

출처 : Tortoise

사카나 AI를 보면 떠오르는 또 하나의 기업이 있습니다. 바로 미스트랄 AI 입니다. 미스트랄 AI 는 프랑스 파리를 근거로 메타, 구글 딥마인드 출신 연구자가 모여 공동 창업한 AI 연구 스타트업입니다. 법인을 설립하자마자 약 1,500억원 ($112M) 규모의 투자를 발표했습니다. 가장 최근인 24년 6월에는 8,570억원(!) 규모의 시리즈 B 투자를 유치했습니다. 당연히 유니콘입니다.

출처 : Techcrunch

두 스타트업 모두 AI 인프라의 한 축을 담당하는 파운데이션 모델을 충분히 개발할 수 있는 역량을 보유하고 있습니다. 그리고 근거지로 하는 각 국가의 정부가 GPU 클러스터 등의 AI 연구 인프라, 법적 규제 완화 등 엄청난 지원을 쏟아내고 있습니다. 특히, 프랑스는 규제가 가장 강력하다고 알려진 유럽연합(EU) 의 주요국임을 감안하면 전향적인 움직임입니다.

출처 : Euronews

사실 두 기업 모두 실제 매출은 크게 일으키지 못하는 것으로 알려졌습니다. 다만, 미국의 선도적인 VC 의 투자 유치를 발판으로 각 국가 내에서 압도적인 존재감을 보이며 인재 유치, 인프라 확충 면에서 범접할 수 없는 접근 장벽을 갖추는 전략을 취하고 있는데요.

한국은 세계 선두권의 AI 개발 능력을 보유한 국가입니다. 네이버클라우드, LG AI 리서치, 업스테이지, 트웰브랩스 등 훌륭한 성과를 보이는 기업을 보유하고 있기도 합니다. 그러나 소버린 모델을 구축하는 관점에서 주목도가 많이 떨어지고 있는 것이 사실입니다. AI 서비스 스타트업 또한 미국의 API, 중국의 오픈 소스 모델을 주로 사용하고 있습니다. 이러다 보니 유니콘이 등장하지는 못하고 있습니다.

출처 : Hugging Face

이런 가운데 24년 8월 한국어 기반의 거대언어모델을 만들고자 등장한 트릴리언랩스가 57억원 규모의 프리시드 투자 유치 소식을 전해왔습니다. 시드 라운드의 평균 투자 유치 액수와 비교해도 꽤 큰 규모를 보여줍니다.

출처 : Forbes

과연 한국은 다른 제3지대의 기업이 만든 '소버린 모델=AI 유니콘 기업' 이라는 공식을 따라가게 될까요? 결국은 훌륭한 AI 인재, 미국 VC의 관심, 전방위적인 정부 지원이 결정하게 될 것 같습니다.

참고로 제가 속해 있는 스모어톡은 '동아시아 이미지 생성 모델 구축' 으로 딥테크 팁스에 선정되었습니다. 4명의 학생으로 만든 성과입니다.

📰 오픈 소스 최강 모델, 사실은 가짜?

made by flamel.app

지난 주 오픈 소스 진영에는 한 차례 큰 사건이 발생했습니다.
바로 현존하는 최고 수준의 성능을 보이는 오픈 소스 모델 '리플렉션' 과 관련한 일입니다.

하이퍼라이트라는 AI 스타트업이 라마 3.1 70B 모델을 Reflective Tuning 으로 미세 조정(fine-tuning) 을 진행합니다. 그랬더니 현존하는 최고 수준의 오픈 소스 모델인 라마 3.1 405B 뿐만 아니라 GPT-4o, Gemini, 심지어는 Claude-3.5-Sonnet 에 비교해서도 앞서는 성능을 보였다고 발표했습니다.

출처 : x.com

이야기는 여기에서 시작합니다.

오픈 소스라는 내용에 걸맞게 허깅페이스에 모델 가중치를 업로드합니다. 그리고 연구자들은 해당 모델을 테스트했는데요. 아티피셜 애널리시스 라는 모델 평가 연구진이 해당 모델에 대한 성능 문제를 언급합니다.

출처 : x.com

이후 하이퍼라이트는 모델 업로드에 착오가 있었다며 새로운 모델을 허깅페이스에 업로드하겠다고 밝힙니다. 그리고 아티피셜 애널리시스에 재평가를 요청하며 모델 가중치가 아닌 별도의 API 를 제공합니다.

출처 : x.com

대단히 탐탁지 않은 상황에 연구자들이 다시 한 번 이 모델에 대한 평가를 진행하게 되었고, 프롬프트 세팅 및 이에 기반한 체이닝 등 Claude-3.5-Sonnet 의 하이브리드 시스템이 아닌가 하는 의문을 제기합니다. 그리고 이는 유사한 결과값을 도출한다는 점에서 기정사실화 되고 있습니다.

출처 : 링크

물론 현재 진행형의 이야기라 함부로 결과를 단언할 수는 없을 것 같습니다. 다만 이 사건에서 우리는 얼마나 최고 성능의 오픈 소스 모델을 원하는 지, 그리고 AI 연구에 있어 정확한 평가가 얼마나 중요한 지 다시금 확인하게 되는 계기가 되는 것 같습니다.

📰 최단 기간 유니콘 등극? SSI 1.4 조원 유치

made by flamel.app

안녕하세요, 스모어톡 토니입니다.

AI 소식을 하나씩 적어보면 좋을 것 같아 적어보려고 합니다.

Safe Superintelligence Inc. 를 혹시 들어보셨나요? 
그렇다면 일리야 수츠케버, 다니엘 그로스를 들어보셨나요? 

Safe Superintelligence Inc. 는 6월 20일에 시작을 알린 팀입니다. 그리고 9월 4일, 7조원($5B) 밸류에 1.4조원($1.4B)의 투자를 유치했습니다. 제 기억으로는 최단 기간 가장 많은 금액을 유치한 팀이 아닌가 생각합니다.

출처 : x.com

어떻게 가능했을까요? 코파운더를 봐야 합니다. 

일리야 수츠케버는 오픈 AI 전 수석과학자였습니다. 제프리 힌튼, 앤드류 응 교수의 제자이기도 합니다. 일단 AlexNet 을 개발한 성과가 첫 번째 성과였고, 일반 대중에게는 23년 말 오픈 AI 내에서 발생한 샘 올트먼 해고 사건을 주도한 인물로 알려졌습니다. '영리' 를 주요 가치로 삼음으로서 '안정성' 에 심각하게 우려했기 때문입니다. 결국 그가 속했던 Superalignment 팀에서 나오게 되었습니다.

출처 : 구글 스콜라

다니엘 그로스는 세콰이어 캐피탈에서 투자한 기업 중 가장 젊은 창업가 출신으로 이름이 알려졌습니다. 애플에 피인수된 경험, Y combinator 에서 파트너로 재직한 경험이 있었고요. 가장 최근에는 냇 프리드먼과 함께 AI Grant 를 만들어 AI 스타트업에 투자하고, Perplexity AI, Cursot AI, Pika AI 등에서 성공 사례를 만들어 내어 유명해졌습니다.

출처 : https://dcgross.com/

유명하고 능력 있는 것도 알겠는데 어떻게 이 정도 금액을 유치할 수 있는 것이냐에 대해서 여전히 의구심이 있으실 것 같습니다.  단순합니다.  오픈 AI가 최근에 투자 유치를 진행 중인 밸류가 $100B 이상입니다. SSI 는 $5B 입니다.

출처 : 더버지

AI 기업은 주로 GPU 인프라 구축, AI 인력 확보에 비용을 소모하는데, 초기에 비용이 많이 들어갑니다. 역으로 보면, 경쟁사와 소모 비용이 비슷하면 금방 따라 잡을 수 있다는 뜻입니다.

현재 오픈 AI 에는 주요 AI 인력(상위 0.001% 인력)이 많이 이탈하고 있습니다. SSI 에는 이미 2명이 함께 하고 있습니다. 일부 GPU 도 다른 1명이 공급할 수 있습니다. 조금만 더하면 충분히 비슷해질 수 있습니다. 그러면 경쟁사 대비 1/20 의 기업 가치로 투자하는 것은 사실 매우 이성적인 투자였을 지도 모릅니다.

출처 : x.com

물론 기술과 비즈니스는 완전히 별개의 내용입니다. 오픈 AI 가 기술력이 비슷한 타 기업 대비 수익화를 극도로 잘하고 있는 것이 이를 잘 보여줍니다. 과연 SSI 가 오픈 AI 를 넘어서서 영리와 안정성을 함께 가져가는 기업이 될 수 있을지 주목해야 할 것 같습니다.

출처 : https://sacra.com/c/openai/ 

반갑습니다. 10X ai 응원합니다.

RAG를 찾아 보다가 들어오게 되었습니다.

유튜브 동영상을 따라하면서 배워 보려 합니다.

많은 도움 부탁 드립니다.

책도 봐와 되고, 뉴스도 봐야 하고, 개발도 해봐야 하고.. 공부할게 많아서.....

정말 좋습니다. ㅎㅎ

많이 도와 주세요.

AI Safety, Robotics, LLMs

개인적으로 올해 내내 가장 관심 갖고 있는 두가지 업계에 대해 생각을 정리하고자 한다.

두명의 글을 정리 + 번역하고자 하는데, 한명은 Alex Irpan: 8년간 robotics 팀에 있다가 AI safety로 넘어가는 결정을 내린 사람이고, 다른 한명은 Eric Jang: 2022년부터 AGI 미래를 위해 robotics 회사에 이직한 사람이다.

둘다 Robotics 업계에 있다가 Alex Irpan은 다른 방향을 택한건데, 각자 왜 이런 방향을 택했는지가 흥미로워서 글을 남긴다. (내 개인적인 생각들과도 유사한 생각을 갖고 있는 두명의 사람이 다른 커리어 길을 택한게 흥미롭다)

AI Safety

유트브 라이브때도 한참 이 주제에 대해 얘기한적이 있는데 LLM agent 기술이 점점 빨리 발전하면서 이 기술에 대한 safety 보완책 부분은 제대로 마련되고 있지 않다는 의견이다.

AI safety가 왜 중요한지에 대해 이유들을 나열해보자면 (Alex Irpan의 “I'm Switching Into AI Safety” 글 인용+번역)

1. 내가 개인적으로 갖고 있는 목표/목적이 시스템이 최적화하고자 하는 목표와 다른 방향으로 나아가기 쉬움. 그 이유는 내 목표가 설명하기 너무 어렵거나, 시스템이 최적화하고자 하는 목표가 더 쉽기 때문.

2. 대중적으로 일반화 + 스케일할 수 있는 시스템을 만드는 것이 쉽지 않다. 내가 놓친 예외 케이스는 분명 존재하고, 충분한 평가 부족, 모델을 잘 분석하지 않은 것, 적절한 질문을 하지 않은 것과 같은 이유로 어려움. 시스템이 만든 잘못된 아웃풋을 어떻게 처리해야할지 모르거나, 학습한 데이터가 의도된 솔루션을 도출하기에 충분하지 않아서 그럴수도 있음.

3. 이걸 해결하는 현재 보완책은 그저 모델이 어떤 아웃풋을 내놓는지 예의깊게 보는 것.

4. 현재 시스템은 더 나은 스케일링을 위해 최적화되어 있지 않음. 특히나 평가하기 애매모호한 superhuman system은 더욱 어려움.

5. 현재 평가 시스템으로 superhuman system이 올바르지 않은 일을 했을때 제대로 컨트롤할 수 없을 것 같다고 생각.

6. 내가 살아있는 동안 superhuman AI는 나타날 것.

현재 AI가 패턴을 발견하고, 여러 종류의 정보를 끌고와서 자기 스스로 일을 할 수 있다면 인간보다 더 나은 버젼이 되는 건 시간 문제라고 본다. Evolution은 잘 나아가는 것 + 복제를 쉽게 할 수 있는 것을 더 서포트해준다. 지구를 현재 지배해서 현대 문명을 만든 종족은 인간이지만, 가장 덜 지능적인 생물일 가능성이 높다.

Instrumental convergence theory라는 것도 믿는데, 이는 무엇이냐면 “어떤 종류의 목적이든 - 그것이 아무리 시시한 목적이든 상관없이 – 그것을 달성하기 위해서는 일단 확보해 놓고 보아야할 기본적인 도구적 수단이 있다는 것이다.” 예를 들어, 리만 가설과 같은 수학 문제를 풀기 위해 태어난 AI가 있다면 전지구 자체를 동력 자원 공급원으로 바꿔서 인간을 멸살할 수도 있다는 것이다 (AI 입장에서는 인간의 존재가 자신의 목적을 달성하는데 위협 존재이기 때문).

Alex는 이와 같은 관점으로 AI가 목표 지향적인 행동을 갖고 있을 확률과, 목표가 있다면 권력을 추구할 가능성과, 권력을 추구한다면 실제 성공할 가능성이 얼마나 될지 계산해보면 2%라고 결론을 내린다. 그 2%는 아무리 작은 숫자로 보일지더라도 충분히 살펴볼 가치가 있는 숫자라고 판단한다.

LLM 기술 발전이 점점 빨라지면서 AGI(Artificial general intelligence)도 곧 머지않아 10%의 확률로 5년 이내에 나타날 것으로 보고 있는데, 이는 더욱 중요하게 살펴봐야할 문제이다. 완전한 AGI 시스템을 달성하지 않더라도 나아가는 그 과정 자체에서도 문제가 발생할 수 있다. 너무 당연한 얘기이지만 이런 AI를 학습시킬 리소스와 자원이 있는 랩/회사라면 언제든지 추론 단계에서 그 AI의 수백만 개의 복사본을 실행할 자원도 갖고 있을 것이다. 이는 효율성보다는 단순 규모와 사용의 용이성으로 인간을 능가할 있다는 것이다.

흥미로운 점은 지금까지의 alignment problem(AI 시스템이 인간과 같은 가치관, 목표, 의도를 가질 수 있도록 정렬하는 것)이 자본주의에 의해 해결되었다는 것이다. 기업들은 고객들이 사용할만한 제품을 만들었어야 했기 때문. ChatGPT와 같은 경우 이 방식으로 정렬 문제를 해결했지만, 이제는 safety 연구가 더 많이 이루어져야한다고 생각한다. 자본주의는 수익성을 가로막는 장애물을 해결하는데 뛰어나지만, 동시에 어려운 문제를 무시하면서도 수익을 낼 수 있는 niche를 찾아내는데도 능숙하다. 지금도 이미 보이는 추세이지만 사람들이 최고의 모델을 만들고 사용하고자 하는 열망이 너무 강해 충분한 검토를 하지 않고 배포하는 것도 보인다.

AI safety를 추구한다고 하면 AI 커뮤니티와 발전을 막는 것이 아닌가에 대한 반감을 사기 마련이고, safety가 중요하지 않다고 하는 사람들에게는 “전형적인 이윤 추구 실리콘 밸리 사람”이라고 하는데, 어찌됐던 간에 safety를 전혀 추구하지 않는 것보다는 추구하는 방향으로 발전하는게 더 안전하고 나은 시스템을 만들 것이라고 생각한다.

Alex Irpan이 8년간 robotics에 있다가 AI safety로 가기로 한 이유

제가 머신러닝 연구를 시작한 이유는 학습과 에이전트 행동을 지도하는 것이 매우 흥미롭다고 느꼈기 때문입니다. 제가 했던 연구는 로봇공학 연구실에서 이루어졌지만, 저는 항상 로봇보다 에이전트, 하드웨어보다 소프트웨어에 더 관심이 있었습니다. 그럼에도 불구하고 로봇공학에 남아있었던 이유는 로봇공학에서는 현실 세계를 속일 수 없기 때문입니다. 실제 하드웨어에서 작동해야만 했습니다. 이로 인해 연구는 인위적인, 유용성이 떨어지는 벤치마크 연구보다는 실제 세계에 영향을 미치는 것에 초점을 맞추게 되었습니다.

지난 몇 년 동안, 소프트웨어 전용 에이전트들이 점차 등장하기 시작했습니다. 이것은 저에게 중요한 결정 지점이 되었습니다. 실제 세계에서 에이전트들이 먼저 도착할 곳은 어디일까요? 게임을 플레이하는 AI는 오래전부터 존재해 왔지만, 게임은 현실이 아닙니다. 이러한 LLM(대규모 언어 모델) 기반 시스템들… 그것들은 더 현실적이었습니다. 일반적인 로봇 에이전트들이 만들어지는 세상에서는 소프트웨어 전용 에이전트들이 그 전에 작동하기 시작할 것입니다. 저는 앞으로 더 많은 시간을 소프트웨어와 하드웨어의 경계를 배우는 데 소비하게 될 미래를 보았고, 에이전트의 고차원적 추론 능력을 향상시키는 것에 더 집중하고 싶었습니다. 만약 멀티모달 LLM이 에이전트적인 행동을 하기 시작한다면, 하드웨어에서 멀어지는 것이 삶의 질에 여러 이점을 가져다줄 것입니다.

한 가지 견해(이것은 Eric Jang이 전한 Ilya Sutskever의 의견에 따른 것입니다)는 "모든 성공적인 기술 회사는 AGI(인공 일반 지능) 회사가 될 것이다"라는 것입니다. 이는 도발적이지만, 만약 LLM이 저수준 지식 작업을 대체하기 시작한다면, 가치 있는 일은 도메인 특화 데이터셋에 올바른 정보가 포함되었는지와 AI의 출력물이 좋은지에 대한 피드백을 제공하는 데서 나올 것입니다. 만약 제가 진지하게 전환을 고려한다면, 이른 시기에 전환해야 합니다. 왜냐하면 다시 전문성을 쌓는 데 시간이 걸리기 때문입니다. 최대의 영향을 미칠 수 있는 적절한 시기는 항상 대중이 생각하는 것보다 더 이른 시점입니다.

그럼 Eric Jang과 OpenAI cofounder, Ilya Sutskever가 말하는 “모든 성공적인 기술 회사는 AGI 회사가 될 것이다”는 무슨 뜻일까?

이 말은 처음에는 조금 황당하게 들릴 수 있지만, 동일한 정도로 제품을 반복적으로 개선하는 것은 기술적으로 점점 더 어려워진다는 점을 상기하면 이해가 된다.

• 반도체 제조에서는 32nm 공정 노드에서 14nm 공정 노드로 줄이는 것이 꽤 어렵지만, 14nm에서 7nm 공정 노드로 가는 것은 엄청나게 어려움. 초순수 물을 만드는 것과 같은 중간 문제를 해결해야 하기 때문.

• ALS 환자들을 위한 간단한 텍스트-음성 변환 시스템은 1980년대에도 이미 가능했지만, 특수한 사례에서 발음을 개선하고 억양을 자연스럽게 처리하는 데는 딥러닝에서의 엄청난 돌파구가 필요했음.

• 단일 컴퓨터에서 괜찮은 문자 수준의 언어 모델을 훈련할 수 있지만, 조건부 문자 모델링에서 몇 비트의 엔트로피를 줄이는 것은 비유적으로 데이터 센터를 불태우는 것과 같음.

• 고속도로 자율 주행은 그리 어렵지 않지만, 모든 주거 도로를 자율적으로 주행하는 것은 L5 수준에서 AGI 완성으로 간주됨.

앞으로 몇십 년 동안 고객에게 점진적인 가치를 추가하기 위해, 기업들은 정말 어려운 문제를 해결하는 것에 익숙해져야 할 것이다. 아마도 결국 모든 회사가 경쟁력 있는 짧은 동영상 앱, 할 일 목록, 또는 문법 검사기를 만들기 위해 인공지능 일반 지능(AGI)이라는 동일한 어려운 문제를 해결하는 방향으로 수렴하게 될 것이다. 우리는 "AGI"의 의미와 모든 회사가 이 방향으로 수렴하는 데 필요한 시간에 대해 논의할 수 있지만, 곧 많은 소프트웨어 제품에서 기본 모델이 표준이 될 것이라고 생각한다.

예를 들어, Alphabet은 인간의 사고와 호기심을 포착하는 매우 귀중한 검색 엔진 데이터를 가지고 있다. Meta는 많은 사회적 지능 데이터와 성격 특성을 기록하고 있으며, 원한다면 Oculus 컨트롤러 상호작용을 수집하여 인간 행동의 경로를 생성한 다음, 그 지식을 로봇공학에 활용할 수 있다. TikTok의 추천 알고리즘은 아마도 우리 자신이 이해하는 것보다 우리 잠재의식을 더 잘 이해할 것이고, Grammarly, Slack, Riot Games 같은 무작위의 회사들조차도 인간 지능에 대한 고유한 데이터 보호막을 가지고 있다. 이들 회사는 각각의 비즈니스 데이터를 일반 인공지능(AGI)을 생성하는 쐐기로 사용하여 인간의 사고와 욕구를 행동 복제 방식으로 재현할 수 있을 것이다.

Eric Jang이 Halodi라는 로보틱스 팀에 합류하면서 베팅하고 있는 것은 “다른 어떤 회사보다 5년 앞서 있는 휴머노이드 로봇”이다. Halodi에서 주요 우선순위는 초기에는 모바일 조작에서 특정 고객 문제를 해결하기 위해 모델을 훈련하는 것이지만, 동시에 AGI를 위한 로드맵을 설정하는 것이다. 인간형 형태에서 얻은 대량의 현실 세계 1인칭 데이터를 압축하여 일반 지능, 마음 이론, 자아감 같은 것들이 어떻게 발생할 수 있는지 탐구하는 것이다.

웹 크롤러가 비트 세계를 인덱싱하는 것처럼, 휴머노이드 로봇은 원자 세계를 인덱싱할 것이다. 즉, LLM이 단순히 디지털 데이터만으로 특정 물건의 무게가 얼마인지 이해하는 것보다, 실제 자신의 손으로 그 물건을 직접 들어보면서 중력이 얼만큼 작용되는지 이해하는 것이 더 나을 것이다. 그렇기에 앞으로의 미래는 LLM (software)뿐만 아니라 하드웨어, 로보틱스가 될 것이다.

AI로 웹사이트 제작하기 - waitlist 열렸습니다.

큐샵팀이 웹사이트 제작의 새로운 시대를 엽니다.
K-톤앤매너에 최적화된 웹사이트를 자동으로 생성합니다.
Qshop.AI Text to Website
🎁 사전예약🎁 중!!!

https://qshop.ai/waitlist

AI로 자동 제작된 웹사이트는 자연스럽게 노코드 에디터로 편집 할 수 있으며,
즉시 웹에 배포하실 수 있습니다.