프로덕트

아티클

전체 보기
Seunghwan

Seunghwan

'온디바이스 LLM, 그거 돼요?' 100번 듣고 만들었습니다.

고객사 미팅에서 단골 질문으로 나오는 것 중에 하나가 바로,

'온디바이스 LLM이 돼요?' 였습니다.

가능하다고 답해도 눈에 보이기 전까지는 믿기 어려운 것도 사실이어서 직접 만들었습니다.

Ollie, Private AI Assistant.

Group 224 (1).png

온디바이스 LLM 기반 챗봇앱입니다.

데이터가 일절 외부로 유출되지 않고, 비행기 모드에서도 사용할 수 있어요.

만드는 과정에서 생각보다 어려운 점이 많았어요.

기술적으로 해결해야 할 과제들이 몇몇 있었는데요.

관심 있는 분들을 위해 세미나를 준비했습니다. 저희 노하우를 탈탈 털어서 만들었으니 많은 관심 부탁드립니다!

[무료 세미나] 온디바이스 LLM 개발 A to Z

경량화부터 앱 통합, 실제 사례까지 실전 가이드 공유

세미나 개요

◾ 주제: 스마트폰에서 동작하는 온디바이스 LLM 개발 구축부터 실제 적용 사례까지 실전 가이드 공유

◾ 일시: 25.04.02(수) 오후 7시~8시 (이후 네트워킹 시간 있음)

◾ 장소: 서울 강남구 테헤란로 217 오렌지플래닛 4층, 오렌지파크 (역삼역 도보 1분 거리)

어젠다:

왜 '온디바이스 AI'인가?

온디바이스 LLM의 실제 적용 사례

온디바이스 LLM 구축을 위한 기술적 접근법

온디바이스 LLM 전환을 위한 실전 전략과 단계별 가이드

▫신청 링크 : https://bit.ly/424LEn9

2
0
Seunghwan

Seunghwan

[성능 90% 유지하는 온디바이스 AI 구현 노하우를 주제로 세미나를 엽니다]

Vision AI 서버 추론 비용으로 고통받고 있는 한 대표님의 이야기를 듣고, 이 문제를 해결해야겠다고 생각했습니다.

iOS, Flutter 기반 앱에서 동작하는 FER AI 모델을 만들며 여러 가지 노하우를 얻었고, 그 내용을 공유하는 자리를 만들었습니다.

행사명 : 성능을 90% 유지하는 온디바이스 AI 구현 노하우

요약 : iOS, 플러터 기반 앱에서 동작하는 Vision AI (FER) 최적화 방법 및 시연

일시 : 2024년 11월 28일(목) 19~21시

장소 : 서울 서초구 서초대로78길 44, 3층 토크벨류

가격 : 무료

세션 주요 내용

- iOS 환경에서 AI모델 성능을 유지하기 위한 최적화 방법

- Core ML을 이용해서 모델 변환 시 주의사항

- Vision 프레임워크와 iOS의 좌표계 차이로 발생하는 문제점 및 해결방법

- Flutter와 네이티브 간 인터페이스 구축 방법

행사 마지막엔 자유로운 네트워킹 시간을 준비했습니다. AI 최적화, 온디바이스에 관심 있는 분들과 많은 얘기를 나누고 싶습니다.

많은 관심과 참여 부탁드립니다!!

1
0
Seunghwan

Seunghwan

AI 서버 비용만 월 500만원 발생한다는 스타트업 대표의 하소연에서 시작한 사업 아이템

안녕하세요,

온디바이스 AI 최적화 및 배포 솔루션을 개발하고 있는 피카부랩스입니다.

저희는 최근에 AI 관련 프로덕트를 개발하는 분들이 증가하는 것을 보고, '이들이 겪게 될 문제를 해결하자!' 는 생각으로 아이템을 발굴하게 되었습니다.

Vision AI 모델 돌리느라 월 500만원씩 나가요ㅜ

한 대표님의 하소연이었습니다.

대표님은 B2B 대상 AI서비스를 제공하는데, 문제는 Vision AI모델 서버 비용이 너무 많이 발생하고 있었습니다. 이 기능을 빼자니 고객이 너무 좋아하고, 가격을 올리자니 고객이 이탈하는 상황이라 이도저도 못하고 있었죠.

딱 한마디 하셨어요.

'온디바이스 AI로 최적화하고 싶어요'

저희는 여기에서 기회를 발견했습니다.

AI 서버 비용, 온디바이스로 해결하기

AI는 클라우드에서 운용하게 됩니다. 호출당 비용으로 과금되기 때문에 처음엔 괜찮다 싶다가도, 트래픽이 확 늘어나면 비용이 기하급수적으로 증가합니다.

가장 확실한 해결 방법은 고객의 스마트폰에서 AI를 동작하게 하는 온디바이스 AI 기술을 적용하는 것입니다. 유수의 글로벌 리서치 회사나 빅테크에서도 온디바이스AI를 도입하기 위해 많은 노력들을 하고 있더라구요.

근데, 이게 실제로 가능해?

온디바이스AI를 구현할 때 가장 큰 문제는

1) AI 모델이 너무 크고,

2) 구동 환경이 GPU에서 NPU로 바뀌는 데다가

3) OS, 프레임워크의 변수까지 고려하면서

4) 성능 감소를 최소화해야 합니다.

iOS, Flutter 기반 앱에서 FER AI 동작시키기

저희는 이런 허들을 하나씩 풀어나가기 위해 시장을 좁게 정의했습니다.

iOS, Flutter 기반 앱에서 FER(Facial Emotion Recognition, 감정인식) AI를 동작시키도록 최적화하기

여러 허들이 있었는데, 다양한 기법들을 동원해 이를 해결할 수 있었습니다.

온디바이스AI 시연 보러가기

이번에 세미나를 열어서 저희 노하우를 무료로 공유해보려 합니다.

이유는, 많은 분들에게 '이런 방식으로 해결할 수 있다'는 것을 보여드리고 싶고, 온디바이스에 관심 있는 분들과 더 많은 얘기를 나누고 싶습니다.

참석자분들에게 온디바이스AI 최적화 무료 컨설팅 1회 및 네트워킹 시간을 가질 수 있으니, 관심 있으신 분들은 참여해서 많은 것을 얻어가실 수 있을 것 같습니다.

많은 관심과 참여 부탁드려요!

  • 행사명 : 성능 90%를 유지하는 온디바이스 AI 구현 노하우

  • 일정 : 2024년 11월 28일(목) 19:00 ~ 21:00

  • 장소 : 서울 서초구 서초대로78길 44, 3층 토크벨류

  • 가격 : 무료

  • 신청 링크 :

3
2
Seunghwan

Seunghwan

10일 만에 망한 아이디어 검증한 썰

아이디어가 한 줄기 빛처럼 다가왔습니다.

'CEO들이 추천하는 책 리스트를 업데이트 해주는 서비스는 어떨까?'

왜냐하면, 제가 책을 좋아하거든요.

한켠에 쌓여있는 책들을 쭉 보는데, 30%가 추천받은 책들이었어요.

VC 대표님이 추천해주신 책, 뉴스 기사에서 토스 이승건 대표님이나 김봉진 배달의민족 전 의장님께서 추천해주신 책들이 쌓여 있었어요.

'내가 존경하는 분들이 추천하는 책은 꼭 챙겨보는구나. 주변 사람들을 보니 나와 같은 경험을 자주 하는 것 같아. 그렇다면, 책을 추천받을 수 있는 서비스를 만들면 어떨까?'

바로 실행했습니다.

1. 가설 설정하기

XYZ가설 : 자기계발을 위해 월 15만원 상당의 비용을 지출하는 고객의 10%는 롤모델이 인상깊게 본 컨텐츠를 지속적으로 공유받기 위해 월 5만원을 지불할 것이다.

  • xyz가설 : 링크드인 및 커리어리에 활동하는 사람 중 본 서비스를 알게된 사람들의 40%는 웹사이트를 방문해 IT리더들이 읽는 책 목록을 보기 위해 이메일 주소를 남길 것이다.

  • 프리토타이핑 실험 : 리스트를 만들고, 원하는 사람들에게 이메일을 요구한다.

    • 데이터까지의 시간 : 48시간

    • 비용 : 3만원 이하

2. 랜딩페이지 제작하기

웹사이트 빌더는 스퀘어스페이스를 사용했습니다. 3만원만 내면 간단하게 제작할 수 있고, 데이터 트래킹이 가능한데다 제작하기도 쉽더라구요.

책 리스트도 안 만들고, 랜딩페이지부터 만들었습니다.

image.png

밑에는 이메일 주소를 입력받는 폼을 넣었습니다.

스크린샷 2024-09-22 오후 9.54.31.png

링크드인과 커리어리에 글을 썼습니다.

image.png

3. 자연유입이 발생했다!

하루 만에 35명의 방문자와 3명의 잠재 고객을 확보했습니다. 부랴부랴 책 리스트를 만들었어요.

image.png

메일로 파일을 보내드렸습니다.

스크린샷 2024-09-25 오후 2.26.16.png

4. 0명으로 수렴하는 방문자수

  • xyz가설 : 링크드인 및 커리어리에 활동하는 사람 중 본 서비스를 알게된 사람들의 40%는 웹사이트를 방문해 IT리더들이 읽는 책 목록을 보기 위해 이메일 주소를 남길 것이다.

  • 랜딩페이지 결과

    • 기간 : 9/6~9 (4일)

    • 조회수 : 560 (229(링크드인)+331(커리어리))

    • 홈페이지 방문수 : 73 (전환율 12.8%)

    • 이메일 입력수 : 3 (0.5%)

image.png

반짝했고, 망했습니다.

'앨리엇 파동'이라는 게 있습니다. 주식에서 많이 쓰이는데, 차트가 하락할 때는 큰 하락, 소폭 상승, 더 큰 하락으로 이어진다는 건데요. 여기서도 그게 보이네요. 9일날 반짝 상승하길래 어 뭐지? 했는데 그 뒤로 쭉 내려갔습니다.

잠재 고객에게 회신 온 것도 없었습니다.

14일에는 페이스북 광고를 돌렸습니다. 1만원 투자해서 하루 5,000원씩 이틀 돌렸는데요.

  • CTR 0.3%

  • CPC : 312원

image.png

광고 끄자마자 방문자수 0명 찍었습니다.

그래서 망한 아이디어라는 것을 10일만에 검증했습니다.

5. 다음 스텝은...?

뉴스 큐레이션 앱 > 뉴스 콘텐츠 유통 > 책추천 서비스까지 한 달 동안 3번 피봇팅했습니다.

새로운 아이템을 정하고 있습니다.

제 기준은 다음과 같습니다.

  1. 고객이 겪는 문제를 해결하자는 장사꾼의 마음으로,

  2. 내가 정말 몰입할 수 있는 문제여야 한다

저는 컨슈머테크, 콘텐츠, 뉴스, AI, 큐레이션에 관심이 많습니다. 이번에는 '반복적인 웹탐색' 문제를 해결하는 아이템을 생각했습니다.

15명과 인터뷰를 한 결과, 부동산 투자자들이 손품파는 일에 매일 1~2시간씩 할애하고 계시더라구요. 손품이란, 인터넷으로 매물을 탐색하는 행위를 말합니다.

손품을 자동화해준다면? 그들의 투자 의사결정까지 소요되는 시간을 획기적으로 줄일 수 있겠다고 생각했습니다. 다음 주에는 또 랜딩페이지를 만들어야할 것 같아요.

프리토타이핑 전문가가 될 것 같습니다.

PMF를 찾는 날까지, 모두 화이팅입니다!

데모스

포털 뉴스를 대체할 뉴스앱

8
6
Seunghwan

Seunghwan

🚨 설문조사 : 가장 위험한 고객 리서치 방법론

고객 리서치 제대로 하고 싶으신가요?

설문조사 대신, 인터뷰를 하세요.

왜냐하면, 설문조사 결과는 잘못 해석될 수 있기 때문입니다.

정량적인 결과만 믿고 가설을 설정하면, 결과는 실패할 수밖에 없습니다.

제 사례를 말씀드릴게요.

저는 뉴스앱을 만들고 있어요. 스마트폰으로 뉴스를 자주 소비하는 고객 60명에게 설문조사를 했어요.

문제가 된 질문은 이거였어요.

"자주 사용하는 뉴스 플랫폼이 무엇인가요?"

응답자의 66%가 "네이버 뉴스"를 사용한다고 답했어요.

image.png

이 수치는 한국언론진흥재단이 매년 발행하는 "언론수용자 조사" 결과와 거의 같아요. 심지어 설문 결과에 유튜브가 2순위로 나왔는데, 재단 자료에도 유튜브의 성장세를 강조하고 있어요. 대형 기관의 보고서 결과와 현실의 샘플 결과가 동일하니, 이 결과는 '신뢰할 수 있다'고 착각하기 쉬웠죠.

인터뷰에서는 뭐라고 답했을까요?

네이버 뉴스를 이용하는 건 맞지만, 주된 소비 경로가 아니었어요.

  • 주식투자를 하고 있어서 뉴스는 주로 증권앱에서 봐요. 더 찾아봐야 할 때는 구글링하거나 검색해서 찾아봐요. 장마감한 뒤에는 유튜브 영상을 봐요. 애널리스트들이 전문성 있는 컨텐츠를 제공해주거든요.

  • 뮤즐리(크롬 익스텐션), 네이버, 유튜브, 텔레그램 등 다양한 채널에서 뉴스를 띄워놓고, 궁금한 기사만 클릭해요.

  • 커뮤니티 글을 보다가 추가로 알고 싶을 때 뉴스를 검색해요.

  • 날씨나 정보를 검색하다가 뉴스를 봐요. 뉴스레터가 요약이 잘 되어 있고, 관심 있는 컨텐츠를 볼 수 있어서 좋아요.

인터뷰 덕분에 제가 '네이버 뉴스'에서 발견한 문제점들이 '고객의 HOFP(Hair On Fire Problem)이 아니구나'라는 걸 알 수 있었어요.

지금은 MVP 개발을 홀딩하고, 문제 정의를 위해 많은 시간을 쓰고 있습니다. 돌고 돌아 제자리걸음을 한 것 같지만, 인터뷰를 하지 않았다면 3개월은 더 낭비했을 거라 생각해요.

설문조사를 잘 활용하는 방법

인터뷰이를 모집하기 위한 수단으로 설문조사를 활용하는 건 도움이 돼요.

설문지 폼 마지막에 아래 질문을 넣어보세요.

혹시 비대면 인터뷰도 가능하신가요?

인터뷰 진행 시 10,000원 사례금을 지급해드립니다.

이름과 전화번호를 입력해주세요.

고객을 찐팬으로 만드는 첫 걸음이 되어줄 겁니다.

행운을 빕니다!

데모스

포털 뉴스를 대체할 뉴스앱

7
0

포스트

전체 보기
Seunghwan

Seunghwan

🚀 Lora 를 출시했습니다!

Lora는 모바일에서 동작하는 로컬 LLM입니다.

⚡ GPT-4o-mini 수준의 빠른 성능

🔒 로그 저장 없이 완전한 프라이버시 보장

✈️ 비행기 모드에서도 작동

자세한 내용은 아래 링크에서 확인 가능합니다.

많은 피드백을 듣고, 더 좋은 제품으로 보답하겠습니다.

https://shorturl.at/2k8TV

Lora

온디바이스AI 챗봇 앱

3
0