3시간 만에 AI 서비스 추가하기

안녕하세요, 얼마 전 모의투자 앱 Vestin를 개발한 주영호입니다.

오늘은 3시간 동안 GPT API를 이용해서 AI 서비스를 추가한 경험을 공유하고자 해요.

주의) 실제 AI 서비스를 개발하고 계시는 분들께서 보시면 이게 무슨 AI 서비스냐, 하고 화내실 수도 있습니다 ㅎㅎ

그럼, 시작해 보겠습니다!

고민의 시작: 프로덕트에 AI 서비스 추가하고 싶은데..

ChatGPT가 나온 이후, AI 관련 프로덕트가 쏟아지고 있습니다.

저는 개발자로 일한 적이 있지만, AI 서비스를 개발하는 것은 또 다른 차원이라고 생각합니다.

LLM, 머신러닝, 딥러닝, 자연어 처리.. 저는 그 무엇 하나 배우지도 않았기 때문이죠.

하지만 프로덕트를 제작하는 입장에서 이미 AI는 너무나 큰 존재가 되어있었습니다.

그게 사용자를 위함이든, 투자 유치를 위함이든, 돈을 위함이든 간에요.

이럴 땐 만능인 GPT를 써보자

저는 최근에 궁금증이 생기면 GPT한테 달려갑니다.

제가 AI 서비스를 직접 개발하는 건 사실 말이 안 되고, GPT API로 데이터와 요구 사항을 보낸 다음 사용자에게 보여주는 방식을 택했어요. ChatGPT 말고도, OpenAI에서는 다양한 AI 모델의 API를 지원하거든요.

Open AI에 있는 API 소개 사진

하지만 나는 프롬프트 엔지니어가 아니다

ChatGPT를 무척 잘 사용하고 있다고 생각하지만, 저는 프롬프트 엔지니어가 아닙니다. 그래서 GPT 만들기 기능을 활용하고자 했어요.

GPT 유료 사용자는 GPT 봇을 채팅으로 생성할 수 있습니다

저는 사용자가 생성한 데이터(모의투자 앱인 Vestin 기준으로, 투자 기록에 해당)를 그대로 던지고, 사용자의 성향을 요약하는 봇을 만들고 싶다고 했어요.

그러면 멋진(?) 프로필 사진과 함께 봇을 만들어주는데요, 사용자에게 GPT 봇을 공유하는 방법도 있겠지만, 저희는 서비스에 녹여내야 하니까, 완성된 GPT 봇의 설정에 있는 "지침"을 복사해두었어요.

제 막무가내 설명으로 탄생한 봇의 설정에 있는 '지침'을 프롬프트로 사용합니다.

이제 OpenAI가 친절하게 작성한 API 호출 방법을 참고하고, 프롬프트에 위 '지침'을 붙여넣기 합니다.

이후, 저희의 프로덕트에서 사용자의 데이터와 함께 호출합니다. 데이터 가공을 하면 좋겠지만, 그냥 json string을 통째로 던져주어도 잘 이해하더라고요.

서버 쪽은 이렇게 완성입니다! (여기까지 15분이면 충분합니다)

프로덕트에 녹이기

그럼 이제 이 서비스를 사용자에게 어떻게 전달을 해야 할까요? 저는 제일 잘 보이는 홈 화면 좌측 상단에 AI 버튼을 추가했어요. AI 서비스에 자주 쓰이는 반짝이(?) 아이콘으로요.

요 버튼을 누르면 이제 아래와 같은 화면이 뜨게 됩니다.

여기서 "광고 보고 확인하기" 버튼을 넣었는데, 아무래도 GPT API가 유료이다 보니 광고를 넣게 되었습니다 (저도...광고 싫어하지만..🥲)

사용자가 버튼을 탭 하면 바로 API를 호출하고 광고를 띄웁니다. 사용자는 전면 광고를 보는 사이 GPT가 요약을 해주고, 아래와 같이 요약 화면을 그대로 보여줍니다.

솔직히 결과가 크게 만족스럽진 않은데요, 그 이유로는..

• 데이터 가공 없이 그대로 던짐

• 비용 절감을 위해 GPT4가 아닌 GPT-3.5 Turbo 모델을 사용

• GPT API 호출 시 파라미터 등을 테스트나 튜닝하지 않고 바로 사용

• 호출 결과를 그대로 보여주기만 함

등이 있겠습니다.

상당히 아쉽지만.. 좋은 시도였다!

아쉬운 부분이 많지만 어쨌든 AI 서비스 완성입니다 (사실 AI 서비스라고 하기에도 민망한)

오늘 저녁에 만들고, 바로 애플 심사 통과되어서 유저분들께 하루 만에 선보일 수 있게 되었어요.

AI 관련 서비스를 만드시는 분들께 무한한 존경을 보내며.. 글을 마치겠습니다.

읽어주셔서 감사합니다. 오늘도 화이팅!