ChatGPT의 등장 배경과 원리

1. Generative AI(생성형 인공지능)
2. 소개: 최근 Generative AI 키워드가 핫하게 세계를 강타하고 있습니다. 마케팅, 검색, 글쓰기, 비디오, 이미지 등등 아시다시피 Generative AI 기반에 많은 제품과 모델 그리고 스타트업들이 만들어지고 있습니다. 

1. 시장 규모: 새로운 보고서에 의하면 세계의 생성형 인공지능(Generative AI) 시장 규모는 2030년까지 1093억 7,000만 달러(144조 3,137억 1,500만원)에 이를 것으로 예측됩니다.
2. https://www.giikorea.co.kr/report/grvi1178559-generative-ai-market-size-share-trends-analysis.html?CODE=grvi1178559-generative-ai-market-size-share-trends-analysis.html&TYPE=0
3. 예시
4. Jasper: Create amazing marketing copy 10X faster with AI. 작문을 도와주는 AI 스타트업입으로 마케팅 문구를 더 빠르게 작성해주거나, 블로그 글을 작성해주는 등 여러가지 텍스트 작업을 대신 해줍니다. 

Jasper - Try For Free

Meet Jasper, the better AI for business. Rated 4.8 / 5 stars in 10,000+ reviews. Start your 7-day free trial today.

https://www.jasper.ai/free-trial?_from=ads&fp_sid=1-g-Cj0KCQjwmN2iBhCrARIsAG_G2i7FtGqG2CqzqDzl3DGouUud-d0FZOdJ1yockwGKSLcKW_Cq83CLnEcaApi4EALw_wcB&gclid=Cj0KCQjwmN2iBhCrARIsAG_G2i7FtGqG2CqzqDzl3DGouUud-d0FZOdJ1yockwGKSLcKW_Cq83CLnEcaApi4EALw_wcB

1. Lensa AI: 주어진 프로필 사진을 AI가 초상화로 그려줍니다.

Lensa: Magic Avatars

Lensa is a brand new way of making your selfies look better, than you could have ever imagined. Forget about conventional filters and photo editing tools. We bring you the simplest, yet the most practical mobile app to date for perfecting your selfies on the go. So, if there’s anything you think should be corrected in your selfie, you now have this amazing, simple app to help you.

https://land.prisma-ai.com/magic-avatars/

Lensa AI Magic Avatar: 수백 수천의 AI가 그려주는 초상화 - 디자인 나침반

Lensa AI의 새로운 기능 매직 아바타 Magic Avatar가 엄청난 인기입니다. 미국 앱스토어 1위를 Lensa AI가 유지하고 있으며 기능 업데이트 후 첫 11 동안 무려 1,260만개가 설치됐습니다. Leansa AI는 이미지 편집 앱으로 2018년에 출시했으며 최근 오픈 소스 Stable Diffusion 모델을 이용해 매직 아바타 기능을 만들었습니다. 매직 아바타는 자신의 사진 10~20장을 업로드하면 디지털 아티스트가 만든 것 같은 초상화를 만들어줍니다. 7일 무료 평가판으로 체험할 수 있으며 시

https://designcompass.org/2022/12/14/lensa-ai-magic-avatar/

1. Gen-1 by Runaway: 어떠한 Source Video를 Driving Image와 함께 주게 되면 동영상과 이미지를 섞어서 새로운 Generate Video를 생성해줍니다. 
2. Gen-2 by Runaway에서는 Input Image와 Driving Text를 주면 Output Video를 생성해줍니다. 
3. https://research.runwayml.com/gen2

1. 이해
2. Discriminative model(분류 모델): 이전에는 어떤 이미지를 주고, 그 이미지가 고양이 인지, 개인지 분류하는 AI를 봤을 것입니다. 간단하게 이러한 모델을 Discriminative model이라고 합니다. 
3. X → Model → Y: 
4. ex) 고양이 사진(X) → Model → 고양이(Y)
5. Generative model(생성 모델): 주어진 데이터를 학습하고 학습 데이터의 분포를 따르는 유사 데이터를 생성하는 모델입니다. 
6. X to Y: 
7. ex) text to text, text to image, text to audio …
8. ChatGPT
9. “저는 OpenAI에서 학습된 대규모 언어 모델인 ChatGPT입니다. 제 목적은 자연어 이해와 생성을 통해 사용자와 대화하는 것입니다. 무엇을 도와드릴까요?”(Answer by ChatGPT).
10. 일상적인 대화, 정보 검색, 번역, 자연어 생성, 챗봇 등 다양한 작업을 수행할 수 있습니다. 

1. ChatGPT의 학습 원리
2. Basic:
3. Pretrained Language Model이 필요합니다. 이는 인터넷에 있는 방대한 데이터를 이용해서 학습한 모델이라고 설명할 수 있습니다. 즉, P(X)로 어떠한 X가 들어갈 확률을 계산할 수 있는 그런 모델을 학습하는 것입니다. 이를 사용해서 우리는 P(Y | X)와 같이 조건부 확률을 계산할 수 있고, 활용하여 문장을 생성할 수 있게 됩니다. 
4. 쉽게 설명하면 어떤 입력 X가 들어갔을때, 그 입력에 대한 그럴듯한 Y가 나오게 되는 확률을 계산할 수 있게 되는 모델이 만들어집니다. 
5. Step1: collect demonstration data and train a supervised policy. 
6. 쉽게 설명하자면, Reinforcement learning(강화 학습)을 위해 6살 아이의 수준으로 설명하는 질문을 여러개 준비합니다.
7. 여러 질문들이 생성이 되고 이것을 사람이 답을 직접 작성해주게 됩니다. 
8. 위에 과정을 거친 적절한 demonstration data를 많이 모아서 이미 기존에 만들어진 Pretrained Language Model에 fine-tune이라는 것을 하게 됩니다. 그럼 기존에 만들어져 있는 Pretrained Language Model보다 좀 더 우리가 원하는 응답을 출력하는 Language Model이 완성이 됩니다. 
9. Reinforcement learning(강화 학습): 컴퓨터 에이전트가 역동적인 환경에서 반복적인 시행착오 상호작용을 통해 작업 수행 방법을 학습하는 머신러닝 기법의 한 유형입니다. 
10. fine-tune: 기존에 학습되어져 있는 모델을 기반으로 아케텍쳐를 새로운 목적에 맞게 변형하고 이미 학습된 모델로부터 학습을 업데이트 하는 방법을 말합니다. 
11. Step2: Collect comparison data and train a reward model.
12. 먼저, Reinforcement learning(강화 학습)을 위해 6살 아이의 수준으로 설명하는 질문을 여러개 준비합니다.
13. 그 다음 여러가지 응답 후보를 모델이 만들어내게 됩니다. 
14. 이후 사람이 그 응답 후보에 랭킹을 두어 랭킹 데이터를 만들게 됩니다. 
15. reward model은 그 랭킹 데이터를 학습하게 합니다. 어떤 이야기를 했을때 모델이 여러 응답 후보를 만들고 무엇이 가장 좋은 응답인지 선택할 수 있는, 가리킬 수 있는 그런 모델을 의미합니다. 
16. Step3: Optimize a policy against the reward model using the PPO reinforcement learning algorithm.
17. 이는 PPO 강화 학습을 통해서 모델을 개선하게 됩니다. 어떤 프롬프트(질문)들을 모델에게 부여합니다. 
18. 이후 모델이 응답을 여러개 생성하게 됩니다. 그리고 그 여러개 생성된 것에 대해서 이 reward model이 응답을 잘 했는지, 잘 못했는지에 대한 점수를 부여하게 됩니다.
19. 그럼 점수를 높게 받은 응답은 계속 하도록 학습이 되고, 만약 점수를 낮게 받았으면 그런 응답은 하지 않도록 학습이 됩니다.
20. 강점과 약점
21. 강점:
22. 복잡한 자연어 문장을 이해하고 적절한 응답을 생성
23. 논리와 지적 능력이 필요한 Task를 처리 가능
24. 프로그래밍, 번역, 요약, 창작
25. 약점:
26. 할루시네이션(Hallucination): 사실이 아니지만 그럴 듯한 말을 생성
27. 편견(Bias): 세상의 텍스트에 남겨진 편견이 학습되어 있음
28. 속도가 느림