LLM 스터디 #1

1. 휴튼에 대한 간략한 소개

휴튼은 보다 많은 사람들이 '내적 글쓰기'라는 수단을 통해 내면에 집중하고, 궁극적으로 자신을 더 깊이 이해하여 명확한 목적의식을 가진 삶을 살 수 있도록 도와주는 서비스입니다.

1. LLM 스터디를 시작하게 된 배경

휴튼에서는 최근 생성AI를 기반으로 한 기능을 오픈하려고 합니다. 이 과정에서 배우고 있는 것을 공유하고자 합니다.

1. LLM이란..?

LLM은 large language model의 약어로, 전통적인 RNN 기반이 아니라, 최근에 성능이 잘 나오던 transformer-based architecture을 기반으로 제작되었다고 합니다.

LLM은 이름에 걸맞게, 엄청난 언어 데이터를 학습해서 생성한 모델이구요, self-supervised learning을 해서 문맥 안에서, 그리고 문장 안에 필요한 다음에 올 토큰(*)을 예측한다고 해요.

LLM이 학습하는 과정은 다음과 같다고 해요.

1) 문자열 데이터를 tokenize(*)하여 각 문자들에게 고유한 숫자 값 부여

2) 문장에 다음에 올 단어를 예측하는 모델을 생성

3) 모델 파라미터를 랜덤하게 할당

4) tokenize된 문자열 token들을 모델에 Feed Forward(**)

5) 문장에 다음에 올 단어를 예측하고, 실제 다음에 오는 단어 사이에 loss(***)를 계산

6) loss를 최소화 하는 방식으로 모델 파라미터를 재 조정

7) 모델의 정확도가 높아질 때 까지 1) ~ 6)의 과정을 반복

< (*) 부연 설명 >

여기서 토큰이라는 용어가 생소하신 분들을 위해 간략하게만 설명을 드리면, NLP에서 모든 언어의 낱말들은 컴퓨터에서 학습을 하기 편하게 tokenize라는 과정을 거쳐요. tokenize 과정을 통해 각 낱말은 고유의 ID 값을 지니게 되어요.

< (**) 부연 설명 >

Feed Forward는 단순하게 설명하면, 딥러닝 모델에서 데이터를 모델에 넣어서 예측하게 하는 과정을 의미해요. 딥러닝 모델은 크게 데이터 전처리, 모델 생성 및 초기 파라미터 설정, Feed Forward, Back Propagation의 과정들이 있어요. 보통은 모델이 정확해질 때까지 Feed Forward와 Back Propagation 과정을 반복해요. Back Propagation을 진행하면, 모델이 넣어준 데이터에 맞춰서 정교하게 수정된다고 이해를 하시면 돼요.

< (***) 부연 설명 >
loss는 Back Propagation이나, 모델의 파라미터를 재 조정할 때 계산되는 값이에요. 예측 값이랑 실제 값이랑 얼마나 다른 지를 수치적으로 나타내죠. loss를 계산하는 방식은 여러가지가 있어요. 보통 모델이나 데이터에 따라 loss를 계산하는 방법이 달라져요.

< 참고 자료 >