말투 변환 모델의 응용

안녕하세요. 휴튼팀의 AI 엔지니어 임세진입니다.

휴튼의 미션은 좋은 질문을 통해 각자의 내면 문제를 해결하는 것입니다.

좋은 질문을 위해 라이프 코칭이라는 기술도 공부하고, 기술적으로도 어떻게 좋은 질문을 생성할지 고민을 많이 하고 있습니다.

휴튼 팀에서 사용하고 있는 기술 중에 bart 모델로 GPT가 생성한 질문 내용을 한번 더 정제하는 기술이 있습니다. 아직 공부가 부족해 foundation model을 직접 만든 것은 아니고, Hugging face에 공개된 text2text generation 모델을 기반으로 데이터를 fine tuning하여 개발을 했습니다.

처음에는 말투 변환만 GPT 말투에서 휴튼 팀의 리더인 영준님의 말투로 바꾸자는 시도에서 시작했습니다. 그래서 초창기에는 영준님의 데이터를 수집하느라 영준님이 고생을 많이 했어요 (무한 감사)ㅋㅋㅋ

생각 외로 말투 변환 성능이 좋아서 조금 더 딥한 시도를 하게 됩니다. 말투 변환의 범위를 확장시킨 것이죠. 한국어 문맥상 어색한 부분도 수정하고, 의미 전달이 불분명한 부분들도 수정했어요. 아무래도 질문의 의미가 명확해야 사용자가 더욱 명쾌한 답변을 쓸 수 있기 때문이죠. 하지만, 아직 모델 성능이 80~90% 남짓으로 보여서 더욱 고민을 하고 있어요.

프롬프트 전처리 단계에서 해당 모델을 사용해서 맞춤형 프롬프트를 리턴하게 하는 것은? 과 같은 고민도 진행중이에요.