LLM 프로덕트는 완전히 다른 관점으로 보아야 한다

지금 시기는 Generative AI씬에서 LLM 프로덕트를 만들 때 나만의 관점 형성이 가장 중요한 시기라 느껴져 많은 인풋을 받고 있습니다.

저희 비욘드밸리 팀은 콘텐츠 제작 비용을 최소화하기 위한 탐구를 계속하고 있는데요. 이 과정에서 확률적 제품을 만드는 것과 관련, Generative AI의 잠재력에 대해 논의한 Andreessen Horowitz의 흥미로운 글을 발견했습니다. (역시 근본!) 바로 Using Generative AI to Unlock Probabilistic Products라는 글이었습니다.

TLDR 내용 정리!

할루시네이션으로 대표되는 생성 AI의 비결정적 결과물은 문제라기보다는 확률적 제품이라는 이름으로 제품 디자인의 새로운 카테고리를 만들어내고 있습니다. 확률적 제품(Probabliisitic Product)은 비결정적(non-deterministic)으로 결과물을 예측할 수 없으며, 단순히 관찰만 가능한 제품을 의미합니다.

확률적 제품은 세 가지 그룹으로 구분될 수 있습니다.

1. 확률적 특성에 의해 활성화되거나 혜택을 받는 제품

   • 미드저나, 스테이블 디퓨전 등의 이미지 모델

   • AI 친구(챗봇 등) 등의 인간과 유사한 상호작용을 할 수 있는 제품

   • 쇼핑 지원을 위한 AI 의류 어시스턴트 서비스

2. 확률적 결과를 허용하는 제품

   • 확률적 결과를 허용하지만 비결정성으로부터 반드시 이점을 얻는 것은 아닌 그룹

   • 숫자 기반의 콘텐츠(주식 정보 등)는 높은 정확도가 요구되지만, 글로 작성된 콘텐츠 합성시에는 전달하고자 하는 메시지만 동일하다면 결과물의 변동성을 허용할 수 있음

   • 코드 기반의 콘텐츠도 코드가 작동하기만 한다면 (의도된 결과를 출력한다면) 변동성을 허용할 수 있음

3. 결정론적 출력이 필요한 제품

   • 재무예측, 세금계산, 운전 길 안내와 같이 정확한 답이 필요한 사례가 포함

확률적 출력의 개념은 개별 제품 아키텍쳐에도 적용될 수 있습니다. 예를 들어 세금신고를 지원하는 AI 어시스턴트의 제품 아키텍쳐의 세 가지 하위 시스템이 다음과 같이 구성될 수 있습니다.

• LLM 기반 휴먼 인터페이스 : 확률적 특성에 의해 활성화되거나 혜택을 받는 제품

• 세금 계산을 위해 사용될 수 있는 숫자를 합성하는 컨텍스트 합성 : 확률적 결과를 허용하는 제품

• 정확한 세금 계산을 위한 기존 엔진 : 결정론적 출력이 필요한 제품

결론적으로, LLM과 생성 AI의 새로운 확률적 특성은 새로운 기회를 제공함과 결과물에서 발생할 수 있는 오차(비결정적 결과물)에 대한 신중한 고려가 요구됩니다. 제품 디자이너와 프로덕트 매니저는 이러한 기능을 효과적으로 레버리지 하여 경험을 디자인할 수 있어야 할 것입니다.

Thoughts

이 글에서 다루는 Generative AI가 확률적 제품을 가능하게 하는 방법은 콘텐츠 생산의 다양성과 창의성을 높이는 동시에, 생산 비용을 크게 줄일 수 있는 중요한 요소가 될 수 있겠다고 느꼈습니다. 그러나, 동시에 확률적 제품 개발 방식은 그 특성상 케이스에 따라 제한적일 수 있어 제품 설계단계에서부터 최적화해야 함을 느꼈습니다.

저희 팀이 추구하는 콘텐츠 생산 비용 극소화의 목표를 달성하는 데 있어 Generative AI의 활용은 단연 필수적입니다. 물론 콘텐츠 업의 어떤 영역이 우리에게 가장 적합한지, 그리고 어떻게 우리의 문제를 해결할 수 있는지에 대한 생각의 확장은 당분간 계속 필요하겠죠.

콘텐츠 생산의 관점에서 Generative AI 씬을 바라보는 것이 비단 저희 팀만은 아니라고 생각합니다. 콘텐츠 생산의 새로운 패러다임을 탐색하는 모든 팀들과 함께 인사이트를 나누고 싶었습니다. 디스콰이엇 커뮤니티에서 함께 성장했으면 좋겠습니다!