할루시네이션 그게 뭔데ㅋㅋ 하이템플러 스킬 아님?

"아니 15분에 초패스트 캐리어 9대? GG"

한국의 전통 민속놀이 스타크래프트

전략형 시뮬레이션 게임으로 1대1도 되고 4대4 공방전을 즐기며, 유즈맵으로 다양한 게임을 즐길 수 있었던 국민게임이었죠. 저는 주종족이 프로토스였습니다.

프로토스에는 하이템플러라는 고위기사단이 있습니다. 직접 공격을 할 순없지만 마법 스킬을 활용하여 스톰을 뿌린다던지, 두마리가 합쳐져 아콘이 될수도 있죠. 그 중에서 할루시네이션이라는 스킬이 있습니다. 특정 유닛에 이 마법을 사용하면 똑같은 가상의 유닛이 2마리 생성되죠. 복제된 유닛은 공격력이 0이라 사실 전투에 직접적인 도움이 되지는 않습니다. 그러나 위 사진처럼 우리 팀이 유닛이 더 많아보이게 하여서 상대방에 전투의지를 상실 시킨다던지, 어떤 유닛이 진짜인지 모르게 해서 방어를 할 수도 있습니다(강민 선수가 이걸 엄청 잘 썼었는데, 너무 길어지니 여기서 중략).

이제까지 제가 알던 할루시네이션은 게임스킬에 불과했는데요. 요즈음 생성형 AI가 대두되면서 할루시네이션이 문제다~ 할루시네이션 때문에 도입하지 않는다~ 라는 말들이 많이 들리기 시작했습니다. PMC*W23 Makers Night에서도 할루시네이션에 대해 언급이 되었었는데요. 처음엔 무슨 기자님이나, 세션의 연사분들이 스타덕후라 예시를 잘 드신건가 착각했습니다. 이번 시간에는 개발자가 아닌 분들께도 빠르게 이해하실 수 있도록 할루시네이션이 무엇인지, 이게 왜 문제가 되는지를 정리해보았습니다.

할루시네이션의 뜻

본래 할루시네이션의 원래 뜻은 '환각'입니다. 인공지능과 관련된 뜻으로는 문맥이나 실제와 무관하거나 부정확한 정보를 올바른 답처럼 제시하는 현상을 지칭합니다. 이는 틀린 정보를 사실로 표현하는 행위로, AI가 초기에 잘못된 데이터로 학습하거나 분류가 올바르지 않은 데이터로 학습하는 과정에서 발생한다고 합니다.

학습을 위해 입력했던 방대한 양의 데이터를 분석하고, 인공지능은 확률적으로 가장 적합한 응답을 제공하려고 합니다. 이 때 이 응답이 '참'인지를 검증하지 않기 때문에 이에 따라 AI는 뭔가 그럴듯 하지만 말이 안 되는 답을 제공하는 오류를 저지르게 됩니다.

한참 챗피티가 유행했을 때 이런 짤을 한번 쯤 보셨을 겁니다. 세종대왕이 맥북프로를 가지고 있었던 사건이 마치 진짜 같은 사실처럼 알려주었죠, 우리나라는 사실 예전부터 프로토스급 과학기술을 보유하고 있었습니다.

지금은 똑똑해져서 다시 그런 일은 없다고 하네요ㅋㅋㅋ

--

근데 원래 네이버검색도 보면 이상한 정보 나오는건 똑같잖아요

왜 우리는 인공지능의 잘못된 응답 값에 할루시네이션이라는 명칭을 붙였을까요? AI 시대가 도래하기 전에도, 검색창에 내가 원하는 정보를 입력했을 때 사실과 다른 내용들도 많이 나왔었죠. 이런 현상에 대해 조금 고찰해 볼 수 있는 칼럼을 하나 추천드립니다. AI의 발전이 너무 빠르다 보니 이제는 이런 고민이 더욱 필요로 해졌어요.

--

GEN AI로 기업들이 해결하려고 했던 것

잠시 이야기가 새서 다시 돌아오자면요, 기업들은 방대히 쌓은 데이터를 바탕으로 자동화 할수 있는 영역들을 찾기 시작했습니다. 유저가 생성한 정보를 바탕으로 답을 내놓았던 것들을 먼저 살펴 보았어요. 예를 들어 리뷰 데이터를 통해 추천AI를 개발한다던지, CS문의로 들어온 내용을 바탕으로 답을 빠르게 해줄 수 있는 챗봇을 개발한다던지, 코딩에 대한 질문이 들어오면 올바른 해결책을 찾아주는 AI라던지요.

그런데 이 때 할루시네이션이 발생했을 때 치명적인 경우가 있습니다. 고객에게 잘못된 사실을 알려줌으로서 서비스 이용에 나쁜 영향을 줄 때입니다. 구체적인 사례가 궁금하시나요?

국내 빅테크 기업들이 마주한 문제와 해결책

지난 26일(목)에 Micorsoft에서 주최한 Generative AI Roadshow가 있었습니다. 로드쇼에서 배달의 민족, 쏘카, 야놀자, 두나무, 토스와 같은 빅테크기업들이 마주한 할루시네이션 문제와 해결책에 대해 공유하였는데요. 구체적인 내용이 궁금하시다면 10X AI 클럽장 혜림님께서 쓰신 메이커로그를 확인해보세요!

이상 스타 덕후 디스콰이엇 최현종이었습니다:)