PARD 인공지능 스터디 2차 회고

PARD 기획 1기 정훈 님과 함께 시작하게 된 PARD 인공지능 스터디는 2차에도 알찬 내용으로 즐겁게 마무리할 수 있었습니다😊😊. 기존에는 스터디원 6명 전원이 발표를 해서 짧게 대화를 나누는 형식이었다면, 이번에는 1주당 3명씩 발표를 맡도록 변경하였고, 더 깊은 대화와 발표를 진행할 수 있었습니다.

이번에는 초대형 AI 모델, 수식과 인공지능, 또 테슬라 미래전략 및 NPU에 대해 발표가 진행되었고 짧은 시간 동안 다양한 대화를 나눌 수 있었습니다🙂

👇각자 준비한 발표 내용의 요약 및 느낀 점은 아래에 기록 해놓았습니다 :)👇

주제 1. 초대형 AI 모델 최적화의 챌린지 - 최성찬

<요약>

• LLM Inference는 비싸고 비효율적이다. 그러나 그것을 감수할만큼의 가치를 창출하고 있으며, 우리 옆에서 현실화된 몇 안되는 AI 모델이다.
• LLM Inference 를 위한 최선의 방법은 HBM등을 장착한 A100/MM-H100이다. 그러나 Scale-up이 힘들다(HBM 수급, Power, 가격, 수요 등의 이유로)
• 이를 해결할 출구는 모델 압축 기술이 있고, 이를 위해 Quantization / Pruninng 등이 많이 연고되고 있다.

ㅡ

성찬님은 “LLM Inference 관련해서만 해도 AI언어모델, 경량화 기법, 시스템 소프트웨어 최적화, GPU, 하드웨어 등 광범위한 주제의 내용을 알아야 하는데, 이 많은 범위를 어떻게 다 잘 알고 공부할 수 있는가?”, “ChatGPT는 어느날 짠하고 발표된 기술일까?” 등의 질문을 남겨주셨습니다. 인공지능은 여러 분야와 결합되어서 우리 앞에 나타났을 때, 놀라운 가치를 창출합니다. 그래서 광범위한 인공지능 공부는 끝이 없고, 또 혼자 하기는 불가능한 것 같습니다ㅎㅎ. Pard AI 스터디가 인공지능을 공부하는 스터디원들이 효율적으로 인공지능에 대해 알아갈 수 있도록 도움이 되길 희망합니다!

주제2. 수식과 머신러닝

<요약>

머신러닝은 컴퓨터가 이해할 수 있는 언어로 표현된 데이터와 모델로 구성된다. 코드는 수식들로 구성되어있는데, 여기서 수식은 저마다의 철학을 담고 있고, 어떠한 상황 속에서 어떠한 행위를 해내고 싶은 인간의 욕망이 투영된 것이다.

인공지능 연구자들은 기존의 수식들에 담긴 욕망들을 이해하고, 읽고 활용하는 문해력을 키운 뒤 관심있는 분야의 문제를 해결하는데 도구로서 인공지능을 사용한다.

ㅡ

정훈 님은 수리통계학 전공답게 수학을 인간의 ‘욕망’이 반영된 철학으로 해석하였습니다. 수식을 이해한다는 것은 욕망을 이해하는 것과 같은 일이라고 해석한 것이 매우 인상 깊었습니다. 우리 눈에 보이는 인공지능이 어떤 수식으로 진행되는지 기초적인 부분을 알 수 있어서 유익한 시간이었습니다😃😃

주제3. 테슬라의 미래전략과 NPU

<요약>

테슬라의 기존 비전은 ‘지속 가능한 에너지로의 전환을 통한 친환경 에너지 사회’이다. 테슬라는 화석 연로 대신 재생 에너지로 전기를 만들고, 저장하고, 유통하겠다는 비전을 가지고 있으며 ‘전기차를 파는 에너지회사’라는 점에서 타 에너지 회사 대비 경쟁력을 가지고 있다. 테슬라는 이런 경쟁력을 살려 개인이 태양열을 통한 발전을 가능하게 하고, Energy Storage System을 통한 에너지 보관과 베터리 제작을 통한 물량 확보의 전략을 발표했으며 “사람들이 태양 에너지를 발전, 사용, 저장, 거래하는 길목을 차지하겠다”라는 비전을 보여줬다. 더불어 자율주행 서비스에 맞는 알고리즘, 데이터 인프라, 하드웨어 칩의 AI 풀스택을 통한 최적화 전략을 밝혔다.

NPU는 AI알고리즘 특유의 패턴에 특화한 반도체를 말하며 GPU의 단점을 개선시킬 수 있는 가격과 효율성으로 기업들이 많은 기대를 걸고 있는 반도체이다. Training 단계에서는 쿠다 API기반의 복잡한 소프트웨어가 여전히 필요하지만(엔비디아 GPU, CUDA 생태계) 추론 및 실제 사용과 관련있는 단계에서 NPU의 도입이 필요하다고 여겨진다.

ㅡ

테슬라의 에너지 사업 전략 가능성에 대해 나누었고, 아직은 가능성이 의심되지만 기대되는 발전을 일으킬 테슬라를 지켜보기로 했습니다😆 NVIDIA GPU 가격 감당이 어려움에도 AI 기업이 GPU를 사용하는 이유에 대해 2️⃣가지 상반되는 의견이 나왔습니다. 1) 쿠다 기반의 개발자 생태계를 포기할 만큼의 니즈가 없기 때문. 2) GPU가 뛰어난 성능을 갖고 있기 때문에 쿠다 기능이 사용되고 있는 것, 결국 GPU의 뛰어난 성능 때문.

인간과 인공지능의 직접적인 인터랙션을 위해 꼭 필요한 반도체에 대해 조금 더 깊은 이해를 할 수 있었던 시간이었습니다!!