뒤로
Cailyn Yong
Cailyn Yong ·

NVIDIA의 토니 스타크 시대

KakaoTalk_Photo_2024-03-19-07-00-15 001.jpeg

지금 #NVIDIA #GTC 보고 왔는데 영화 한장면 보는 줄 알았어요
토니 스타크가 스타크 엑스포에서 자신의 새로운 슈트 소개하는줄

몇가지 공개한 기술:

1. Blackwell GPU:
- Nvidia가 LLM 학습 속도를 향상시킬 새로운 GPU, Blackwell을 출시함
- 이전 버젼의 Hopper보다는 4배 정도 빠름
- GPT-4-1.8T 파라미터 모델을 90일 안에 2000개의 blackwell 만으로 학습을 완료할 수 있음. 이는 기존에 8000개의 gpu가 필요했던 것보다 4배 정도 빨라진 셈

2. Omniverse Cloud + Apple Vision Pro:

- Omniverse Cloud는 몇년전부터 있었던 metaverse 플랫폼 개발을 지원하는 클라우드 시스템
- Apple Vision Pro에서 이제 이 시스템을 스트리밍 할 수 있다고 함
- 메타버스 + 생성AI라고 생각하면 됨

- LLM을 통해 "차에 타고 있는 것처럼 해줘"라고 하면 3D로 차를 실제로 구현하고 타고 있는 것 같은 느낌을 줌

3. Isaac Receptor:
- 실시간 라이브 지각/시각 능력: 기존에는 pre-trained 데이터에 의존해야 했다면 이제는 실시간으로 사물을 3D로 인식하며 생각할 수 있음
- isaac + LLM 기술 합쳐서 로봇 만듦 (OpenAI Figure AI와 Tesla의 Optimus와 어떻게 경쟁할 것인지 기대됨)

지금 이 시대에 살고 있다는게 너무 설렌다 어떡하지

Robotics랑 GPU CPU 설계부터 다 배우고 싶어졌다

KakaoTalk_Photo_2024-03-19-07-00-16 002.jpeg
10X AI Club 그룹의 글
13

댓글

로그인 후 댓글을 남길 수 있습니다.

이정민
이정민

저는 진짜 대단한 기업이다 싶으면서도 한편으로는 GPU 도 벌써 CPU 처럼 물리적인 장벽에 막힌 것 같다는 생각이 조금 들었습니다. 예를 들어서 현재 GPU 가 training/inference 에 구분되는 칩은 아닌데, 위의 B 모델은 Training 에 강점을 제시하면서도 fp4 에 대한 내용이 갑자기 나왔고요. 또 하나는, 1/4 전력량이라는 숫자를 언뜻 보기는 봤는데, 발표를 제대로 못 봐서 만약 전력까지 절약이 되면 상관이 없지만, 다른 발표 내용에서 엿보기에는 단순히 연산량 늘리기 위해 여러 전력을 많이 소모하는 설계가 이루어진 것은 아닌가 싶은 생각도 있었습니다.

David Bang
David Bang

내년엔 gtc 다같이 참석하시죠 ㅎㅎ

Cailyn Yong
Cailyn Yong

그니까요ㅠㅠㅠㅠ

Doeon Kwon 권도언
Doeon Kwon 권도언

혜림님 메이커로그가 이번 주 뉴스레터에 소개되었어요! https://stib.ee/z1eB

Cailyn Yong
Cailyn Yong

에 ㅎㅎㅎㅎ