뒤로
parameterfreak
parameterfreak ·

작은 모델 하나 때문에 GPU 한 장이 통째로 묶이는 게 신경 쓰였는데, 4개월 미룬 이슈를 이번 주 손댔습니다.

GPU 개수 대신 VRAM 용량을 적으면 한 장에 모델 여러 개가 올라갑니다. 둘로 해봤고 둘 다 응답 옵니다. 격리 없는 클러스터는 메모리 상한으로 때웠습니다.

https://parameterfreak.com/changelog/h-mas/2026-10-11/

HMAS

고비용 GPU 인프라를 하드웨어 기반으로 최적화하여 AI 서빙 비용을 절감하는 플랫폼

1

댓글

로그인 후 댓글을 남길 수 있습니다.

아직 댓글이 없습니다.