PlayTorch: 모바일 기기에서 AI를?

AI는 가늠하기 어려울 만큼 거대한 잠재력을 지닌 기술이지만, 인디 개발자가 손대기는 다소 껄끄러운 것도 사실입니다.

우선, 혼자서 제품을 뚝딱 만들수 있는 소위 풀스택 개발자의 스택에도 AI는 빠져 있는 경우가 많구요(저도 그렇습니다). 서비스에 AI를 적용하면 운영비가 급격히 늘어나는데, 이또한 큰 부담이 될 수 있습니다.

만약 AI에 대한 깊은 지식없이도 적용할 수 있는 방법이 있다면 어떨까요? 또한 서버가 아닌 모바일 기기에서 직접 추론하게 만든다면, 그 비싼 AI 추론 비용이 아예 0이 되어버립니다.

오늘 소개드릴 PlayTorch는 모바일 기기에서 AI를 적용할 수 있도록 도와줍니다. 페이스북에서 개발했으며, 역시 페이스북에서 만든 React Native용 라이브러리입니다.

튜토리얼엔 이미지 분류, 번역, 스타일 변환(사진을 만화로 바꿔줍니다), 오브젝트 감지 등의 예제가 있습다. 또한, 임의의 PyTorch ScriptModule을 실행시킬 수 있는 기능도 (당연히) 제공합니다. 특히, AI 추론을 할때 데이터를 전처리하는 과정이 필요한데, 이 과정을 PlayTorch에서 제공하는 기능으로 간단히 처리할 수 있습니다.

저는 PlayTorch의 예제들을 보며 모바일 기기의 GPU 성능으로도 생각보다 멋진 기능들을 만들수 있다는 점에 놀랐습니다. 이 글을 보고 계신 분 중에서도 그동안 모바일 기기의 성능을 저처럼 과소평가하셨던 분들이 계실 것 같습니다.

물론 ChatGPT나 Stable Diffusion 등의 거대한 모델과 비교하면 굉장히 작고 귀여운 수준이지만, 이런 모델들도 사용자의 기기에서 바로 돌릴수 있게 되면 새로운 가능성을 열어줄 수 있습니다. 아이디어로 승부하는 인디 개발자에겐 특히 매력적인 기술이라고 생각합니다.

비슷한 목적의 라이브러리로 구글에서 만든 ML Kit도 한번 살펴보시길 바랍니다.

React Native 라이브러리인 PlayTorch에 비해, 네이티브 코드 두벌을 직접 작성해줘야해서 사용성은 떨어집니다. 또한 Crop, Rotate, Normalize 등의 기능이 없어서 직접 구현해야 하는 애로사항이 있습니다(제가 해봤는데 만만치 않습니다).

대신 Tensorflow Lite 모델을 돌릴수 있다는 것은 장점입니다. 아무래도 지금까지 좀더 많이 보급된 모바일 AI 플랫폼이기 때문에 모델을 구하는 것도 좀더 쉽습니다.