Kuma는 PyTorch 모델을 WebGPU 용 실행 가능한 패키지로 컴파일하는 프로젝트입니다.
Kuma는 PyTorch 모델을 독립 실행형 패키지로 컴파일하여 WebGPU에서 직접 실행할 수 있도록 하는 프로젝트입니다. 이 패키지는 그래프, 이진 가중치, 백엔드 커널(WGSL), 런타임 메타데이터를 포함합니다. 이 프로젝트는 Python이나 서버 의존성 없이 브라우저에서 머신러닝 모델을 실행할 수 있게 해주며, 네트워크 및 과학적 ML에서의 효용성을 목표로 하고 있습니다. 현재는 아키텍처 피드백과 유사 시스템 연구를 요청하고 있습니다.
Kuma compiles PyTorch models into self-contained packages executable via WebGPU.
Kuma is a project that compiles exported PyTorch models into self-contained packages that can be directly executed in the browser using WebGPU. The package includes the model graph, binary weights, backend kernels (WGSL), and runtime metadata, enabling execution without Python or server dependencies. The goal is to solve deployment challenges for operator networks and scientific ML, and the author is seeking architectural feedback and insights on similar systems. Currently, they have simple demos and are open to suggestions for the approach.