Bonsai 27B는 iPhone에서 실행할 수 있도록 설계된 27B급 AI 모델이다.
Bonsai 27B는 PrismML에 의해 개발된 AI 모델로, 기존의 27B 모델을 iPhone의 메모리 한도에 맞춰 최적화하였다. 이 모델은 4비트로도 18GB의 데이터 용량을 요구하지만, Bonsai는 5.9GB로 줄여 고품질 AI 기능을 제공합니다. 또한 이 모델은 추론, 도구 호출, 비전 및 컴퓨터 사용을 지원하여 다양한 활용이 가능합니다.
Bonsai 27B is a 27B AI model designed to run on iPhones.
Bonsai 27B is an AI model developed by PrismML, optimized to fit within the memory limits of iPhones. While the existing 27B models require 18GB even at 4 bits, Bonsai reduces this to 5.9GB for high-quality functionalities. It supports inference, tool invocation, vision, and computer usage, making it versatile for various applications.