whichllm - 내 하드웨어에서 실제로 돌아가고 최고 성능을 내는 로컬 LLM 찾기

로컬 LLM을 최적화하여 추천하는 CLI 도구, whichllm.

whichllm은 사용자의 하드웨어에 맞는 로컬 LLM을 자동 추천하는 CLI 도구입니다. 이 도구는 파라미터 수가 아닌 실측 벤치마크를 기반으로 랭킹을 제공합니다. 또한, GPU, CPU, RAM을 자동으로 감지하여 HuggingFace 모델 중 상위 모델을 제안합니다. 다양한 하드웨어(NVIDIA, AMD, Apple Silicon 등)를 지원합니다.

whichllm recommends optimized local LLMs based on user hardware via CLI.

whichllm is a CLI tool that automatically recommends local LLMs optimized for user hardware. It ranks options based on actual benchmarks rather than just the parameter count. The tool detects GPU, CPU, and RAM automatically and suggests top models from HuggingFace that match the system requirements. It supports various hardware such as NVIDIA, AMD, and Apple Silicon.