whichllm
사용자의 GPU, CPU, RAM 사양을 분석하여 하드웨어에서 가장 효율적으로 구동되는 로컬 LLM을 추천해 주는 오픈소스 CLI 도구입니다.
whichllm 상세 소개
[whichllm 개요]
- 사용자의 하드웨어 사양을 자동으로 감지하고, Hugging Face의 최신 벤치마크 데이터를 기반으로 현재 시스템에서 가장 우수한 성능을 낼 수 있는 로컬 LLM 모델을 추천하고 랭킹을 제공합니다.
[자동 하드웨어 감지 및 분석] — [사용자 환경 맞춤형 최적화]
- NVIDIA GPU, AMD GPU, Apple Silicon, CPU 등 다양한 컴퓨팅 환경을 즉시 식별합니다.
- 단순히 모델 크기만 비교하는 것이 아니라 VRAM 요구량, 처리 속도(t/s), 벤치마크 품질을 종합적으로 평가합니다.
[스마트 랭킹 및 벤치마크] — [데이터 기반의 객관적 추천]
- LiveBench, Artificial Analysis, Chatbot Arena ELO 등 공신력 있는 최신 벤치마크 데이터를 실시간으로 반영합니다.
- 모델의 최신성을 고려하여 구버전 모델이 상위권을 차지하지 않도록 하는 '최신성 인지 랭킹(Recency-aware ranking)' 방식을 채택하고 있습니다.
[제품 사양 및 유틸리티] — [사용자 편의 기능 상세]
- 즉시 대화 실행: 'whichllm run' 명령어로 모델 다운로드부터 채팅 세션 시작까지 한 번에 완료합니다.
- 코드 스니펫 생성: 'whichllm snippet' 명령어로 특정 모델을 구동하기 위한 Python 예제 코드를 즉시 출력합니다.
- 하드웨어 시뮬레이션: 'whichllm --gpu' 옵션을 사용하여 현재 보유하지 않은 하드웨어에서 모델이 어떻게 구동될지 미리 시뮬레이션할 수 있습니다.
- 스크립트 친화적: '--json' 옵션을 제공하여 파이프라인 연동이나 데이터 추출이 용이합니다.
[출시 및 라이선스 정보]
- MIT 라이선스로 배포되는 완전 무료 오픈소스 프로젝트입니다.
- Python 환경(pip, uv) 및 Homebrew를 통해 쉽게 설치하여 사용할 수 있습니다.
- 사용자의 하드웨어 사양을 자동으로 감지하고, Hugging Face의 최신 벤치마크 데이터를 기반으로 현재 시스템에서 가장 우수한 성능을 낼 수 있는 로컬 LLM 모델을 추천하고 랭킹을 제공합니다.
[자동 하드웨어 감지 및 분석] — [사용자 환경 맞춤형 최적화]
- NVIDIA GPU, AMD GPU, Apple Silicon, CPU 등 다양한 컴퓨팅 환경을 즉시 식별합니다.
- 단순히 모델 크기만 비교하는 것이 아니라 VRAM 요구량, 처리 속도(t/s), 벤치마크 품질을 종합적으로 평가합니다.
[스마트 랭킹 및 벤치마크] — [데이터 기반의 객관적 추천]
- LiveBench, Artificial Analysis, Chatbot Arena ELO 등 공신력 있는 최신 벤치마크 데이터를 실시간으로 반영합니다.
- 모델의 최신성을 고려하여 구버전 모델이 상위권을 차지하지 않도록 하는 '최신성 인지 랭킹(Recency-aware ranking)' 방식을 채택하고 있습니다.
[제품 사양 및 유틸리티] — [사용자 편의 기능 상세]
- 즉시 대화 실행: 'whichllm run' 명령어로 모델 다운로드부터 채팅 세션 시작까지 한 번에 완료합니다.
- 코드 스니펫 생성: 'whichllm snippet' 명령어로 특정 모델을 구동하기 위한 Python 예제 코드를 즉시 출력합니다.
- 하드웨어 시뮬레이션: 'whichllm --gpu' 옵션을 사용하여 현재 보유하지 않은 하드웨어에서 모델이 어떻게 구동될지 미리 시뮬레이션할 수 있습니다.
- 스크립트 친화적: '--json' 옵션을 제공하여 파이프라인 연동이나 데이터 추출이 용이합니다.
[출시 및 라이선스 정보]
- MIT 라이선스로 배포되는 완전 무료 오픈소스 프로젝트입니다.
- Python 환경(pip, uv) 및 Homebrew를 통해 쉽게 설치하여 사용할 수 있습니다.
핵심 기능
- 하드웨어 자동 감지(GPU/CPU/RAM)를 통한 모델 최적화
- 벤치마크 및 속도 기반의 지능형 LLM 랭킹 제공
- 명령어 한 줄로 로컬 LLM 즉시 채팅 세션 시작
- GPU 가상 시뮬레이션을 통한 하드웨어 구매 전 성능 테스트
- 파이프라인 연동을 위한 JSON 출력 및 코드 스니펫 생성
기본 정보
- 가격 정책: 오픈소스
- 카테고리: 도구 / 유틸리티, AI 프로덕트, 텍스트 / 언어, 코드, 검색 / 리서치 / 학술 검색, 개발 / 엔지니어링, CLI / 터미널 도구, 로컬 실행 (오프라인 가능), 오픈소스
- 태그: 로컬LLM, 벤치마크, CLI도구, 오픈소스, 하드웨어최적화, AI개발도구, HuggingFace, VRAM
- 공식 사이트: https://github.com/Andyyyy64/whichllm/
- 정보 최종 업데이트: 2026. 7. 15.
whichllm와 비슷한 AI 서비스
- Piko — 네이버 플레이스 URL을 입력하면 AI가 리뷰와 매장 정보를 분석하여 소상공인을 위한 브랜드 홈페이지를 즉시 자동으로 생성해 주는 서비스입니다.
- Viral Pulse — AI 기반의 YouTube Shorts 트렌드 분석 및 콘텐츠 제작 올인원 플랫폼으로, 실시간 데이터 분석을 통해 조회수를 극대화하는 전략을 제공합니다.
- 속담1997 타자연습 - 김타자 — 추억의 도스용 폰트와 감성을 살려 웹에서 무료로 즐길 수 있는 레트로 한글 및 영어 타자 연습 서비스입니다.
- MicroRegalo — 설치나 복잡한 준비 없이 웹 브라우저에서 바로 사용할 수 있는 키보드 연습, 자장가, 전국 문화행사 나들이 정보 등의 유용한 유틸리티 웹앱 모음입니다.