whichllm


사용자의 GPU, CPU, RAM 사양을 분석하여 하드웨어에서 가장 효율적으로 구동되는 로컬 LLM을 추천해 주는 오픈소스 CLI 도구입니다.

whichllm 상세 소개

[whichllm 개요]
- 사용자의 하드웨어 사양을 자동으로 감지하고, Hugging Face의 최신 벤치마크 데이터를 기반으로 현재 시스템에서 가장 우수한 성능을 낼 수 있는 로컬 LLM 모델을 추천하고 랭킹을 제공합니다.

[자동 하드웨어 감지 및 분석] — [사용자 환경 맞춤형 최적화]
- NVIDIA GPU, AMD GPU, Apple Silicon, CPU 등 다양한 컴퓨팅 환경을 즉시 식별합니다.
- 단순히 모델 크기만 비교하는 것이 아니라 VRAM 요구량, 처리 속도(t/s), 벤치마크 품질을 종합적으로 평가합니다.

[스마트 랭킹 및 벤치마크] — [데이터 기반의 객관적 추천]
- LiveBench, Artificial Analysis, Chatbot Arena ELO 등 공신력 있는 최신 벤치마크 데이터를 실시간으로 반영합니다.
- 모델의 최신성을 고려하여 구버전 모델이 상위권을 차지하지 않도록 하는 '최신성 인지 랭킹(Recency-aware ranking)' 방식을 채택하고 있습니다.

[제품 사양 및 유틸리티] — [사용자 편의 기능 상세]
- 즉시 대화 실행: 'whichllm run' 명령어로 모델 다운로드부터 채팅 세션 시작까지 한 번에 완료합니다.
- 코드 스니펫 생성: 'whichllm snippet' 명령어로 특정 모델을 구동하기 위한 Python 예제 코드를 즉시 출력합니다.
- 하드웨어 시뮬레이션: 'whichllm --gpu' 옵션을 사용하여 현재 보유하지 않은 하드웨어에서 모델이 어떻게 구동될지 미리 시뮬레이션할 수 있습니다.
- 스크립트 친화적: '--json' 옵션을 제공하여 파이프라인 연동이나 데이터 추출이 용이합니다.

[출시 및 라이선스 정보]
- MIT 라이선스로 배포되는 완전 무료 오픈소스 프로젝트입니다.
- Python 환경(pip, uv) 및 Homebrew를 통해 쉽게 설치하여 사용할 수 있습니다.

핵심 기능

  • 하드웨어 자동 감지(GPU/CPU/RAM)를 통한 모델 최적화
  • 벤치마크 및 속도 기반의 지능형 LLM 랭킹 제공
  • 명령어 한 줄로 로컬 LLM 즉시 채팅 세션 시작
  • GPU 가상 시뮬레이션을 통한 하드웨어 구매 전 성능 테스트
  • 파이프라인 연동을 위한 JSON 출력 및 코드 스니펫 생성

기본 정보

whichllm와 비슷한 AI 서비스

  • Piko — 네이버 플레이스 URL을 입력하면 AI가 리뷰와 매장 정보를 분석하여 소상공인을 위한 브랜드 홈페이지를 즉시 자동으로 생성해 주는 서비스입니다.
  • Viral Pulse — AI 기반의 YouTube Shorts 트렌드 분석 및 콘텐츠 제작 올인원 플랫폼으로, 실시간 데이터 분석을 통해 조회수를 극대화하는 전략을 제공합니다.
  • 속담1997 타자연습 - 김타자 — 추억의 도스용 폰트와 감성을 살려 웹에서 무료로 즐길 수 있는 레트로 한글 및 영어 타자 연습 서비스입니다.
  • MicroRegalo — 설치나 복잡한 준비 없이 웹 브라우저에서 바로 사용할 수 있는 키보드 연습, 자장가, 전국 문화행사 나들이 정보 등의 유용한 유틸리티 웹앱 모음입니다.

공식 사이트 방문하기