소개
로컬 AI와 개발 장비를 숫자로 따져보는 사이트입니다. 계산기와 실측 데이터를 만듭니다.
무엇을 다루나
로컬에서 LLM을 돌리려면 어떤 하드웨어가 필요한지, 그 하드웨어를 실제로 쓰면 비용이 얼마나 드는지를 다룹니다. 그래픽카드 VRAM과 컨텍스트 길이의 관계, 전력 소비와 실제 전기요금, 파워서플라이 용량 산정 같은 것들입니다.
이런 정보는 대부분 게이밍 성능 기준으로 쓰여 있습니다. "이 카드로 32B 모델이 몇 토큰 컨텍스트까지 올라가는가" 같은 질문에는 답하지 않습니다. 그 빈자리를 메우려고 만든 사이트입니다.
어떻게 만드나
계산기는 추정치를 그럴듯하게 보여주는 대신, 계산 근거를 함께 적습니다. VRAM 계산은 각 모델의 config.json에 있는 레이어 수·KV 헤드 수·head_dim 실제 값을 씁니다. 전기요금은 한국전력 요금표의 누진 구조를 그대로 구현합니다. 파워 용량은 CPU의 PL2/PPT 최대 전력을 쓰고, GPU 트랜지언트 스파이크를 따로 표시합니다.
수치의 출처와 기준 시점을 각 페이지에 명시합니다. 요금표처럼 개정되는 값은 근거 링크를 함께 답니다. 틀린 곳을 발견하면 알려주세요. 고치고 어디를 고쳤는지 밝힙니다.
수익
이 사이트는 광고와 제휴 링크로 운영됩니다. 제휴 링크가 포함된 글에는 해당 사실을 글 안에 명시합니다. 제휴 여부가 계산 결과나 추천 내용을 바꾸지는 않습니다. 계산기는 특정 제품을 팔기 위한 것이 아니라, 필요한 사양을 정확히 알기 위한 것입니다.
문의
오류 제보, 다뤘으면 하는 주제, 협업 문의는 문의 페이지를 참고하세요.