LoRA 파인튜닝, 언제 필요하고 어떻게 진행할까

LoRA 파인튜닝은 언제 필요한가요?

프롬프트 개선과 RAG로도 원하는 응답 형식이나 판단 기준이 일관되게 나오지 않을 때 LoRA 파인튜닝을 검토합니다. 범용 LLM은 우리 회사의 내부 용어, 문서 양식, 응대 톤을 모르지만, 이 중 상당 부분은 학습 없이 프롬프트와 검색으로 해결됩니다.

OpenAI의 모델 최적화 가이드도 프롬프트로 먼저 최대한 개선한 뒤, 그래도 부족할 때 파인튜닝을 하라고 권합니다. 일반적인 검토 순서는 다음과 같습니다.

1. 1프롬프트 개선: 지시문, 예시, 출력 형식 지정
2. 2RAG: 사내 문서를 검색해 답변 근거로 제공
3. 3파인튜닝(LoRA): 형식·톤·분류 기준을 모델에 학습
4. 4증류(Distillation): 큰 모델의 출력으로 작은 모델을 학습시켜 비용과 지연 시간을 줄임

LoRA와 QLoRA는 무엇인가요?

LoRA(Low-Rank Adaptation)는 원본 모델의 가중치를 고정하고, 각 레이어에 작은 저랭크 행렬(어댑터)만 추가해 학습하는 방법입니다. 원 논문에서는 GPT-3 175B 기준으로 전체 파인튜닝 대비 학습 파라미터를 약 1만 분의 1, GPU 메모리를 약 3분의 1로 줄였고, 추론 지연은 추가되지 않는다고 보고했습니다.

QLoRA는 원본 모델을 4bit로 양자화한 상태에서 LoRA 어댑터를 학습합니다. 논문에서는 65B 모델을 48GB GPU 1장으로 파인튜닝하면서 16bit 파인튜닝 수준의 성능을 유지했다고 보고했습니다.

모델 크기별 최소 GPU 메모리

아래는 Unsloth 공식 문서의 최소 요구량입니다. 실제로는 시퀀스 길이, 배치 크기에 따라 더 필요합니다.

즉 8B급 모델은 24GB 소비자용 GPU 1장으로 QLoRA 학습이 가능하고, 32B급도 QLoRA라면 단일 데이터센터 GPU로 시작할 수 있습니다.

풀 파인튜닝, LoRA, RAG 중 무엇을 골라야 하나요?

목적이 "지식 추가"인지 "행동 방식 변경"인지에 따라 고르면 됩니다.

핵심 하이퍼파라미터는 어떻게 잡나요?

처음에는 라이브러리 기본값에 가깝게 시작하고, 평가 결과를 보며 조정합니다.

Rank (r)

어댑터 행렬의 차원입니다. 8~64 범위에서 시작하는 경우가 많으며, 학습할 정보가 많을수록 높게 잡습니다. 데이터 양에 비해 rank가 너무 작으면 학습 효율이 떨어집니다.

Alpha (α)

어댑터 출력의 스케일 계수입니다. rank와 같거나 2배로 두는 설정이 흔히 쓰이지만 정답은 없으며, 학습률과 함께 조정합니다.

Target Modules

어텐션 레이어(q_proj, k_proj, v_proj, o_proj)만이 아니라 MLP 레이어(gate_proj, up_proj, down_proj)까지 모든 선형 레이어에 적용하는 것이 권장됩니다. Thinking Machines Lab의 2025년 실험에서는 어텐션에만 적용한 LoRA가 성능이 크게 낮았고, MLP를 포함해 모든 레이어에 적용하면 소·중규모 데이터에서 풀 파인튜닝과 비슷한 성능을 냈습니다.

학습률

같은 실험에서 LoRA의 최적 학습률은 풀 파인튜닝의 약 10배였습니다. 또 LoRA는 배치 크기가 클 때 풀 파인튜닝보다 성능 저하가 컸습니다.

학습 데이터는 얼마나 필요한가요?

필요한 데이터 양은 작업에 따라 크게 다르므로, 소량의 고품질 데이터로 시작해 평가하며 늘리는 것이 원칙입니다. OpenAI 파인튜닝 가이드는 최소 10개부터 학습할 수 있고, 50~100개 예시에서도 개선이 보인다고 안내합니다.

2026년 한국어 파인튜닝용 베이스 모델은 무엇이 있나요?

한국어 성능과 라이선스를 함께 봐야 합니다. 아래는 2026년 10월 기준 각 모델 공식 페이지의 정보입니다.

어떤 도구로 학습하고 서비스하나요?

2026년에는 직접 학습 코드를 짜기보다 검증된 PEFT 도구를 쓰는 것이 일반적입니다.

• Unsloth: 단일 GPU에서 메모리를 적게 쓰며 LoRA·QLoRA를 학습. 모델별 노트북 예제가 많음
• Axolotl: YAML 설정으로 LoRA, 풀 파인튜닝, 다중 GPU 학습을 관리
• Hugging Face TRL + PEFT: SFT, DPO, GRPO 등 학습 방식과 증류(Distillation) 트레이너를 제공
• vLLM: 하나의 베이스 모델에 여러 LoRA 어댑터를 올려 서비스(Multi-LoRA)

비용은 어떻게 구성되나요?

GPU 학습비는 전체 예산에서 작은 편이고, 대부분은 데이터 구축과 평가에 드는 인건비입니다. 예를 들어 2026년 10월 RunPod 요금 페이지 기준 A100 80GB 온디맨드는 시간당 약 $1.2~1.6, RTX 4090은 시간당 약 $0.3~0.7 수준입니다. 8B급 QLoRA 학습은 데이터 규모에 따라 수 시간 단위로 끝나는 경우가 많습니다. 클라우드 GPU 요금은 수시로 바뀌므로 착수 시점에 다시 확인해야 합니다.

비용을 좌우하는 항목은 다음과 같습니다.

• 데이터 구축: 상담 로그·매뉴얼에서 예시 추출, 정제, 현업 담당자 검수
• 평가 체계: 평가 데이터셋 구축, 자동 평가와 사람 검토
• 반복 실험: 하이퍼파라미터와 데이터 조정 횟수
• 서빙 인프라: 자체 GPU 서버 또는 클라우드 GPU 상시 운영비

미라클스튜디오는 요구사항을 확인한 뒤 3영업일 이내에 항목별 견적을 드립니다.

프로젝트는 어떤 순서로 진행하나요?

1. 1목표와 평가 기준 정의: "무엇이 좋아져야 하는가"를 측정 가능한 지표로 먼저 정합니다.
2. 2기준선 측정: 파인튜닝 없이 프롬프트·RAG만으로 평가 데이터에서 점수를 냅니다.
3. 3데이터 구축: 학습용과 평가용을 분리하고 현업 담당자가 검수합니다.
4. 4LoRA 학습: 작은 모델·작은 데이터로 빠르게 돌려 보고 점진적으로 키웁니다.
5. 5평가: 정확도 같은 자동 지표, LLM을 채점자로 쓰는 평가, 현업 담당자의 직접 검토를 함께 봅니다.
6. 6배포와 모니터링: 응답 품질, 오류율, 사용자 피드백을 기록하고 데이터를 보강해 재학습합니다.

결론

LoRA 파인튜닝은 단일 GPU로도 시작할 수 있을 만큼 접근성이 좋아졌지만, 성패는 모델 선택보다 데이터 품질과 평가 체계에서 갈립니다. 지식은 RAG로, 형식과 판단 방식은 LoRA로 나누고, 라이선스를 먼저 확인하는 것이 출발점입니다.

도메인 특화 AI를 검토 중이시면 미라클스튜디오의 30분 무료 상담에서 RAG와 파인튜닝 중 어떤 방식이 맞는지 함께 판단해 드립니다. 납품 후에는 90일 무상 하자 보수를 제공하고, 대금 정산 후 소스코드와 데이터를 모두 넘겨 드립니다.

참고 자료

• LoRA: Low-Rank Adaptation of Large Language Models (arXiv)
• QLoRA: Efficient Finetuning of Quantized LLMs (arXiv)
• LoRA Without Regret (Thinking Machines Lab)
• Unsloth 요구 사양
• OpenAI Supervised fine-tuning 가이드
• Hugging Face TRL 문서
• Qwen3.5-9B 모델 카드
• Gemma 4 발표 (Google)
• A.X 4.0 Light 모델 카드
• Kanana 1.5 8B Instruct 모델 카드
• EXAONE 4.0 32B 모델 카드
• RunPod 요금 안내