쪼꼬만 컴공 노트

CUDA 환경에서 RoRA 파인튜닝 전체 매뉴얼(Mistral 7B를 모델로 함)

CUDA 환경에서 Mistral 7B 모델을 RoRA 기반으로 파인튜닝하기 위한 한눈에 보기 쉬운 A-Z 매뉴얼✅는 필수 단계, ⭐는 선택 단계입니다.📘 Mistral 7B + RoRA 파인튜닝 전체 매뉴얼 (Windows + CUDA 환경)순번 단계 명령어 파일 설명✅ 1Python 설치python.org/downloads설치 시 "Add to PATH" 체크✅ 2CUDA 드라이버 설치CUDA 다운로드CUDA 11.8 이상 권장✅ 3PowerShell 열기관리자 권한으로 실행아래 단계 수..

여기서는 클래식한 Full Fine-tuning의 전체 단계를 A부터 Z까지 정리해드립니다.이 방식은 사전학습 모델 전체의 파라미터를 모두 업데이트하는 방식이며, 강력한 GPU를 사용할 때 특히 효과적입니다.🧭 Full Fine-tuning의 전체 단계 요약1. 목적 설정 및 모델 선정2. 데이터 수집 및 전처리3. 사전학습 모델 로딩4. 입력 데이터 토크나이징5. 데이터셋 포맷 변환6. 학습 하이퍼파라미터 설정7. Trainer 또는 커스텀 학습 루프 구성8. 전체 모델 학습 (Fine-tuning)9. 검증 및 평가10. 저장 및 서빙 (API or WebUI)🔍 각 단계 상세 설명1. 🎯 목적 설정 및 모델 선정Task: 분류 / 요약 / 번역 / QA / 챗봇모델 선택:텍스트: BERT, G..

LoRA (Low-Rank Adaptation) 파인튜닝은 대형 언어 모델(LLM)을 효율적으로 미세 조정(fine-tuning)하는 혁신적인 기법입니다.🧠 LoRA 파인튜닝이란?기존 모델의 모든 가중치를 업데이트하지 않고, 일부 선택된 층만 저차원(low-rank) 행렬을 추가하여 학습하는 방법입니다.📦 기본 개념전통적 Fine-tuning은 전체 모델 파라미터를 수정하므로:✅ 정확도는 좋지만❌ 계산 자원 많이 소모❌ 저장 공간 커짐 (수십 GB 이상)🟢 반면 LoRA는:기존 가중치는 동결(freeze)작은 행렬(A와 B, low-rank 구조)을 추가로 학습📊 LoRA 구조 그림🚀 장점 요약항목LoRA 방식파라미터 수수천~수만 개 수준 (전체의 0.1%~1%)VRAM 사용훨씬 적음 (RTX ..

파인튜닝(Fine-tuning)은 기존에 학습된 사전학습 모델(pretrained model)에 특정 목적에 맞는 데이터셋을 추가 학습시켜서, 원하는 작업에 특화된 모델을 만드는 과정입니다.🧠 쉽게 말하면…사전학습된 똑똑한 모델에게,“이제 너는 번역기 역할을 해봐”, “성경을 요약해봐” 라고추가로 학습시키는 과정입니다.🔁 파인튜닝 vs 사전학습항목사전학습 (Pretraining)파인튜닝 (Fine-tuning)데이터웹 전반, 위키, 논문 등 수많은 텍스트특정 목적 데이터 (요약, 번역 등)목적일반적인 언어 이해특정 태스크에 특화비용매우 큼 (수천만~수억 개 샘플)상대적으로 적음 (수천~수만 개 샘플)시간수일~수주수분~수시간 🎯 파인튜닝의 목적뉴스 요약 전용 모델법률 문서 번역기성경 요약기고객문의 분..