쪼꼬만 컴공 노트

CUDA 환경에서 Mistral 7B 모델을 RoRA 기반으로 파인튜닝하기 위한 한눈에 보기 쉬운 A-Z 매뉴얼✅는 필수 단계, ⭐는 선택 단계입니다.📘 Mistral 7B + RoRA 파인튜닝 전체 매뉴얼 (Windows + CUDA 환경)순번 단계 명령어 파일 설명✅ 1Python 설치python.org/downloads설치 시 "Add to PATH" 체크✅ 2CUDA 드라이버 설치CUDA 다운로드CUDA 11.8 이상 권장✅ 3PowerShell 열기관리자 권한으로 실행아래 단계 수..

여기서는 클래식한 Full Fine-tuning의 전체 단계를 A부터 Z까지 정리해드립니다.이 방식은 사전학습 모델 전체의 파라미터를 모두 업데이트하는 방식이며, 강력한 GPU를 사용할 때 특히 효과적입니다.🧭 Full Fine-tuning의 전체 단계 요약1. 목적 설정 및 모델 선정2. 데이터 수집 및 전처리3. 사전학습 모델 로딩4. 입력 데이터 토크나이징5. 데이터셋 포맷 변환6. 학습 하이퍼파라미터 설정7. Trainer 또는 커스텀 학습 루프 구성8. 전체 모델 학습 (Fine-tuning)9. 검증 및 평가10. 저장 및 서빙 (API or WebUI)🔍 각 단계 상세 설명1. 🎯 목적 설정 및 모델 선정Task: 분류 / 요약 / 번역 / QA / 챗봇모델 선택:텍스트: BERT, G..

LoRA (Low-Rank Adaptation) 파인튜닝은 대형 언어 모델(LLM)을 효율적으로 미세 조정(fine-tuning)하는 혁신적인 기법입니다.🧠 LoRA 파인튜닝이란?기존 모델의 모든 가중치를 업데이트하지 않고, 일부 선택된 층만 저차원(low-rank) 행렬을 추가하여 학습하는 방법입니다.📦 기본 개념전통적 Fine-tuning은 전체 모델 파라미터를 수정하므로:✅ 정확도는 좋지만❌ 계산 자원 많이 소모❌ 저장 공간 커짐 (수십 GB 이상)🟢 반면 LoRA는:기존 가중치는 동결(freeze)작은 행렬(A와 B, low-rank 구조)을 추가로 학습📊 LoRA 구조 그림🚀 장점 요약항목LoRA 방식파라미터 수수천~수만 개 수준 (전체의 0.1%~1%)VRAM 사용훨씬 적음 (RTX ..

파인튜닝(Fine-tuning)은 기존에 학습된 사전학습 모델(pretrained model)에 특정 목적에 맞는 데이터셋을 추가 학습시켜서, 원하는 작업에 특화된 모델을 만드는 과정입니다.🧠 쉽게 말하면…사전학습된 똑똑한 모델에게,“이제 너는 번역기 역할을 해봐”, “성경을 요약해봐” 라고추가로 학습시키는 과정입니다.🔁 파인튜닝 vs 사전학습항목사전학습 (Pretraining)파인튜닝 (Fine-tuning)데이터웹 전반, 위키, 논문 등 수많은 텍스트특정 목적 데이터 (요약, 번역 등)목적일반적인 언어 이해특정 태스크에 특화비용매우 큼 (수천만~수억 개 샘플)상대적으로 적음 (수천~수만 개 샘플)시간수일~수주수분~수시간 🎯 파인튜닝의 목적뉴스 요약 전용 모델법률 문서 번역기성경 요약기고객문의 분..

✅ 데스크탑용 NVIDIA RTX 그래픽카드 성능 비교표 (2025년 기준)모델아키텍처VRAM레이트레이싱DLSS게이밍 해상도출시 연도주요 용도RTX 3050Ampere (8nm)8GB GDDR6기본 지원DLSS 2.x1080p2022보급형 게이밍RTX 3060Ampere (8nm)12GB GDDR6지원DLSS 2.x1080p~1440p2021가성비 게이밍/작업용RTX 4060Ada (5nm)8GB GDDR6더 나은 성능DLSS 3.x1080p~1440p2023최신 게임 고주사율RTX 4060 TiAda (5nm)8~16GB우수DLSS 3.x1440p2023고급 게이밍, 영상 편집RTX 4070Ada (5nm)12GB GDDR6X매우 우수DLSS 3.x1440p~4K2023크리에이터, AAA 게임RTX 4..

/// TCP의 3 Way Hand Shake ///현대의 디지털 세상은 눈에 보이지 않는 수많은 신호와 데이터 흐름 속에서 유지되고 있다. 웹사이트를 열고, 이메일을 보내며, 화상회의에 접속할 때마다 우리는 이 거대한 흐름 속에 참여한다. 그러나 그 속에서 우리가 거의 인식하지 못하는 존재가 있다. 그것은 바로 TCP(Transmission Control Protocol), 데이터 전송의 정밀한 설계자다.1. 인터넷의 보이지 않는 손TCP는 단순한 기술적 약어가 아니다. 그것은 인터넷 통신의 신뢰성을 보장하는 핵심 프로토콜이며, 정보의 질서와 안정성을 확보하는 ‘보이지 않는 손’이다. 웹에서 우리가 클릭하는 수많은 링크들은 결국 TCP를 통해 연결되고, 그 위에 지어진 신뢰의 토대 위에서 정보는 우리에..

포트란 무엇인가요? | 네트워크와 컴퓨터 포트 완전 정리네트워크 포트와 하드웨어 포트의 차이, 예시, 기능을 초보자도 쉽게 이해할 수 있도록 설명합니다.1. 포트의 의미와 종류컴퓨터와 인터넷에서 포트(port)는 데이터나 장치가 연결되는 통로입니다. 이 용어는 다음 두 가지 경우에 사용됩니다:네트워크 포트 (Network Port): 논리적인 데이터 입출력 채널하드웨어 포트 (Hardware Port): 물리적인 장치 연결 단자2. 네트워크 포트란?네트워크 포트는 컴퓨터가 여러 프로그램을 동시에 운영할 때 각 프로그램의 통신 경로를 구분하기 위해 사용됩니다.📌 자주 사용하는 포트 번호포트 80: HTTP (웹 접속)포트 443: HTTPS (보안 웹 접속)포트 22: SSH (원격 접속)포트 25: S..

라우팅(Routing)은 컴퓨터 네트워크에서 데이터 패킷이 최적의 경로를 따라 목적지에 도달하도록 하는 과정을 의미합니다. 라우팅은 네트워크의 핵심 기능 중 하나이며, 특히 인터넷과 같은 대규모 네트워크에서는 필수적입니다. 다음은 라우팅에 대한 전문적인 지식의 체계적인 정리입니다.1. 라우팅의 기본 개념용어 설명라우터(Router)네트워크 간에 패킷을 전달하는 장치라우팅 테이블목적지 IP에 따라 어떤 경로로 패킷을 전달할지 결정하는 테이블호스트 라우팅특정 호스트에 대한 경로 지정네트워크 라우팅전체 네트워크 범위에 대한 경로 지정2. 라우팅 방식의 분류2.1 정적 라우팅 (Static Routing)관리자가 수동으로 경로를 설정장점: 단순하고 보안성이 높음단점: 대규모 네트워크에서는 관리가 복잡2.2 동적..

💻 컴퓨터? 이제 안 써도 된다니까?!안녕! 요즘에 너희 집에 있는 커다란 컴퓨터 자주 써? 사실 요즘은 컴퓨터 없어도 할 수 있는 게 엄청 많아졌어.진짜야. 이제는 스마트폰이나 태블릿만 있어도 웬만한 건 다 할 수 있거든!1. 📱 스마트폰 하나면 다 된다!요즘 스마트폰 진짜 대단해.사진, 영상 편집은 기본이고글쓰기나 발표 자료 만들기도 되고친구랑 협업해서 같이 공부도 할 수 있어!심지어 핸드폰에 키보드랑 화면만 연결하면 컴퓨터처럼 쓸 수도 있어.2. ☁️ 클라우드가 뭐냐고? 엄청 편해!클라우드는 쉽게 말하면 인터넷에 저장해놓고 어디서든 꺼내 쓸 수 있는 공간이야.학교 과제나 사진을 구글 드라이브에 저장해놓으면집 컴퓨터 없어도 학교 컴퓨터나 친구 핸드폰으로 열 수 있어!심지어 파워포인트나 워드 같은 ..

🔥 콜론(:) 하나로 끝내는 프롬프팅 전략ChatGPT나 다양한 AI를 쓸 때,프롬프트 작성이 어렵다고 느끼셨나요?복잡한 설명 없이,콜론 하나(:) 만으로 명확한 AI 명령어를 만들 수 있습니다! ✅ 기본 구조작업지시어: 내용 🧠 예시로 배우는 콜론 프롬프팅🔠 번역번역: The king was thrown from the throne.👉 결과: 왕좌에서 쫓겨난 왕📚 요약요약: 인공지능은 최근 몇 년 사이 자연어 처리와 이미지 생성 등에서 급속한 성장을 보였다...👉 결과: AI는 자연어 처리와 이미지 생성 분야에서 빠르게 발전하고 있다.📊 분석분석: 자율주행차는 사고를 줄일 수 있지만, 법적 책임 문제는 여전히 논란이 된다.👉 결과: 기술적 장점과 함께 윤리적·법적 쟁점이 공존함. 🛠 다..