K-Fold Cross Validation: overfitting 해결하기

문제 상황모델의 Training loss는 잘 수렴하지만 Validation loss가 크게 요동친다. 눈 감고 무시하기에는 너무 큰 문제다. 그래프를 통해 모델이 Overfit 되었다고 예측할 수 있다. Overfit 되었을 때 여러 방법을 시도해 볼 수 있다.학습 파라미터 조정 (Learning rate, Dropout rate, weight decay 등)데이터 증강 (또는 추가 수집)데이터를 늘리는 것이 가장 효과적이지만 현실적으로 쉽지 않다. 이때 시도해 볼 수 있는 방법이 K-Fold Cross Validation이다. (이하 교차 검증)Cross Validation교차 검증은 데이터를 K개로 쪼갠 뒤, 번갈아가며 Training set과 Validation set으로 사용한다.Subset으로..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 3. 2.

autocast: Mixed Precision

Mixed PrecisionPytorch는 기본적으로 모델 가중치를 32-bit float를 사용한다. 모델에 입력하기 전 .float()를 사용하는 것도 이 때문이다. 그런데 Mixed Precision은 필요에 따라 16-bit float를 섞어 사용한다. 이러한 방식은 여러 장점이 있다.32-bit가 아닌 16-bit를 사용해 GPU 메모리 사용량을 줄인다.학습 속도가 빨라진다.학습 성능이 비슷하거나 약간 향상된다. (NVIDIA)물론 16-bit는 32-bit보다 표현할 수 있는 범위가 좁아 정밀도가 떨어진다. 따라서 값이 underflow/overflow 되지 않도록 scaling 해야 한다. pytorch는 위 과정을 아주 쉽게 적용할 수 있다.autocastfrom torch import a..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 3. 1.

Pytorch 가이드 (자주 보는 에러)

Pytorch를 사용하면 항상 비슷한 에러를 다루게 된다. 본 글은 pytorch를 사용하며 헷갈렸던 내용을 모아 봤다.데이터 & 레이블 타입보통 학습할 때 데이터(이미지, 텍스트 등)와 이에 대응하는 레이블(클래스)을 사용한다.데이터 →  FloatTensor레이블 → LongTensordataset = dataset.float()label = label.long()레이어는 주로 FloatTensor 타입 가중치를 가진다. 따라서 연산을 위해 같은 타입으로 통일해야 한다. 예를 들어, 데이터가 정수형일 경우 오류가 발생한다.레이블은 loss를 계산할 때 사용한다. 이때 loss 함수가 LongTensor를 사용하기 때문에 long으로 바꾸지 않으면 오류가 발생한다.CUDA & CPUtorch에서는 같은..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 2. 25.

Pytorch Warmup + Scheduler

딥러닝 모델 학습에서 학습률은 아주 중요하다. 하지만 학습 단계에 따라 최적의 학습률은 계속해서 달라진다. 따라서 scheduler를 사용해 자동을 학습률을 조정하기도 한다. 논문을 읽다 보면 아래와 같은 방법을 쓰기도 한다.N번째 iteration까지 Linear Warm-upLoss가 수렴하지 않을 때, 학습률을 10으로 나눔Pytorch는 위 기능을 기본으로 제공하지 않기 때문에 직접 구현해 사용해야 한다.참고로, warmup은 학습 초기에 학습률을 서서히 증가시키는 방법이다. 초기에 가중치가 급격하게 변하는 현상을 방지한다.class WarmupScheduler: """Warmup learning rate and dynamically adjusts learning rate based on t..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 2. 21.

Image Segmentation with FCN

이미지 segmentation에 대해 다루며, CNN을 활용한 FCN(Fullly Convolutional Network)을 중심으로 소개한다. FCN은 논문 "Fully Convolutional Networks for Semantic Segmentation"에서 소개되었다.Image Segmentation이미지 segmentation은 픽셀 단위로 객체 클래스를 분류하는 문제를 말한다. 이는 각 픽셀마다 이미지 분류 문제를 푸는 것과 같다. c개의 레이블이 있다면 배경(0)을 하나의 레이블로 두고 총 c+1개의 레이블로 분류하는 문제가 된다.기존의 CNN classification 모델은 2차원 feature map을 1차원으로 압축해 결과를 출력한다. 만약 2차원 정보를 유지한 채로 분류를 진행한다면..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 2. 8.

ViTransformer: An Image is Worth 16x16 Words

논문: arXiv공식 구현: Pytorch-vision분석 코드: Github본문에 L000으로 적힌 링크는 줄번호로, 클릭하면 Pytorch에서 어떻게 구현되어 있는지 확인할 수 있다.AbstractTransformer는 자연어 처리 분야에서 활발히 사용되고 있지만, 비전(vision) 문제에 적용된 경우는 제한적이다. 우리는 이미지 조각을 순수한 transformer에 입력해 분류 문제를 풀었다. Vision Transformer(ViT)는 CNN과 비교해 SOTA를 달성했으며, 더 적은 연산 비용이 든다.IntroductionSelf-attention 구조의 transformer가 자연어 처리에서 좋은 성능을 보이고 있지만, 비전 분야는 여전히 CNN이 우세하다. 이로 인해 ResNet 기반의 모델..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 2. 6.