AutoEncoder: 이미지 압축 및 노이즈 제거

AutoEncoderAutoEncoder는 Encoder를 통해 정보를 압축하고, Decoder를 통해 정보를 복원한다. 예를 들어, 28 x 28 흑백 이미지가 있다고 해보자. 이미지는 총 784개의 정보를 가진다. 만약 이미지를 64개의 정보로 압축할 수 있다면 어떨까?Encoder는 Linear layer를 이용해 784개의 정보를 64개로 압축한다. 압축된 정보는 latent variable라고 하며, $z$로 표기한다.nn.Linear(784, 64)Decoder는 64개로 압축된 latent variable을 다시 원본인 784개 정보로 복원한다.nn.Linear(64, 784) 왜 사용할까?정보를 다시 원본으로 복원시킬 거라면 왜 사용할까? Decoder가 원본보다 더 나은 형태로 복원시킬 ..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 1. 25.

ONNX: Pytorch를 다른 플랫폼에서

최근 tensorflow로 학습한 모델인 .pb 파일을 OpenCV에서 실행해 보려 했다. 그런데 지속적으로 문제가 발생했다. 결론은 플랫폼 간 호환이 완벽하지 않기 때문이었다. 해결책으로 ONNX로 모델을 저장하고 불러오라는 답변이 있었다. 본 글은 Pytorch를 중심으로 ONNX 사용 방법에 대해 알아본다. OpenCV 문제를 해결한 코드는 마지막에 링크로 첨부되어 있다.ONNX란ONNX는 Open Neural Network eXchange의 약자로, 플랫폼 간 충돌을 줄일 수 있도록 만들어진 오픈소스 프로젝트이다. 예를 들어, tensorflow로 학습한 모델은 tensorflow 위에서 사용해야 한다. 하지만 학습한 모델을 다른 플랫폼에서 사용해야 하는 상황이 생긴다. 이때 ONNX를 이용한다...

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 1. 15.

SVD를 활용한 이미지 압축: 특이값 분해

SVD: Singular Vector Decomposition에 대해 다룬다. 각 수식이 어떤 의미를 가지고, 이미지 압축에 어떻게 사용되는지 설명한다. 본 글을 이해하기 위해 아래 개념을 이해하고 있어야 한다.Vector: 크기와 방향을 가지는 양으로, 2차원 공간의 벡터는 $\vec{v}=\begin{bmatrix}u_1 & u_2\end{bmatrix}$와 같이 표현한다. 본문에서는 $v$ 형태로 표기한다.Inversed matrix: $A$에 대한 역행렬로 $A^{-1}$로 표기하며, $A^{-1}A=I$라는 특징을 가진다.Orthogonal matrix: 모든 column 벡터가 직교하는 행렬로, $AA^T=A^TA=I$라는 특징을 가진다. 동시에 $A^T=A^{-1}$이다.Diagonal ma..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 1. 8.

이미지 내 객체 경계 검출: Edge Detection

엣지(edge) 검출은 객체의 경계를 찾는 방법으로 객체 판별 전처리 과정으로 사용한다. 본 글은 대표적인 엣지(이하 경계) 검출에 필요한 수학적 배경과 알고리즘에 대해 설명한다.미분과 변화량경계 검출의 핵심은 변화를 찾는 것이다. 객체와 배경은 밝기 차이가 있을 것이라고 가정한다. 밝기 변화가 일정 수준을 넘어가면 경계로 예측한다. 이미지가 복잡하면 잘못 검출될 가능성도 있지만 합리적인 아이디어라고 볼 수 있다.그렇다면 변화를 정의해야 한다. 수학에서 변화율은 미분으로 정의한다. 연속 함수 $f(x)$에 대해 미분은 아래와 같다.$$f'(x) = \cfrac{df}{dx}=\lim_{\bigtriangleup x \to 0}\cfrac{f(x+\bigtriangleup x)-f(x)}{\bigtrian..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 1. 5.

Transformer: Attention Is All You Need

Attention Is All You Need The dominant sequence transduction models are based on complex recurrent or convolutional neural networks in an encoder-decoder configuration. The best performing models also connect the encoder and decoder through an attention mechanism. We propose a new arxiv.org 본 글은 "Attention is All You Need" 논문을 번역 및 분석했다. 일부 문장은 맥락에 따라 의역되었으며, 명확한 이해를 위해 부분적으로 설명을 추가했다. 주요 용어는 정확..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2024. 4. 10.

객체 인식 살펴보기: R-CNN 시리즈

들어가기 전 Object Detection은 이미지에서 객체 위치를 찾고, 객체 클래스를 분류하는 문제를 말한다. 객체가 위치한 영역을 표시한 박스를 bounding box라고 하며, 줄여서 bbox라고 부른다. bbox는 좌측 상단 좌표 & 가로/세로 길이로 나타낼 수 있다. 이렇게 객체가 위치한 부분을 RoI, Region of Interest라고 한다. bbox를 찾는 대표적인 방법으로 Sliding window와 Selective search가 있다. Sliding window는 고정 크기의 박스를 계속 움직여가며 객체 위치를 찾는다. 모든 영역을 탐색하면 윈도우 크기를 변경해 가며 같은 작업을 반복한다. 윈도우 안에 객체가 있으면 1, 없으면 0이 나온다. Selective search는 색상,..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2024. 4. 7.