ONNX: Pytorch를 다른 플랫폼에서

최근 tensorflow로 학습한 모델인 .pb 파일을 OpenCV에서 실행해 보려 했다. 그런데 지속적으로 문제가 발생했다. 결론은 플랫폼 간 호환이 완벽하지 않기 때문이었다. 해결책으로 ONNX로 모델을 저장하고 불러오라는 답변이 있었다. 본 글은 Pytorch를 중심으로 ONNX 사용 방법에 대해 알아본다. OpenCV 문제를 해결한 코드는 마지막에 링크로 첨부되어 있다.ONNX란ONNX는 Open Neural Network eXchange의 약자로, 플랫폼 간 충돌을 줄일 수 있도록 만들어진 오픈소스 프로젝트이다. 예를 들어, tensorflow로 학습한 모델은 tensorflow 위에서 사용해야 한다. 하지만 학습한 모델을 다른 플랫폼에서 사용해야 하는 상황이 생긴다. 이때 ONNX를 이용한다...

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 1. 15.

SVD를 활용한 이미지 압축: 특이값 분해

SVD: Singular Vector Decomposition에 대해 다룬다. 각 수식이 어떤 의미를 가지고, 이미지 압축에 어떻게 사용되는지 설명한다. 본 글을 이해하기 위해 아래 개념을 이해하고 있어야 한다.Vector: 크기와 방향을 가지는 양으로, 2차원 공간의 벡터는 $\vec{v}=\begin{bmatrix}u_1 & u_2\end{bmatrix}$와 같이 표현한다. 본문에서는 $v$ 형태로 표기한다.Inversed matrix: $A$에 대한 역행렬로 $A^{-1}$로 표기하며, $A^{-1}A=I$라는 특징을 가진다.Orthogonal matrix: 모든 column 벡터가 직교하는 행렬로, $AA^T=A^TA=I$라는 특징을 가진다. 동시에 $A^T=A^{-1}$이다.Diagonal ma..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 1. 8.

이미지 내 객체 경계 검출: Edge Detection

엣지(edge) 검출은 객체의 경계를 찾는 방법으로 객체 판별 전처리 과정으로 사용한다. 본 글은 대표적인 엣지(이하 경계) 검출에 필요한 수학적 배경과 알고리즘에 대해 설명한다.미분과 변화량경계 검출의 핵심은 변화를 찾는 것이다. 객체와 배경은 밝기 차이가 있을 것이라고 가정한다. 밝기 변화가 일정 수준을 넘어가면 경계로 예측한다. 이미지가 복잡하면 잘못 검출될 가능성도 있지만 합리적인 아이디어라고 볼 수 있다.그렇다면 변화를 정의해야 한다. 수학에서 변화율은 미분으로 정의한다. 연속 함수 $f(x)$에 대해 미분은 아래와 같다.$$f'(x) = \cfrac{df}{dx}=\lim_{\bigtriangleup x \to 0}\cfrac{f(x+\bigtriangleup x)-f(x)}{\bigtrian..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2025. 1. 5.

Transformer: Attention Is All You Need

Attention Is All You Need The dominant sequence transduction models are based on complex recurrent or convolutional neural networks in an encoder-decoder configuration. The best performing models also connect the encoder and decoder through an attention mechanism. We propose a new arxiv.org 본 글은 "Attention is All You Need" 논문을 번역 및 분석했다. 일부 문장은 맥락에 따라 의역되었으며, 명확한 이해를 위해 부분적으로 설명을 추가했다. 주요 용어는 정확..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2024. 4. 10.

객체 인식 살펴보기: R-CNN 시리즈

들어가기 전 Object Detection은 이미지에서 객체 위치를 찾고, 객체 클래스를 분류하는 문제를 말한다. 객체가 위치한 영역을 표시한 박스를 bounding box라고 하며, 줄여서 bbox라고 부른다. bbox는 좌측 상단 좌표 & 가로/세로 길이로 나타낼 수 있다. 이렇게 객체가 위치한 부분을 RoI, Region of Interest라고 한다. bbox를 찾는 대표적인 방법으로 Sliding window와 Selective search가 있다. Sliding window는 고정 크기의 박스를 계속 움직여가며 객체 위치를 찾는다. 모든 영역을 탐색하면 윈도우 크기를 변경해 가며 같은 작업을 반복한다. 윈도우 안에 객체가 있으면 1, 없으면 0이 나온다. Selective search는 색상,..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2024. 4. 7.

어텐션: Attention Mechanism

Attention을 이해하기 위해 seq2seq에 대한 이해가 필요하다. Encoder/Decoder에 대해 모른다면 아래 글을 참고하자. https://denev6.tistory.com/entry/Encoder-Decoder RNN 개념과 Encoder-Decoder 구조 순환 모델 이해하기 RNN: Recurrent Neural Network은 순환 신경망으로 순서가 있는 sequence 데이터를 학습하는 데 사용한다. 단일 RNN 층을 보면 은닉층($h$)이 순환하며 이전 상태의 정보를 가져간다. 즉, denev6.tistory.com Attention이란? Attention을 대략적으로 설명하면 아래와 같다. Encoder를 거쳐 맥락을 담고 있는 벡터를 계산한다. 벡터와 Decoder 출력 사이..

• format_list_bulleted 머신러닝 & 딥러닝
• · 2024. 3. 31.