본문 바로가기

딥러닝관련94

seq2seq, attention 정리 최근에 transformer 관련된 이야기가 많이 나와 한 번 정리해보고자 한다. Transformer를 알기 위해서는 그 전에 Attention 메커니즘이 무엇인지 알아야 한다. (computer vision 관련 분야가 메인인데 자연어까지 봐야하다니.. 세상에 공부해야 할 것들이 너무 많다) Attention을 보기 전에 sequence-to-sequence(seq2seq)를 봐야 한다. (seq2seq -> attention -> transformer 이렇게 발전되어 오는 듯 하다) Sequence-to-Sequence 번역기에서 대표적으로 사용된다고 함. seq2seq 모델 기반 번역기가 있다고 해보자. 그 번역기는 I am a student 문장 입력으로부터 프랑스어로 번역한 결과가 나온다. 위.. 2021. 11. 8.
선형(linear) vs 비선형(non-linear) 공부하다가 선형 비선형 얘기가 자주 나와 어렴풋이 알고 있던 걸 정리해보고자 한다. 이름에서도 알 수 있듯이 line 즉, 선형적이라는 것은 선과 관련 있다. 이는 직선처럼 똑바른 도형, 또는 그와 비슷한 성질을 갖는 대상을 뜻한다. 이러한 성질을 갖고 있는 변환에 대하여 쓰는 용어 함수의 경우, 어떠한 함수가 진행하는 모양이 '직선'이라는 의미로도 사용. 선형은 어느 정도 예측이 가능 선형성(linearity)에 대한 정의는 다음와 같음 ex), 1차 함수의 경우 --> 원점을 지날 경우에 선형성을 가진다. f(x) = 2x라고 가정하면 f(1+2) = f(1) + f(2) = 6이 성립하지만 f(x) = 2x + 1 이라고 가정하면 f(1) + f(2) = 8 f(3) = .. 2021. 11. 5.
Object detection 정리 (1) (feat, object detection? , 1 stage detector, 2 stage detector) Recognition : 대상이 무엇인지 식별하는 것 Detection : 대상이 어디있는지 찾는 것 일반적인 image classification task에서는 가장 두드러진 object에 해당하는 단일 category로 이미지를 분류한다. 그러나 일반적인 환경에서는, 보통 복잡하고 여러 object들이 있는 사진들이 있으며, 이를 image classification model로 label을 할당하는 것은 까다롭고 불확실 할 수 있다. 따라서, object detection model은 단일 image안에서 여러 관련 object를 식별(what)하는데 더 초점을 맞추고 있다. 또한 object의 위치가 제공된다는 점(where)에서 image classification model보다 더 나은 이점을.. 2021. 11. 3.
Detectron2 (2) Standard datasets 학습 2021.10.19 - [딥러닝관련/Detection] - MMdetection(1) 설치 및 Demo 실행 - (1) MMdetection(1) 설치 및 Demo 실행 - (1) MMdetection MMdetection은 openMMlab이라고 The CUHK Multimedia Lab에서 제공하는 Open Source Project의 프로젝트 중 하나이다. (https://mmlab.ie.cuhk.edu.hk/) 아래 사이트에 보면 MMDetection 말고도 다른.. better-tomorrow.tistory.com 위 환경 설정 및 데모에 이어 COCO, Pascal VOC 등 학습을 진행해보고자 한다. 데이터 구조는 아래를 참고하여 다운 받아 구성한다. https://detectron2.rea.. 2021. 10. 29.

티스토리툴바