TRANSFORMER1 Transformer 정리 2021.11.08 - [딥러닝관련/기초 이론] - seq2seq, attention 정리 seq2seq, attention 정리 최근에 transformer 관련된 이야기가 많이 나와 한 번 정리해보고자 한다. Transformer를 알기 위해서는 그 전에 Attention 메커니즘이 무엇인지 알아야 한다. (computer vision 관련 분야가 메인인데 자연어까 better-tomorrow.tistory.com 위 글에 이어 transformer를 정리해보고자 한다. (내가 아는 트랜스포머는 마이클베이의 트랜스포....) Transformer가 나온 논문은 아래와 같다고 한다. https://arxiv.org/abs/1706.03762 Attention Is All You Need The domi.. 2021. 11. 9. 이전 1 다음