Recent posts

Python-Pytube,Selenium

10 minute read

Data 수집 DeepLearning의 Model을 Trainning 하기 위하여 많은 Data수집을 필요로한다. 이번 Post는 이러한 Data수집을 편하게 하는 Moduel 중 Pytube 와 Selenium의 작동 방식과 예제를 살펴보자. 먼저 여러가지의 기능을 넣어서 사용...

seq2seq

20 minute read

RNN을 활용한 문장 생성 이전 Post LSTM에서는 2가지의 Model을 생성하였다. LSTM Model(Rnnlm) 개선된 LSTM Model(Better Rnnlm): Layer Depth 증가, Dropout, 가중치 공유 위의 2 Model과 seq2s...

LSTM

16 minute read

Long Term Dependency RNN의 장점 중 하나는 이전 정보를 현재 작업으로 연결할 수 있다는 점 이다.(Memory 사용) 하지만 이러한 장점으로 인한 단점이 생기게 되는 것이 Long Term Dependency이다. 첫번째의 예를 생각해보자. 우리가 현재 시...

RNN

15 minute read

언어모델 RNN을 알아보기 전에 언어모델 에 대하여 먼저 알아보자. 언어모델 이란 단어 나열에 확률을 부여하여 특정한 단어의 시퀀스에 대해서, 그 시퀀스가 일어날 가능성이 어느 정도인지를 확률로 평하하는 것 이다. 이러한 언어모델을 수식으로 살펴보면 아래와 같다. \(w_1, ...

Fast word2vec

12 minute read

Fast word2vec 지난 POST에서 word2vec 의 종류중 하나인 CBOW를 살펴보게 되면 아래 그림과 같다. 위의 그림의 구조는 큰 2가지 문제점을 가지고 있다. 예를들어 어휘수가 위의 그림과 같이 100만개라고 한다면 다음의 과정에서 상당한 메모리와 계산량이 필...