[Week 8] GAN장공장공장장

Exploration

11. 뉴스 요약봇 만들기

딥러닝을 통해 텍스트를 요약하는 방식엔 두 가지가 있다. 하나는 원문의 단어를 추출해서 조합하는 Extractive 방식이고, 다른 하나는 연관 단어를 생성하여 새로운 문장을 만들어내는 Abstractive 방식이다. 자연어 처리에 많이 쓰이는 seq2seq과 Attention Mechanism을 활용하여 Abstractive 요약을 해보니, 키워드를 잘 찾아낸 것도 있지만 원문에 없는 엉뚱한 내용을 만들어낸 경우도 있었다. 어쨌든 요즘 같이 정보가 넘쳐나는 세상에 텍스트 요약은 꼭 필요한 기술인 것 같다.

 

12. 인공지능으로 세상에 없던 새로운 패션 만들기

이번 노드에서는 생성 모델링(Generative Modeling)이라는 흥미로운 기법에 대해 배웠다. 그림을 실제 사진처럼 바꿔주는 Pix2Pix, 다른 스타일의 이미지로 변환과 역변환이 가능한 CycleGAN, 이미지의 스타일을 변환하는 Neural Style Transfer 등 재미있는 기술들이 많았다. 그 중에서도 GAN(Generative Adversarial Network)은 생성자(Generator)와 판별자(Discriminator)가 마치 도둑과 경찰처럼 서로 경쟁을 하면서 성능을 끌어올린다는 아이디어가 신선했다. GAN을 사용하여 Fashion MNIST로 의류 이미지도 생성해보고 CIFAR10 이미지 생성도 해봤는데, CIFAR10은 아직 생겨먹다 만(...) 물체처럼 결과물이 좋지 않아 개선방안을 열심히 고민해봐야겠다.

---

Fundamental

17. 데이터는 어디서 가져오지?

이번 시간에는 인터넷 통신의 원리와 인터넷 상의 데이터를 가져올 수 있는 API, 크롤링에 대해 배웠다. 크롤러에 대해서 많이 들어보긴 했지만 실제로 인터넷이 데이터를 어떻게 주고받는지, 그리고 웹 상에 있는 데이터를 어떻게 수집하는지 이해하는 것은 쉽지 않았다. 그래도 크롤러를 잘만 활용하면 굉장히 편리한 도구가 될 수 있겠다는 생각이 들었다.

 

18. 시계열 데이터 Anomaly Detection

이번 노드에서는 시계열 데이터에서 이상치를 찾아내는 여러 가지 기법에 대해 배웠다. 1차 해커톤 때 미래의 판매량을 예측하기 위해 사용했던 데이터가 시계열 데이터였는데, 그때는 시계열 데이터를 다뤄본 적이 없어서 Kaggle에 올라온 노트북들을 참고했었다. Kaggle 고수들의 노트북에 등장한 복잡한 그래프들이 무엇을 의미하는지 이번에 배운 내용을 토대로 조금은 이해할 수 있게 되었다. 특히 Time Series Decomposition이나 Auto-Encoder는 나중에 시계열 데이터를 또 다루게 된다면 다시 연습해보고 싶다.

 

19. 딥러닝 들여다보기

그동안 tensorflow와 keras를 통해 모델링을 하고 훈련시키는 작업을 해왔지만, 모델이 어떤 원리로 작동하고 내부에서 어떤 연산이 일어나는지 자세히 본 적은 없었다. 이번 노드에서는 딥러닝 프레임워크를 사용하지 않고 그 과정을 Numpy로 구현하여 Neural Network 내부를 자세히 들여다보는 시간을 가졌다. 그동안 Justin Johnson의 강의에서 배운 Activation Function, Loss Function, SGD, Backpropagation 등의 개념이 실제 모델 학습 과정에서 어떻게 적용되는지 알아볼 수 있었다.

 

---

한 주를 마무리하며

무심코 달력을 보다가 2월이 한 주밖에 남지 않았다는 것을 보고 놀랐다. 분명 지난 달 이맘 때도 시간이 너무 빨리 간다고 생각했던 것 같은데, 이번 달도 정신 없이 흘러간 것 같다. 시간을 0.5배속으로 늦출 수 있는 기술이 생겼으면 좋겠다. 그건 무리고 이런 생각 할 시간에 복습이나 해야겠다.