Group Study (2020-2021)/Deep Learning

[DeepSleep] 딥러닝 스터디 3주차

hyeowl 2021. 6. 21. 01:11

✏️ Summary 

  • 3주차 스터디 : RNN 개념 + 모델 구현 (tensorflow / pytorch)

🔗 스터디 자료

📖 3주차 스터디

📌 RNN 이란?

순환 신경망(Recurrent neural network, RNN)은 인공 신경망의 한 종류로, 유닛간의 연결이 순환적 구조를 갖는 특징을 갖고 있다. 이러한 구조는 시변적 동적 특징을 모델링 할 수 있도록 신경망 내부에 상태를 저장할 수 있게 해주므로, 순방향 신경망과 달리 내부의 메모리를 이용해 시퀀스 형태의 입력을 처리할 수 있다. - 위키백과

출처: https://medium.com/deeplearningbrasilia/deep-learning-recurrent-neural-networks-f9482a24d010

 

  • 은닉층의 노드에서 활성화 함수를 통해 나온 결과값을 출력층 방향으로도 보내면서, 다시 은닉층 노드의 다음 계산의 입력으로 보내는 특징을 갖고 있음
  • 메모리 셀(RNN 셀): 은닉층에서 활성화 함수를 통해 결과를 내보내는 역할을 하는 노드
  • 은닉 상태(hidden state): 메모리 셀이 출력층 방향으로 또는 다음 시점 t+1의 자신에게 보내는 값

📌 RNN 모델 구현

⚡️ 프로젝트 목표

  • RNN을 설계하여 지난 며칠 동안의 날씨 정보를 기반으로 24시간 이후의 기온을 예측한다.
  • 다양한 속성의 시계열 정보를 활용하기 위해 적절한 전처리 과정을 적용한다.
  • 설계한 모델의 성능을 검증하기 위해 베이스라인 모델을 도입한다.

🐳 앞으로 할 일

  • 딥러닝 스터디 완료
  • 프로젝트나 새로운 스터디 등 앞으로의 방향 세우기