딥러닝 7

[ML입문] week2 - 회귀 알고리즘과 모델 규제, 분류 알고리즘(1)

1. K - 최근접 이웃 회귀 회귀 (Regression) : 임의의 숫자(target)를 예측하는 것 => 타깃을 따로 만들 필요 없이, 훈련 데이터의 특성 중 하나가 타깃값이 된다 [문제] 농어의 길이와 무게를 학습하여, 농어의 길이를 통해 무게를 예측해보자. 1) 데이터 준비 from sklearn.model_selection import train_test_split train_input, test_input, train_target, test_target = train_test_split(perch_length, perch_weight, random_state=42) K - 최근접 이웃 분류 때와 마찬가지로 사이킷런의 train_test_split을 이용해 훈련 세트와 테스트 세트를 나눈다. 이..

[DeepSleep] 논문 리뷰 스터디 8주차

🚀 8주차 발표 내용 📝 GPT-1 Improving Language Understanding by Generative Pre-Training 🙋‍♀️ 희 논문 링크 : https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf 주제 : GPT-1, Generative 사전 학습을 통한 언어 이해 개선 목표 : 약간의 fine-tuning만으로 다양한 task에 잘 전이하는, 범용적인(universal) representations 학습하기 구조 : 기존 Transformer의 decoder를 12개 쌓은 구조 (decoder에서 Multi-Head Attention 제외) Unsupervised..

[DeepSleep] 논문 리뷰 스터디 3주차

📚 3주차 발표 내용 💡 하람 주제 : Layer Normalization 링크 : https://arxiv.org/pdf/1607.06450.pdf 배경 Batch Normalization을 이용하면 feed-forward neural network 에서 학습시간을 줄일 수 있다. 하지만, Batch Normalization의 효과는 batch size 에 따라 달라지고, Batch Normalization을 RNN에 적용하는 방법이 명확하지 않다. 내용 BN은 "각 feature의 평균과 분산"을 구해서 batch에 있는 "각 feature를 정규화" 한다. 반면 LN은 "각 input의 feature들에 대한 평균과 분산"을 구해서 batch에 있는 "각 input을 정규화" 한다. 효과 Batch..

[DeepSleep] 딥러닝 스터디 3주차

✏️ Summary 3주차 스터디 : RNN 개념 + 모델 구현 (tensorflow / pytorch) 🔗 스터디 자료 부스트코스 파이토치로 시작하는 딥러닝 기초 부스트코스 텐서플로우로 시작하는 딥러닝 기초 📖 3주차 스터디 📌 RNN 이란? 순환 신경망(Recurrent neural network, RNN)은 인공 신경망의 한 종류로, 유닛간의 연결이 순환적 구조를 갖는 특징을 갖고 있다. 이러한 구조는 시변적 동적 특징을 모델링 할 수 있도록 신경망 내부에 상태를 저장할 수 있게 해주므로, 순방향 신경망과 달리 내부의 메모리를 이용해 시퀀스 형태의 입력을 처리할 수 있다. - 위키백과 은닉층의 노드에서 활성화 함수를 통해 나온 결과값을 출력층 방향으로도 보내면서, 다시 은닉층 노드의 다음 계산의 입..

[DeepSleep] 딥러닝 스터디 2주차

💡 Summary 2주차 스터디 : CNN 개념 + 모델 구현 (tensorflow / pytorch) 💡 스터디 자료 부스트코스 파이토치로 시작하는 딥러닝 기초 부스트코스 텐서플로우로 시작하는 딥러닝 기초 💡 2주차 스터디 내용 1️⃣ CNN 이란? CNN(Convolutional neural network) : 합성곱 신경망(Convolutional neural network, CNN)은 시각적 영상을 분석하는 데 사용되는 다층의 피드-포워드적인 인공신경망의 한 종류이다. 딥 러닝에서 심층 신경망으로 분류되며, 시각적 영상 분석에 주로 적용된다. - 위키백과 기본 용어 Convolution : 이미지 위에서 stride 값 만큼 filter(kernel)을 이동시키면서 겹쳐지는 부분의 각 원소의 값을..

[DeepSleep] 딥러닝 스터디 1주차

🙋🏻‍♀️ Summary 1주차 스터디 : Basic ML / DNN 개념 + 모델 구현 (tensorflow / pytorch) 📑 스터디 자료 부스트코스 파이토치로 시작하는 딥러닝 기초 부스트코스 텐서플로우로 시작하는 딥러닝 기초 🌟 1주차 스터디 ❤️ 딥러닝이란? 딥러닝(deep learning, 심층학습)은 머신러닝을 구현하는 알고리즘의 일종이다. 머신러닝을 구현하는 알고리즘에는 로지스틱 회귀, 서포트 벡터 머신(Suppor vector machine, SVM), 결정 트리, 랜덤 포레스트, 신경망(neural networks) 등이 있다. 딥러닝은 그 중 신경망의 한 종류에 해당한다. - wikidocs 신경망이란 인간의 뇌가 가지는 생물학적 특성 중 뉴런의 연결 구조를 가리키며, 이러한 신경망..

2. 주제 및 목표 선정 & 기능명세

솔루션 챌린지 목표 3 : 건강 및 웰빙 모든 연령대의 건강한 삶을 보장하고 모두의 웰빙을 증진하고자 함. 시스템 설계 - 프론트엔드 : React Native - 딥러닝 : Fast.ai - 백엔드 : Spring boot, Flask - 서버 : GCP (Cloud SQL) 공부방법 - 딥러닝 : (1월 2~3주차) 논문으로 짚어보는 딥러닝의 맥 + fast.ai - 백엔드 : (1월 4주차) Spring Boot를 이용한 RESTful Web Services 개발 기존 서비스 참고 및 분석 - '밥타임'(재료입력, 식단짜기, 장보기 등)과 차별성 고안 -> 영양소분석 - '다이어트 카메라 AI'(식단기록, 영양분석) & 'Calorie Mama AI' 와 차별성 고안 -> 커뮤니티 기능 명세 주제 ..