Google DSC Sookmyung

6-1) Softmax Regression: 기본 개념 소개 Logistic Regression H(x) = Wx 리턴 값이 실수이기 때문에 binaray classification에 적합하지 않음 g(z) = sigmoid (logistic) 함수를 통해 1과 0 사이로 값을 압축해서 변형 Multinomial Classification 여러개의 클래스가 존재 a or not a / b or not b / c or not c로 3번의 binary classification로 학습 가능 w를 하나로 합쳐서 하나의 행렬곱으로 만든다. 6-2) Softmax Classifier의 Cost 함수 다중 클래스 분류모델을 만들 때 사용하는 함수이다. Softmax 함수 Softmax 함수는 확률값으로 변환하기 때..

Lec 7. Application & Tips 📖 Learning rate 데이터를 통해 model 생성 시 핵심 요소 Learning rate와 Gradient를 이용해 최적의 학습 모델 값 찾음 (cost가 최소가 되는 지점) Hyper parameter (사용자가 직접 세팅해 주는 값) 중 하나 어떤 optimizer를 통해 적용할지 선언할 때 learning_rate도 함께 지정함 [GradientDescentOptimizer(learning_rate= x.xx)] 적절하지 못한 크기의 learning rate (Step크기)는 최저 값을 얻기 어려움 → 너무 클 경우: overshooting (High) 발생 가능 → 너무 작은 경우: 시간 소요, local minimum에서 멈춤 ∴ 적절한 크..

04 Multi-variable linear regression Hypothesis Cost function Matrix multiplication Hypothesis using matrix 앞 matrix의 열의 개수와 뒤 matrix의 행의 개수가 일치해야 함 Many x instances data의 instance가 많은 경우에도 동일하게 표현 가능 matrix를 쓰는 큰 장점 Hypothesis using matrix (n output) n은 instance의 개수, 2는 결과 값의 개수 이 때 W[?, ?] => [3, 2] WX vs XW Lecture (theory) Implementation (TensorFlow) 행렬 계산이기 때문에 Code import tensorflow as tf i..

스탠포드대학에서 발표한 CNN 강의 영상을 듣고 자료를 정리했습니다. Lecture 3 | Loss Functions and Optimization https://youtu.be/h7iBpEHGVNc Lecture 4 | Introduction to Neural Networks https://youtu.be/d14TUNcbn1k Lecture 3 | Loss Functions and Optimization loss function이란? score에 대해 불만족하는 정도를 정량화 한 것이다. SVM(Support Vetor Machine)의 loss function SVM 기계학습 분야 중 하나로 패턴 인식, 자료 분석을 위한 지도 학습 모델이며, 분류, 회귀분석에 사용 고차원에서 결정경계를 기준으로 데이..

스탠포드대학에서 발표한 CNN 강의 영상을 듣고 자료를 정리했습니다. Lecture 1 | Introduction to Convolutional Neural Networks for Visual Recognition https://youtu.be/vT1JzLTH4G4 Lecture 2 | Image Classification https://youtu.be/OoUX-nOEjG0 Lecture 1 | Introduction to Convolutional Neural Networks for Visual Recognition Computer Vision이란? 컴퓨터 과학의 연구 분야 중 인간이 시각적으로 하는일들을 대행하도록 시스템을 만드는 것이다. Vision의 역사 생물학적 Vision 빅뱅을 시작으로 생물이..

머신러닝의 용어와 개념 인공지능의 한 분야이다. (사람이 학습하듯이 컴퓨터에도 데이터들을 줘서 학습하게 함으로써 새로운 지식을 얻어내게 하는 것) 어떠한 자료나 현상을 바탕으로 프로그램이 학습해서 일을 함 학습에는 2가지 방법이 있다. 정해진 Data (supervised learning) Data 스스로 학습 (unsupervised learning) 1. Supervised Learnig은 컴퓨터가 입력값과 그에 따른 출력 값이 있는 data set을 이용하여 주어진 입력에 맞는 출력을 찾는 학습 방법이다. 입력된 문제에 대한 답을 예측하는 데 사용된다. ex) 상품 추천, 질병 진단 등 학습 훈련 데이터(training data)가 필요하다. 예로, 개와 고양이 사진을 구분하는 것을 들 수 있다. ..