Deep Learning 썸네일형 리스트형 비지도 학습 - 오토인코더(Autoencoder) @markdown # 비지도 학습 - 오토인코더(Autoencoder) ## 비지도 학습(Unsupervised Learning)____- 데이터에 대한 레이블(Label) 명시적인 정답이 주어지지 않은 상태에서 컴퓨터를 학습시키는 방법론- 특정 Input에 대하여 올바른 정답이 없는 데이터 집합이 주어지는 경우의 학습- 데이터안에서 어떤 관계를 찾아내는데 목적이 있음 ## 비지도 학습 방법____- 데이터의 형태, 분포로 학습을 진행- 비지도 학습은 데이터의 숨겨진 특징이나 구조를 발견하는데 사용됨- 예) 주어진 입력과 X와 비슷한 입력들의 군집을 추정해내는 것- 종류 : Clustering, K means, Expectation maximization ## 오토인코더(Autoencoder)____- .. 더보기 TensorFlow - RNN 기초 @markdown# RNN(Recurrent Neural Network)____- Sequence 데이터를 처리하는 모델- 현재의 상태가 다음 state에 영향을 미치는 Network으로 RNN의 아웃풋이 다음의 인풋이 된다. - 하나의 네트워크가 여러개 복사된 형태를 띄고 있다. - 음성인식, 언어 모델링, 번역, 이미지 인식 등 여러분야에서 사용된다. 아래의 그림 처럼 다음 state의 값에 입력되어 영향을 미친다.![](https://user-images.githubusercontent.com/12658717/29.. 더보기 TensorFlow - MNIST ReLU, Xavier 초기화, Dropout 적용하여 정확도 높이기 @markdown# MNIST ReLU, Xavier 초기화, Dropout 적용하여 정확도 높이기 ## ReLU 함수 사용____- 기존의 Sigmoid 보단 ReLU를 사용하여 인식률을 높인다.- shape=[512, 512]와 ReLU로 5-Layer를 설계해 Deep하고 Wide한 Neural Network을 구성한다.import tensorflow as tfimport randomimport matplotlib.pyplot as pltfrom tensorflow.examples.tutorials.mnist import input_data mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)learning_rate = 0.001traini.. 더보기 TensorFlow - MNIST 데이터 셋 활용한 손 글씨 인식 모델 구현 @markdown# TensorFlow MNIST 데이터 셋 이용한 손 글씨 인식 학습모델 구현 ## MNIST 손글씨 인식 모델 기본 소스코드____import tensorflow as tfimport randomimport matplotlib.pyplot as pltfrom tensorflow.examples.tutorials.mnist import input_data# one_hot encoding 옵션mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)# 0~9까지 숫자 10개nb_classes = 10X = tf.placeholder(tf.float32, [None, 784])Y = tf.placeholder(tf.float32, [No.. 더보기 TensorFlow - Neural Network XOR 문제 @markdown# XOR 문제 Deep Learning 하기____- XOR 문제는 계산으로는 쉽게 풀리지만, Neural Network으로 학습하여 해결하기엔 어려운 문제- 하나의 unit(logistic regression)으로는 절대로 해결할 수 없던 문제였다.- 해결 방법으로 여러 개의 unit(logistic regression)을 연결하여 구성된 Neural Network으로 XOR 문제를 해결했다. K = tf.sigmoid(tf.matmul(X, W1)+b1)hypothesis = tf.sigmoid(tf.matmul(K, W2)+b2)하나만 이용됐던 sigmoid 함수를 다음 sigmoid의 입력값으로 넣어 Neural Network를 구성하는 방법이다. ## Neural Network.. 더보기 TensorFlow - Learning Rate, Data Preprocessing, Overfitting @markdown# TensorFlow Learning Rate, Data Preprocessing, Overfitting ## Learning Rate____- Gradient Descent 알고리즘의 cost 값(최소값)을 찾아가는 과정에서 다음 step의 point를 얼마나 움직일지 결정하는 것- 여러번 학습한 후 결과에 따라 적절한 learning rate을 정하는 것이 중요하다.- learning rate가 크면 overshooting 발생- overshooting : 경사면에 step이 너무 크다면 학습이 이루어지지 않을 것이고, cost 값이 숫자가 아닌 값이 나타난다.- 너무 작은 learning rate을 지정하면 step이 조금씩 진행이 되면서 곡선의 최저점 즉 cost값을 구하기 전에.. 더보기 TensorFlow - Softmax Regression(2) @markdown# Fancy Softmax Classification ## Animal classification 모델 학습_____- 동물이 가지고 있는 특징(클래스) 데이터를 바탕으로 동물의 종을 예측하는 모델- x_data : 동물이 가지고 있는 특징(클래스) 데이터- y_data : 종 분류 값(실제값) 0~6까지 - cost를 구하는데 `softmax_cross_entropy_with_logits` 함수 사용- y_data를 `one-hot` 데이터로 변형해 사용### One-Hot encoding- 통계학에서 여러 개로 분류할 수 있는 데이터를 범주형 변수라고 한다. - N개의 숫자로 표현된 범주들을 머신러닝에 활용하기 위해 해당하는 칸의 정보를 1로 표시하고 나머지는 0으로 표시하는 방법을.. 더보기 TensorFlow - Softmax Regression(1) @markdown# Softmax Regression____- Logistic Regression은 Binary classification이었다면, Softmax Regression은 Multinomial classification이다.- Multinomial classification 역시 여러 개의 Binary classification으로 구성된 개념이다.- 각각의 독립적인 Binary classification으로 분류하는 것- Sigmoid 함수의 일반화된 형태로, 각 클래스에 대한 확률을 얻을 수 있다.## Softmax Function____ @markdown# Logistic Regression____- 뉴럴 네트워크와 딥러닝에서 중요한 컴포넌트로 `classification` 알고리즘 중 가장 정확도가 높다.- logistic function : 0과 1을 가지는 함수(sigmoid 함수) ## Binary Classification____- 둘 중 하나를 고르는 알고리즘- 기계적으로 학습하기 위해 카테고리를 0과 1로 나타낸다.- 악성 종양 찾기, 주식시장 학습, 스팸 메일 등 다양한 곳에서 사용된다. ## Logistic Hypothesis____- Sigmoid : 0과 1사이의 값만 존재하는 함수 @markdown# Multi Variable Linear Regression(다중 선형회귀)____- 두 개 이상의 독립 변수들과 하나의 종속변수의 관계를 분석하는 기법(단순 회귀의 확장)- 기존의 선형회귀 식에서 `X`가 앞으로 온 것이 특징(행렬 곱셈 시 별도의 처리를 하지 않기 위함)- 보정값 b를 추가해 계산을 한다면 아래와 .. 더보기 이전 1 2 다음