Tensorflow step by step

이번에는 층을 늘여서 Regression을 해 보겠습니다. 층을 늘이기 위해서 마지막에 Wx+b 층 전 까지 Activation Function을 사용 해서네트워크들을 연결 해 주었습니다. Activation 은 Relu를 사용 했습니다.Relu 를 사용하면서 부터 Vanishing gradient라는 현상을 피할 수 있어서학습 layer를 깊게 쌓을수 있게 되었다고 합니다. 그림으로 표현해 보면 아래와 같습니다. 그리고 이렇게 층이 많아지면 W,B 도 같이 많아지게되고이러한 변수들의 초기값을 정하는 것이 중요한 문제가 됩니다. 왜냐하면 위의 그림만 하더라도 W 값이 19*50 + 50*50*18 + 19 개가 되고초기값이 적절하게 정해지지 못하면 학습 시간이 많이 걸리게 되기 때문 입니다. 이런 Wei..

CSV 파일을 이용해서 데이터를 가져오고간단한 1 layer regression 을 해 보겠습니다. 지난 포스트에서 사용했던 데이터를 이용해서모델을 만들어 보겠습니다. 입력 데이터는 19개 이고 출력 데이터는 0~1 의 실수를 갖는 모델 입니다.아래 그림과 같이 19개의 weight와 1개의 Bias가 필요 합니다. 수학 공식으로 나타내면y = w1*x1+b1 +w2*x2+b1+ w3*x3+b1 + ... + w17*x17+b1 + w18*x18+b1 _w19*x19+b1 제 데이터는 200만개 정도로200만개 중에서 랜덤으로 10000개씩 Batch 처리 해서 데이터를 불러와 학습하고오차율을 계산 해 보겠습니다. import tensorflow as tf with tf.name_scope("input"..

지난 포스팅에 이어서 CSV 파일을 가져오는 예제를 계속 했습니다.이번에 해 본 것은 데이터를 한번에 다 가져오는 것이 아니라전체 데이터를 Shuffle 하여 그중에 일부를 가져오는 것 입니다. 데이터가 많을 때 한번에 모든 데이터를 입력하려면시간이 많이 소모 되기 때문에 랜덤하게 일부 데이터를 가져와서학습시키는 것을 반복할 때 유용합니다. 이번에 사용한 데이터는아래와 같이 생긴 모양의 데이터가 100개 Row 있습니다. https://www.tensorflow.org/programmers_guide/reading_data공식 사이트에 나와있는 대로 하다보면에러가 계속 발생해서 찾다보니tf.local_variables_initializer()를 추가 해야 한다는 것을 찾고 시행하니 잘 동작합니다. fro..

가지고 있는 데이터를 사용 해서 학습을 시켜 보겠습니다. 기존 예제들은 데이터의 포멧도 잘 맞춰져 있어서 파일을 읽어오고배치로 입력하고 하는 과정이 간단하게 되어 있습니다. 하지만 막상 실제 데이터를 사용하려니데이터를 선정하고 데이터를 가공하고 데이터를 입력하는 것이 어려운 것 같습니다. 오늘은 데이터를 읽어 오는 것을 해 보겠습니다. 1. 데이터 준비저는 2GB 정도 되는 데이터를 가지고 있습니다.Mysql에 저장이 되어 있고 이것을 CSV 파일로 Import 하였습니다.2GB 정도 되니 더이상 엑셀로 열리지 않습니다.데이터를 10000개만 추출하여 파일을 만들고 시험 해 보았습니다. 데이터는 아래와 같이 주황색 부분에 Raw Data가 12개, 초록색 부분에 Raw Data를 가공하여 만든 24개의 ..

이번에는 MNIST 예제를 이용해서 Tensorboard를 사용해 보겠습니다. Tensorboard에 사용되는 데이터를 생성하기 위해서는 Summary라는 기능을 사용합니다. 자세한 설명은 아래에 있네요https://www.tensorflow.org/api_docs/python/summary/ 지난 포스트에서 사용했던 mnist 예제에 코드를 추가해 Tensorboard를 사용 해 보겠습니다. 기존 코드에서 tensorboard를 위해 추가한 부분을 굵은 글씨로 표시 했습니다. from tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets("MNIST_data/", one_hot=True) import ..

현재 저는 윈도우10에 anaconda로 python 환경을 구축하고그 속에서 텐서플로우를 사용하고 있습니다. Windows 에서 Tensorboard 가 사용 불가능 하다는 글들을 본 것 같은데2017.2.12 현재는 사용이 가능합니다. 설치는 이전 포스팅에서 텐서플로우를 설치 했으면 기본으로 설치 되어 있습니다.인터넷을 돌아다니면 pip로 설치 시에 문제가 있을 수 있다는 이야기도 있는데지금은 문제가 없는 것 같습니다. 윈도우에서 아나콘다설치, 텐서플로우설치는 이전 포스트를 참고 해 주세요아나콘다설치 : http://tensorflowstepbystep.tistory.com/1텐서플로우 설치 :http://tensorflowstepbystep.tistory.com/2 해 보면서 어려웠던 점은 어디에 ..

오늘은 유명한 Tensorflow 예제 'MNIST for beginner'를 해 보겠습니다. 이 예제는 28X28 Dotmatrix의 숫자 이미지를 학습시켜 그림을 보여주고 이게 숫자 몇인지 맞추는 것 입니다. 이미지의 각 Dot는 0~255까지의 숫자로 나뉘어 있고0은 하얀색,255는 검정색을 나타내고 그 사이는 그 중간의 밝기가 됩니다. 실행 방법은 아래 링크에 자세히 나와있습니다.https://www.tensorflow.org/tutorials/mnist/beginners/ 일단 실행 코드는 아래와 같습니다. from tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets("MNIST_data/",..

지난 글에서 Anaconda 환경을 설치 했습니다.이어서 Jupiter Notebook에서 Tensorflow를 import 해 봅니다. tensorflow라는 모듈 이름이 없다고 나오네요. 설치를 진행 해 보겠습니다. tensorflow 홈페이지에 보면 (https://www.tensorflow.org/get_started/os_setup) Both distributions include pip. To install the CPU-only version of TensorFlow, enter the following command at a command prompt:C:\> pip install --upgrade https://storage.googleapis.com/tensorflow/windows/c..

머신러닝에 관심이 많습니다. 처음부터 배워가는 과정을 남겨 놓으면 다른 분들이 쉽게사용 하실 수 있을 것 같아서 글을 쓰게 되었습니다. 가장 쉬운 방법으로 Tensorflow를 능숙하게 사용하는 것이 목표입니다. 오늘은 윈도우에서 Tensorflow를 사용 할 수 있는 환경을 구축해 보겠습니다. 기존에는 Windows에서 사용하려면 Docker를 이용하여 설치해야 했었는데 이제는 Windows에서 바로 사용이 가능하다고 해서 아래 링크를 따라 설치를 진행 해 보았습니다.https://www.tensorflow.org/get_started/os_setup 설치는 크게 2가지로 진행됩니다.1. Python 개발 환경 설치2. Tensorflow 설치 이번 글에서는 Anaconda를 설치 해 보겠습니다. 제가..