CNN 구조 - DNN(Deep Neural Network)와 같이 입력 계층, 출력 계층 그리고 두 계층 사이의 여러 개의 은닉 계층으로 구성 - CNN의 은닉 계층은 특징 추출, 분류 분석 2가지로 구성 CNN의 은닉 계층에서 데이터를 분석하는 순서 1. 특징 추출 : 특징 및 위치 정보를 추출 2. 분류 분석 : 1에서 추출된 정보를 이용해 분류 Feature Extraction(특징 추출 계층) - 입력 데이터의 특징을 위치 정보와 함께 추출하기 위한 계층 - 3D Tensor를 출력 - Convolution : 특징 추출에 사용되는 연산 - Relu : 활성화 함수 - Pooling : 데이터의 사이즈를 줄이기 위한(압축) Sub Sampling 전략 Classification(분류 계층) - ..
이미지 처리와 딥러닝 - 이미지 분석은 딥러닝이 가장 잘 적용되는 분야 중 하나 - 2012년 이미지넷 대회에서 AlexNet이라는 인공신경만 네트워크가 획기적인 성능을 보임으로써 딥러닝이 주목을 받는 계기가 됨 - 현재 이미지 인식, 이미지 캡셔닝 등의 분야에서 인간 이상의 성능을 보여줌 CNN(Convolutional Neural Network) - 1989년 얀 르쿤이 처음으로 제안(5 layer) - 발표 당시에 필기체 인식에 높은 성능을 보임으로써 주목받음 - 그러나 컬러 이미지에서 성능에 한계를 보여 딥러닝의 2차 빙하기에 묻혀져감. - 2012년 최초로 GPU를 이용하여 심층 구조(8 layer)로 고도화된 AlexNet이 성능을 획기적으로 높임 CNN의 발전 - 2012년 AlexNet에서..
TensorFlow Keras 모듈에서는 하나의 input tensor와 output tenosr를 가진 모델을 쉽게 구현 할 수 있는 Sequential API 를 제공한다. Sequential API를 이용하여 보스턴 집값 데이터 셋을 회귀 분석 하는 MLP 모델을 구현해보자. - 1970년 중반 보스턴 외곽 지역의 범죄율, 지방세율 등의 데이터가 주어졌을 때 주택 가격의 중간 값을 예측 - 데이터 포인트가 506개로 비교적 개수가 적고 404개는 훈련 샘플로 102개는 테스트 샘플로 나누어져 있음 - 입력 데이터에 있는 각 특성(예를 들어 범죄율)은스케일이 서로 달라 정규화 작업이 필요함 - 타겟 데이터인 주택의 평균 가격의 단위는 천 달러 * Keras API 를 활용한 보스턴 집값 데이터셋 회귀..
fashion-mnist data set - 70,000개의 흑백 이미지로 구성된 이미지 데이터 - 각각의 이미지는 (28, 28) 형태의 2차원 텐서로 구성되어 있고 흑백 이미지이기 때문에 채널에 해당하는 차원은 존재하지 않는다. - 라벨 정보는 각각의 이미지의 범주에 해당하는 id 정보로 0~9 사이의 정수로 구성되어 있다. * Keras API 를 활용한 fashion-mnist 데이터셋 분류 import tensorflow as tf from tensorflow.keras.datasets import fashion_mnist import matplotlib.pyplot as plt """* Step 1. Input tensor 와 Target tensor 준비(훈련데이터)""" # label 데이..
Keras - 파이썬으로 작성된 오픈 소스 신경망 라이브러리 - MXNet, Deeplearning4j, TensorFlow, CNTK, Theano 등 다양한 프레임워크 위에서 수행 - 직관적인 추상화 API를 통해 딥러닝 모델을 쉽게 만들 수 있음 - 동일한 코드로 CPU와 GPU에서 실행 가능 - tensorflow 1.4 버전부터 공식 코어 API(th.keras)로 추가됨 - tensorflow 2.0 버전부터 기본 모델 구성 방법으로 채택됨 Keras 작업 흐름 1. Input tensor와 target tensor로 이루어진 train data를 정의 2. Input과 target을 mapping하는 층으로 이루어진 네트워크(Model)을 정의 3. Loss function, Oprimize..
