Chapter 7 : Going Convolutional

[ INDEX ]

Chapter 7 : Going Convolutional
Got GPU?
Convolution layers
Your first convnet in Keras
Key points
Where to go from here? 

 

deep learning 에 대해서 더 자세히 알아보려 합니다. basic neural network를 images에 더 잘 작동하도록 전환시킵니다. convolutional layer가 비밀 재료 입니다.

 

* Got GPU? 

Keras와 TensorFlow는 맥의 GPU를 아직 지원하지 않습니다. Mac만 있다면 이번 단원에선 많은 인내심을 필요로 할 것 입니다.

 

* Your head in the clouds? 

본인의 deep learning rig를 시작하기 위한 가장 빠른 방법은 cloud를 사용하는 것 이다. machine learning in the cloud 의 예시로는 - Google Colaboratory, Paperspace, Crestle, FloydHyb, LeaderGPU, Amazon AWS EC2 등이 있다.

 

 

* Convolution layers 

 

Keras에서 만든 모델을은 one-demensional vector를 input을 가진 Dense layers로 구성되었다. 그러나 자연적으로 이미지 들은 width, height를 갖고 있어서 image를 우선 flatten 해야된다.

 

그러나 안타깝게도 flattening은 spatial nature of the input data를 파괴한다. 또 depth information from the image를 없앤다.

depth dimension은 각 픽셀에 대한 색깔의 3가지 구성 요소 정보-the pixel's color를 가진다. 이미지가 표현하는 것을 알기 위해서는 the spatial relationships between the pixels - color intensites는 중요하다. 그러나 flattening into a vector를 하면 많은 정보를 잃는다. 그래서 모델의 Dense layers가 잘 작동하지 않는 것이다.

 

이미지에 대한 더 나은 결과를 위해서는 layer that directly works on the original three-dimensional structure of the image를 사용해야된다. 그래서 convolutional layer이 존재한다. 이것은 spatial structure of the image intack 뿐만아니라, learns the relationships between the pixels, different patterns that appear in the image에 대한 이해를 돕는다.

 

이런 layers로 만들어진 neural network는 a convolutional neural network, convert, or just CNN 라고 부른다.

 

* Convolution, say what now? 

the convolution window slides over the image, left to right, top to bottom

dot products

convolution weights

 

the window is also known as the convolution kernel or filter.

 

translation invariant.

 

* Multiple filters 

image, tensor, feature map, or activations for these convolution layer outputs

 

* Your first convnet in Keras 

 

 

(to be continued..)

 

* Key points 

• You need access to a powerful GPU in order to train these deep learning models. Unfortunately, Mac GPUs are not well supported by popular training tools. The cloud to the rescue!

• Convolution layers are key to making good image classifiers. Just like Dense layers they compute dot products, but only over small regions of the image. Speaking mathematically, convolution is actually the same as a Dense layer in which most of the connections are zero, and the other connections all share the same weights.

• Convnets are made up of a series of convolution layers and pooling layers. Layers deeper in the network have more filters and learn to detect higher level patterns that represent more abstract concepts.

• Choosing the right values for the hyperparameters such as the learning rate is essential for getting an optimal result. It’s also a good idea to plot the loss and accuracy curves, to see if your model is overfitting or whether it is done learning.

 

 

* 영단어 

convert 전환하다

flatten 평평하게 하다. 단조롭게 하다

convolution 회선. 얽힘