Réfuser du réseau

conv_base.trainable = Trueset_trainable = Falsefor layer in conv_base.layers: if layer.name in : layer.trainable = True else: layer.trainable = False resumen(conv_base) 

==================================================================================# Layer Name Layer Input Shape Layer Output Shape Parameters==================================================================================0 input_6 (None, 150, 150, 3) (None, 150, 150, 3) 01 block1_conv1 (None, 150, 150, 3) (None, 150, 150, 64) 17922 block1_conv2 (None, 150, 150, 64) (None, 150, 150, 64) 369283 block1_pool (None, 150, 150, 64) (None, 75, 75, 64) 04 block2_conv1 (None, 75, 75, 64) (None, 75, 75, 128) 738565 block2_conv2 (None, 75, 75, 128) (None, 75, 75, 128) 1475846 block2_pool (None, 75, 75, 128) (None, 37, 37, 128) 07 block3_conv1 (None, 37, 37, 128) (None, 37, 37, 256) 2951688 block3_conv2 (None, 37, 37, 256) (None, 37, 37, 256) 5900809 block3_conv3 (None, 37, 37, 256) (None, 37, 37, 256) 59008010 block3_pool (None, 37, 37, 256) (None, 18, 18, 256) 011 block4_conv1 (None, 18, 18, 256) (None, 18, 18, 512) 118016012 block4_conv2 (None, 18, 18, 512) (None, 18, 18, 512) 235980813 block4_conv3 (None, 18, 18, 512) (None, 18, 18, 512) 235980814 block4_pool (None, 18, 18, 512) (None, 9, 9, 512) 015 block5_conv1 (None, 9, 9, 512) (None, 9, 9, 512) 235980816 block5_conv2 (None, 9, 9, 512) (None, 9, 9, 512) 235980817 block5_conv3 (None, 9, 9, 512) (None, 9, 9, 512) 235980818 block5_pool (None, 9, 9, 512) (None, 4, 4, 512) 0__________________________________________________________________________________Total Parameters : 14714688Total Trainable Parameters : 7079424Total No-Trainable Parameters : 7635264

Notez maintenant que le conv_base dont la formation et non trainable parampers.

Pour la formation fine nous procédons à la compilation du modèle avec une petite taille de pas pour éviter d’ importantes modifications de poids, puisque nous supposons qu’il est proche de l’optimum et l’ajustement ne doit pas être très grande.

Epoch 1/100100/100 - 10s 104ms/step - loss: 0.1938 - acc: 0.9645 - val_loss: 0.2769 - val_acc: 0.9580Epoch 2/100100/100 - 9s 94ms/step - loss: 0.2239 - acc: 0.9635 - val_loss: 0.2606 - val_acc: 0.9650... Epoch 100/100100/100 - 10s 97ms/step - loss: 0.0269 - acc: 0.9960 - val_loss: 0.3666 - val_acc: 0.9620

model.save('cats_and_dogs_small_4.h5')

Metrics graphiques enregistrés au cours de la formation

import matplotlib.pyplot as pltacc = history.historyval_acc = history.historyloss = history.historyval_loss = history.historyepochs = range(len(acc))plt.plot(epochs, acc, 'bo', label='Entrenamiento acc')plt.plot(epochs, val_acc, 'b', label='Validación acc')plt.title('Accuracy - exactitud de entrenamiento y validación')plt.legend()plt.figure()plt.plot(epochs, loss, 'bo', label='Entrenamiento loss')plt.plot(epochs, val_loss, 'b', label='Validación loss')plt.title('Loss - función objetivo en entrenamiento y prueba')plt.legend()plt.show()

Étant donné que les courbes sont très bruyants, il est possible de les filtrer pour mieux apprécier la tendance au moyen d’un filtre passe-bas, on pourrait essayer

s ~ i = rk = 0NWksi-k \ tilde S_I = \ sum_ {k = 0} ^ n w_k S_ {IK} S ~ i = K = 0ΣNWKSI-K
Où sont www un pesos co n σkwk = 1 \ sum_k w_k = 1σkwk = 1; Mais nous aurons besoin d’un filtre assez large (grand NNN) pour éliminer correctement le bruit, nous essayons la version récursive (comme dans le livre sur lequel ces notes sont basées)

i

s ~ i = aS ~ i -1+ (1-α) Si \ tilde S_I = \ alpha \ tilde {S_ I-1} + (1- α) S_IS ~ I = aS ~ i-1 + (1-α) si

que vous utilisez les données récemment mises à jour avec une procédure similaire. Ces filtres récursifs peuvent être exprimés comme non récursif (remplacement des données mises à jour par sa formule). L’avantage de la forme récursive est le compact d’expression de mise à jour

def smooth_curve(points, factor=0.8): smoothed_points = for point in points: if smoothed_points: previous = smoothed_points smoothed_points.append(previous * factor + point * (1 - factor)) else: smoothed_points.append(point) return smoothed_pointsimport matplotlib.pyplot as pltacc = history.historyval_acc = history.historyloss = history.historyval_loss = history.historyepochs = range(len(acc))alpha = 0.9plt.plot(epochs, smooth_curve(acc, alpha), 'bo', label='Entrenamiento acc')plt.plot(epochs, smooth_curve(val_acc, alpha), 'b', label='Validación acc')plt.title('Accuracy - exactitud de entrenamiento y validación')plt.legend()plt.figure()plt.plot(epochs, smooth_curve(loss, alpha), 'bo', label='Entrenamiento loss')plt.plot(epochs, smooth_curve(val_loss,alpha), 'b', label='Validación loss')plt.title('Loss - función objetivo en entrenamiento y prueba')plt.legend()plt.show()

Dans ces courbes , vous pouvez mieux apprécier la tendance, on peut remarquer que c’était une amélioration d’environ 1%.

Dans (Chollet, 2018), l’observation est faite que la précision s’améliore même lorsque la perte ne le fait pas. En effet , la perte est évaluée par un processus de somme d’erreur dans le vecteur de sortie, quelque chose comme:

Σi∈epoch∥yi-y ^ i∥m \ sum_ {i \ in EPOCH} \ | Y_i – \ chapeau y_i \ | _mi∈epoch∥∥yi-y ^ i∥m

où nous supposons que YYY est dans un codage à une fois à chaud et M indique une métrique.D’autre part, la précision est calculée au moyen d’une somme de classement des erreurs:

σi∈epoch1-δ (arg⁡max⁡iyi-arg⁡max⁡iy ^ i) \ sum_ {i \ in epoch } 1- δ (τ \ rm \ max_i {\ chapeau y_i}) ∈epochς1-δ (argimaxyi-argimaxy ^ i)

Evaluez, enfin et péris, le jeu de test:

test_generator = test_datagen.flow_from_directory( test_dir, target_size=(150, 150), batch_size=20, class_mode='binary')test_loss, test_acc = model.evaluate_generator(test_generator, steps=50)print('test acc:', test_acc)

Found 1000 images belonging to 2 classes.test acc: 0.9669999933242798

* très proche de 97%

dans la compétition de kaggle d’origine, ce serait parmi les meilleurs résultats (top), et que nous n’utilisons que 2000 données de formation vs. 20 000 dans la compétition de Kaggle.

Résumé

• Les réseaux de convolutionnels sont le meilleur modèle de réseaux neuronaux pour traiter les problèmes de traitement des images et de vision informatique.

• L’augmentation des données vous permet d’éviter de discuter dans une petite base de données et d’augmenter avec les données synthétiques de la taille de l’échantillon de formation

• c’est possible Pour utiliser des modèles pré-endigents dans la phase d’extraction des fonctionnalités pour traiter de petites bases de données.

• Le réglage fin permet d’améliorer l’interconnexion du stade prédéfini avec le stade de la stade de la stade de la stade de la stade de la stade performance à faible coût de calcul.