La sélection des hyper-paramètres pour les algorithmes d'apprentissage automatique est un problème souvent réglé par des méthodes approximatives telles que le grid search. L'optimisation bayésienne permet de solutionner efficacement ce problème, limitant grandement le nombre d'entraînements requis pour converger vers des bonnes valeurs d'hyper-paramètres. Nous montrerons qu'en conservant les classifieurs entraînés tout au long de la recherche d'hyper-paramètres, il est possible de générer un ensemble à faible coût et d'augmenter la performance de classement par rapport à un seul classifieur.