Ottimizzazione degli iperparametri

I modelli di machine learning richiedono vincoli, pesi o tassi di apprendimento diversi per generalizzare diversi modelli di dati. Queste misure sono chiamate iperparametri e vengono utilizzate per controllare il processo di apprendimento. Gli iperparametri devono essere regolati in modo che il modello possa risolvere in modo ottimale il problema di machine learning.

Per impostazione predefinita, AutoML utilizza un set predefinito di valori di iperparametri per ogni algoritmo utilizzato nel training del modello. Si tratta di valori standard, ottimizzati e generalmente accettati dalla comunità della scienza dei dati. La combinazione di valori iperparametrici più performante viene selezionata automaticamente.

Tuttavia, in alcuni casi, si potrebbe voler mettere a punto il modello per ottenere risultati di previsione ottimali. Ciò può avvenire utilizzando l'ottimizzazione degli iperparametri (HPO).

AutoML esegue l'ottimizzazione degli iperparametri solo per il miglior algoritmo del set selezionato nella configurazione dell'esperimento. Viene prima eseguita una ricerca casuale e poi una ricerca a griglia, al fine di trovare i migliori iperparametri per l'algoritmo.

Vi sono alcuni aspetti importanti da considerare prima di utilizzare l'ottimizzazione degli iperparametri:

• Non utilizzare l'ottimizzazione degli iperparametri la prima volta che si addestra un modello. È stata progettata per essere utilizzata dopo che si è addestrato il modello e si è soddisfatti dei risultati. Questo processo richiede spesso ripetuti affinamenti e training.

• L'ottimizzazione degli iperparametri comporta un notevole dispendio di tempo. Se il processo di training del modello richiede cinque minuti utilizzando i valori standard predefiniti degli iperparametri, il training dello stesso modello con l'ottimizzazione degli iperparametri attivata potrebbe richiedere ore.

Algoritmi utilizzati nell'ottimizzazione degli iperparametri

L'ottimizzazione degli iperparametri è limitata a specifici algoritmi e tipi di modelli. È stata progettata specificamente per funzionare con i seguenti tipi di modelli e algoritmi:

• Modelli di classificazione binaria

  • Classificazione CatBoost

  • Regressione Elastic Net

  • Regressione LASSO

  • Classificazione LightGBM

  • Regressione logistica

  • Classificazione Random Forest

  • Classificazione XGBoost

• Modelli di regressione

  • Regressione CatBoost

  • Regressione LightGBM

  • Regressione Random Forest

  • Regressione XGBoost

Abilitazione dell'ottimizzazione degli iperparametri

L'ottimizzazione degli iperparametri si attiva nel riquadro Configurazione esperimento, sotto Ottimizzazione modello.

Visualizzazione dei valori degli iperparametri

Per visualizzare i valori degli iperparametri utilizzati per un modello, fare clic su nella colonna Iperparametri nella tabella Metriche modello.