Optuna 예시

---

Optuna 사용법 예시본 간단한 설명과 함께 정리해봅시다. 

---

# optuna 사용해보기

def objective(trial):

    threshold_opt = trial.suggest_float('threshold_opt', 0, 1)
    
    train_preds = distance_to_label(train_dists, threshold_opt)

    train_f1 = f1_score(y_train, train_preds)

    return f1_score(y_train, train_preds)

optuna의 trial에 suggest_int 혹은 suggest_float을 활용하면 optimize하고 싶은 해당 값의 명칭과 범위를 입력하여 그 사이에서 가장 적합한 값을 찾아서 제시해줍니다. 

return 값에는 본인이 원하는 minimize할 혹은 maximize할 값(혹은 loss function)을 입력해줍니다. 

train_study = optuna.create_study(direction='maximize')
train_study.optimize(objective, n_trials = 100)

create_study를 통해 optimization 진행을 위한 study를 생성하고 direction에서 해당 값을 최대화할지 최소화할지 여부를 결정합니다. 

생성된 study에 optimization을 진행합니다. trial 횟수를 지정해줄 수 있으며 objective는 optimization을 하기 위해 위에서 작성한 함수가 들어가게 됩니다.