1. Overview
AutoML : 기준 성능을 잘 만족하는 적절한 모델, 파라미터 탐색..!
지난 강의에서.. 충분히 좋은 configuration 찾기
- 어느 정도 prior를 개입, 적은 search space를 잡고,
- 적지만 대표성을 띄는 좋은 subset 데이터를 정하고( + n-fold cross validation 등의 테크닉)
- 학습 과정의 profile을 보고 ealry terminate하는 기법 적용..! (ASHA Scheduler, BOHB)
등등의 방법으로 Human in the loop의 결과보다 "충분히 좋은" configuration을 찾을 수 있다..!
2. 코드: Sample 파트
어떻게 코드로 구현을 하느냐..?
Optuna API 활용
- Optuna Study 생성
- Study에 최적화할 목적함수 및 시도 횟수, 조건 등을 주고
- Optimize !
실제로는 objective라는 함수 안에 한꺼번에 구현이 되어 있음..!
- Model을 sample하는 부분..!