[그 외] Huggingface Trainer의 Early Stopping

trainer = Trainer(

model=model, # the instantiated 🤗 Transformers model to be trained

args=training_args, # training arguments, defined above

train_dataset=RE_train_dataset, # training dataset

eval_dataset=RE_dev_dataset, # evaluation dataset

compute_metrics=compute_metrics, # define metrics function

optimizers=optimizer, # define optimizer

callbacks=[EarlyStoppingCallback(early_stopping_patience=5)]

)

early_stopping_patience는 이전보다 eval loss가 n번째 연속으로 낮아지면 학습을 멈춘다. 위 코드에서는 5번이다.