使用 HugginFace 的 Trainer 时如何绘制损失图?

Sah*_*lis 6 python deep-learning pytorch huggingface-transformers

使用 HF 的训练器微调模型时。

training_args = TrainingArguments(output_dir=data_dir + "test_trainer")

metric = load_metric("accuracy")

def compute_metrics(eval_pred):
    logits, labels = eval_pred
    predictions = np.argmax(logits, axis=-1)
    return metric.compute(predictions=predictions, references=labels)

training_args = TrainingArguments(num_train_epochs=5,per_device_train_batch_size=64,per_device_eval_batch_size=32,output_dir="test_trainer", evaluation_strategy="epoch")

trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=train_dataset,
    eval_dataset=val_dataset,
    compute_metrics=compute_metrics,
)
trainer.train()
Run Code Online (Sandbox Code Playgroud)

我怎样才能在笔记本上绘制损失图?
(也许可以得到一份损失清单)

dea*_*u5p 3

可以获得损失清单。训练完成后,您可以通过以下方式访问日志历史记录:trainer.state.log_history