ModelScope-NLP答疑小助手 请问下DocumentGroundedDialogRerankTrainer这个的介绍文档有嘛,训练的过程中只打印 loss point,要如何换算到epoch呢? 我是否可以理解为 loss point = 执行开始累积的batch数 // (one_epoch_batch_count // 10), one_epoch_batch_count = train_instance // batch_size
关于损失点(loss point)与 epoch 之间的关系,一般来说,在机器学习和深度学习的训练过程中,损失点(loss point)通常是指每个batch处理完毕后计算得到的损失值。一个 epoch 是指整个训练数据集被完全处理一遍的过程。因此,一个 epoch 包含的损失点的数量取决于训练数据集的大小以及每个 batch 的大小。
如果 DocumentGroundedDialogRerankTrainer 只打印每个损失点而不直接打印 epoch 信息,您可以通过以下方式计算当前的 epoch:
train_instance:训练集中的总实例数(总样本数)。
batch_size:每个 batch 的大小。
one_epoch_batch_count:一个 epoch 中包含的 batch 数量,计算方式为 train_instance // batch_size(如果不能整除,通常会向上取整)。
是的,正常情况下,当一个epoch的batch数目大于等于10时,每个epoch打印10次loss point,此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”