GPTLMLoss

class GPTLMLoss(ignore_index=-100)

最基本的 GPT 语言模型的损失函数。

参数:

ignore_index (default: -100) – 忽略的标签的 index，默认为 -100

forward(logits, labels)

计算损失 :type logits: Tensor :param logits: 语言模型的输出 :type labels: Tensor :param labels: 真实标签

training: bool