第57名 - 增加批次大小有所帮助

这是我第一次参加 Kaggle 比赛（虽然我 4 年前就加入了 Kaggle 😣）。非常感谢这个社区。😍

当我看到我在公共排行榜上的排名一天天下降时，我真的失去了希望。因此，最终能从第 557 名跃升至第 57 名，这是一个巨大的跨越。

我尝试了以下模型：

• xlm roberta squad2
• Muril

就我而言，Muril 在公共排行榜上表现不佳。因此，我尝试只使用 Xlm Roberta squad2。

在将批次大小从 4 增加到 16 后，我发现它表现良好。此外，验证损失并不是在每个折叠中选择最佳模型的好指标，因此我使用了 Jaccard 分数。

另外，当我陷入瓶颈时，我利用 Kaggle 上所有可用的外部数据集对当前的最佳模型进行了微调。

我是 24 天前才开始参加这次比赛的。我希望我原本能尝试融合模型、使用其他模型（如 Rembert 等）以及增加折数。

还有一件事，我希望我可以选择我的其他模型之一作为最终得分，因为这个模型在私榜上的表现真的很好。

感谢 @kishalmandal 提供的后处理和推理代码，它真的帮了我大忙。