第10名解决方案

首先，我要感谢 Kaggle 和组织者举办这场精彩的比赛。同时，我也要感谢我的队友 —— @ludovick 和 @woshifym。由于时差的关系，我们可以全天24小时不间断地工作。

解决方案

我们的解决方案可以分为两部分：PyTorch 部分和 TensorFlow 部分。

PyTorch 部分

关于 PyTorch 部分，我想先感谢 @ammarali32 提供的 3-step 方法。我们所有的模型都基于 3-step 方法。我们训练了具有不同主干网络和不同图像尺寸的模型，以获得更好的结果。

• resnet200d + 图像尺寸: 600 CV: 0.9578
• ecaresnet269d + 图像尺寸: 600 CV: 0.9584
• resnest200e + 图像尺寸: 640 CV:0.9625

之后，我们发现 Soft label 方法（软标签） 在本次比赛中表现出色。因此，我们使用该方法重新训练了上述所有模型，形成了我们的 4-step 方法。

TensorFlow 部分

我的队友 @ludovick 在使用 TensorFlow 方面做得非常出色。我想邀请他稍后详细介绍他的方法。
简要总结如下：

• Efficient B7 + 1024 图像尺寸
• Efficient L2 + 768 图像尺寸
• Soft label 方法
• 伪标签

模型融合

在模型融合方面，我们使用 OOF（Out-of-Fold）文件来训练一个线性回归模型。然后，我们使用这个线性模型来获得每个模型的权重。我们在最终提交中选择了最好的 CV 分数和最好的公共分数。不幸的是，我们刚好错过了最好的融合方案（该方案在公共分数中排名第二）。

最终提交方案一

CV: 0.9692 Public LB: 0.971 Private LB: 0.973

• resnet200d + 600
• ecaresnet269d + 600
• resnest200e + 640
• Efficient B7 + 1024 + soft label + PL
• Efficient L2 + 768 + soft label

最终提交方案二

CV: 0.9689 Public LB: 0.971 Private LB: 0.974

• resnet200d + 600
• resnest200e + 640
• Efficient B7 + 1024 + soft label + PL
• Efficient B7 + 1024 + PL
• Efficient L2 + 768 + soft label

技巧总结

• 更大的模型
• 更高的分辨率
• 软标签
• 伪标签

致谢

感谢 TFRC 团队为我们提供免费的 TPU。