Private LB 第13名方案 - 近在咫尺却又远在天涯 :)

首先，恭喜所有参赛者，特别是获奖者和金牌得主。
其次，哎，与金牌擦肩而过。

以下是我们方案的一些要点：

• 深度学习框架：Pytorch

• 使用的架构：Effnet(timm/geffnet) B0/B2/B3/B4/B5, Rexnet 1.3/1.5/2.0

• 模型定制：@haqishen 和 @garybios 在为我们选择的架构添加卷积头和 SE 头方面做了出色的工作，并且在最终全连接层输出之前丢弃最后两个块也有帮助——我会让他们详细展开这些内容。

• 上采样 Cover（载体图片）：我们发现将 Cover 图片进行上采样以匹配 Stegos（含密图片）的数量，有助于提高 CV（交叉验证）和 LB（排行榜）分数。

• 集成方法：我们训练了大约 80 多个模型，我们在每一折中选取 CV 分数最高的前 6 个模型，并进行未加权的几何平均。

我们特别小心不要过拟合 LB，所以在整个比赛过程中我们没有使用它作为反馈。但总的来说，我们观察到对于同一折数据，更好的 CV 通常（并非总是）会带来更好的 LB。

最佳单模型 - B5，配合上采样 Cover、添加卷积头、丢弃块 -> Private LB 0.927, Public LB 0.928

感谢我亲爱的队友 @garybios、@haqishen、@strideradu 和 @yl1202 的努力，在这个短暂而紧张的比赛过程中我真的度过了一段美好的时光！ :)