一些实验记录

许多更有经验的参与者已经分享了非常丰富且出色的解决方案。我仅记录一些实验性见解，以避免在讨论中添加冗余内容。

LB 历史记录

未奏效的方法

1. 我尝试了多种归一化技术，包括全局归一化、局部归一化以及以鼻子为中心的归一化。然而，我不确定是否存在实验误差，因为这些方法仅加速了训练收敛，并未提升排行榜分数。目前尚不确定这个结论是否准确。

2. 将最后一层的 dropout 从 0.4 降低到 0.1，并移除所有其他层的 dropout，会导致公开测试集和私有测试集分数均下降 0.001。

3. 将批归一化（BN）放在深度卷积（DW Conv）之前而非之后，会导致公开 LB 和私有 LB 分数均下降 0.001。

4. 空间掩码（Spatial Mask）。使用它可能导致训练不稳定。如果其他方面（如归一化处理得当），它或许可以发挥作用。