返回列表

6th simple solution, pre-training, single model private 0.66927

349. Understanding Clouds from Satellite Images | understanding_cloud_organization

开始: 2019-08-16 结束: 2019-11-18 气象预报 数据算法赛
第6名简单方案:预训练,单模型 Private 0.66927

第6名简单方案:预训练,单模型 Private 0.66927

作者: Limerobot (Grandmaster) | 比赛排名: 第6名

首先,我要感谢主办方举办了这次比赛,也要感谢 Kaggle 平台。像任何比赛一样,这次比赛直到最后阶段竞争都非常激烈。因此,我想祝贺那些坚持到比赛最后的 Kagglers 们。

我将总结并写下你们可能感兴趣的部分,那就是 预训练(pre-training)

预训练

这次比赛的挑战在于根据云的形状进行分割。因此,我尝试通过预训练让模型学习云的形状。

Pre-training Diagram

因为云是白色的,我使用“像素值 > 115”作为阈值生成了 cloud_mask,并将其作为标签。(由于图像文件总数为 9244 张,因此也生成了 9244 个 cloud_mask。)

预训练之后,我尝试了第二阶段的训练。预训练(第一阶段训练)后的模型被用作第二阶段模型权重的初始值。

Second-stage Training Diagram

这个训练过程让我的 CV(交叉验证分数)提升了 0.005~0.01。因此,我的单模型分数如下:

模型 Private 分数 Public 分数
efficientnet-b4, unet 0.66927 0.67437
efficientnet-b4, fpn 0.66827 0.67508

Result Graph

其余部分没什么特别的,我就略过不提了。😁

感谢您的阅读!

同比赛其他方案