返回列表

3rd place solution - ResNet pretraining

510. Mayo Clinic - STRIP AI | mayo-clinic-strip-ai

开始: 2022-07-06 结束: 2022-10-05 医学影像分析 数据算法赛
第三名方案 - ResNet 预训练
作者:miyasaki (第3名)

第三名方案 - ResNet 预训练

感谢 Mayo Clinic 和 Kaggle 举办了这次比赛。我非常享受这次比赛。在这里,我想简要介绍一下我的解决方案。

预训练

我认为这是我解决方案中最具影响力的过程。因为通过 ImageNet 训练的模型权重不适合这项任务,所以我使用了“其他”数据来预训练网络。

我将“其他”图像分割成图块,使用了“未知”或“其他”的标签,并用 ImageNet 权重预训练了 ResNet152 模型 40 个 epoch。然后,我使用训练数据集训练模型以预测 CE/LAA 标签,起始权重即为预训练的权重。

事实上,单个预训练的 ResNet 模型在 Private Score 中获得了 0.65726 分,这是我提交的所有模型中得分最高的。
(我没有选择这个最佳模型作为最终提交。如下所述,我选择了与其他非预训练方法集成的模型代替。)
这就是为什么我认为预训练是我解决方案中最重要的过程。

数据

  • 分割成 512x512x3 通道的图块,并为每张图像选择 16 个实例
  • 保存为 tiff 格式(LZW 压缩)

损失函数

因为训练数据的标签是不平衡的,所以我使用了带有平衡类别权重的二元交叉熵。

模型

集成以下 3 种方法:

  • 带预训练的 Resnet152
  • 不带预训练的 EfficientNetB0
  • 不带预训练的 Xception

感谢阅读。

同比赛其他方案