第六名解决方案

大家好，

我已经公开了获得第 6 名的 Notebook：
https://www.kaggle.com/code/myprofileurl/6th-place-two-step-model

以下是该方案的总结：

1. 梯度提升模型 (Gradient Boosting Models)

• 使用梯度提升模型预测：
  • p(efs == 1)：事件发生的概率。
  • E[efs_time | efs == 1]：给定事件发生条件下的预期生存时间。

2. 神经网络 (Neural Network)

• 训练一个 TabM 神经网络，优化评估指标的平滑版本（使用 sigmoid 代替指示函数）。

3. 组合预测 (Combine the Predictions)

• 对所有模型运行 5 个随机种子的 20 折交叉验证。
• 在折外（OOF）数据上训练一个单层神经网络（无非线性激活），使用与 TabM 模型相同的损失函数。
• 神经网络的输入：
  • 来自 TabM 模型的风险评分
  • p(efs == 1) 和 E[efs_time | efs == 1] 的二阶多项式组合

如果有人感兴趣，我也可以发布解决方案各个部分的代码。