第54名 Private & 第44名 Public 方案分享

恭喜所有参加这场比赛的 Kaggler 们！

这次比赛对我来说和我的队友感到非常愉快，因为它让我们以不错的排名晋升到了 Competitions Expert 级别！ :)

我们最初是从基于 RAPIDS 的经典机器学习模型融合开始的，灵感来源于这个 Notebook。我们试图通过 SciPy 线性最小二乘有界问题求解器 来选取系数，但我们很快就遇到了过拟合的界限，因此不得不放弃这项技术。

对我们来说，真正的“游戏规则改变者”是 @david1013 慷慨分享的 多层模型（Multi-Layer model）。我们开始融合具有不同种子的 60 个输出 .csv 文件。重要的一点是，我们的验证表明该集成模型低估了大多数值，尤其是年龄（age）。因此，我们尝试了对 60 个预测结果取逐元素最大值（element-wise maximum），结果在交叉验证（CV）和 Public LB 上都好得多。

然而，年龄的预测值仍然低于预期。由于时间紧迫，我们尝试在后期处理中为其选择一个好的乘数。我们尝试过的最佳值是 1.005，因此我们最终确定使用了这个预测器。

谢谢大家！