第三名解决方案：Transformer+GRU

作者：Stochoshi G（MASTER）
发布时间：2023年6月19日 03:05:31（北京时间）
竞赛排名：第3名
得票数：7票

第一和第二名的解决方案分别对defog和tdcs数据集有更好的拟合效果；而本解决方案使用一个统一模型同时适用于两个数据集。

模型架构：Deberta/VisionTransformer/VisionTransformerRelPos → LSTM/GRU
（通常为2-4层，使用单层RNN结构）

Patch大小设置为7-13，序列长度包含192-384个patch。

所有序列均经过强化数据增强处理，包括拉伸、裁剪、特征消融、累积高斯噪声等操作。

—

详细实现请参考data.py和model.py文件：

推理代码 https://www.kaggle.com/code/stochoshi/fork-of-walk3 附加代码 https://www.kaggle.com/datasets/stochoshi/walkdata4

3rd Place Solution: Transformer+GRU