第7名解决方案

首先，感谢比赛主办方举办这场有趣的竞赛，也感谢我的队友 @emiria。我从emiria的想法和代码中学到了很多。祝贺emiria获得第四枚金牌，一位新的特级大师(GM)即将诞生。这也是我在NLP比赛中的第一枚金牌。

我们策略的关键点：

• 添加"prompt_text"作为输入（CV提升0.03）
• 冻结层（CV提升0.01）
• 使用不同的输入进行融合（CV提升0.01）
• 与lightgbm结果融合（CV提升0.005）
• 关注本地CV（LB仅占总数据的13%）

对我们无效的方法：

• AWP
• SWA
• 文本预处理
• MLM

模型

这是我们用于最终提交模型的描述。我们使用基于"prompt_id"的GroupKFold进行本地验证，并在推理时使用所有提示进行训练。

结果

以下是我们的模型及其最佳分数：
每个模型是两个种子的平均值，除了"model4"（包含lightgbm）。