【Kaggle】2021 Shopee商品分類競賽系列整理

過去一週我寫了5篇，介紹了今年3月Kaggle上蝦皮的商品分類競賽。

1. Part 1: 競賽介紹、Baseline Model
2. Part 2: 大規模機器學習 GPU加速 RAPIDS
3. Part 3: 超強Baseline — ArcFace
4. Part 4: 如何對每個模型挑選出好的閾值（Threshold）
5. Part 5: 第一名密技 Iterative Neighborhood Blending

很推薦入門機器學習，但是卻不知道怎麼加入Kaggle，或是沒有實務經驗的人參考上面五篇來了解這個競賽。

這篇我順便整理一些我覺得值得參考的資源，讓想要深入的朋友可以深入。

值得參考的前排名次

1. 第一名: From Embeddings to Matches
2. 第二名: matching prediction by GAT & LGB、code
3. 第三名: Triplet loss, Boosting, Clustering
4. 第七名: Query Expansion
5. 第18名: You really don’t need big models
6. 目前有release的全部solution

Model 使用

ArcFace

• Unsupervised Baseline ArcFace
• Pytorch Metric Learning Pipeline : Only Images
• Pytorch Densenet ArcFace + Validation [Training]

BERT

• Shopee Training BERT [11th Place Simple Solution]
• Unsupervised Baseline ArcFace
• B0+BERT cv0.9

工具

RAPIDS

• [PART 2] — RAPIDS TfidfVectorizer — [CV 0.700]

Weight & Bias

• Shopee: EDA + RAPIDS preprocessing + W&B

競賽技巧

Cross Validaiton

• How To Compute Competition Metric CV
• shopee validaion split

Image Preprocessing

• Shopee EfficientNetB3 ArcMarginProduct + Data Augmentation
• Shopee Products Matching: Image Part [English+中文]

如果喜歡這篇文章可以幫我多拍手幾次XD，或是對於哪個類型文章有興趣都可以在留言區跟我講~ 後續會以中難度的ML/DS/AI知識為主，以及AI/HCI研究相關知識