(Paper Reading) Adaptive Methods for Real-World Domain Generalization

Introduction

• 建立了一个DG大规模数据集Geo-YFCC，考虑到了长尾分布
• 用了最naive的方法ERM，但却取得了非常好的效果
• “In our work, we propose an adaptive classifier that can be adapted to any new domain using very few unlabelled samples without any further training”

Methods

Core Idea

在测试时，利用少量无标记样本刻画unseen domain信息，然后用其辅助分类。

Prototypical Domain Embeddings

Prototypical Networks真好用！用一个域中图片特征的平均值来刻画域信息，理论基础是Kenerl Mean Embeddings(KME)。训练时的loss是：

$$p_{\boldsymbol{\theta}}(\mathbf{x} \in D)=\frac{\exp \left(-\left\|\boldsymbol{\mu}(\widehat{D})-\Phi_{\mathcal{D}}(\mathbf{x})\right\|_{2}^{2}\right)}{\sum_{i=1}^{N_{t}} \exp \left(-\left\|\boldsymbol{\mu}\left(\widehat{D}_{i}\right)-\Phi_{\mathcal{D}}(\mathbf{x})\right\|_{2}^{2}\right)}$$

其中，$\Phi_{D}(\cdot)$是特征提取网络。

ERM on Augmented Inputs

测试时，计算图片特征及特征平均值（域信息），concatenate一下输入分类器。

Experiments

构造了两个数据集：Geo-YFCC和LT-ImageNet，数据量都在百万量级，4张V100起步。