自己教師あり学習(Self-Supervised Learning) で何が良く効くかわからんので自前で実験してみる. 実装としては,
- SimCLR
sslcompare/transforms/simclr.pyとして実装 - BYOL
sslcompare/transforms/byol.pyとして実装 - SimSiam
sslcompare/transforms/simsiam.pyとして実装 - BarlowTwins
sslcompare/transforms/barlowtwins.pyとして実装 - SwAV
sslcompare/transforms/swav.pyとして実装 - MAE
sslcompare/transforms/mae.pyとして実装
を実装してみた.
学習データセットは
- CIFAR10
data/cifar10へ配置する - STL10
data/stl10/へ配置する - ImageNet
- 学習データは
data/imagenet/train/*.jpgへ配置 - テストデータは
data/imagenet/test/*.jpgへ配置
- 学習データは
を実験する予定.現状では CIFAR10で実験済み.