只萌萝莉吧 关注:49贴子:1,523
  • 0回复贴,共1
ネットワーク圧縮アルゴリズム比較実験:
1. 使うデータセット、cifar10
2. 使うbaseline-network :
**各アルゴリズムのsourcecodeで使用されたnetwork:**
|アルゴリズム|convnet|lenent|mobilenet|resnet|vgg|densenet|googlenet|alexnet |他のnetwork実装可能||-----|---|----|----|---|------|----|----|---|----||*batchnorm-pruning: | ○| ○ | ○|○|○|×| × | × | 可能 ||CEGS | ○ | × | × | × | × | × | × | × |datasetも変更||graphtheory| × | × |× | ○ | ○ | ○ |× | ○ | 変更可能 ||* N2N | × | ○ | × | ○ | ○ | ○ | ○ | alexnet  |教師dataがあれば ||slimming | × | × | × | ○ | ○ | ○ | × | × | 手前かかる || sact | × | × | × | ○ | × | × | × | × | resnet系のみに適用可能 ||*TRP | × | × | × |○ | ○ | ○ | × | ○ | 変更可能,他の部分を変更する必要がある |
* 1. batchnorm-pruning のsourcecodeは自分で実装したもの(一部分)
* 2. N2Nは論文通りの結果ではなかった* 3. network以外他の部分(cifar-TRPのmodelを定義する部分)も変更する必要がある
3. * resnetとvgg系で評価するのは妥当
* CEGS及びPCASは改めて実装する必要がある* まず手前があまりかからない実験できるアルゴリズムから実験をする, * 実験順番は...?   TRP -> resnet20 ()  **sact -> (rewrite with cifar_model can revise model ) resnet20:diffcult to revise** sliming -> Resnet20( set deafult depth as 20 in resprune)
N2N , can change network to resnet20 while need to change other part(teacher's data use make_teacher_data.py file)
graph theory : only have resnet model for imagenet dataset , but can be revised
             batchnorm-pruning :problems with sourcecode 順番的に最後でやる            while tensorflow 's sourcecode is base on resnet20 , can use virtualenv to set python2 environmentCEGS : dataset and model 順番的に暇の時間でやる
PCAS: 0から実装する必要がある* VGG :* やるかどうかまだ決めていない 


IP属地:上海1楼2019-02-11 17:30回复