Squeeze-and-Excitation Networks

• 提高特征之间的空间相关性可以提高网络的性能，而本文从另一个角度入手，提高通道之间的相关性，利用全局信息，增强有关通道的特征，压制无关通道的特征，本质上是一种channel attention。可以作为一种inplace的操作插入任何网络结构中

• 

• 在网络浅层的SEblock可以无差别地提取图片中的有效信息，在网络深层的SEblock对不同类别有不同的响应（辩证地看，这一点并没有被证实）

• SEblock其实就是输入channel接一个global average pooling后接一个relu的全连接再接一个sigmoid的全连接：

•