一、論文信息

論文名稱：Dynamic Filter Networks

作者團(tuán)隊(duì)：NIPS2016

?二、動(dòng)機(jī)與創(chuàng)新

1. 卷積層是通過將上一層的特征映射與一組過濾器進(jìn)行卷積計(jì)算輸出特征映射，濾波器是卷積層的唯一參數(shù)，通常用反向傳播算法在訓(xùn)練中學(xué)習(xí)，學(xué)習(xí)到的濾波器經(jīng)訓(xùn)練后固定，在測試中不變。

2. 因此作者，提出一個(gè) Dynamic Filter Networks，這個(gè)模型中的卷積核是可學(xué)習(xí)的，通過學(xué)習(xí)將輸入映射到過濾器的函數(shù)，實(shí)現(xiàn)隨輸入的不同而變化。

三、模型結(jié)構(gòu)

1. Dynamic Filter Networks包含兩部分：Filter-generating network和Dynamic filtering layer。第一部分的作用是，產(chǎn)生卷積核，第二部分是實(shí)現(xiàn)卷積核的乘法操作。

?與卷積層相比，動(dòng)態(tài)卷積層接收兩個(gè)輸入，第一個(gè)輸入是來自前一層的特征映射InputB，第二個(gè)輸入是InputA經(jīng)過網(wǎng)絡(luò)學(xué)習(xí)的過濾器。

2. Dynamic convolution layer

• 下圖這種操作是Sample-specific，也就是說，針對(duì)每個(gè)輸入的樣本卷積核共享，就是我們常使用的標(biāo)準(zhǔn)卷積，只是卷積核是可學(xué)習(xí)的。

?3.?Dynamic local filtering laye

下圖的右邊部分，這種操作是Sample specific 和 Position specific，每個(gè)像素點(diǎn)對(duì)應(yīng)的卷積核不相同。

?動(dòng)態(tài)過濾層有兩種形式：動(dòng)態(tài)卷積、動(dòng)態(tài)局部過濾

• 圖1和圖2都是過濾器數(shù)目為1,feature map的channel為1的情況：

• 圖1是5 ? 5 的卷積核作為過濾器，在B上以過濾器作為卷積核滑動(dòng)，是不同位置共享的；

• 圖2雖然是個(gè)立方體，但也是一個(gè)過濾器，只不過每個(gè)位置一個(gè)核，保存的時(shí)候拉成一列(也為5 ? 5)，用的時(shí)候每個(gè)位置一個(gè)卷積核恢復(fù)成原來形狀使用即可。