在上節(jié)中，我們已經(jīng)詳細介紹了WISDM數(shù)據(jù)集及如何使用CNN網(wǎng)絡訓練，得到了六個維度的模型仿真指標及五個維度的可視化分析，那么現(xiàn)在我們將訓練模型推廣到其他網(wǎng)路結構中去，通過仿真實驗來對比一下不同網(wǎng)絡之間對于WISDM數(shù)據(jù)集的訓練效果。

一、四種網(wǎng)絡的結構及介紹

1.ResNet

殘差網(wǎng)絡是一種深度學習模型，通過引入“殘差學習”的概念來解決深度神經(jīng)網(wǎng)絡訓練困難的問題。

ResNet沿用了VGG完整的3 × 3卷積層設計。殘差塊里首先有2個有相同輸出通道數(shù)的3 × 3卷積層。 每個卷積層后接一個批量規(guī)范化層和ReLU激活函數(shù)。 然后我們通過跨層數(shù)據(jù)通路，跳過這2個卷積運算，將輸入直接加在最后的ReLU激活函數(shù)前。

核心思想：

· 殘差塊（Residual Block） ：輸入通過一個或多個卷積層后，與輸入相加，形成殘差。這樣做可以使得網(wǎng)絡學習到的是輸入和輸出之間的殘差，而不是直接學習輸出，從而緩解了梯度消失問題，使得網(wǎng)絡可以成功訓練更深的模型。

優(yōu)點：

· 通過殘差學習，可以有效地訓練更深的網(wǎng)絡，提高了模型的性能。

· 網(wǎng)絡結構易于拓展，可以構建更復雜的模型。

缺點：

· 雖然緩解了梯度消失問題，但在某些情況下仍然可能遇到梯度爆炸的問題。

· 模型參數(shù)較多，需要較大的數(shù)據(jù)集進行訓練。

網(wǎng)絡結構：

ResNet((layer1): Sequential((0): Block((block): Sequential((0): Conv2d(1, 64, kernel_size=(3, 1), stride=(2, 1), padding=(1, 0))(1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)(2): ReLU()(3): Conv2d(64, 64, kernel_size=(1, 1), stride=(1, 1))(4): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True))(short): Sequential((0): Conv2d(1, 64, kernel_size=(3, 1), stride=(2, 1), padding=(1, 0))(1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True))

2.長短期記憶網(wǎng)絡（LSTM）

長短期記憶網(wǎng)絡是一種特殊的循環(huán)神經(jīng)網(wǎng)絡（RNN），它能夠學習長期依賴信息。LSTM內部邏輯結構：

核心思想：

· 門控機制（Gating Mechanism） ：LSTM通過引入輸入門、遺忘門和輸出門來控制信息的流動，解決了傳統(tǒng)RNN的短期記憶問題。

· 記憶單元（Memory Cell） ：LSTM的核心是記憶單元，它可以添加或移除信息，從而實現(xiàn)長期記憶。

優(yōu)點：

· 能夠處理長期依賴問題，適用于時間序列數(shù)據(jù)。

· 通過門控機制，可以有效地避免梯度消失和梯度爆炸問題。

缺點：

· 參數(shù)數(shù)量較多，訓練時間較長。

· 門控機制增加了模型的復雜度。

網(wǎng)絡結構：

LSTM(

(lstm): LSTM(3, 512, num_layers=2, batch_first=True)

(fc): Linear(in_features=512, out_features=6, bias=True)

)

3.ShuffleNet

ShuffleNet是一種高效的卷積神經(jīng)網(wǎng)絡，它通過使用分組卷積和通道洗牌操作來減少計算量，同時保持了較高的準確率。

核心思想：

· 分組卷積：將輸入通道分成多個組，每組獨立進行卷積操作，然后合并結果。這樣可以減少計算量和參數(shù)數(shù)量。

· 通道洗牌：在分組卷積后，通過通道洗牌操作重新混合不同組的特征圖，以保持特征的多樣性。

優(yōu)點：

· 計算效率高，適用于資源受限的環(huán)境。

· 通過通道洗牌操作，可以在減少計算量的同時保持特征的多樣性。

缺點：

· 雖然減少了計算量，但在某些復雜任務上可能不如其他網(wǎng)絡結構表現(xiàn)出色。

· 分組卷積可能會犧牲一定的模型性能。

網(wǎng)絡結構：

ShuffleNet((layer): Sequential((0): Conv2d(1, 1, kernel_size=(3, 1), stride=(2, 1), padding=(1, 0))(1): Conv2d(1, 64, kernel_size=(1, 1), stride=(1, 1))(2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)(3): ReLU()(19): ChannelShuffleModule())(ada_pool): AdaptiveAvgPool2d(output_size=(1, 3))(fc): Linear(in_features=1536, out_features=6, bias=True))

4.CNN

這一種網(wǎng)絡在上一篇文章中介紹了，這里就不再過多的講解。

二、具體訓練過程

1.Resnet

1.1 殘差塊（Block）

• Block 類是一個殘差網(wǎng)絡的基本構建塊，它包含兩個卷積層，分別后接批量歸一化（BatchNorm）和ReLU激活函數(shù)。
• 第一個卷積層的卷積核大小為 (3, 1)，步長為 (stride, 1)，填充為 (1, 0)。
• 如果輸入和輸出的通道數(shù)不同，或者步長不為1，殘差塊會包含一個快捷連接（shortcut），它是一個1x1的卷積層，用于匹配通道數(shù)和步長。

class Block(nn.Module):def __init__(self, inchannel, outchannel, stride):super().__init__()self.block = nn.Sequential(nn.Conv2d(inchannel, outchannel, (3, 1), (stride, 1), (1, 0)),nn.BatchNorm2d(outchannel),nn.ReLU(),nn.Conv2d(outchannel, outchannel, 1, 1, 0),nn.BatchNorm2d(outchannel))self.short = nn.Sequential()if (inchannel != outchannel or stride != 1):self.short = nn.Sequential(nn.Conv2d(inchannel, outchannel, (3, 1), (stride, 1), (1, 0)),nn.BatchNorm2d(outchannel))

1.2 ResNet網(wǎng)絡

• ResNet 類定義了整個網(wǎng)絡結構，它由四個殘差層（layer1 到 layer4）組成，每一層由多個殘差塊組成。
• 每一層的輸出通道數(shù)分別是64, 128, 256, 和 512。每一層的第一個塊的步長為2，用于下采樣，其余塊的步長為1。
• 網(wǎng)絡的輸入假設具有形狀 [b, c, series, modal]，其中 b 是批次大小，c 是通道數(shù)，series 是序列長度，modal 是模態(tài)數(shù)（例如，圖像的高度）。
• 網(wǎng)絡最后使用一個自適應平均池化層（AdaptiveAvgPool2d）將特征圖的大小調整為 (1, train_shape[-1])，然后通過一個全連接層（fc）輸出類別預測。

class ResNet(nn.Module):def __init__(self, train_shape, category):super().__init__()self.layer1 = self.make_layers(1, 64, 2, 1)self.layer2 = self.make_layers(64, 128, 2, 1)self.layer3 = self.make_layers(128, 256, 2, 1)self.layer4 = self.make_layers(256, 512, 2, 1)self.ada_pool = nn.AdaptiveAvgPool2d((1, train_shape[-1]))self.fc = nn.Linear(512*train_shape[-1], category)

1.3 輔助方法

• make_layers 方法用于創(chuàng)建每個殘差層中的多個殘差塊。它接受輸入通道數(shù)、輸出通道數(shù)、步長和塊的數(shù)量作為參數(shù)，并返回一個由這些塊組成的序列。

def make_layers(self, inchannel, outchannel, stride, blocks):layer = [Block(inchannel, outchannel, stride)]for i in range(1, blocks):layer.append(Block(outchannel, outchannel, 1))return nn.Sequential(*layer)

1.4 前向傳播（Forward Pass）

• 在 forward 方法中，輸入數(shù)據(jù) x 會逐層通過殘差層，然后通過自適應平均池化層和全連接層，最終輸出類別預測。

def forward(self, x):out = self.block(x) + self.short(x)return nn.ReLU()(out)

訓練過程及結果

從訓練得到的結果我們可以發(fā)現(xiàn)在準確率(Accuracy)、精確率(Precision)、召回率(Recall)、F1分數(shù)(F1-score)、參數(shù)量(Parameters)、推理時間(Inference Time) 六個維度上分別為：

2.LSTM

LSTM網(wǎng)絡特別適合于處理和預測時間序列數(shù)據(jù)，因為它們可以捕捉長期依賴關系，在本次實驗中可以發(fā)揮出其特點，我們首先使用用LSTM層來處理序列數(shù)據(jù)，然后使用全連接層來進行分類預測。通過選取序列最后一個時間步的隱藏狀態(tài)來進行分類，這是處理序列數(shù)據(jù)的一個常見做法，尤其是當序列長度固定時。

2.1 LSTM類及網(wǎng)絡層

我們使用LSTM 類繼承自 nn.Module，構造函數(shù) __init__ 接受兩個參數(shù)：train_shape 和 category。

• train_shape 是訓練數(shù)據(jù)的形狀，這里假設它是一個包含序列長度和模態(tài)數(shù)的列表或元組。
• category 是類別的數(shù)量，即網(wǎng)絡輸出的維度，用于分類任務。

class LSTM(nn.Module):def __init__(self, train_shape, category):super().__init__()self.lstm = nn.LSTM(train_shape[-1], 512, 2, batch_first=True)self.fc = nn.Linear(512, category)

其中self.lstm 是LSTM層，其參數(shù)如下：

• train_shape[-1] 是輸入特征的維度，即模態(tài)數(shù)。
• 512 是LSTM隱藏層的維度。
• 2 表示堆疊兩個LSTM層。
• batch_first=True 表示輸入和輸出的張量的第一個維度是批次大小（batch size）。

self.fc 是一個全連接層，它將LSTM層的輸出映射到類別空間。它的輸入維度是512（LSTM隱藏層的維度），輸出維度是 category。

2.3前向傳播（Forward Pass）

forward 方法定義了數(shù)據(jù)通過網(wǎng)絡的正向傳播過程。輸入 x 的形狀假設為 [b, c, series, modal]，其中 b 是批次大小，c 是通道數(shù)（在這里為1，因為 squeeze(1) 被調用）。
x.squeeze(1) 將通道數(shù)維度移除，使得 x 的形狀變?yōu)?[b, series, modal]。self.lstm(x) 將數(shù)據(jù) x 通過LSTM層，輸出一個包含隱藏狀態(tài)和細胞狀態(tài)的元組。

def forward(self, x):x, _ = self.lstm(x.squeeze(1))x = x[:, -1, :]x = self.fc(x)return x

訓練過程及結果

從訓練得到的結果我們可以發(fā)現(xiàn)在準確率(Accuracy)、精確率(Precision)、召回率(Recall)、F1分數(shù)(F1-score)、參數(shù)量(Parameters)、推理時間(Inference Time) 六個維度上分別為：

3.ShuffleNet

ShuffleNet通過深度可分離卷積和通道混合技術減少了模型的參數(shù)量和計算量，同時保持了較好的性能。這種卷積首先使用 groups 參數(shù)將輸入通道分組，然后對每個組應用一個輕量級的 (kernel_size, 1) 卷積，接著是一個 1x1 的卷積來組合這些輸出。在每個深度可分離卷積后面，緊跟著一個批量歸一化層、一個ReLU激活函數(shù)和一個通道混合模塊。

1. ChannelShuffleModule類

ChannelShuffleModule 是一個通道混合模塊，它接收一個張量作為輸入，并將其通道按照指定的組數(shù)進行重組和混合。在構造函數(shù)中，channels 是輸入張量的通道數(shù)，groups 是要將通道分成的組數(shù)。

forward 方法首先將輸入張量重塑為 (batch, groups, channel_per_group, series, modal) 的形狀，然后通過 permute 重新排列這些組，最后再將其重塑回 (batch, channels, series, modal) 的形狀。

class ChannelShuffleModule(nn.Module):def __init__(self, channels, groups):super().__init__()'''channels: 張量通道數(shù)groups: 通道組數(shù)【將channels分為groups組去shuffle】'''assert channels % groups == 0self.channels = channelsself.groups = groupsself.channel_per_group = self.channels // self.groups

2. ShuffleNet類

ShuffleNet 類繼承自 nn.Module，定義了ShuffleNet的主體結構。
構造函數(shù) __init__ 接受 train_shape（訓練樣本的形狀）、category（類別數(shù)）和 kernel_size（卷積核大小）作為參數(shù)。

self.layer 是一個由多個卷積層、批量歸一化層、ReLU激活函數(shù)和通道混合模塊組成的序列。這些層按照順序執(zhí)行，逐步增加網(wǎng)絡的深度并減少特征圖的尺寸。

class ShuffleNet(nn.Module):def __init__(self, train_shape, category, kernel_size=3):super(ShuffleNet, self).__init__()self.layer = nn.Sequential(nn.Conv2d(1, 1, (kernel_size, 1), (2, 1), (kernel_size // 2, 0), groups=1),nn.Conv2d(1, 64, 1, 1, 0),nn.BatchNorm2d(64),nn.ReLU(),ChannelShuffleModule(channels=64, groups=8),nn.Conv2d(64, 64, (kernel_size, 1), (2, 1), (kernel_size // 2, 0), groups=64),nn.Conv2d(64, 128, 1, 1, 0),nn.BatchNorm2d(128),nn.ReLU(),ChannelShuffleModule(channels=128, groups=8),nn.Conv2d(128, 128, (kernel_size, 1), (2, 1), (kernel_size // 2, 0), groups=128),nn.Conv2d(128, 256, 1, 1, 0),nn.BatchNorm2d(256),nn.ReLU(),ChannelShuffleModule(channels=256, groups=16),nn.Conv2d(256, 256, (kernel_size, 1), (2, 1), (kernel_size // 2, 0), groups=256),nn.Conv2d(256, 512, 1, 1, 0),nn.BatchNorm2d(512),nn.ReLU(),ChannelShuffleModule(channels=512, groups=16))self.ada_pool = nn.AdaptiveAvgPool2d((1, train_shape[-1]))self.fc = nn.Linear(512*train_shape[-1], category)

3. 前向傳播（Forward Pass）

• forward 方法定義了數(shù)據(jù)通過網(wǎng)絡的正向傳播過程。
• 輸入 x 的形狀假設為 [b, c, series, modal]，其中 b 是批次大小，c 是通道數(shù)，series 是序列長度，modal 是模態(tài)數(shù)。
  首先，x 通過 self.layer 中定義的多個卷積層和通道混合模塊。
  然后，使用 self.ada_pool 進行自適應平均池化，將特征圖的 series 維度縮減到 1。
  接著，通過 view 方法將池化后的特征圖展平，并通過一個全連接層 self.fc 進行分類。

def forward(self, x):x = self.layer(x)x = self.ada_pool(x)x = x.view(x.size(0), -1)x = self.fc(x)return x

訓練過程及結果

從訓練得到的結果我們可以發(fā)現(xiàn)在準確率(Accuracy)、精確率(Precision)、召回率(Recall)、F1分數(shù)(F1-score)、參數(shù)量(Parameters)、推理時間(Inference Time) 六個維度上分別為：

4.Cnn

上篇文章中已經(jīng)具體分析，這里只給出結果：

三、結果分析

將得到的四組實驗數(shù)據(jù)寫入表格中，進行橫向深入對比：

從模型參數(shù)量來看，LSTM>Resnet>CNN>Shufflenet。ResNet在性能和效率之間取得了很好的平衡；CNN在保持較高準確率的同時，具有較小的模型尺寸和較快的推理速度；LSTM適合處理時間序列數(shù)據(jù)，但計算成本較高；ShuffleNet則在資源受限的環(huán)境中表現(xiàn)出色，盡管其準確率略低。
以下是我們對各個模型的關鍵指標更詳細的對比：

1. 準確率 (Accuracy): 所有模型的準確率都相當高，其中ResNet最高，達到了97.47%。

2. 精確率 (Precision): 精確率衡量的是預測為正類別中實際為正類別的比例。ResNet同樣在這項指標上表現(xiàn)最佳，為97.50%。

3. 召回率 (Recall): 召回率衡量的是所有實際為正類別中被正確預測為正類別的比例。ResNet的召回率也是最高的，為97.47%。

4. F1分數(shù) (F1 Score): F1分數(shù)是精確率和召回率的調和平均值，它在兩者之間取得平衡。ResNet的F1分數(shù)最高，為97.48%。

5. 參數(shù)量 (Parameter Count): 參數(shù)量反映了模型的復雜度。LSTM的參數(shù)量最大，為3,163,142，而Shufflenet的參數(shù)量最小，為185,994。

6. 推理時間 (Inference Time): 推理時間是指模型進行預測所需的時間。CNN的推理時間最短，為0.0008秒，而LSTM的推理時間最長，為0.0088秒。

如果對預測性能有極高的要求，ResNet可能是最佳選擇。如果對速度和模型大小有更高的要求，CNN或Shufflenet可能更合適。LSTM由于其參數(shù)量最大，可能適用于需要捕獲長期依賴關系的任務，但需要更多的計算資源。

深入分析

模型結構設計差異

1. ResNet：其殘差連接允許網(wǎng)絡學習輸入的恒等變換以及更復雜的函數(shù)。這種設計使得網(wǎng)絡能夠通過增加層數(shù)來提高性能，而不會受到梯度消失的影響。此外，殘差連接有助于網(wǎng)絡在訓練過程中保持特征的一致性，這可能是ResNet在多個評價指標上表現(xiàn)優(yōu)異的原因之一。
2. LSTM：LSTM的門控機制使其能夠學習長期依賴關系，這對于時間序列數(shù)據(jù)特別重要。然而，這種復雜的結構也導致了更多的參數(shù)和更高的計算成本。在訓練過程中，LSTM可能需要更多的數(shù)據(jù)和調整來優(yōu)化其門控單元的狀態(tài)，這可能是其參數(shù)量較大和推理時間較長的原因之一。
3. ShuffleNet：ShuffleNet的設計注重計算效率和模型大小。通過分組卷積和通道洗牌，ShuffleNet減少了計算量和參數(shù)數(shù)量，但這種設計可能犧牲了一些模型的表達能力，尤其是在處理復雜數(shù)據(jù)時。這可能是ShuffleNet在準確率上略低于其他模型的原因之一。
4. CNN：傳統(tǒng)的卷積神經(jīng)網(wǎng)絡通常具有較少的參數(shù)和較高的計算效率。它們在圖像識別任務中表現(xiàn)出色，但在處理時間序列數(shù)據(jù)或需要捕捉長期依賴關系的任務中可能不如LSTM有效。

模型結構設計對訓練和loss的影響

1. ResNet：殘差連接允許網(wǎng)絡層之間直接的信息流動，這有助于緩解深層網(wǎng)絡中的梯度消失問題。這種設計使得ResNet在訓練時對loss的梯度更加敏感，從而在優(yōu)化過程中能夠更快地收斂。
2. LSTM：其門控機制能夠有效地捕捉長期依賴關系，但這也意味著在訓練過程中需要更加細致地調整超參數(shù)，以確保模型不會陷入局部最優(yōu)解。LSTM可能需要特定的loss函數(shù)來更好地利用其記憶單元，需要考慮序列中的不同時間步長對預測的貢獻。
3. ShuffleNet：通過分組卷積和通道洗牌，ShuffleNet減少了模型的計算復雜度，但可能犧牲了某些特征的表達能力。在訓練ShuffleNet時，需要更加關注loss函數(shù)的設計，以確保模型能夠在有限的參數(shù)下學習到有效的特征表示。
4. CNN：標準的CNN結構通常具有較好的空間特征提取能力，但在處理時間序列數(shù)據(jù)時可能不如LSTM有效。在設計loss函數(shù)時，需要考慮如何更好地利用CNN的空間特征提取能力，例如通過設計空間敏感的loss函數(shù)。

Loss設計對模型性能的影響

1. 損失函數(shù)的選擇：對于不同的模型結構，需要設計不同的損失函數(shù)來更好地捕捉任務的關鍵特性。對于ShuffleNet，可能需要設計一個損失函數(shù)，它不僅懲罰預測錯誤的程度，還鼓勵模型學習到更加分散的特征表示。
2. 損失函數(shù)的權重分配：在多任務學習中，不同任務的loss可能需要不同的權重。在訓練LSTM進行序列預測時，可能需要為預測序列的早期和晚期分配不同的權重，以確保模型能夠平衡短期和長期預測的準確性。
3. 自定義損失函數(shù)：在某些特定任務中，可能需要設計自定義的損失函數(shù)來更好地適應模型的特性。對于CNN，需要設計一個損失函數(shù)，它能夠鼓勵模型學習到更加魯棒的特征表示，以應對圖像數(shù)據(jù)中的噪聲和變化。

注意：具體的代碼實現(xiàn)和模型細節(jié)可以聯(lián)系作者獲取，以便進一步的研究和應用。本文首發(fā)于稀土掘金，未經(jīng)允許禁止轉發(fā)和二次創(chuàng)作，侵權必究。