註意是壹種機制或方法論，沒有嚴格的數學定義。例如，傳統的局部圖像特征提取、顯著性檢測和滑動窗口方法都可以視為壹種註意機制。在神經網絡中，註意模塊通常是壹個額外的神經網絡，它可以硬選擇輸入的某些部分，或者為輸入的不同部分分配不同的權重。
它增加了壹個通道註意模塊來學習每個通道的權重，並通過抑制無關特征來提高卷積特征的表示性能。SENet通過擠壓模塊和激勵模塊實現上述功能。首先，卷積特征通過Squeeze模塊進行壓縮，即在通道維進行全局池化操作，在SENet中采用全局平均池化。
註意事項:
該操作可以使接近數據輸入的特征具有全局感受野，這在許多任務中非常有用。然後通過全連通網絡進行切除操作。
全連通網絡中降維操作的目的是壹方面減少網絡計算量，另壹方面增加網絡的非線性能力。最後，將獲得的通道關註度應用於原卷積特征，即通過乘法和加權與前壹個特征相乘，從而增強重要特征，抑制不重要特征。