面對魏風的駁斥和眾人的質疑，林辰不僅沒有慌亂，嘴角反而勾起一抹淡淡的微笑。
“學長說得對，單純的強制歸一化，確實會破壞特徵分佈。”
他回過身，記號筆再次落在白板上：“所以，單純歸一化是不夠的，我們需要給網路提供一個恢復原本表達能力的通道。”
林辰在白板上，快速寫下一行推導算式。
這不是複雜的微積分，而是首白的代數表達。
他先是寫下用資料減去均值，再除以方差開根號的常規歸一化步驟。
緊接著，林辰沒有停頓，在這個歸一化的算式後面，又加上兩個全新的未知數符號。
寫完後，他在這兩個符號上重重敲了一下，再次看向魏風，解釋道：“學長，看這兩個引數。”
“我們在將資料強行歸一化之後，再加上一步線性變換，引入這兩個全新的未知數：一個代表縮放因子，一個代表平移因子。”
“請注意，這兩個引數，不是我們人工設定的固定值，而是作為網路結構的一部分，交由網路在訓練過程中，自己去學習和更新的引數。”
林辰的話音剛落，魏風原本不屑的表情，突然僵住。
“交由網路自己去學習？”王成在旁邊下意識地喃喃自語。
“沒錯。”
林辰點點頭，繼續剝開這層數學邏輯：“如果強制歸一化真破壞了某些重要的特徵，那麼網路在反向傳播計算損失的時候，就會自動驅動這兩個引數進行更新。”
“它可以給出縮放因子等於歸一化前的標準差，給出平移因子等於歸一化前的均值。”
“一旦達到這個狀態，這一步操作就於將資料原封不動地還原回去。”
“這就意味著，加入了這個歸一化層，不僅保證資料分佈的相對穩定，同時保留了網路恢復原始特徵的能力。”
“而這，將徹底解耦引數尺度對輸出分佈的影響！”
安靜。
原本還對林辰持懷疑態度的幾人，此刻都沒再說話。
他們首勾勾地盯著白板上的那行算式，大腦在飛速運轉。
保留原始特徵的能力？
魏風坐在椅子上，臉色變幻不定。
他是個極其純粹且功底深厚的科研人員。
因此林辰剛才的這幾句點撥，他很輕易就能理解過來。
再結合白板上那兩個可學習引數，那團在腦海中糾纏他數天的迷霧，在這一刻被瞬間劈開。
是啊！
如果引入這兩個可學習引數，網路就不再是被動接受被破壞的特徵，而是主動去選擇是否保留特徵。
……輯邏構架的規常破打種這……路思種這
。撼震一過閃中眼，沫唾口了嚥風魏
。輸認易輕有沒還他但
。難災力算的大巨臨面會往往中作際實在，想設的面層論理於在存只種這
”。等等“
”？算麼怎差方和值均的說才剛你但，通得說輯邏構架的你算就“：疑質出提聲出，氣口一吸深風魏
