循環神經網絡 (RNN)

循環神經網絡（Recurrent Neural Network, RNN） 係一類專門為咗處理序列數據而設計嘅神經網絡模型。佢嘅核心特點在於具備「記憶」能力，能夠利用之前時刻嘅資訊嚟影響當前時刻嘅處理，從而捕捉數據中嘅時序依賴關係。

同傳統嘅前饋神經網絡（如 CNN）唔同，RNN 嘅網絡結構包含循環連接。你可以將佢嘅核心運作邏輯理解為：

資訊喺時間維度嘅傳遞：喺傳統神經網絡入面，每一層嘅神經元只接收上一層嘅輸入，樣本之間互相獨立。而 RNN 嘅隱藏層神經元之間有連接，當前時刻嘅輸出唔單止取決於當前嘅輸入，仲取決於上一時刻隱藏層嘅狀態（也就係佢嘅「記憶」）。
權值共享：RNN 喺處理序列嘅每個步驟時，使用嘅都係一套相同嘅參數（權重矩陣）。呢種「參數共享」嘅設計，令到佢能夠處理任意長度嘅序列，並且能夠高效地捕捉不同時刻間嘅相同模式。

正係呢種結構，令 RNN 好擅長處理文本、語音、時間序列等具有前後關聯嘅數據。

喺自動駕駛系統入面，RNN 係實現「類人預測」能力嘅關鍵技術之一，主要應用喺以下方面：

車輛軌跡預測：呢係 RNN 喺自動駕駛入面最核心嘅應用。通過分析周圍車輛連續嘅歷史位置同速度數據（時間序列），RNN 能夠預測佢哋未來嘅行駛軌跡。結合 LSTM（長短期記憶網絡）同 GRU（門控循環單元）嘅混合 RNN 模型，喺同單一 LSTM 模型對比之下，預測誤差可以降低 33%，為決策同路徑規劃提供咗寶貴嘅時間。
處理多傳感器時序數據：自動駕駛系統會持續產生海量嘅時間序列數據。例如，一項專利技術就公開咗一種結合卷積神經網絡 (CNN) 同循環神經網絡 (RNN) 嘅方案：CNN 負責分析圖像入面嘅物體，而 RNN 則用於處理車速、雷達數據隨時間嘅變化，綜合判斷環境係咪複雜，而從而決策是否開啟哨兵監控。
端到端控制：喺一啲前沿研究入面，RNN 亦被用於端到端嘅控制。例如，基於 RNN-LSTM 深度融合嘅系統，能夠將自動駕駛喺極端場景下嘅成功率提升至89.5%，驗證咗佢喺複雜動態環境下嘅有效性。

儘管 RNN 喺理論上有能力處理長序列，但喺實際應用中曾面臨嚴重嘅訓練瓶頸：

梯度消失同爆炸：呢個係早期簡單 RNN 模型嘅主要缺陷。喺反向傳播過程中，梯度會隨序列長度嘅增加而指數級衰減（消失）或增長（爆炸），導致模型唔能夠學習到長距離嘅依賴關係。

為咗解決呢個問題，研究員開發咗更強大嘅 RNN 變體，而家佢哋已經成為處理序列任務嘅主流：

長短期記憶網絡（LSTM）：LSTM 通過引入精巧嘅「門控」機制（輸入門、遺忘門、輸出門），可以有效地選擇性咁記住或遺忘長期資訊，係解決梯度消失問題嘅經典方案。
門控循環單元（GRU）：GRU 可以睇做係 LSTM 嘅簡化版，佢將 LSTM 嘅三個門精簡成兩個（更新門同重置門），喺保持相近性能嘅同時，參數更少、計算效率更高。

喺一啲競爭激烈嘅場景中，RNN 同佢哋嘅變體同 Transformer 等新興架構仍喺共同演進，各有優勢。