三種方法,三個區域
對於測試方程式 dy/dx = λy,三種顯式常微分方程方法在複平面 hλ 上具有以下穩定性區域:
Euler 方法(一階):穩定性區域是圓盤 |1 + hλ| ≤ 1,一個半徑為 1、圓心在 (-1, 0) 的圓。實部為負的 hλ 必須位於 [-2, 0]。
Runge-Kutta 2(中點法)(二階):穩定性區域為 |1 + hλ + (hλ)²/2| ≤ 1。比 Euler 的圓盤更大,但仍然有界。
Runge-Kutta 4(四階):穩定性區域滿足 |1 + hλ + (hλ)²/2 + (hλ)³/6 + (hλ)⁴/24| ≤ 1。實部為負的 hλ 延伸至約 -2.785。該區域遠大於 Euler 的區域。
Backward Euler(隱式):穩定性區域是整個複平面除了圓盤 |1 - hλ|⁻¹ > 1,等價於 |1/(1-hλ)| ≤ 1。對於左半平面中的 λ(Re(λ) < 0),這是無條件穩定的——穩定性對 h 沒有限制。
增幅函數
對於任何 Runge-Kutta 方法,每一步的增幅因子 R(hλ) 是 e^(hλ) 的多項式近似:
- Euler: R(z) = 1 + z(在 1 次截斷)
- RK2: R(z) = 1 + z + z²/2(在 2 次截斷)
- RK4: R(z) = 1 + z + z²/2 + z³/6 + z⁴/24(在 4 次截斷)
穩定性區域為 {z ∈ ℂ : |R(z)| ≤ 1}。真實解的增幅:|e^z| = e^(Re(z))。對於 Re(z) < 0(穩定的常微分方程),真實解衰減。若 |R(z)| ≤ 1,數值方法是穩定的——符合衰減行為。
純虛特徵值:振盪系統
許多物理系統具有純虛特徵值:λ = iω(無阻尼振盪)。彈簧-質量系統、軌道力學、單擺動力學。
對於 λ = iω:hλ = ihω 位於虛軸上。
Euler 在虛軸上的穩定性: |1 + ihω|² = 1 + (hω)² > 1,對任何 h > 0。Euler 在純虛特徵值上對任何步長都是不穩定的。計算出的「振盪」無限增長。
RK4 在虛軸上的穩定性: 穩定性區域在虛軸上延伸至約 |hω| ≤ 2.83。對於足夠小的 h,RK4 可以處理無阻尼振盪。Euler 不能。
這就是為什麼 Euler 即使步長很小也會在保守系統(彈簧-質量、軌道、波動方程)上失敗,而 RK4 能夠很好地處理它們的原因。
剛性問題的幾何
剛性常微分方程系統具有幅度相差很大的特徵值。剛性比:κ = max|Re(λᵢ)| / min|Re(λᵢ)| >> 1。
為什麼剛性對顯式求解器很昂貴:
穩定性要求 h·max|λᵢ| ≤ C(其中 C 取決於方法)。最負特徵值設定邊界。
慢動力學的精度要求 h·min|λᵢ| ≥ ε(充分分辨最慢模式)。
如果 κ 很大,這兩個要求會強制極小的 h:足夠小以確保快速模式的穩定性,足夠大以採樣慢速模式。步驟數隨 κ 縮放。
特徵值譜中的幾何圖景: Jacobian ∂f/∂y 的特徵值在複平面中形成點集。顯式求解器的穩定性區域必須包含所有點 h·λᵢ。如果特徵值從 -1 跨越到 -1000,穩定性區域必須沿實軸覆蓋 1000 範圍——需要極小的 h。
隱式求解器: Backward Euler 的穩定性區域覆蓋整個左半平面。所有 Re(λ) < 0 的特徵值無論 h 如何都自動在穩定性區域內。對 h 的限制僅來自精度,不是穩定性。
剛性比與成本
考慮一個快速反應(時間尺度 10⁻⁶ s)和慢速反應(時間尺度 1 s)的化學反應網絡。
剛性比:κ = 10⁶ / 1 = 10⁶。
使用 RK4(穩定性限制 h·|λ_max| ≤ 2.785):h_max = 2.785 / 10⁶ ≈ 2.8 × 10⁻⁶ s。
要在 10 s 反應時間上積分:步驟 = 10 / (2.8 × 10⁻⁶) ≈ 3.6 × 10⁶。
使用 Backward Euler(無條件穩定):可以根據慢速反應的精度選擇 h。h = 10⁻² s(超過 1 s 尺度的 100 個樣本)。步驟 = 10 / 10⁻² = 1000。
成本比:顯式 360 萬步 vs 隱式 1000 步——相差 3600 倍。每個隱式步驟需要求解線性系統(每步成本更高),但對於非常剛性的問題,總成本要低得多。
為什麼 n 維管道不是您的想法
在 2D 中,曲線 C 周圍半徑 ε 的「管道」是距 C 距離在 ε 內的點集。截面是半徑 ε 的圓。管道的體積隨長度成正比增長。
在 n 維,管道幾何從根本上改變,由於第 9 章現象:
n 維角落悖論: 在 n 維空間,n 維超立方體的幾乎所有體積位於角落——不在中央區域。當 n 增加時,距中心距離 ε 內的體積分數趨於零,對任何固定 ε。
應用於常微分方程解管道:
在 2D:如果真實解通過管道中心,大多數附近的點都接近曲線。小擾動使您保持在真實解附近。
在高維:管道邊界框內的大多數點實際上距真實解曲線很遠。管道的「體積」由角落主導——距中心在多個維度同時很遠的區域。
模擬的後果: 對於 28 個耦合常微分方程(Hamming 的海軍截獲問題),每個維度 ε 大小的擾動可以產生距真實解 ε√28 ≈ 5.3ε 的總位移。管道必須以跨所有維度的 L2 範數來理解,而不僅是任何維度中的最大位移。
高維穩定性: 系統每個分量獨立衰減(每個特徵值具有負實部)可能仍然顯示大的組合位移,因為分量的誤差在 L2 範數中相加。28 維管道不僅僅是 28 個獨立 1 維管道——幾何將它們耦合。
從幾何到設計
第 18-20 章的幾何洞察匯聚為一組常微分方程數值模擬設計原則:
步長選擇: h 必須將 h·λ 放入每個特徵值穩定性區域內。對於剛性系統,隱式方法移除穩定性限制,只留下精度要求。
高維誤差累積: 全局誤差是 n 維空間中的向量。其範數隨誤差的 √n 倍每分量增長。高維模擬需要更嚴格的每步精度要求。
反饋作為穩定器: 如果模擬包含反饋(計算輸出影響後續輸入,如在制導系統中),收斂反饋衰減誤差。模擬可以容忍反饋迴路內數量的不精確輸入。
不穩定性作為信號: 對於具有發散方向場的問題,不穩定性可以被利用:發散方向帶有關於初始條件誤差的信息,啟用糾正調整。