L'Assunto GIGO
GIGO: 'garbage in, garbage out.' Se fornisci numeri ed equazioni mal determinati, ottieni risultati mal determinati. Si assume tacitamente il viceversa: input accurati producono output accurati.
Hamming ha dimostrato che entrambi gli assunti possono essere falsi.
Garbage in, garbage out (caso vero): la simulazione meteorologica iniziale. Le piccole perturbazioni si amplificano. Input imprecisi producono output selvaticamente imprecisi — un campo direzionale divergente.
Garbage in, accurate out (GIGO rovesciato): la simulazione della bomba di Los Alamos (Capitolo 18). I dati dell'equazione di stato provenivano da fonti sparse e inaffidabili. Eppure il design della bomba ha funzionato. Perché?
Perché la struttura di calcolo coinvolgeva seconde differenze: la forza su un guscio dipendeva dalla differenza tra le forze dai gusci adiacenti. Gli errori locali nell'equazione di stato si annullavano largamente mentre i gusci attraversavano la curva. Il calcolo usava una struttura effettivamente convergente.
Accurate in, garbage out: un caso teoricamente possibile. Se un calcolo amplifica piccole incertezze di input attraverso un campo direzionale divergente, input precisi producono comunque output imprecisi.
La lezione: l'affidabilità dell'output della simulazione dipende non solo dalla precisione dell'input, ma dalla struttura intera del calcolo — specificamente, dal fatto che gli errori che entrano nel sistema vengono amplificati, preservati o smorzati.
Il Feedback Protegge l'Accuratezza
Hamming ha collegato il rovesciamento GIGO all'intuizione dell'amplificatore con feedback di Harold Black.
La scoperta di Black: se il guadagno dell'amplificatore è molto alto, solo la resistenza di feedback deve essere accurata. Tutti gli altri componenti possono essere imprecisi. Il loop di feedback stabilizza l'output contro le variazioni nei componenti.
Lo stesso principio opera nelle simulazioni con struttura di feedback:
- Il sistema di guida del missile Nike corregge automaticamente le deviazioni di traiettoria. I piccoli errori nelle condizioni iniziali venivano smorzati, non amplificati. Questo ha permesso a Hamming di simulare il fallimento del missile usando condizioni iniziali stimate — eppure recuperare il periodo corretto del trasferimento di energia pitch-yaw.
- La struttura di seconda differenza del calcolo della bomba atomica agiva come feedback: gli errori locali dell'equazione di stato si mediavano nella storia di un guscio.
L'implicazione di design: un buon design della simulazione, come un buon design ingegneristico, protegge l'accuratezza posizionando componenti imprecisi all'interno di loop di feedback. Le quantità vitali — quelle al di fuori della protezione del feedback — devono essere misurate con precisione.
Campi Direzionali e il Tubo
Un'ODE del primo ordine dy/dx = f(x,y) definisce un campo direzionale: ad ogni punto (x,y) nel piano, la pendenza f(x,y) punta nella direzione che la soluzione deve muoversi.
Un campo direzionale divergente: le piccole deviazioni da un percorso di soluzione vero crescono. Gli errori si amplificano.
Un campo direzionale convergente: le grandi deviazioni si riducono verso il percorso vero. Gli errori si smorzano.
Entrambi possono verificarsi nella stessa equazione in punti diversi. L'accuratezza della soluzione dipende da dove valuti — non da alcuna proprietà assoluta dell'equazione.
Hamming ha visualizzato l'accuratezza come un 'tubo' intorno alla soluzione vera. In 2D, il tubo si espande nelle regioni divergenti e si contrae in quelle convergenti. In n dimensioni (il problema di intercettazione della Marina usava 28 equazioni), la geometria del tubo diventa non intuitiva. Il paradosso n-dimensionale del Capitolo 9 si applica: i tubi ad alta dimensione si comportano niente come i tubi 2D.
Metodo di Euler
Il risolutore ODE più semplice: dal punto (xₙ, yₙ), stima il punto successivo usando la pendenza corrente:
> yₙ₊₁ = yₙ + h · f(xₙ, yₙ)
dove h è la dimensione del passo. Questo segue la linea tangente ad ogni punto — usando sempre 'la pendenza che era', non una pendenza tipica nell'intervallo. L'errore si accumula ad ogni passo.
Miglioramento predittore-correttore: prevedi un valore yₙ₊₁ usando Euler, valuta la pendenza lì, poi prendi la media delle pendenze ad entrambi gli estremi dell'intervallo per fare un passo corretto. Se i valori previsti e corretti concordano strettamente, la dimensione del passo è appropriata. Se divergono, accorcia h.
Metodi di Ordine Superiore e la Connessione ai Filtri
I metodi predittore-correttore polinomiali di quarto grado (Milne, Adams-Bashforth, metodo di Hamming) usano diversi valori passati della funzione e della derivata per predire il valore successivo.
Hamming ha identificato questi metodi come filtri digitali ricorsivi: i valori di output (posizioni) sono computati dai dati di input (derivate ai passi passati) da una ricorrenza lineare — esattamente la struttura di un filtro digitale.
Questa connessione ha conseguenze:
- L'analisi di stabilità per i filtri ricorsivi si applica direttamente. Il criterio di stabilità della trasformata z: i poli della funzione di trasferimento del filtro devono trovarsi all'interno del cerchio unitario.
- La dimensione del passo h controlla la stabilità. Per una data ODE, c'è un h massimo oltre il quale il metodo numerico diventa instabile — la soluzione computata diverge anche se la soluzione vera converge.
Equazioni rigide: quando un sistema ha autovalori con magnitudini molto diverse (una componente che cambia velocemente, una lenta), la stabilità richiede una dimensione del passo abbastanza piccola per la componente veloce anche quando la componente lenta potrebbe tollerare passi grandi. I risolutori rigidi usano metodi impliciti per consentire passi più grandi senza instabilità.
Il compromesso frequenza vs posizione: i metodi polinomiali classici ottimizzano l'accuratezza della posizione locale — la traiettoria è vicina al percorso vero ad ogni passo, ma la 'sensazione' dinamica (risposta in frequenza) può essere sbagliata. Per un simulatore di volo, ottenere la risposta in frequenza corretta può importare più che ottenere la posizione corretta.
Camminare sulla Cresta della Duna
A Hamming è stata data un'equazione differenziale per il design del transistor con una condizione al contorno all'infinito — la condizione al contorno essendo il lato destro dell'equazione impostato a zero.
L'analisi di stabilità era allarmante: se y in qualsiasi punto diventava leggermente troppo grande, sinh(y) si amplificava, la seconda derivata andava fortemente positiva, e la soluzione sparava a +∞. Se y diventava leggermente troppo piccola, sparava a -∞. E l'instabilità era bidirezionale — integrare nella direzione opposta non aiutava.
L'immagine di Hamming: 'camminare sulla cresta di una duna di sabbia.' Una volta che entrambi i piedi scivolano da un lato, inevitabilmente scivoli giù.
La sua soluzione: sfruttare l'instabilità come un segnale di guida. Ha integrato un segmento della traiettoria sull'analizzatore differenziale. Se la soluzione sparava verso l'alto, era leggermente troppo alto nella sua stima della pendenza all'inizio di quel segmento — correggi verso il basso. Se sparava verso il basso, correggi verso l'alto. Pezzo per pezzo, ha camminato sulla cresta della duna.
Cosa ha reso questo possibile: l'instabilità cresceva velocemente. Un piccolo errore nella pendenza di partenza produceva una grande, inequivocabile deviazione — un segnale chiaro su quale direzione corregere. Un problema leggermente instabile non avrebbe fornito un segnale così chiaro.
L'obbligo professionale: 'Sarebbe stato così facile scartare il problema come insolubile, malamente posto, o qualunque altra scusa tu volessi raccontarti, ma continuo a credere che i problemi importanti propriamente posti possono essere usati per estrarre una conoscenza utile.'
Il Test di Rorschach e l'Casualità
Uno psicologo dei Bell Labs ha costruito una macchina: 12 interruttori, una luce rossa, una luce verde. I soggetti regolano gli interruttori, premono un pulsante, osservano il risultato, e dopo 20 tentativi scrivono una teoria su come accendere la luce verde. La loro teoria veniva passata al soggetto successivo, e il ciclo continuava.
Le luci si collegavano a una fonte casuale. Non c'era alcun schema.
In tutti i tentativi, nemmeno uno scienziato dei Bell Labs — tutto personale tecnico di alto calibro — ha mai detto: non c'è schema. Hanno tutti trovato teorie.
L'osservazione di Hamming: nemmeno uno era uno statistico o un teorico dell'informazione. Questi due campi addestrano i praticanti a chiedere: 'Quello che sto vedendo è realmente lì, o è semplicemente rumore casuale?'
L'implicazione per la simulazione: una simulazione che può essere regolata fino a quando corrisponde ai dati osservati è un test di Rorschach. Il processo di regolazione trova un modello coerente con i dati, ma non necessariamente il modello vero. Distinguere il segnale dal rumore richiede disciplina statistica deliberata — dati di holdout, ipotesi pre-specificate, intervalli di confidenza — non solo buone intenzioni.
L'accusa finale di Hamming: 'Il What if...? sorgerà spesso nei vostri futuri, quindi la necessità per voi di dominare i concetti e le possibilità delle simulazioni, ed essere pronti a mettere in questione i risultati e a scavare nei dettagli quando necessario.'