L'Hypothèse GIGO
GIGO : « détritus d'entrée, détritus de sortie ». Si vous fournissez des nombres et des équations mal déterminés, vous obtenez des résultats mal déterminés. La réciproque est implicitement supposée : les entrées précises produisent des résultats précis.
Hamming a montré que les deux hypothèses peuvent être fausses.
Détritus d'entrée, détritus de sortie (cas vrai) : la simulation météorologique précoce. Les petites perturbations s'amplifient. Les entrées imprécises produisent des résultats très imprécis — un champ de direction divergent.
Détritus d'entrée, résultat précis (GIGO inversé) : la simulation de la bombe de Los Alamos (Chapitre 18). Les données d'équation d'état provenaient de sources dispersées et peu fiables. Pourtant, la conception de la bombe a fonctionné. Pourquoi ?
Parce que la structure de calcul impliquait les différences secondes : la force sur un obus dépendait de la différence entre les forces des obus adjacents. Les erreurs locales dans l'équation d'état s'annulaient largement lorsque les obus traversaient la courbe. Le calcul utilisait une structure effectivement convergente.
Entrée précise, détritus de sortie : un cas théoriquement possible. Si un calcul amplifie les petites incertitudes d'entrée par un champ de direction divergent, les entrées précises produisent toujours des résultats imprécis.
La leçon : la fiabilité de la sortie de simulation dépend non seulement de la précision d'entrée, mais de la structure complète du calcul — spécifiquement, si les erreurs entrant dans le système sont amplifiées, préservées ou amorties.
La Rétroaction Protège la Précision
Hamming a connecté l'inversion GIGO à la perspicacité de Harold Black concernant l'amplificateur à rétroaction.
La découverte de Black : si le gain de l'amplificateur est très élevé, seule la résistance de rétroaction doit être précise. Tous les autres composants peuvent être imprécis. La boucle de rétroaction stabilise la sortie contre les variations des composants.
Le même principe opère dans les simulations avec structure de rétroaction :
- Le système de guidage du missile Nike a corrigé les écarts de trajectoire automatiquement. Les petites erreurs dans les conditions initiales ont été amorties, non amplifiées. Cela a permis à Hamming de simuler l'échec du missile en utilisant les conditions initiales supposées — tout en retrouvant la période correcte du transfert d'énergie de tangage-lacet.
- La structure de différence seconde du calcul de la bombe atomique a agi comme une rétroaction : les erreurs locales d'équation d'état se sont moyennées sur l'historique d'un obus.
L'implication de conception : une bonne conception de simulation, comme une bonne conception d'ingénierie, protège la précision en plaçant les composants imprécis à l'intérieur des boucles de rétroaction. Les quantités vitales — celles en dehors de la protection de rétroaction — doivent être mesurées avec précision.
Champs de Direction et le Tube
Une équation différentielle du premier ordre dy/dx = f(x,y) définit un champ de direction : à chaque point (x,y) du plan, la pente f(x,y) pointe dans la direction où la solution doit se déplacer.
Un champ de direction divergent : les petits écarts du vrai chemin de solution se développent. Les erreurs s'amplifient.
Un champ de direction convergeant : les grands écarts se rétrécissent vers le vrai chemin. Les erreurs s'amortissent.
Les deux peuvent se produire dans la même équation à différents points. La précision de la solution dépend de où vous évaluez — non sur aucune propriété absolue de l'équation.
Hamming a visualisé la précision comme un « tube » autour de la vraie solution. En 2D, le tube s'élargit dans les régions divergentes et se contracte dans les régions convergentes. En n dimensions (le problème d'interception navale utilisait 28 équations), la géométrie du tube devient non intuitive. Le paradoxe n-dimensionnel du Chapitre 9 s'applique : les tubes de haute dimension ne ressemblent en rien aux tubes 2D.
Méthode d'Euler
Le solveur d'EDO le plus simple : à partir du point (xₙ, yₙ), estimez le point suivant en utilisant la pente actuelle :
> yₙ₊₁ = yₙ + h · f(xₙ, yₙ)
où h est la taille du pas. Cela suit la ligne tangente à chaque point — utilisant toujours « la pente qui était », pas une pente typique sur l'intervalle. L'erreur s'accumule à chaque pas.
Amélioration prédicteur-correcteur : prédisez une valeur yₙ₊₁ en utilisant Euler, évaluez la pente là, puis prenez la moyenne des pentes aux deux extrémités de l'intervalle pour faire un pas corrigé. Si les valeurs prédites et corrigées s'accordent étroitement, la taille du pas est appropriée. Si elles divergent, raccourcissez h.
Méthodes d'Ordre Supérieur et la Connexion de Filtre
Les méthodes prédicteur-correcteur polynomiales de quatrième degré (Milne, Adams-Bashforth, méthode de Hamming) utilisent plusieurs valeurs passées de la fonction et de la dérivée pour prédire la valeur suivante.
Hamming a identifié ces méthodes comme des filtres numériques récursifs : les valeurs de sortie (positions) sont calculées à partir des données d'entrée (dérivées aux pas passés) par une récurrence linéaire — exactement la structure d'un filtre numérique.
Cette connexion a des conséquences :
- L'analyse de stabilité des filtres récursifs s'applique directement. Le critère de stabilité de la transformation en z : les pôles de la fonction de transfert du filtre doivent se trouver à l'intérieur du cercle unité.
- La taille du pas h contrôle la stabilité. Pour une EDO donnée, il existe un h maximum au-delà duquel la méthode numérique devient instable — la solution calculée diverge même si la vraie solution converge.
Équations raides : quand un système a des valeurs propres de magnitudes très différentes (un composant qui change rapidement, un lent), la stabilité nécessite une taille de pas suffisamment petite pour le composant rapide même quand le composant lent pourrait tolérer de grands pas. Les solveurs raides utilisent des méthodes implicites pour permettre des pas plus grands sans instabilité.
L'échange fréquence versus position : les méthodes polynomiales classiques optimisent la précision locale de position — la trajectoire est proche du vrai chemin à chaque pas, mais la « sensation » dynamique (réponse en fréquence) peut être fausse. Pour un simulateur de vol, obtenir la bonne réponse en fréquence peut être plus important que d'obtenir la bonne position.
Marcher sur la Crête de la Dune
Hamming a reçu une équation différentielle pour la conception des transistors avec une condition limite à l'infini — la condition limite étant le côté droit de l'équation défini à zéro.
L'analyse de stabilité était alarmante : si y en un point quelconque devenait légèrement trop grand, sinh(y) s'amplifiait, la dérivée seconde devenait fortement positive, et la solution s'envolait vers +∞. Si y devenait légèrement trop petit, elle s'envolait vers -∞. Et l'instabilité était bidirectionnelle — l'intégration dans la direction opposée n'aidait pas.
L'image de Hamming : « marcher sur la crête d'une dune de sable ». Une fois que les deux pieds glissent d'un côté, vous descendez inévitablement.
Sa solution : exploiter l'instabilité comme signal de guidage. Il a intégré un segment de la trajectoire sur l'analyseur différentiel. Si la solution s'envolait vers le haut, son estimation de pente au début de ce segment était légèrement trop haute — corriger vers le bas. Si elle s'envolait vers le bas, corriger vers le haut. Morceau par morceau, il a marché sur la crête de la dune.
Ce qui a rendu cela possible : l'instabilité a grandi rapidement. Une petite erreur dans la pente de départ a produit un grand écart sans ambiguïté — un signal clair sur la direction à corriger. Un problème légèrement instable n'aurait fourni aucun signal aussi clair.
L'obligation professionnelle : « Il aurait été tellement facile de rejeter le problème comme insoluble, mal posé, ou toute autre excuse que vous auriez voulu vous raconter, mais je crois toujours que les problèmes importants correctement posés peuvent être utilisés pour extraire quelque connaissance utile. »
Le Test de Rorschach et l'Aléatoire
Un psychologue de Bell Labs a construit une machine : 12 interrupteurs, une lumière rouge, une lumière verte. Les sujets réglaient les interrupteurs, appuyaient sur un bouton, observaient le résultat, et après 20 tentatives écrivaient une théorie sur la façon d'allumer la lumière verte. Leur théorie a été transmise au sujet suivant, et le cycle a continué.
Les lumières étaient connectées à une source aléatoire. Il n'y avait pas de motif.
Dans tous les essais, pas un seul scientifique de Bell Labs — tout le personnel technique de haut calibre — n'a jamais dit : il n'y a pas de motif. Ils ont tous trouvé des théories.
L'observation de Hamming : aucun n'était un statisticien ou un théoricien de l'information. Ces deux domaines forment les praticiens à se poser la question : « Ce que je vois est-il vraiment là, ou n'est-ce que du bruit aléatoire ? »
L'implication pour la simulation : une simulation qui peut être ajustée jusqu'à correspondre aux données observées est un test de Rorschach. Le processus d'ajustement trouve un modèle cohérent avec les données, mais pas nécessairement le vrai modèle. Distinguer le signal du bruit nécessite une discipline statistique délibérée — données de réserve, hypothèses pré-spécifiées, intervalles de confiance — et non seulement les bonnes intentions.
L'appel final de Hamming : « Le « Que se passe-t-il si... ? » surgira souvent dans votre avenir, d'où la nécessité de maîtriser les concepts et les possibilités des simulations, et d'être prêt à remettre en question les résultats et à creuser les détails si nécessaire. »