Encadrer la question
Hamming commence par un piège. « Les machines peuvent-elles penser ? » semble une simple question oui-ou-non. Il argue qu'elle cache trois problèmes distincts : qu'est-ce qui compte comme une machine, qu'est-ce qui compte comme penser, & si la question a même une réponse significative.
Il a passé un an à essayer d'identifier le plus petit programme qu'il croirait capable de penser. Après un an d'échec, il a conclu qu'il posait la mauvaise question. Peut-être que penser n'est pas une propriété oui-ou-non. Peut-être que ça admet des degrés.
Son changement de cadrage : au lieu de « les machines peuvent-elles penser », demandez « jusqu'à quel point les machines peuvent-elles soulager les fardeaux intellectuels de la vie ? » Cette question pointe directement vers l'utilité plutôt que vers la métaphysique.
Le danger de la certitude
Hamming avertit que les deux extrêmes portent un risque professionnel. Croyez que les machines ne peuvent pas penser : vous les sous-utiliserez & prendrez du retard. Croyez que les machines peuvent évidemment penser : vous les surestimerez & construirez des systèmes qui échouent de manières que vous n'aviez pas anticipées.
Aucune croyance n'est sûre. Vous devez développer votre propre position réfléchie.
Le test de Turing
Alan Turing, en 1950, a proposé un test comportemental : si une personne au clavier ne peut pas distinguer un humain d'une machine convenablement programmée, la machine « pense » — par définition.
Hamming respecte l'astuce de la manœuvre. Turing évite la question philosophique sans réponse sur l'expérience intérieure & la remplace par un comportement observable. C'est un bon instinct scientifique.
Mais Hamming a une objection structurelle : le test de Turing viole la méthode scientifique standard. La science commence par les problèmes les plus simples d'abord, pas les plus difficiles. Le test de Turing est, comme Hamming le dit, difficile avant facile. Il évalue l'intelligence conversationnelle complète avant que nous comprenions l'apprentissage simple ou le suivi des règles.
Ce qui ne peut pas être mis en mots
La revendication centrale de Hamming sur les limites de l'intelligence machine : toute connaissance humaine ne peut pas être traduite en règles ou en instructions. Certaines connaissances résistent à la formalisation — non pas parce que nous manquons d'effort ou d'intelligence, mais parce que la verbalisation n'est pas le bon médium.
Les systèmes experts des années 1980 ont essayé de capturer l'expertise sous forme de bases de règles : SI symptôme-A ET symptôme-B ALORS diagnostic-C. Ils fonctionnaient dans des domaines étroits et bien définis. Ils échouaient aux limites de ces domaines, où exactement la connaissance tacite des praticiens expérimentés compte le plus.
L'intuition du chimiste quant à la réaction qui se produira, le toucher du soudeur expérimenté pour l'écart d'arc correct, le sens du chirurgien de quand les tissus paraissent anormaux — ce ne sont pas simplement des règles attendant d'être articulées. Hamming argue que certaines peuvent être définitivement incodifiables.
Pourquoi cela compte pour l'automatisation
Les systèmes basés sur les règles réussissent très bien au centre de domaines bien définis. Ils échouent à la limite. Les praticiens expérimentés vivent à la limite. Cette asymétrie façonne ce que l'automatisation peut & ne peut pas remplacer.
Identifier les connaissances tacites
La phrase de Michael Polanyi pour cela : « Nous savons plus que nous ne pouvons le dire. » Il a utilisé l'exemple de la reconnaissance faciale — la plupart des gens reconnaissent instantanément des milliers de visages mais ne peuvent pas décrire les règles qu'ils utilisent.
Hamming connecte cela aux systèmes experts : le problème plus profond n'est pas que nous n'avons pas encore écrit les règles ; c'est que pour certains domaines, aucun ensemble complet de règles n'existe.
Tic-tac-toe 4×4×4
Hamming utilise le tic-tac-toe tridimensionnel 4×4×4 comme son exemple travaillé. Le plateau a 64 carrés & 76 lignes gagnantes. Le tic-tac-toe bidimensionnel a une stratégie de draw connue ; il ne démontre pas d'intelligence intéressante. La version 4×4×4 est assez difficile pour nécessiter de véritables heuristiques.
La structure du programme
Étape 1 : énumérer les mouvements légaux.
Étape 2 : favoriser les « points chauds » — les coins & les centres ont plus de lignes gagnantes qui les traversent que les carrés de bord ou de centre de face. Utilisez la dualité coin-centre du cube : il existe une inversion du cube envoyant les coins aux centres & les centres aux coins tout en préservant les 76 lignes.
Étape 3 : jouer aléatoirement parmi les mouvements à peu près équivalents. Le jeu déterministe laisse un adversaire patient mapper votre stratégie & trouver des exploits. L'aléatoire empêche l'exploitation systématique.
Étape 4 : appliquer les règles séquentielles par ordre de priorité.
Les règles séquentielles, par ordre de priorité : (1) gagner si un mouvement gagnant existe ; (2) bloquer le mouvement gagnant de l'adversaire ; (3) prendre une fourche si disponible ; (4) bloquer la fourche de l'adversaire ; (5) faire des mouvements forçants ; (6) revenir aux heuristiques.
Remarquez la structure : les règles déterministes couvrent les situations clairement définies. Les heuristiques gèrent tout le reste. La ligne entre eux est exactement où commence la connaissance tacite.
Le programme de jeu de dames de Samuel
Arthur Samuel chez IBM a écrit un programme de jeu de dames qui est devenu célèbre pour avoir battu un champion d'état. Ce qui l'a rendu remarquable : il utilisait un mécanisme d'apprentissage. Samuel a paramétrisé la fonction d'évaluation (pondérant le contrôle du plateau, l'avantage du roi, la mobilité, la fixation des pièces, etc.), puis a laissé deux copies du programme jouer l'une contre l'autre avec des paramètres légèrement différents. La version ayant de meilleures performances a survécu.
Ceci est une recherche de paramètres, pas une découverte de règles — mais cela constitue un apprentissage dans un sens significatif. Le programme s'est amélioré sans que le programmeur ait explicitement écrit de meilleures règles.
Hamming demande : le programme de dames de Samuel a-t-il montré de l'originalité quand il a fait des mouvements surprenants ? Vous ne pouvez pas prouver qu'il l'a fait, mais vous pouvez tout aussi bien ne pas prouver que vous avez de l'originalité dans un sens qui exclut le programme de dames.
Systèmes experts & leurs limites
Les systèmes experts des années 1970-1980 représentaient la tentative la plus systématique de formaliser la connaissance professionnelle sous forme de règles exécutables par des machines. Le diagnostic médical, l'exploration géologique, l'analyse financière, la conception de circuits — chaque domaine a attiré son propre système basé sur les règles.
Les performances dans les sous-problèmes bien définis étaient souvent impressionnantes. Mais les systèmes partageaient un mode d'échec : ils fonctionnaient jusqu'à ce que le problème sorte de la couverture des règles, puis échouaient complètement. Les experts humains se dégradent gracieusement ; les systèmes à règles chutent d'une falaise.
La cause profonde que Hamming identifie : les personnes construisant les systèmes experts n'avaient pas de moyen systématique de savoir ce qui manquait. Les experts pouvaient articuler leurs règles — mais les experts utilisent leur jugement incodifiable pour décider quelles règles s'appliquent dans une situation donnée. Ce jugement au niveau méta n'a jamais fait son chemin dans le système.
La bonne question pour votre carrière
La question pratiquement utile n'est pas « les machines peuvent-elles penser ? » C'est : pour toute tâche dans votre domaine, la difficulté critique vit-elle au centre couvert par les règles, ou à la limite où le jugement & la connaissance tacite opèrent ? L'automatisation gère de manière fiable la première. Elle a du mal avec la seconde. Votre stratégie de carrière suit de la connaissance de la différence.