Sformułowanie pytania
Hamming otwiera pułapką. "Czy maszyny mogą myśleć?" brzmi jak proste pytanie tak-lub-nie. Argumentuje, że ukrywa trzy odrębne problemy: co liczy się za maszynę, co liczy się za myślenie & czy pytanie w ogóle ma sensowną odpowiedź.
Spędził rok, próbując zidentyfikować najmniejszy program, w który by uwierzył, że może myśleć. Po roku porażki doszedł do wniosku, że zadawał niewłaściwe pytanie. Może myślenie nie jest właściwością tak-lub-nie. Może przyjmuje różne stopnie.
Jego zmiana sformułowania: zamiast "czy maszyny mogą myśleć", pytaj "w jakim stopniu maszyny mogą ulżyć życiu intelektualnym?" To pytanie wskazuje bezpośrednio na użyteczność, a nie na metafizykę.
Niebezpieczeństwo pewności
Hamming ostrzega, że oba skrajne stanowiska niosą ryzyko zawodowe. Wierz, że maszyny nie mogą myśleć: będziesz je niedoużywać & będziesz czekać. Wierz, że maszyny oczywiście mogą myśleć: przeszacujesz je & budujesz systemy, które zawiodą w sposób, którego nie przewidziałeś.
Żaden z tych poglądów nie jest bezpieczny. Musisz wypracować własne przemyślane stanowisko.
Test Turinga
Alan Turing, w 1950 roku, zaproponował test behawioralny: jeśli osoba przy teletycie nie potrafi rozróżnić człowieka od odpowiednio programowanej maszyny, maszyna "myśli" — z definicji.
Hamming respektuje genialność tego ruchu. Turing unika nieudzielającego się odpowiedzi filozoficznego pytania o wewnętrzne doświadczenie & zastępuje je obserwowanym zachowaniem. To dobre naukowce instinkty.
Ale Hamming ma sprzeciw strukturalny: test Turinga narusza standardową metodę naukową. Nauka zaczyna od najprostszych problemów, nie od najtrudniejszych. Test Turinga jest, jak to ujmuje Hamming, trudne przed łatwym. Ocenia pełną inteligencję rozmowy, zanim zrozumiemy proste uczenie się lub postępowanie zgodnie z zasadami.
Co nie może być wyrażone słowami
Centralne twierdzenie Hamminga o limitach inteligencji maszynowej: nie wszystka wiedza ludzka może być przetłumaczona na zasady lub instrukcje. Niektóra wiedza opiera się sformalizowaniu — nie dlatego, że brakuje nam wysiłku lub inteligencji, ale dlatego, że werbalizacja nie jest właściwym nośnikiem.
Systemy eksperckie lat 80. próbowały uchwycić wiedzę specjalistyczną jako bazy reguł: JEŚLI symptom-A I symptom-B TO diagnoza-C. Działały dobrze w wąskich, dobrze zdefiniowanych domenach. Zawiodły na granicach tych domen, gdzie dokładnie wiedza niejawna doświadczonych praktyków miała największe znaczenie.
Intuicja chemika dotycząca tego, która reakcja będzie przebiegać, czucie spawacza dotyczące odpowiedniej szczeliny łuku, sens chirurga dotyczący tego, kiedy tkanina wygląda źle — to nie są po prostu zasady czekające na artykułowanie. Hamming argumentuje, że niektóre mogą być na stałe niekodowalne.
Dlaczego to ma znaczenie dla automatyzacji
Systemy oparte na regułach działają bardzo dobrze w centrum dobrze zdefiniowanych domen. Zawiodą na granicy. Doświadczeni praktycy żyją na granicy. Ta asymetria kształtuje to, co automatyzacja może & nie może zastąpić.
Identyfikowanie wiedzy niejawnej
Sformułowanie Michaela Polanyiego na temat tego: "Wiemy więcej niż potrafimy powiedzieć". Użył przykładu rozpoznawania twarzy — większość ludzi natychmiast rozpoznaje tysiące twarzy, ale nie potrafi opisać reguł, które stosują.
Hamming łączy to z systemami eksperckim: głębszy problem nie polega na tym, że jeszcze nie napisaliśmy reguł; polega na tym, że dla niektórych domen żaden kompletny zestaw reguł nie istnieje.
Trójwymiarowy Kółko i Krzyżyk 4×4×4
Hamming używa trójwymiarowego kółka i krzyżyka 4×4×4 jako swojego rozpracowanego przykładu. Plansza ma 64 pola & 76 linii wygrywających. Dwuwymiarowe kółko i krzyżyk ma znaną strategię remisową; nie wykazuje ciekawie inteligencji. Wersja 4×4×4 jest wystarczająco trudna, aby wymagać rzeczywistych heurystyk.
Struktura programu
Krok 1: wylicz legalne ruchy.
Krok 2: preferuj "gorące punkty" — narożniki & centra mają więcej linii wygrywających przez nich niż pola krawędzi lub środka ścian. Użyj dualności narożnik-środek sześcianu: istnieje inwersja sześcianu wysyłająca narożniki do środków & środki do narożników, zachowując wszystkie 76 linii.
Krok 3: graj losowo między mniej więcej równoważnymi ruchami. Deterministyczna gra pozwala cierpliwemu przeciwnikowi zmapować twoją strategię & znaleźć exploity. Losowość zapobiega systematycznemu eksploatowaniu.
Krok 4: zastosuj reguły sekwencyjne w kolejności priorytetu.
Reguły sekwencyjne, w kolejności priorytetu: (1) wygraj, jeśli istnieje zwycięski ruch; (2) zablokuj zwycięski ruch przeciwnika; (3) weź rozwidlenie, jeśli dostępne; (4) zablokuj rozwidlenie przeciwnika; (5) wykonaj wymuszające ruchy; (6) wróć do heurystyk.
Zwróć uwagę na strukturę: reguły deterministyczne obejmują wyraźnie zdefiniowane sytuacje. Heurystyki obsługują wszystko inne. Linia między nimi to dokładnie punkt, w którym zaczyna się wiedza niejawna.
Program gry w warcaby Samuela
Arthur Samuel z IBM napisał program grający w warcaby, który słynął z pokonania mistrza stanu. Co go wyróżniało: używał mechanizmu uczenia. Samuel sparametryzował funkcję oceny (ważenie kontroli planszy, przewagi króla, mobilności, przypiętych figur itp.), a następnie pozwolił dwóm kopiom programu grać ze sobą z nieznacznie różnymi ustawieniami parametrów. Wersja lepiej działająca przetrwała.
To jest wyszukiwanie parametrów, nie odkrywanie reguł — ale stanowi uczenie się w sensownym sensie. Program ulepszył się bez tego, że programista jawnie napisał lepsze reguły.
Hamming pyta: czy program warcaby Samuela wykazał oryginalność, gdy wykonywał zaskakujące ruchy? Nie możesz dowieść, że tak było, ale równie dobrze nie możesz dowieść, że ty masz oryginalność w sensie, który wyklucza program warcaby Samuela.
Systemy eksperckie & ich limity
Systemy eksperckie lat 70. i 80. reprezentowały najbardziej systematyczną próbę sformalizowania wiedzy zawodowej jako reguł wykonywanych maszynowo. Diagnostyka medyczna, badania geologiczne, analiza finansowa, projektowanie obwodów — każda domena przyciągała swój własny system oparty na regułach.
Wydajność w dobrze zdefiniowanych podproblemach była często imponująca. Ale systemy dzieliły tryb porażki: działały, dopóki problem nie wychodził poza pokrycie reguł, a następnie zawodził całkowicie. Doświadczeni eksperci degradują się łagodnie; systemy reguł spadają ze klifu.
Główną przyczynę, którą Hamming identyfikuje: ludzie budujący systemy eksperckie nie mieli systematycznego sposobu, aby wiedzieć, co brakuje. Eksperci mogli artykułować swoje zasady — ale eksperci używają swojego niekodyfi kowalnego osądu do zdecydowania, które reguły mają zastosowanie w danej sytuacji. Ten osąd na meta-poziomie nigdy nie trafił do systemu.
Właściwe pytanie dla twojej kariery
Praktycznie użytecznym pytaniem nie jest "czy maszyny mogą myśleć?" Pytanie to: dla każdego zadania w twojej dziedzinie, czy krytyczna trudność żyje w pokrytym regułami centrum czy na granicy, gdzie osąd & wiedza niejawna operują? Automatyzacja wiarygodnie obsługuje pierwszą. Walczy z drugą. Twoja strategia kariery wynika ze znania różnicy.