문제의 틀잡기
해밍은 함정으로 시작한다. '기계는 생각할 수 있는가?'는 단순한 예/아니오 질문처럼 들린다. 그러나 그는 이것이 세 개의 별개 문제를 숨기고 있다고 주장한다: 무엇이 기계인지, 무엇이 생각인지, & 그 질문이 의미 있는 답변을 가지고 있는지 여부.
그는 생각할 수 있다고 믿을 수 있는 가장 작은 프로그램을 찾기 위해 1년을 보냈다. 1년의 실패 끝에 그는 자신이 잘못된 질문을 하고 있었다고 결론지었다. 아마도 생각은 예/아니오 속성이 아닐 것이다. 아마도 정도의 차이가 있을 것이다.
그의 틀잡기의 변화: '기계는 생각할 수 있는가'가 아니라 '기계는 삶의 지적 부담을 어느 정도까지 덜어줄 수 있는가?'라고 묻는다. 그 질문은 형이상학이 아니라 유용성을 직접 가리킨다.
확실성의 위험
해밍은 양극단이 모두 직업적 위험을 안고 있다고 경고한다. 기계가 생각할 수 없다고 믿으면 당신은 그것을 과소 활용하고 뒤떨어질 것이다. 기계가 명백히 생각할 수 있다고 믿으면 당신은 그것을 과대평가하고 당신이 예상하지 못한 방식으로 실패하는 시스템을 구축할 것이다.
어느 신념도 안전하지 않다. 당신은 자신의 신중한 입장을 발전시켜야 한다.
튜링 테스트
1950년 앨런 튜링은 행동 테스트를 제안했다: 텔레타입 사용자가 인간과 적절히 프로그래밍된 기계를 구별할 수 없다면, 그 기계는 정의에 따라 '생각한다'.
해밍은 이 움직임의 영리함을 존경한다. 튜링은 내적 경험에 대한 답할 수 없는 철학적 질문을 회피하고 관찰 가능한 행동으로 대체한다. 그것은 좋은 과학적 직관이다.
하지만 해밍은 구조적 반론이 있다: 튜링 테스트는 표준 과학적 방법을 위반한다. 과학은 가장 어려운 문제가 아니라 가장 간단한 문제부터 시작한다. 튜링 테스트는 해밍의 표현대로 어려운 것을 먼저 한다. 우리가 단순한 학습이나 규칙 따르기를 이해하기 전에 완전한 대화형 지능을 평가한다.
말로 표현할 수 없는 것
해밍의 기계 지능 한계에 대한 중심 주장: 모든 인간의 지식이 규칙이나 지시로 번역될 수 있는 것은 아니다. 일부 지식은 형식화에 저항한다 — 노력이나 지능이 부족해서가 아니라, 말로 표현하는 것이 올바른 매개체가 아니기 때문이다.
1980년대의 전문가 시스템은 전문성을 규칙 기반으로 포착하려고 시도했다: 만약 증상-A & 증상-B 이면 진단-C. 잘 정의된 좁은 영역에서는 효과가 있었다. 그러나 그 영역의 경계에서는 실패했는데, 바로 경험 있는 의료인의 암묵적 지식이 가장 중요한 곳이었다.
화학자의 어떤 반응이 진행될 것 같은 직관, 경험 있는 용접사의 올바른 아크 간격에 대한 감각, 외과의의 조직이 잘못되어 보인다는 느낌 — 이것들은 단순히 표현되기를 기다리는 규칙이 아니다. 해밍은 일부는 영구적으로 코드화할 수 없을 수 있다고 주장한다.
자동화에 중요한 이유
규칙 기반 시스템은 잘 정의된 영역의 중심에서 매우 잘 작동한다. 경계에서 실패한다. 경험 있는 의료인은 경계에서 살아간다. 이 비대칭성은 자동화가 무엇을 할 수 있고 무엇을 할 수 없는지를 형성한다.
암묵적 지식 식별하기
마이클 폴라니의 이 표현: '우리는 말할 수 있는 것보다 더 많이 안다.' 그는 얼굴 인식의 예를 사용했다 — 대부분의 사람들은 수천 개의 얼굴을 즉시 인식하지만, 자신이 사용하는 규칙을 설명할 수 없다.
해밍은 이를 전문가 시스템과 연결한다: 더 깊은 문제는 우리가 아직 규칙을 쓰지 않았다는 것이 아니라, 일부 영역에서는 완전한 규칙 집합이 존재하지 않을 수 있다는 것이다.
4×4×4 틱택토
해밍은 4×4×4 3차원 틱택토를 자신의 작업 사례로 사용한다. 보드는 64개의 칸 & 76개의 승리 라인을 가진다. 2차원 틱택토는 알려진 비김 전략을 가지고 있다; 그것은 흥미로운 지능을 나타내지 않는다. 4×4×4 버전은 진정한 휴리스틱을 요구하기에 충분히 어렵다.
프로그램의 구조
1단계: 합법적인 움직임을 열거한다.
2단계: '핫스팟'을 선호한다 — 모서리 & 중심은 그것들을 지나가는 더 많은 승리 라인을 가진다. 큐브의 중심-모서리 이중성을 사용한다: 모서리를 중심으로, 중심을 모서리로 보내면서 모든 76개 라인을 보존하는 큐브의 반전이 존재한다.
3단계: 대략 동등한 움직임 중 무작위로 재생한다. 결정론적 재생은 인내심 있는 상대방이 자신의 전략을 매핑하고 악용을 찾을 수 있게 한다. 무작위성은 체계적인 악용을 방지한다.
4단계: 우선순위 순서로 순차 규칙을 적용한다.
순차 규칙, 우선순위 순서: (1) 승리하는 움직임이 존재하면 이긴다; (2) 상대의 승리 움직임을 막는다; (3) 포크가 있으면 가져간다; (4) 상대의 포크를 막는다; (5) 강제 움직임을 한다; (6) 휴리스틱으로 돌아간다.
구조에 주목하자: 결정론적 규칙은 명확하게 정의된 상황을 다룬다. 휴리스틱은 다른 모든 것을 처리한다. 그들 사이의 경계는 정확히 암묵적 지식이 시작되는 곳이다.
사뮤엘의 체커 플레이 프로그램
IBM의 아서 사뮤엘은 체커 플레이 프로그램을 썼는데, 그것이 주 챔피언을 이겨서 유명해졌다. 눈에 띄는 것: 그것은 학습 메커니즘을 사용했다. 사뮤엘은 평가 함수를 매개변수화했다 (보드 통제, 킹 이점, 이동성, 말 고정 등의 가중치), 그 다음 약간 다른 매개변수 설정으로 프로그램의 두 복사본이 서로 대항하여 재생하게 했다. 더 잘 수행하는 버전이 살아남았다.
이는 규칙 발견이 아니라 매개변수 탐색이다 — 하지만 그것은 의미 있는 의미에서 학습을 구성한다. 프로그래머가 더 나은 규칙을 명시적으로 쓰지 않고도 프로그램이 개선되었다.
해밍은 묻는다: 사뮤엘의 프로그램이 놀라운 움직임을 할 때 독창성을 보였는가? 당신은 그것이 그렇게 했다는 것을 증명할 수 없지만, 당신은 당신이 체커 프로그램을 배제하는 어떤 의미에서든 독창성을 가지고 있다는 것을 증명할 수도 없다.
전문가 시스템 & 그들의 한계
1970~80년대의 전문가 시스템은 직업 지식을 기계 실행 규칙으로 형식화하려는 가장 체계적인 시도였다. 의료 진단, 지질 조사, 금융 분석, 회로 설계 — 각 영역은 자신의 규칙 기반 시스템을 유치했다.
잘 정의된 부분 문제의 성능은 종종 인상적이었다. 하지만 시스템은 공유된 실패 양식을 가지고 있었다: 문제가 규칙 적용 범위를 벗어나면 작동했고, 그 다음 완전히 실패했다. 인간 전문가는 점진적으로 성능이 저하된다; 규칙 시스템은 절벽에서 떨어진다.
해밍이 식별하는 근본 원인: 전문가 시스템을 구축하는 사람들은 무엇이 빠졌는지를 알 수 있는 체계적인 방법을 가지지 못했다. 전문가들은 자신의 규칙을 표현할 수 있었다 — 하지만 전문가들은 암묘적 판단을 사용하여 어떤 규칙이 주어진 상황에서 적용되는지를 결정한다. 그 메타-수준 판단은 절대 시스템에 들어가지 않았다.
당신의 경력을 위한 올바른 질문
실질적으로 유용한 질문은 '기계는 생각할 수 있는가?'가 아니다. 당신의 분야에서 어떤 작업에든 '임계 난점이 규칙으로 덮인 중심에 있는가, 아니면 판단 & 암묘적 지식이 작동하는 경계에 있는가?'이다. 자동화는 전자를 확실히 처리한다. 그것은 후자와 어려워한다. 당신의 경력 전략은 차이를 아는 것으로부터 따른다.