아날로그 및 디지털 선구자
Hamming은 하드웨어 역사를 다음과 같이 구분하면서 시작했습니다: 아날로그 컴퓨팅(슬라이드 룰, 미분 분석기) 대 디지털 컴퓨팅(Napier 뼈, 책상 계산기). 두 라인 모두 병렬로 발전했으며, 결국 디지털 라인이 지배적이 되었습니다.
Napier (1550–1617)
John Napier는 로그를 발명했으며, 이는 슬라이드 룰(물리적 길이가 로그값을 나타내는 아날로그 장치)을 가능하게 했습니다. 길이의 합 = 숫자의 곱. Napier는 또한 '나피어의 뼈'를 설계했습니다: 곱셈을 돕기 위한 상아 막대. 디지털이지만, 슬라이드 룰과 혼동해서는 안 됩니다.
Schickert에서 Babbage까지
Wilhelm Schickert (1623)은 네 가지 산술 연산을 수행하는 기계를 설계했습니다. 완성되기 전에 태워졌습니다. Pascal (1623–1662)은 세금 징수를 위한 가산기를 만들었습니다. Leibniz는 곱셈과 나눗셈을 추가했지만 기계는 신뢰할 수 없었습니다.
Charles Babbage (1791–1871)은 차분 엔진을 설계했습니다: 등간격 값에서 다항식을 계산하여 연속 덧셈으로 오류 없는 인쇄 표를 생성하는 기계. 그는 완성하지 못했지만, 노르웨이의 부자(Scheutz)가 작동하는 버전을 만들었습니다. 1992년, 영국의 팀이 Babbage의 도면에서 분석 엔진을 만들었습니다 — 작동했습니다.
Babbage의 분석 엔진은 폰 노이만 아키텍처에 가까웠습니다: 저장소(메모리), 밀(산술 단위) 및 조건부 분기.
Lovelace 부인은 이를 위한 최초의 프로그램을 발표했습니다.
릴레이 컴퓨터에서 ENIAC까지
현대 컴퓨팅 시대는 1940년대 초 릴레이 컴퓨터로 시작되었습니다. Hamming은 속도 진화를 추적했습니다:
| 시대 | 기술 | 속도 | |---|---|---| | 1940 이전 | 수동 계산기 | 초당 1/20 연산 | | ~1940 | 릴레이(Bell Labs) | 초당 1 연산 | | 1946 | ENIAC(진공관) | ~초당 5,000 연산 | | 1952 | IBM 701 | ~초당 17,000 연산 | | ~1993 | 현대 워크스테이션 | 초당 10⁹ 연산 |
Bell Telephone Laboratories의 George Stibitz는 폐기된 M9 총 조향기의 부품으로 릴레이 컴퓨터를 만들었습니다. Hamming은 수년간 하나를 사용했습니다. 이 릴레이 머신은 빠르지 않았습니다 — 초당 약 1 연산 — 하지만 안정적이고 프로그래밍 가능했습니다.
내부 프로그래밍은 적절한 저장소가 있을 때만 실용적이 되었습니다. Von Neumann의 역할은 Mauchly & Eckert의 상담역이었습니다. 내부 프로그래밍은 von Neumann이 관여하기 전에 팀에서 논의되었지만, 그의 널리 배포된(형식적으로 발표되지 않은) 보고서가 이 개념을 전파했습니다.
속도의 크기 단위
수동 계산기에서 1990년대 워크스테이션까지의 속도 진행은 대략 50년에 걸쳐 10억 배 이상의 크기 단위로 증가합니다.
하드웨어가 갈 수 없는 곳
Hamming은 컴퓨터의 궁극적 속도를 제한하는 세 가지 물리적 한계를 제시했습니다. 이들은 창의성이 극복할 엔지니어링 문제가 아니었습니다 — 물리 법칙이었습니다.
한계 1: 분자 크기
부품은 원자 크기 이하로 축소될 수 없습니다. 10개 원자 너비의 트랜지스터 게이트: 양자 터널링이 지배적이고 트랜지스터는 안정적으로 전환되지 않습니다. 1993년 Hamming은 상호 연결된 장치 사이에 ~100,000개 원자 거리(대략 3피초의 빛 이동 시간) 미만으로 가는 것이 실제 물리적 경계를 나타낸다고 추정했습니다.
한계 2: 빛의 속도
신호는 최대 c = 3×10⁸ m/s로 진공에서 전파됩니다(유선에서는 적음, 대략 2×10⁸ m/s). 1 GHz 클록 사이클은 1나노초입니다. 1ns에서 빛은 30cm를 이동합니다. 15cm 거리에 신호를 보내고 한 클록 사이클 내에 응답을 받아야 하는 칩은 빛 속도 한계 근처에서 작동 중입니다.
클록 속도가 증가하면 신호 왕복 시간이 한 클록 기간 아래로 유지되도록 칩 치수가 축소되어야 합니다.
한계 3: 열 발산
더 많은 부품 단위 면적 + 더 빠른 전환 = 단위 면적당 더 많은 전력 = 더 많은 열. 열이 발산하거나 부품이 녹습니다. 1993년까지 작동 전압은 전환 전력을 줄이기 위해 2-3V로 떨어지고 있었습니다. 다이아몬드 층을 열 전도체로 사용하는 것을 조사 중이었습니다. 가역 컴퓨팅(열역학적으로 무손실)은 이론에만 존재했습니다.
이 세 가지 한계는 1990년대에 단일 프로세서 속도 이득이 포화에 접근했고 병렬 아키텍처에 대한 관심이 증가했던 이유를 집합적으로 설명합니다.
빛의 속도 한계 적용
CPU는 3 GHz에서 실행됩니다. 한 클록 사이클 = 1/3 ns ≈ 0.333 ns. 구리에서의 신호 속도: ~2/3 c ≈ 2×10⁸ m/s.
형편없이 틀린 전문가들
Hamming은 기술 역사에서 가장 유명한 예측 실패 중 하나를 지적했습니다: 1940년대 후반 전문가들은 세계가 최대 3대에서 5대의 컴퓨터가 필요할 것으로 추정했습니다. IBM의 Tom Watson은 2대라고 말했다고 합니다.
1993년까지 수백만 대의 컴퓨터가 작동 중이었습니다.
전문가들이 왜 실패했는가
전문가들은 현재 사용 사례에서 외삽했습니다: 국립 연구소에서의 과학적 계산. 그들은 동등한 제품 통찰력을 예상하지 못했습니다: 컴퓨터는 인간이 이미 하는 것을 더 빠르게 하지 않을 것입니다. 컴퓨터는 이전에 존재하지 않았던 완전히 새로운 일의 범주를 가능하게 할 것입니다.
실패 패턴: 성숙한 기술의 전문가들은 그 한계에 가장 확신하고 미래 응용에 대해 가장 틀릴 가능성이 높습니다. 그들의 전문성은 현재의 정확한 모델을 제공합니다. 그것은 가능해질 것의 모델을 제공하지 않습니다.
병렬 아키텍처
단일 프로세서 속도는 1990년대까지 포화에 접근했습니다. 업계의 대응: 여러 산술 단위, 파이프라인, 캐시 계층 구조 및 대규모 병렬 머신. 1993년까지 지배적인 병렬 아키텍처는 없었습니다 — 서로 다른 트레이드오프 및 다른 프로그래밍 모델을 가진 많은 경쟁 설계들이 있었습니다. Hamming은 이 분열을 문제로 지적했습니다: 표준 없이 프로그래밍 노력은 호환되지 않는 시스템으로 분할됩니다.
전문가들이 왜 예측을 틀리는가
Hamming은 3-5 컴퓨터 예측을 호기심으로서가 아니라 전문 지식의 한계에 대한 교훈으로 다루었습니다. 전문가들은 현재를 잘 모델링합니다. 그들은 아직 존재하지 않는 응용에 실패합니다.
로스 알라모스 데이터 및 성장 방정식
Hamming은 각 시점에서 시장에서 가장 빠른 컴퓨터의 속도를 추적하는 Los Alamos National Laboratory (LANL)에서 컴파일한 차트를 인용했습니다. 데이터는 지수 방정식에 맞습니다: 속도는 대략 18개월마다 두 배로 증가했습니다 — 나중에 트랜지스터 수에 대해 Moore의 법칙으로 대중화되었습니다.
LANL 방정식: 속도(t) = 속도₀ × 10^(bt), 여기서 b ≈ 연간 0.09 (초당 연산에서 대략 3.3년마다 두 배 증가, 트랜지스터 수 두 배와는 별개).
Hamming은 이를 사용하여 외삽법에 대한 요점을 만들었습니다: 지수는 무한정 계속될 수 없습니다. 세 가지 물리적 한계는 천장을 설정합니다. 지수가 언제 천장에 도달합니까? 그 전환은 단일 프로세서 시대의 끝을 표시합니다.
1993년까지 업계는 이미 그 천장에 접근하고 있었으며, 병렬 아키텍처, 파이프라인 트릭 및 캐시 계층 구조에 대한 관심을 촉발했습니다 — 모두 더 빠른 단일 스레드 실행이 아닌 병렬 처리를 향한 작은 단계입니다.