Dove l'hardware non può andare

Hamming ha presentato tre limiti fisici che vincolano la velocità massima dei computer. Non erano sfide ingegneristiche che l'ingegno potrebbe superare — erano leggi della fisica.

Limite 1: dimensione molecolare

I componenti non possono restringersi al di sotto delle dimensioni atomiche. Un gate di transistore largo 10 atomi: il tunneling quantistico domina & il transistore smette di commutare in modo affidabile. Nel 1993 Hamming ha stimato che scendere al di sotto di ~100.000 atomi di distanza tra i dispositivi interconnessi (approssimativamente 3 picosecondi di tempo di viaggio della luce) rappresentava un vero limite fisico.

Limite 2: velocità della luce

I segnali si propagano al massimo a c = 3×10⁸ m/s nel vuoto (meno nel filo, approssimativamente 2×10⁸ m/s). Un ciclo di clock da 1 GHz è 1 nanosecondo; in 1 ns, la luce percorre 30 cm. Un chip che deve inviare un segnale per 15 cm e ricevere una risposta entro un ciclo di clock sta operando vicino al limite della velocità della luce.

Mentre la velocità di clock aumenta, le dimensioni del chip devono ridursi per mantenere il tempo di andata e ritorno del segnale al di sotto di un periodo di clock.

Limite 3: dissipazione del calore

Più componenti per unità di area + commutazione più veloce = più potenza per unità di area = più calore. Il calore deve dissipare o i componenti si sciolgono. Nel 1993, le tensioni di funzionamento stavano diminuendo verso 2-3V per ridurre la potenza di commutazione. Gli strati di diamante come conduttori di calore erano sotto investigazione. L'informatica reversibile (termodinamicamente senza perdite) esisteva solo in teoria.

Questi tre limiti nel complesso spiegano perché i guadagni di velocità del singolo processore si stavano avvicinando alla saturazione negli anni '90 e perché l'interesse per le architetture parallele è cresciuto.

Applicazione del limite della velocità della luce

Una CPU funziona a 3 GHz. Un ciclo di clock = 1/3 ns ≈ 0,333 ns. Velocità del segnale nel rame: ~2/3 c ≈ 2×10⁸ m/s.

Gli esperti che si sono sbagliati clamorosamente

Hamming ha notato uno dei fallimenti di previsione più celebri nella storia della tecnologia: gli esperti della fine degli anni '40 hanno stimato che il mondo avrebbe avuto bisogno di al massimo tre o cinque computer. Tom Watson di IBM avrebbe detto due.

Nel 1993, c'erano milioni di computer in funzione.

Perché gli esperti hanno fallito

Gli esperti hanno estrapolato dai casi d'uso attuali: il calcolo scientifico nei laboratori nazionali. Non hanno anticipato l'intuizione del prodotto equivalente: i computer non avrebbero fatto quello che gli umani già facevano, più velocemente. I computer avrebbero permesso completamente nuove categorie di lavoro che non avevano alcuna preesistenza.

Lo schema di fallimento: gli esperti in una tecnologia matura sono più sicuri dei suoi limiti e più probabili di sbagliarsi sulle sue future applicazioni. La loro expertise dà loro modelli accurati del presente; non dà loro modelli di ciò che diventerà possibile.

Architetture parallele

La velocità del singolo processore si è avvicinata alla saturazione negli anni '90. La risposta dell'industria: unità aritmetiche multiple, pipeline, gerarchie di cache, & macchine massicciamente parallele. Nel 1993 non c'era una singola architettura parallela dominante — molti progetti concorrenti con diversi compromessi & diversi modelli di programmazione. Hamming ha notato questa frammentazione come un problema: senza uno standard, lo sforzo di programmazione si divide tra sistemi incompatibili.

Perché gli esperti predicono male

Hamming ha trattato la previsione di 3-5 computer non come una curiosità ma come una lezione sui limiti della conoscenza degli esperti. Gli esperti modellano bene il presente; falliscono sulle applicazioni che non esistono ancora.

Dati di Los Alamos & l'equazione di crescita

Hamming ha citato un grafico compilato dai Laboratori Nazionali di Los Alamos (LANL) che traccia la velocità del computer più veloce sul mercato in ogni momento. I dati si adattavano a un'equazione esponenziale: la velocità approssimativamente raddoppiava ogni 18 mesi — successivamente resa popolare come legge di Moore per il conteggio dei transistor.

L'equazione di LANL: speed(t) = speed₀ × 10^(bt), dove b ≈ 0,09 per anno (raddoppiamento approssimativamente ogni 3,3 anni in operazioni al secondo, distinto dal raddoppiamento del conteggio dei transistor).

Hamming ha usato questo per fare un punto sull'estrapolazione: l'esponenziale non può continuare indefinitamente. I tre limiti fisici stabiliscono un soffitto. Quando l'esponenziale colpisce il soffitto? Quella transizione segna la fine dell'era del singolo processore.

Nel 1993 l'industria si stava già avvicinando a quel soffitto, guidando l'interesse per architetture parallele, trucchi di pipeline, & gerarchie di cache — tutti piccoli passi verso il parallelismo piuttosto che l'esecuzione single-threaded più veloce.