Jarak dalam Ruang Biner
Kontribusi teknis paling terkenal Richard Hamming: kode-kode koreksi kesalahan. Ide geometris di baliknya lebih dalam daripada kode spesifik apa pun.
Jarak Hamming
Diberikan dua string biner dengan panjang sama, jarak Hamming d(u, v) menghitung posisi-posisi tempat keduanya berbeda:
``
u = 1 0 1 1 0
v = 1 1 1 0 0
↑ ↑
d(u,v) = 2
``
Ini memenuhi ketiga aksioma metrik: d(u,v) ≥ 0; d(u,v) = 0 jika & hanya jika u = v; d(u,v) = d(v,u); d(u,w) ≤ d(u,v) + d(v,w). Ruang biner-n dengan jarak Hamming membentuk ruang metrik yang valid.
Geometri divisualisasikan dengan jelas dalam dimensi rendah. Semua string 3-bit tinggal di 8 simpul kubus. Simpul berdekatan tepi berbeda dalam tepat 1 bit; diagonal wajah berbeda dalam 2; simpul antipodal (misalnya 000 & 111) berbeda dalam 3.
Menghitung Jarak Hamming
Bobot Hamming wt(v) menghitung jumlah 1s dalam v. Jarak berkaitan dengan bobot melalui XOR:
d(u, v) = wt(u XOR v)
Contoh: u = 10110, v = 11100. XOR = 01010. Bobot = 2. Jadi d(u,v) = 2.
Koreksi Kesalahan melalui Sphere Packing
Kode biner C ⊆ {0,1}^n terdiri dari codeword-codeword yang dipilih. Ketika codeword ditransmisikan melalui saluran yang bising, beberapa bit mungkin berputar. Penerima mendapatkan string yang rusak & harus memulihkan yang asli.
Definisikan Hamming ball dengan jari-jari t yang berpusat pada codeword c:
B(c, t) = { v ∈ {0,1}^n : d(c, v) ≤ t }
Untuk mengoreksi hingga t kesalahan, bola B(c, t) di sekitar setiap pasang codeword tidak boleh tumpang tindih. Jika tumpang tindih, kata yang diterima dapat berada di dua bola & decoder tidak dapat menentukan codeword mana yang dikirim.
Jarak minimum d_min dari kode menentukan segalanya:
- Deteksi hingga d_min − 1 kesalahan - Koreksi hingga ⌊(d_min − 1) / 2⌋ kesalahan
Kode Hamming (7,4): n = 7 bit, k = 4 bit data, d_min = 3. Mengoreksi 1 kesalahan. Mendeteksi 2.
Berapa Banyak Codeword yang Sesuai?
Berapa banyak codeword yang dapat berisi kode panjang-n sambil tetap mengoreksi t kesalahan? Setiap codeword 'memiliki' bola dengan jari-jari t. Semua bola bersama-sama harus cocok di dalam {0,1}^n, yang memiliki 2^n poin.
Volum Hamming ball dengan jari-jari t dalam {0,1}^n:
Vol(n,t) = Σ_{i=0}^{t} C(n, i)
Hamming bound (sphere-packing bound) mengikuti secara langsung: kode yang mengoreksi t kesalahan memenuhi
M · Vol(n,t) ≤ 2^n
di mana M = jumlah codeword. Jadi M ≤ 2^n / Vol(n,t).
Untuk kode Hamming (7,4): n=7, t=1. Vol(7,1) = C(7,0) + C(7,1) = 1 + 7 = 8. Bound: M ≤ 128 / 8 = 16. Kode (7,4) mencapai M = 2^4 = 16: kode sempurna, berarti bola-bola mengubin {0,1}^7 tanpa celah.
√n vs n
Hamming menggunakan argumen random walk untuk membuat nilai visi jarak jauh presisi. Argumen mengonversi klaim yang tidak jelas — 'visi membantu' — menjadi fakta geometris tentang jarak.
Symmetric Random Walk pada ℤ
Pada setiap langkah, pindahkan +1 atau −1 dengan probabilitas yang sama. Setelah n langkah, perpindahan yang diharapkan dari asal: E[|X_n|] ≈ √n.
Ini mengikuti dari varian: Var(X_n) = n (langkah-langkah independen, masing-masing ±1 varian 1). Simpangan baku = √n.
Directed Walk
Pada setiap langkah, pindahkan +1 dengan probabilitas p > 1/2 (bias menuju tujuan). Setelah n langkah, posisi yang diharapkan: E[X_n] = n(2p−1). Untuk p = 1 (sepenuhnya terarah): E[X_n] = n.
Kontrasnya: drift acak berskala √n; kemajuan yang diarahkan berskala n.
Terjemahan Hamming
Dalam karir penelitian, setiap hari kerja mewakili satu langkah. Tanpa visi yang jelas tentang apa yang penting, pekerjaan hanyut dalam banyak arah: setelah n hari, kemajuan bersih ≈ √n. Dengan visi jarak jauh yang koheren, usaha selaras: setelah n hari, kemajuan bersih ≈ n. Rasionya n / √n = √n tumbuh tanpa batas.
Rasio √n
Jalan yang diarahkan tidak memerlukan bidikan sempurna. Setiap bias persisten menuju tujuan mengubah drift √n menjadi sesuatu yang lebih dekat ke kemajuan n.
Batasan Model
Model yang memprediksi output 100x dari visi layak dipertanyakan. Beberapa hal yang dilewatinya:
1. Dimensionalitas: karir beroperasi dalam ruang berdimensi tinggi, bukan ℤ. Geometri random walk dalam ℝ^d berubah secara signifikan dengan d.
2. Korelasi: langkah-langkah penelitian berkorelasi — pekerjaan hari ini dibangun atas pekerjaan kemarin. Jalan yang berkorelasi berperilaku berbeda dari langkah-langkah i.i.d.
3. Visi itu sendiri mungkin salah: jalan yang diarahkan menuju penarik yang salah lebih buruk daripada drift.
Waktu Penggandaan
Hamming membuka kuliahnya dengan klaim bahwa pengetahuan teknis mengganda kira-kira setiap 17 tahun. Klaim itu memiliki struktur matematis yang tepat: pertumbuhan eksponensial.
Model Pertumbuhan Eksponensial
y(t) = a · e^(b·t)
di mana a = kuantitas awal pada t = 0, b = laju pertumbuhan (per unit waktu), e ≈ 2.718.
Waktu penggandaan D: waktu untuk y mengganda.
2a = a · e^(b·D) → 2 = e^(b·D) → ln(2) = b·D → D = ln(2) / b
ln(2) ≈ 0.693. Untuk b = 0.693/17 ≈ 0.0408 per tahun, waktu penggandaan = 17 tahun.
Half-Life
Half-life H: waktu untuk y meluruh menjadi setengah nilainya (b < 0).
H = ln(2) / |b|
Rumus yang sama di kedua arah. Keterampilan dengan half-life 5 tahun: setelah 5 tahun, setengah nilai pasarnya hilang. Setelah 10 tahun: seperempat tetap. Setelah 20 tahun: kurang dari 7% tetap.
Penggandaan Pengetahuan
Jika pengetahuan teknis mengganda setiap 17 tahun, siswa yang lulus pada usia 22 menghadapi lanskap pengetahuan yang berubah pada usia 56 — karir 34 tahun mencakup dua penggandaan penuh.
Half-Life Keahlian
Model eksponensial yang sama berlaku untuk peluruhan. Keterampilan khusus (misalnya penguasaan arsitektur chip tertentu, API yang tidak digunakan lagi, algoritma yang disalahkan) kehilangan nilai seiring waktu saat bidang bergerak maju.
Jika half-life keterampilan khusus H = 5 tahun, maka setelah t tahun fraksi nilai asli yang tersisa: f(t) = (1/2)^(t/H) = 2^(−t/H).
Setelah satu half-life (5 tahun): 50% tetap. Dua half-life (10 tahun): 25%. Tiga (15 tahun): 12.5%. Empat (20 tahun): 6.25%.
Implikasi Hamming: nilai pembelajaran cara belajar menggabungkan secara positif dengan eksponen yang sama dengan yang meluruh pengetahuan khusus. Berinvestasi dalam strategi pembelajaran, kerangka masalah, & penalaran yang dapat ditransfer melestarikan nilai di seluruh siklus half-life.
Geometri, Koreksi Kesalahan, & Karir
Tiga struktur geometris dari pelajaran ini tampak terputus. Mereka terhubung.
Jarak Hamming memformalkan biaya kesalahan & redundansi yang diperlukan untuk memulihkan darinya. Setiap sistem komunikasi, setiap basis kode, setiap badan pengetahuan memerlukan cukup redundansi agar kesalahan tunggal tidak merusak semuanya.
Argumen √n vs n menerjemahkan visi menjadi fakta geometris: drift berskala sebagai jarak dari titik awal, gerakan yang diarahkan berskala sebagai perpindahan menuju tujuan. Redundansi dalam strategi karir — menjaga beberapa jalur penyelidikan terbuka — menahan perlindungan dari putaran yang salah sesekali.
Pertumbuhan & peluruhan eksponensial mengatur baik perbatasan yang berkembang & half-life apa yang Anda ketahui hari ini. Satu-satunya investasi stabil: mempelajari bagaimana belajar, yang menggabungkan pada skala waktu yang sama dengan yang meluruh pengetahuan khusus.