Формулювання питання
Геммінг починає з пастки. 'Чи можуть машини думати?' звучить як просте питання з відповіддю так чи ні. Він стверджує, що це приховує три окремі проблеми: що вважається машиною, що вважається мисленням та чи взагалі питання має змістовну відповідь.
Він провів рік, намагаючись визначити найменшу програму, в яку він би повірив, що вона могла б думати. Після року невдач він дійшов висновку, що він задавав неправильне питання. Можливо, мислення не є властивістю так чи ні. Можливо, воно допускає ступінь.
Його зміна фокусування: замість 'чи можуть машини думати', запитайте 'якою мірою машини можуть полегшити інтелектуальні навантаження життя?' Це питання вказує прямо на корисність, а не на метафізику.
Небезпека впевненості
Геммінг попереджає, що обидва крайнощі несуть професійний ризик. Якщо ви вважаєте, що машини не можуть думати: ви будете їх недовикористовувати і відставатимете. Якщо ви вважаєте, що машини явно можуть думати: ви переоцінюватимете їх і будуватимете системи, які не працюватимуть так, як ви не передбачали.
Жодна з цих переконань не безпечна. Ви повинні розробити власну вважену позицію.
Тест Тюрінга
Алан Тюрінг у 1950 році запропонував тест поведінки: якщо людина за телетайпом не може розрізнити людину від належним чином запрограмованої машини, машина 'думає' — за визначенням.
Геммінг цінує розумність цього ходу. Тюрінг уникає невирішуваного філософського питання про внутрішнє переживання та замінює його спостережуваною поведінкою. Це добрий науковий інстинкт.
Але у Геммінга є структурне заперечення: тест Тюрінга порушує стандартний науковий метод. Наука починається з найпростіших проблем спочатку, а не найважчих. Тест Тюрінга — це, як говорить Геммінг, важке перед простим. Він оцінює повну розмовну інтелектуальність, перш ніж ми розуміємо просте навчання або дотримання правил.
Те, що не можна передати словами
Центральне твердження Геммінга про межі машинної інтелектуальності: не всі людські знання можна перевести в правила чи інструкції. Деякі знання чинять опір формалізації — не тому, що нам не вистачає зусиль чи інтелекту, а тому, що вербалізація не є правильним середовищем.
Експертні системи в 1980-х намагалися вловити експертизу як базу правил: ЯКЩО симптом-A І симптом-B ТО діагноз-C. Вони працювали в вузьких, чітко визначених областях. Вони не вдалися на межах цих областей, де саме мовчазні знання досвідчених фахівців мають найбільше значення.
Інтуїція хіміка щодо того, яка реакція буде проходити, відчуття досвідченого зварювача за правильний зазор дуги, почуття хірурга щодо того, коли тканина виглядає невправно — це не просто правила, які чекають на формулювання. Геммінг стверджує, що деякі з них можуть бути безповоротно невимовними.
Чому це важливо для автоматизації
Системи на основі правил працюють дуже добре в центрі чітко визначених областей. Вони не вдаються на межах. Досвідчені фахівці живуть на межах. Ця асиметрія формує те, що автоматизація може та не може замінити.
Визначення мовчазних знань
Фраза Майкла Поланьї для цього: 'Ми знаємо більше, ніж можемо сказати.' Він використовував приклад розпізнавання осіб — більшість людей миттєво розпізнають тисячі осіб, але не можуть описати правила, яких вони використовують.
Геммінг пов'язує це з експертними системами: глибша проблема полягає не в тому, що ми ще не написали правила; це те, що для деяких областей не існує повного набору правил.
4×4×4 Хрестики-Нулики
Геммінг використовує тривимірні хрестики-нулики 4×4×4 як опрацьований приклад. Дошка має 64 поля та 76 переможних ліній. Двовимірні хрестики-нулики мають відому стратегію нічиєї; це не демонструє цікавої інтелектуальності. Версія 4×4×4 досить складна, щоб потребувати справжніх евристик.
Структура програми
Крок 1: перерахуйте легальні ходи.
Крок 2: надайте перевагу 'гарячим плямам' — кути та центри мають більше переможних ліній через них, ніж ребра чи грані центру поля. Використовуйте двійність центра-кута куба: існує інверсія куба, яка посилає кути до центрів та центри до кутів, зберігаючи всі 76 ліній.
Крок 3: грайте випадково серед приблизно еквівалентних ходів. Детермінована гра дозволяє терплячому супернику нанести на карту вашу стратегію та знайти експлойти. Випадковість запобігає систематичній експлуатації.
Крок 4: застосуйте послідовні правила в порядку пріоритету.
Послідовні правила в порядку пріоритету: (1) виграйте, якщо існує переможний хід; (2) заблокуйте переможний хід суперника; (3) возьміть виделку, якщо доступна; (4) заблокуйте виделку суперника; (5) зробіть змушувальні ходи; (6) повертайтеся до евристик.
Зверніть увагу на структуру: детермінована правила охоплюють чітко визначені ситуації. Евристики обробляють все інше. Лінія між ними — саме там, де починаються мовчазні знання.
Програма гри в шашки Семюела
Артур Семюел в IBM написав програму для гри в шашки, яка стала відомою тим, що перемогла державного чемпіона. Що зробило її помітною: вона використовувала механізм навчання. Семюел параметризував функцію оцінки (зважування контролю дошки, переваги королів, мобільності, закріплення фігур тощо), а потім дозволив двом копіям програми грати один проти одного з дещо іншими параметричними налаштуваннями. Краще працююча версія вижила.
Це пошук параметрів, а не відкриття правил — але він становить навчання в змістовному сенсі. Програма поліпшилася без того, щоб програміст явно написав кращі правила.
Геммінг запитує: чи проявила програма Семюела оригінальність, коли робила дивовижні ходи? Ви не можете довести, що вона це зробила, але ви також не можете довести, що у вас є оригінальність у будь-якому сенсі, який виключає програму шашок.
Експертні системи та їхні межи
Експертні системи 1970-80-х років представляли найсистемніщу спробу формалізувати професійні знання як виконувані машиною правила. Медична діагностика, геологічне дослідження, фінансовий аналіз, дизайн схем — кожна область привабила свою систему на основі правил.
Продуктивність у чітко визначених підпроблемах часто була вражаючою. Але системи мали спільний режим відмови: вони працювали, поки проблема не вийшла за межі охоплення правил, потім повністю не вдалися. Людські експерти деградують поступово; системи правил падають зі скелі.
Корінна причина, яку визначає Геммінг: люди, які будували експертні системи, не мали систематичного способу знати, чого не вистачало. Експерти могли артикулювати свої правила — але експерти використовують свою невимовну судження, щоб вирішити які правила застосовуються у даній ситуації. Це судження мета-рівня ніколи не потрапило в систему.
Правильне питання для вашої кар'єри
Практично корисне питання не 'чи можуть машини думати?' Це: для будь-якого завдання у вашій галузі, критична складність живе в центрі, охопленому правилами, чи на межі, де судження та мовчазні знання діють? Автоматизація надійно обробляє першу. Друга її утруднює. Ваша кар'єрна стратегія випливає з розуміння різниці.