Постановка вопроса
Хеммингом в начале подставляется ловушка. «Могут ли машины думать?» звучит как простой вопрос с ответом да или нет. Он утверждает, что вопрос скрывает три отдельные проблемы: что считается машиной, что считается мышлением и есть ли у вопроса вообще осмысленный ответ.
Он потратил год на попытку определить наименьшую программу, в которую он готов был бы поверить, что она может думать. После года неудач он пришел к выводу, что задавал неправильный вопрос. Возможно, мышление — это не свойство, зависящее от да или нет. Возможно, оно допускает степени.
Его смена структуры вопроса: вместо «могут ли машины думать» спросим «в какой степени машины могут облегчить интеллектуальные нагрузки жизни?» Этот вопрос указывает непосредственно на полезность, а не на метафизику.
Опасность уверенности
Хеммингом предупреждает, что оба крайних положения несут профессиональный риск. Верьте, что машины не могут думать: вы будете недостаточно их использовать и отстанете. Верьте, что машины явно могут думать: вы переоцените их и создадите системы, которые откажут неожиданным для вас образом.
Ни одно убеждение не безопасно. Вы должны разработать собственную взвешенную позицию.
Тест Тьюринга
Алан Тьюринг в 1950 году предложил поведенческий тест: если человек на телетайпе не может отличить человека от должным образом запрограммированной машины, машина «думает» — по определению.
Хеммингом уважает ловкость этого хода. Тьюринг избегает неразрешимого философского вопроса о внутреннем опыте и заменяет его наблюдаемым поведением. Это хороший научный инстинкт.
Но у Хеммингома есть структурное возражение: тест Тьюринга нарушает стандартный научный метод. Наука начинает с самых простых задач, а не с самых сложных. Тест Тьюринга — это, как говорит Хеммингом, сложное перед простым. Он оценивает полный интеллект в разговоре до того, как мы поймем простое обучение или следование правилам.
То, что не может быть выражено словами
Центральное утверждение Хеммингома о пределах машинного интеллекта: не все человеческие знания могут быть переведены в правила или инструкции. Некоторые знания сопротивляются формализации — не потому что нам не хватает усилий или интеллекта, а потому что вербализация не является правильным средством.
Экспертные системы 1980-х годов попытались захватить экспертизу как базы правил: ЕСЛИ симптом-A И симптом-B, ТО диагноз-C. Они хорошо работали в узких, четко определенных областях. Они провалились на границах этих областей, где как раз имеет значение неявное знание опытных практиков.
Интуиция химика о том, какая реакция будет происходить, ощущение опытного сварщика на правильный зазор дуги, чувство хирурга, когда ткань выглядит не так — это не просто правила, ожидающие озвучивания. Хеммингом утверждает, что некоторые могут быть постоянно неподдающимися кодификации.
Почему это важно для автоматизации
Системы на основе правил очень хорошо работают в центре четко определенных областей. Они провалиются на границе. Опытные практики живут на границе. Эта асимметрия определяет, что автоматизация может и не может вытеснить.
Выявление неявного знания
Фраза Майкла Поланьи для этого: «Мы знаем больше, чем можем сказать». Он использовал пример распознавания лиц — большинство людей мгновенно узнают тысячи лиц, но не могут описать правила, которые они используют.
Хеммингом связывает это с экспертными системами: более глубокая проблема не в том, что мы еще не написали правила; это то, что для некоторых областей не существует полного набора правил.
Крестики-нолики 4×4×4
Хеммингом использует крестики-нолики в трехмерном пространстве 4×4×4 в качестве своего рабочего примера. Доска имеет 64 квадрата и 76 выигрышных линий. Двумерные крестики-нолики имеют известную стратегию ничьи; они не демонстрируют никакой интересной интеллектуальности. Версия 4×4×4 достаточно сложна, чтобы требовать подлинной эвристики.
Структура программы
Шаг 1: перечислить законные ходы.
Шаг 2: отдавать предпочтение «горячим точкам» — углы и центры имеют больше выигрышных линий через них, чем краевые или центральные на грани квадраты. Используйте двойственность центра-угла куба: существует инверсия куба, отправляющая углы в центры и центры в углы при сохранении всех 76 линий.
Шаг 3: играйте случайным образом среди примерно эквивалентных ходов. Детерминированная игра позволяет терпеливому противнику отобразить вашу стратегию и найти уязвимости. Случайность предотвращает систематическую эксплуатацию.
Шаг 4: применяйте последовательные правила в порядке приоритета.
Последовательные правила в порядке приоритета: (1) выигрыш, если существует выигрывающий ход; (2) заблокировать выигрывающий ход противника; (3) взять развилку, если доступна; (4) заблокировать развилку противника; (5) делать вынуждающие ходы; (6) вернуться к эвристике.
Заметьте структуру: детерминированные правила охватывают четко определенные ситуации. Эвристика обрабатывает все остальное. Граница между ними — это точно место, где начинается неявное знание.
Программа Сэмюэла для игры в шашки
Артур Сэмюэл в IBM написал программу для игры в шашки, которая стала известна своей победой над чемпионом штата. Что сделало ее примечательной: она использовала механизм обучения. Сэмюэл параметризировал функцию оценки (взвешивание контроля доски, преимущества королей, мобильности, пинновки фигур и т. д.), затем позволил двум копиям программы играть друг с другом с немного отличающимися параметрами. Версия с лучшей производительностью выжила.
Это поиск параметров, а не открытие правил — но он составляет обучение в значимом смысле. Программа улучшилась без того, чтобы программист явно написал лучшие правила.
Хеммингом спрашивает: показала ли программа Сэмюэла оригинальность, когда она делала удивительные ходы? Вы не можете доказать, что она была, но вы также не можете доказать, что у вас есть оригинальность в смысле, который исключает программу для проверки.
Экспертные системы и их пределы
Экспертные системы 1970-х-80-х годов представляли наиболее систематическую попытку формализовать профессиональное знание как правила, выполняемые машиной. Медицинская диагностика, геологическая разведка, финансовый анализ, проектирование схем — каждая область привлекала свою собственную систему на основе правил.
Производительность на четко определенных подпроблемах часто была впечатляющей. Но системы имели общий режим отказа: они работали, пока проблема оставалась в пределах охвата правил, затем полностью отказывали. Эксперты-люди деградируют постепенно; системы на основе правил падают со скалы.
Первопричину Хеммингом определяет: люди, создающие экспертные системы, не имели систематического способа узнать, что отсутствует. Эксперты могли озвучить свои правила — но эксперты используют свой неявный судебный процесс, чтобы решить какие правила применяются в данной ситуации. Этот мета-уровневый судебный процесс никогда не попадал в систему.
Правильный вопрос для вашей карьеры
Практически полезный вопрос: не «могут ли машины думать?» Это: для любой задачи в вашей области, критическая сложность живет в охватываемом правилами центре, или на границе, где действуют суждение и неявное знание? Автоматизация надежно обрабатывает первое. Со второе ей трудно. Ваша карьерная стратегия вытекает из знания разницы.