Ослабление позиций интеллекта
История недооценки психических способностей животных – урок того, как не надо думать о других существах, – но насколько далеко следует распространять этот урок? В качестве логического экстремума можно рассмотреть интеллект машины – неизбежный следующий шаг в теоретизировании о том, на что может распространяться понятие «разум». Для этого я решил обратить внимание на один из наиболее интригующих источников беспокойства современного человека: его отношения с компьютером. Хал (робот 2001 года) стал символом развивающегося взаимодействия человека и машины. Некоторые (чрезмерные) оптимисты убеждены, что интеллект машины со временем значительно превзойдет наш собственный. Для других возможность существования по-настоящему умных роботов выглядит прямой угрозой наиболее уникальному качеству человека – его разуму.
Чтобы увидеть, чем мы отличаемся от компьютера, каждый из нас должен решить, что действительно понимает компьютер – если вообще что-либо понимает. В качестве первого шага давайте согласуем рабочее определение понимания. Любые когнитивные процессы состоят из двух компонентов: актуальная работа с информацией и чувственные переживания, и чувство понимания есть следствие этой работы с информацией. Эти отношения не настолько прямолинейны, как многие надеются. Правильная работа с информацией может и не сопровождаться чувством понимания: мы все прилагаем умственные усилия, чтобы заполнить запутанную налоговую декларацию или изменить конфигурацию и перезагрузить компьютерный модем, и не испытываем при этом ни малейшего чувства понимания того, что мы делаем. Неправильная обработка информации повсеместно ассоциируется с неоправданным чувством понимания, как это демонстрирует эффект Даннинга – Крюгера. Понимание и интеллектуальное мышление не являются синонимами – это совершенно различные понятия и стоящие за ними механизмы. Даже если ваш мозг вывел безупречное решение вековой проблемы, на нейронном уровне это по-прежнему остается только работой с информацией. Ассоциированное с ней непроизвольное ощущение понимания – это ваше ощущение вычислительной работы мозга. Это то самое понимание, которое варьируется от повседневного «ага!» до единственного в жизни божественного озарения.
В 1980 г. философ Джон Сёрл опубликовал противоречивый мысленный эксперимент – аргумент Китайской комнаты – с целью объяснить, почему искусственный интеллект не способен на понимание. Сёрл описывает человека, хорошо говорящего по-английски, внутри запертой комнаты. У человека есть комплект руководств, точно объясняющих, как обрабатывать входящую информацию, написанную на китайском языке. Его ответы потом тоже должны быть написаны на китайском. Поскольку он не понимает китайского, его ответы основываются исключительно на следовании инструкциям, приведенным в руководстве (которое написано по-английски). Он не понимает ни входящей, ни выходящей информации, но способен должным образом выполнять задачу. Полученные от него ответы будут отлично понятны тому, кто читает по-китайски, но не будут иметь никакого смысла для человека в запертой комнате. По Сёрлу, не важно, насколько точно человек мог следовать инструкциям и генерировать выглядящие осмысленными реакции, если он не понимает семантики и значения собственных ответов, ему нельзя сказать ничего, что он мог бы понять. В последующие 30 лет философы произвели на свет горы аргументов как «за» так и «против» позиции Сёрла [103].
Вся головоломка вокруг того, понимает или нет компьютер, исчезнет, если принять то, что понимание является ментальным ощущением, продуктом работы ментальной сенсорной системы. Поскольку у компьютера отсутствует такая присущая человеку сенсорная система, не следует ожидать от него понимания. Задавать этот вопрос бессмысленно. В то же время отсутствие понимания у компьютера не отвечает на вопрос, может ли машинная обработка информации рассматриваться как форма интеллектуального мышления. Большинство согласится, что возвращение в рабочее состояние вашего забарахлившего модема, сопровождаемое самым слабым представлением о том, как действуют установки модема, – пример разумного решения проблемы, которое крайне редко – если вообще когда-либо – ассоциируется с состоянием «ага!» или глубоким чувством реального понимания.
У компьютеров собственный тип интеллекта, основанный на тех данных и обратной связи, которые они аккумулируют. Мы принимаем как само собой разумеющееся, что они способны осуществлять расчеты, выходящие далеко за пределы человеческих возможностей, и что эти компьютерные способности будут и далее совершенствоваться с огромной скоростью, возможно, и в геометрической прогрессии. Мы принимаем без особых дискуссий, что компьютеры могут победить всех лучших игроков в «Свою игру», нарды или шахматы и способствовать (путем моделирования) дальнейшей разработке таких разноплановых вопросов, как теория игр, изменение климата и космология [104]. Разница лежит в природе этих расчетов. Без ощущений и связанной с ними ментальной сенсорной системы самый «продвинутый» компьютер, оснащенный самыми сложными программами, не может инкорпорировать в себя множество факторов, представляющих собой человеческую мудрость, и сформировать качественный процесс принятия решений, включающий сопереживание, сочувствие, юмор, иронию, чувство справедливости и эстетику. Способный создавать захватывающие дух образы нашей галактики и первых дней существования нашей Вселенной, компьютер не чувствует красоты или ужаса и не способен основывать свои решения на этих чувствах. Именно комбинация способности обрабатывать информацию и обладания непроизвольными ментальными ощущениями составляет наше отличие от компьютеров.
