16. Мы вряд ли будем возражать против утверждения, что компьютер осуществляет некую интеллектуальную активность (именно в этом смысле мы и говорим про «искусственный интеллект»). Однако сказать, что он «думает», нельзя (если, конечно, это не метафора, которой любят пользоваться программисты).

Мы не можем (по крайней мере, пока) признать, что компьютер «мыслит». Мы скажем, что он «считает», «просчитывает», следуя определенным правилам, программам, которые придуманы за него, но это не он сам так «думает».

17. Впрочем, разве мы можем быть уверены, что наш биологический мозг всегда «думает» сам, а не понуждаем к этому определенными предустановленными в нем «программами»? Очевидно, что большая часть его интеллектуальной активности запрограммирована – генетически и научением.

То, как биологический мозг, например, собирает единичные раздражители в некий визуальный образ (видимый мною предмет), – это, по сути, программное действие. По крайней мере, я об этом сознательно не «думаю», это происходит, образно говоря, «в обход меня».

Оборонительная реакция на громкий звук – это тоже программа в том смысле, что эта реакция не является «моим действием», это действие моего мозга – предустановленная в нем генетически программа. Рефлекторное одергивание руки от горячего предмета – это не моя реакция, даже чувство боли я почувствую позже, нежели одерну руку. Это просто элементарный рефлекс, который я, конечно, могу затем осмыслить, но могу и не осмыслять.

Декапитированная лягушка способна плыть, если вы бросите ее в воду, но она уже никогда не узнает об этом.

18. То, что я различаю буквы, которые появляются сейчас на экране моего компьютера, так, а не иначе (букву А, например, как букву А, а букву Б как букву Б), это тоже программа, хотя и выученная. Я не задавался соответствующим вопросом сознательно и целенаправленно, я просто увидел это (эти раздражители) так.

Впрочем, я постоянно совершаю и куда более сложные действия (по существу, конечно, интеллектуальные) как бы «на автомате», то есть совершенно над этим не задумываясь (например, когда выравниваю колеса автомобиля, перестраиваясь на нем из одного ряда в другой).

19. И даже если я задумываюсь над какими-то своими действиями, например, умножая 12 на 12, разве не реализует в этот момент мой мозг уже имеющуюся в нем «программу» умножения? То есть насколько это действие является собственно моим? Мог бы я совершить его сам, если бы соответствующая «программа» в моем мозге отсутствовала?

20. Вопрос, соответственно, стоит таким образом: чем будет в данном случае принципиально отличаться компьютер, реализующий определенную программу, от биологического мозга, который решает ту или иную задачу, используя предустановленные в нем, посредством генетической детерминации или научения, алгоритмы?

Думает ли наш биологический мозг в данных случаях «сам», или за него «думают» эти алгоритмы?

21. При этом понятно, что алгоритмы, конечно, не могут «думать», они лишь актуализируются под действием некоего стимула и, так сказать, проворачиваются, используя соответствующее содержание и производя, по существу, уже имеющийся результат.

Субъективно мне может казаться, что это «я так подумал». Но если это сделал собственно я, а не эти алгоритмы, то я, соответственно, должен иметь способность совершить это же действие другим способом. Но, как выясняется, это зачастую абсолютно невозможно.

22. Если я сам понимаю буквы родного мне языка, а не соответствующие алгоритмы (программы) моего мозга, то почему бы, например, мне не понять знаки или предложения китайского языка, который мне неизвестен? Очевидно, что я не могу этого сделать, потому что во мне нет соответствующей программы (алгоритма).

То есть я могу даже знать, что это буквы, а то, во что они складываются, – слова или предложения, что это язык. Но пока во мне не сформирована программа, которая позволит мне знать, что эти знаки значат, я смотрю на них лишь как на определенные состояния материального мира, и не более того.

Хотя, конечно, то, что я узнаю в иероглифах «буквы» («нечто вроде букв»), – это, конечно, тоже такая специфическая и выученная мною программа.

23. Впрочем, я даже вряд ли смогу отличить китайские иероглифы от японских, пока меня этому не научат. Но когда меня этому научат, буду ли это знать я, или это будет знать мой мозг, или просто какая-то его часть, которую я называю здесь «программой» или «алгоритмом»?

И что такое «мозг, который знает», если он не «тот, кто думает», а тот, кто просто механически выполняет какие-то программы? И что может знать сама «программа»?

24. На входе системы – раздражитель (может быть, какой-то внутренний стимул), далее включается программа, и эта программа дает мне некое знание, которое она же и превратила из информации одного вида в информацию другого вида. То есть она механически, по заданному алгоритму, преобразовала одно состояние материального мира (например, воспринятый моим мозгом раздражитель) в другое (активизация нейронных ансамблей, которые отвечают в моем мозге, например, за понимание языка). Где здесь мышление?

Не считаем же мы, что лист растения думает фотосинтезом и зеленеет. Нет, в нем просто происходит то, что происходит. Да, мы, наверное, можем счесть этот процесс информационным, но таковым он будет только для того, кто способен так воспринять эти состояния материального мира – мол, увеличивающаяся зелёность листа свидетельствует о процессах фотосинтеза в нем. Но это в любом случае не будет иметь отношения к тому, что произошло на самом деле.

25. Итак, вполне очевидно, что некие действия с интеллектуальными объектами (целыми информации) могут осуществляться (и в большом количестве осуществляются) без моего участия как сознательного и сознающего свое поведение существа.

В таком случае это как бы не мое действие (например, какой-то не зависящий от моего сознательного контроля психический автоматизм). Мы же вряд ли можем признать возможность существования мышления без кого-то, кто это мышление производит (без того, кто думает).

26. Нет сомнений, что во сне я утрачиваю сознательный контроль над своим поведением. Однако это совершенно не мешает моему мозгу создавать сновидения, которые, конечно, являются результатом работы моей интеллектуальной функции.

Более того, это могут быть сновидения, в которых я являюсь активным действующим лицом, переживаю определенные эмоции, что-то думаю и т. д. Но сложно будет признать всё это мышлением – это интеллектуальная активность, и немногим более того.

27. Впрочем, мы вряд ли сможем найти существенные отличия между своими сновидениями и тем состоянием «потока сознания», в котором мы пребываем большую часть времени, пока бодрствуем.

В момент, когда мы не озадачены решением какого-то конкретного и определенно поставленного вопроса (возможно, и нами самими), работа нашей интеллектуальной функции не останавливается – мы продолжаем «думать», хотя это «думать» опять-таки сложно считать собственно «мышлением».

Поток подобных неконтролируемых нами «размышлений», по существу, являет собой игру ассоциаций, подталкиваемых изнутри нерешенностью (незавершенностью) каких-то ситуаций, а извне – случайной, в сущности, внешней стимуляцией.

Фокус нашего внимания переключается с одного психического содержания на другое не потому, что мы так решили, а потому, что сам наш мозг оказался сейчас в состоянии, когда одно психическое содержание оказалось для него существеннее другого.

28. Наличие «того, кто думает», несомненно, важный факт (важное условие определения мышления), но он вовсе не так уж очевиден и точно недостаточен.

Неочевиден он потому, что граница, отделяющая мое сознательное и мое же неосознанное действие, условна и подвижна (многое зависит от фокуса внимания, актуальной доминаты и т. д.), а недостаточен он потому, что кёлеровская обезьяна, например, является, очевидно, мыслящим агентом (тем, кто думает), но мы все-таки не готовы признать ее мыслящей в полном смысле этого слова.

29. Представим себе кёлеровскую обезьяну.

Методом проб и ошибок она пыталась достать банан, подвешенный экспериментатором на недосягаемую для нее высоту. Она перепробовала множество предметов: перещупала и попередвигала ящики, поразмахивала палками и другими подручными инструментами.

Далее она отстраняется, смотрит какое-то время на эти предметы со стороны – и потом вдруг резко встает, составляет ящики в правильной для достижения желаемого результата последовательности, берет палку, забирается на эту пирамиду и сбивает банан.

Внутри ее психического пространства палка, ящики, банан и т. д. представляют собой некие интеллектуальные объекты, которые она свела с помощью своей интеллектуальной функции в некий новый интеллектуальный объект, в некую схему и реализовала ее на практике.

Она сделала это, в некотором смысле, вполне сознательно и уж точно целенаправленно, то есть вроде как «думала». Но мы не соглашаемся с тем, что у нее есть наше мышление.