Как думает мозг?

Очень трудно изменить точку зрения людей, например, на сознание, и я наконец выяснил почему.

Причина в том, что каждый является экспертом в области сознания.

ДЭНИЕЛ ДЕННЕТ

Теперь давайте зададимся вопросом…

Мы с вами посмотрели, как работают некоторые искусственные интеллекты. Пусть даже они узкие и «слабые» – в чём проблема, если мы сами – набор таких же? Тут проблемы обнаружить действительно не удаётся.

Но почему, если мы смотрим на проявления нашего интеллекта (биологического) и работу искусственного, нам всё-таки кажется, что они сильно, если не радикально, отличаются?

Думаю, что такое впечатление складывается потому, что искусственный интеллект занимается какими-то глупостями, а ещё потому, что действует предельно расточительно и нелогично. Сколько лидару нужно всего сделать, чтобы создать карту реальности вокруг автомобиля? – это ужас что такое!

Человек-водитель не будет разглядывать всех людей на прилегающих улицах, определять скорость движения всех автомобилей на расстоянии трёх футбольных полей вокруг. А лидар всё это делает и ещё, вы не поверите, изучает цвет каждого светофора на перекрёстке – то есть буквально всех, смотрящих во все стороны! Нормальный, нет?

Ощущение не только избыточности, но и избыточной тупости, правда? Вы вообще можете себе представить, чтобы хоть кто-то из нас делал нечто подобное, если, конечно, его под дулом пистолета к этому не принудят?

Ну, положим, лица на фотографиях Google Street View мы с вами различить и замазать сможем, а с грудью и ягодицами уж тем более справимся. Но к этому нас, надо сказать, сотни тысяч лет эволюция готовила. Это результат специфических настроек в нашем мозгу и плюс научение ещё.

Но вся прочая работа искусственных интеллектов – она какая-то совсем античеловеческая. Мы так не думаем, как это они делают! Мы точно делаем это иначе! Умнее!

С другой стороны, мы просто не в курсе? На самом деле наш мозг, конечно, строит пространственные модели реальности, как и лидар. И делает это на постоянной основе!

А наш мозжечок, например, производит, по сути, те же действия, что и все эти бесчисленные умные датчики в автомобилях, – круиз-контроль и прочие такие штуки. Огромный объём работы!

Или вот, например, речевые центры Брока и Вернике – разве не совершают они те же действия по распознаванию речи, как это делают Siri с Алисой?

Разумеется, наш мозг постоянно занимается распознаванием речи, но если она нам родная, мы просто не осознаём этого. Если же вы плохо знаете какой-то язык, то вы чувствуете, как, общаясь с носителем этого языка, только тем и заняты, что распознаёте его речь – пытаетесь понять, где в этом звуковом потоке начинаются и заканчиваются отдельные слова и что они, эти слова, учитывая контекст, могут значить.

Наш мозг всё это делает, и постоянно – мы просто не в курсе! А самое главное, мы совершенно не замечаем множества дефектов своих моделей реальности – и это не только огромные информационные пробелы, но ещё и бесконечные иллюзии восприятия и понимания.

Нам кажется, например, что мы мыслим логически, а наша интеллектуальная деятельность – это осознанный процесс построения логических конструкций. Но это не так: человек нелогичен, непоследователен и переменчив во взглядах.

Наше мышление и связанное с ним поведение – это одно сплошное когнитивное искажение, не говоря уже о субъективизме, обусловленном специфическим жизненным опытом каждого из нас.

Но тут можно возразить: если всё так, то как же получается, что столь ненадёжное существо умудряется быстро и ловко решать множество сложнейших задач, а искусственному интеллекту нужно проделать для этого огромный объём работы и использовать невероятное количество вычислительных мощностей?

Этот ларчик открывается достаточно просто – дело в нашей с вами ограниченности. Звучит это, наверное, несколько дико, но давайте рассмотрим эту кажущуюся парадоксальной точку зрения.

Биологическая эволюция миллионами лет готовила наш мозг к решению считанного, на самом-то деле, и весьма незначительного количества задач, необходимых для нашего выживания. Соответственно, настройки, которые в нас, так сказать, вшиты, достаточно примитивны.

Например, эволюция заставляет нас искать и поглощать калории, а также информацию. Но вот среда изменилась – и того и другого стало в избытке, и мы страдаем от ожирения – как физического, так и информационного.

Проще говоря, наш мозг не может сам по себе остановиться, хотя мы сознательно понимаем, что хватит. Нет, он ест и скролит – пока сил хватает. Это разумно? Нет.

В общем, мы были неплохо созданы под конкретные задачи. Но реальных задач у нас было немного, поэтому и хвастаться нашим «суперкомпьютером» вряд ли стоит.

Да, в нас есть настройки под конкретные задачи – на какие объекты и какой последовательностью действий реагировать. Мы с этими настройками рождаемся и дальше тренируем их в процессе последующего онтогенеза (своего индивидуального развития), адаптируясь к конкретным условиям жизни – в монгольских степях или джунглях Амазонии.

Причём проходим, по сути, все фазы – от примитивного реагирования, ничего не видя и не понимая, до более и более сложного поведения, пока не решим, что, мол, всё, достаточно учиться и тренироваться – мы и так лучше всех.

Эмбрион в процессе своего развития в утробе матери трансформируется из одноклеточного организма в полноценного млекопитающего, в человека. Это, образно говоря, как миллионы лет эволюции на ускоренной перемотке, что схематично показано на рисунке № 3.

Как это нам удаётся? Просто потому, что у него есть программа – предустановки, прописанные в нашем ДНК.

Рисунок № 3. Ускоренный филогенез в эмбиогенезе

С нашим мозгом, уже после рождения, происходит примерно то же самое: мы проходим путь его последовательного развития из бессмысленной массы нейронов в сложную структуру нервных связей, обуславливающих жизнь и деятельность взрослого человека.

Проходим, надо признать, достаточно быстро – лет за 20–25, когда завершается миелинизация тех областей префронтальной коры, которые отвечают за создание образа будущего.

Теперь давайте чуть-чуть добавим самоиронии:

• даже при наличии генетически предустановленных в нас настроек, благодаря которым все области коры головного мозга изначально специализированы и буквально выпрыгивают из штанов, ожидая, когда же им наконец дадут развиться,

• даже при том, что адаптироваться – то есть развивать наш мозг – нам предстоит в рамках внятной и понятной образовательной среды, которая создана для нас культурой и буквально напичкана общественными отношениями, мириадами воспитателей, учителей, тренеров и т. д., и т. п., нашему расчудесному мозгу требуется 25 лет на его формирование!

Знаете, по сравнению даже с нынешними «слабыми» искусственными интеллектами, наш с вами – биологический – страдает существенными задержками развития.

МЫ ПРОСТО НЕ ПОМНИМ

У этого когнитивного искажения даже есть название, которое ему дал психолог Робин Хогарт: «проклятие знания». Суть этой психологической иллюзии – в том, что если мы с вами что-то знаем, то мы не можем вспомнить, каково это – не знать этого.

Например, все мы знаем таблицу умножения и не понимаем, как можно её не понимать. Поэтому, когда нам приходится объяснять своим детям, что это такое и почему так, у нас волосы становятся дыбом – почему он не может понять этого?!

Мы не помним, как сами находились в том же самом положении – не могли взять в толк, как эти цифры на обратной стороне школьной тетрадки друг с другом связаны. По этой же причине, наверное, трудно найти более неприятное занятие, чем учить кого-то водить автомобиль, – опытный водитель не помнит, как он сам не знал этого, а объяснять сложно.

Наконец, по этой же причине руководители так часто спускают всех возможных собак на своих подчинённых за «глупость» и «нерасторопность». Они-то, будучи руководителями, видят всё, что происходит в компании, сверху, прошли все ступени в ней и со всеми составляющими производственного процесса в своё время сталкивались. И да, теперь они не помнят, каково это – быть рядовым сотрудником и не знать того, что они теперь знают.

Так и мы считаем себя центром вселенной и вершиной эволюции, потому что не помним, насколько бессмысленными созданиями мы были раньше, – аж, прошу прощения, до 25 лет.

Каждый из нас в своё время прошёл все фазы программирования своего мозга. Было время, когда мы не умели сдерживать мочеиспускание, а когда научились, для наших родителей это было что-то невероятное, словно манна небесная.

Мозг ребёнка учится буквально всему. Мы учимся воспринимать окружающий мир посредством небольшого количества данных нам эволюцией органов чувств – видеть, слышать, ощущать его тактильно, на вкус, на запах и т. д. И мы именно учимся этому.

Из школьной программы по биологии вы, вероятно, помните, что из-за оптического устройства нашего глаза изображение на его сетчатку попадает в перевёрнутом виде. То есть ребёнок сначала видит мир перевернутым, а затем, поскольку это противоречит его тактильному опыту (он промахивается, когда пытается за что-то ухватиться), он учится своим мозгом это изображение «переворачивать».

Другой пример: новорождённый ребёнок не видит лиц других людей, ему этому тоже надо научиться. Сначала его мозг обучается выделять, распознавать структуру лица: округлую форму, прямую и поперечную симметрию лица, его базовые элементы – глаза, рот, брови…

Это происходит примерно так, как изображено на рисунке № 4. Ото дня ко дню, от недели к неделе. Месяцы потребуются для того, чтобы ребёнок смог наконец научиться осмысленно фиксировать свой взгляд на человеческом лице.

Рисунок № 4. Схематичное представление формирования у ребёнка навыка распознавания человеческих лиц

Никогда не задумывались, почему дети, начинающие рисовать, поначалу забывают про носы на лицах? Потому что для них это просто линия симметрии, носы не функциональны, в отличие от глаз (направление движения которых важно с эволюционной точки зрения) или рта, который может укусить.

Совершенно аналогичная ситуация с прочими органами чувств и соответствующими корковыми анализаторами – все они тренируются, «натаскиваются» на создание картины реальности в результате соответствующих практик и опытов.

Способность различать формы, цвета, вкусы, текстуры и т. д. – это, проще говоря, натренированные навыки, к чему, впрочем, наш мозг был эволюционно приспособлен.

Кроме прочего, мы учимся противостоять воздействию гравитации и передвигаться с учётом окружающих нас объектов. Дело это очень непростое, поскольку требует от мозга объединения многих самостоятельных функций: тактильных ощущений и проприоцептивных данных от собственных мышц и связок, создания собственной «схемы тела» и образа «внешнего мира», в котором это тело находится, тренировки большого количества двигательных навыков и т. д.

Припоминаете, как младенец учится хвататься за палец взрослого, держать голову, переворачиваться на живот, садиться, вставать на четвереньки, а затем на ноги, ходить, огибать препятствия, при этом, правда, постоянно с ними сталкиваясь? Это большая и сложная работа – превратиться из лежащего пластом новорождённого в перемещающуюся в пространстве машину.

Для того чтобы понять грандиозность этой задачи, приведу всего лишь два факта.

Факт первый: за координацию движений, регуляцию равновесия и мышечного тонуса в нашем мозге отвечает мозжечок, а количество нейронов в мозжечке примерно в два раза больше, чем во всей коре головного мозга.

Попробуйте представить сложность задачи, для которой требуется такое количество расчётных мощностей. Стоит ли удивляться тем трудностям, с которыми сталкиваются создатели антропоморфных роботов?

Оказалось, что научить компьютер читать, писать, переводить с языка на язык и т. д. куда легче, чем просто заставить машину передвигаться в пространстве. Самая успешная в этом отношении компания – это, несомненно, Boston Dynamics. Её невероятных антропоморфных роботов – ходящих, прыгающих, бегающих, а ещё роботов-собак – вы можете посмотреть в YouTube.

Да, это самое настоящее чудо техники, хотя по-прежнему неловкое, недоделанное и требующее ещё невероятных дополнительных затрат. В 2013 году компания Google приобрела Boston Dynamics, но спустя три года продала, поскольку не увидела, что сможет в обозримом будущем создать на основе этих разработок коммерчески успешный продукт – настолько это сложно!

Но, зная о том, какое количество клеток в коре головного мозга человека и сколько в мозжечке, я абсолютно этому не удивляюсь. Это реально сложно, если природа вложила в нас для этих целей такой огромный расчётный модуль!

Второй факт касается сложности соотнесения данных в рамках всей этой деятельности. С одной стороны, мы должны построить «модель мира», опираясь на тактильные ощущения, а также собственную «схему тела» и затем подружить их. С другой стороны, мы должны натренировать зоны движения, которые воспользуются этим знанием.

Вроде бы нехитро, но приглядитесь к тому, как это выглядит на схеме со знаменитым «человечком Пенфилда»… Пространство мира и нашего тела создаётся постцентральной извилиной, анатомически относящейся к теменной доле (насладитесь этим «уродством»), а двигательные реакции на это безобразие обеспечиваются моторной корой – это прецентральная извилина лобных долей (см. рис. № 5).

Рисунок № 5. Схема сенсорной и моторной коры головного мозга

Рассказывать о том, как наш мозг учится создавать «реальность» и помогает нашему телу функционировать в ней, можно долго. Впрочем, принцип, я думаю, в целом уже ясен: есть нейронный сервер, который необходимо запрограммировать в опыте.

Если этого «программирования в опыте» не случится, то клетки, которые эволюционно предназначены под те или иные задачи, просто отмирают, а соответствующие функции станут нам недоступны. Например, если до десяти лет ребёнок воспитывается вне языковой среды, то, скорее всего, он уже никогда не сможет овладеть языком.

Впрочем, как я уже сказал, кроме этого «программирования в опыте» есть ещё и базовые настройки, которые заданы мозгу генетически.

Мы не просто так создаём в себе реальность окружающего мира, а под те самые ограниченные задачи выживания, и под это в коре головного мозга зарезервированы соответствующие площади.

Сладкое не просто так кажется нам вкусным, горькое – горьким, громкое – пугает, поглаживания (тот самый груминг) – расслабляют, поцелуи возбуждают и т. д., и т. п. Всё это нужно для выживания – физического, в рамках социальной группы и всего вида в целом.

То есть нам не нужно учиться целям этих действий, нам нужно только освоить сами действия, к чему нас побуждают внутренние настройки организма – от нейрофизиологических до гормональных факторов.

В этом, по большому счёту, базовое отличие биологического интеллекта от искусственного: мы как бы заранее знаем, зачем нам нужен тот или иной навык. Он – этот навык – заточен под результат, о котором мы даже не задумываемся, потому что не мы эту цель себе поставили. Её прописала в наших генах эволюция, а мы лишь, как программа, способная учитывать обстоятельства окружающей среды, пытаемся её достичь.

Ко всему этому, вероятно, следует добавить ещё несколько «чувствительных» деталей. Например, то, что биологическая эволюция не мелочится и жертвы её никогда не пугали. Так что количество её неудачных опытов, как нетрудно догадаться, прохаживаясь по палеонтологическому музею, значительно превосходит число успехов и прорывов.

Сам принцип естественного отбора – это наличие жертв: слабые, неспособные, не умеющие адаптироваться существа должны сгинуть, не оставив потомства. И это логично, но от искусственного интеллекта мы по каким-то загадочным причинам ждём не только мгновенной умности, но и безошибочности работы.

Каждая автомобильная авария с автомобилем, управляемым автопилотом, становится предметом подробнейшего разбирательства и главной новостью на местных телеканалах. Конечно, это же ужас какой! При этом то, что ДТП с участием обычных автомобилей не попадают в новости из-за того, что их слишком много и это до того обыденно, что «не новость», почему-то никто не задумывается.

К настоящему моменту автомобили с автопилотом разных компаний и производителей намотали пробег в миллионы километров, многократно обогнули земной шар. А много ли вы слышали историй об убийстве человека машиной с автопилотом?..

Исследователи компании Axios самым серьёзным образом подошли к изучению статистики дорожных происшествий в Калифорнии с участием робомобилей. С 2014 по 2018 год удалось насчитать 38 таких ДТП. И что же? Выяснилось, что во всех случаях, кроме одного, когда действительно произошёл сбой алгоритма автопилота, виновником ДТП был человек.

Но несмотря на это, информация о подобных ДТП, прошедшая через СМИ, неизменно приводит к резкому снижению доверия публики к технологиям автопилотирования. Забавно, правда?

Нам легко войти в положение человека, убившего другого человека своей машиной, даже если он был пьян, обкурен или просто невнимателен. Но умную машину мы готовы осудить, даже если она невиновна. Да, мы просто кладезь когнитивных искажений…

Правда в том, что уже сейчас прекрасно работающий искусственный интеллект совершенно не похож на нас – на своего создателя. Ни в фас, ни в профиль. Однако же он делает ровно то, что делает наш с вами мозг, причём в каждом отдельном случае значительно лучше него (или, по крайней мере, лучше и лучше с каждым днём).

Когда-то считалось, что научить машину распознавать человеческие лица – это что-то за гранью фантастики: нельзя, невозможно, никогда не получится. Однако сейчас интеллектуальные системы распознавания лиц справляются с этой задачей лучше людей и уж точно значительно лучше меня (всегда страдал от этой проблемы).

А на вопрос, каким образом им это удаётся, ответ будет прост до неприличия – они научились. Как и мы с вами в своё время, только у нас были эволюционные настройки, предуготованность к распознанию лиц, соответствующие области мозга в зрительной коре, а у него – нет.

Почему эта задача, применительно к искусственному интеллекту, ранее считалась невыполнимой? Потому что разработчики думали: какие алгоритмы ввести в систему, чтобы научить её распознавать лица, или, например, отличать морду собаки от кошки?

Но разве у нас есть «сознательные» правила на этот случай? Разве у нас самих не происходит всё это на подсознательном уровне? Разве мы не называем этот навык интуитивным? Хотя никакой интуиции не существует, и это всегда результат не осознаваемой нами работы нашего же мозга.

Да, мы не знаем (сознательно), по каким принципам мы узнаём людей в лицо, мы не знаем (сознательно), что позволяет нам так быстро и «просто» отличить кошку от собаки. Так кого мы можем этому научить?

Правда в том, что мы сами не понимаем того, как наш мозг решает эту, да и подавляющее большинство других жизненных задач. Наш мозг делает это на тех уровнях своей организации, куда наше самодовольное и самоуверенное сознание никогда не заглядывало и даже, при всём желании, заглянуть не может.

Проще говоря, искусственный интеллект – это, в действительности, некий искусственный мозг, а не «интеллект» в привычном для нас понимании этого слова. Точнее, даже не мозг, поскольку он является интегральным органом, а пока лишь искусственная нервная ткань: огромное множество отдельных сетей, работающих – до поры до времени – независимо друг от друга.

Но как мы видим, они – эти отдельные пока искусственные интеллекты – уже начали собираться в агрегации и работать совместно. Именно так, должен сказать, происходило и в процессе эволюционного филогенеза – то есть исторического развития – нашей с вами нервной системы.

ПРАХ ОТ ПРАХА

Изначально у наших предков – у всяких кишечнополостных, например, – нервная система была «диффузной» (впрочем, была и есть – они так ею и пользуются). Это значит, что нервные клетки и их небольшие скопления располагаются в разных частях тела животного и не соединены в единый функциональный комплекс.

Затем эволюция опробовала «узловую нервную систему» – ею могут похвастаться всякие моллюски, членистоногие, кольчатые черви. Здесь скопления нервных клеток уже образуют нервные узлы – ганглии, а из скоплений отростков нервных клеток формируются нервные стволы, проще говоря – нервы.

Наконец, третий этап – это «трубчатая нервная система», которая характерна для хордовых. То есть все позвоночные, начиная с самых примитивных форм (например, ланцетника) и заканчивая человеком, обладают «трубкой» центральной нервной системы, которая оканчивается в головном конце объёмной ганглиозной массой.

Дальше уже в рамках развития этой «трубки» происходили такие процессы:

• централизация – группировка нервных центров в морфофункциональные конгломераты, располагающиеся в разных отделах тела животного (каждый нервный узел обеспечивал работу определенного сегмента);

• специализация – соподчинение различных ганглиев друг другу, увеличение специфичности нервных клеток (то есть они начинают выполнять разные функции), а также формирование афферентной системы (приводящей сигнал) и эфферентной (отправляющей команды);

• цефализация – это подчинение задних отделов центральной нервной системы головным, формирование сложных иерархических отношений между элементами нервной системы в целом;

• кортикализация – формирование и совершенствование коры больших полушарий головного мозга, обеспечивающей тонкость дифференци-ровки нервных сигналов и возможность сложного обучения.

В каком-то смысле искусственный интеллект переживает сейчас свой филогенез и экспериментирует в сторону усложнения. Даже биологическая эволюция, как вы, наверное, знаете, не была линейной, и все виды животных, которые обитают сейчас на планете Земля, являются, по сути, вершинами своих генетических линий.

Поэтому, реконструируя таким образом логику эволюции нервной системы, мы реконструируем логику исторического формирования своей нервной системы, которую считаем, разумеется, идеальной. Но это мы так считаем…

Если у вас будет желание, очень рекомендую ознакомиться с книгой замечательного учёного-этолога Франса де Вааля с провокационным названием – «Достаточно ли мы умны, чтобы судить об уме животных?».

Автор книги – ученик нобелевских лауреатов Николаса Тимбергена и Конрада Лоренца, а также автор революционной и уже ставшей хрестоматийной работы «Политика у обезьян» – ненавязчиво, но доходчиво сбивает спесь с нашего представления о своем невероятном величии.

Наша нервная система хороша для решения тех задач, которые мы были принуждены решать в рамках своей среды обитания и для удовлетворения своих потребностей. Но мы зачастую абсолютно неспособны решить задачу, с которой легко справляются пчёлы, или какие-нибудь сойки, или, наконец, шимпанзе.

Мы пытаемся приспособить искусственный интеллект под свои нужды – и это понятно, зачем ещё нам его создавать? Но правда в том, что мы создаём некий «интеллект» (что бы это ни значило), который уже живёт своей жизнью, активно эволюционирует, и не факт, что не добьётся в этом тех же успехов, что и наш вид – подвергший все остальные тотальному межвидовому геноциду.

«Нам надо прекратить изображать из себя великих творцов, которые сохраняют контроль над тем, что мы делаем, и начать думать о своей будущей роли. Возможно, нас ожидает та же судьба, что постигла смиренную митохондрию, простую клетку, которая была когда-то давным-давно поглощена большей клеткой. Она отказалась от самостоятельной жизни, чтобы стать электростанцией для своего носителя, в то время как носитель перестал самостоятельно вырабатывать энергию, чтобы сосредоточиться на других задачах. Оба извлекли пользу из этого процесса симбиогенеза. Не происходит ли то же самое с нами?»

СЬЮЗАН БЛЭКМОР, психолог, профессор Университета Плимута

Тот феномен, который мы по сложившейся традиции обозначаем словосочетанием «искусственный интеллект», не предполагает человекоподобия по существу, а уж тем более во внешнем облике.

Неудивительно, что попытка воспроизвести человеческое существо из металла, транзисторов и проводов, эдакого Голема, но на новый – технологический – манер, разумеется, была обречена на неудачу.

Но была ли подобная стратегия в принципе верной?

Если верить еврейской мифологии, сделанный праведником Лёвом глиняный истукан был оживлён мистическими силами Каббалы.

То есть дух был сказочным образом внесён в эту куклу. Ожидать же от инженеров тех же чудесных мистических сил – как минимум странно.

Конечно, ничего «такого» мы внести в машину, оснащённую каким угодно мощным искусственным интеллектом, не можем. Она или создаст какие-то специфические, интересующие нас эффекты, или нет. Мы же не герои ближневосточного фольклора и даже не герои из вселенной Marvel.

И с чего мы вообще взяли, что, создавая искусственный интеллект, мы должны кудесничать на манер древнееврейского Иеговы?

Как выясняется, идти старым, добрым, проверенным путём эволюции – последовательно, от меньшего к большему – куда более разумно, чем указывать искусственному интеллекту, каким он должен быть и главное – каким образом ему этого следует добиться.

В конце концов, эволюционные принципы действительны сами по себе, а субстрат, на котором они себя проявляют, не так уж и принципиален. Вполне возможно, что на кремниевом или каком-то другом ненуклеотидном субстрате всё будет происходить даже лучше и быстрее.

С учётом тех технологических возможностей, которыми мы уже располагаем, в этом, мне кажется, можно даже не сомневаться…