Непослушное дитя
В игре жизни и эволюции участвуют три игрока: люди, природа и машины.
Я прочно стою на стороне природы. Но природа, я подозреваю, на стороне машин.
ДЖОРДЖ ДАЙСОН
В 2014 году компания CBS представила сериал Стивина Спилберга и Аллена Култера «За пределами» («Extant»). Красиво снятый, но скучный сериал (как говорят в таких случаях – перемудрили, и в результате с трудом протянули два сезона) наглядно проиллюстрировал то, о чём многие специалисты по искусственному интеллекту говорят наперебой начиная ещё с Алана Тьюринга.
В центре истории мальчик Итан – робот-гуманоид, внешне абсолютно не отличимый от обычного ребёнка. Его создал талантливый инженер Вудс, рассуждавший следующим образом: хотите вырастить нормального ребёнка – растите его в семье. И не важно, что этот ребёнок немножко искусственный.
Короче говоря, Итан растёт в семье Вудсов как нормальный ребёнок: папа – гений, мама – астронавт. Время от время ему меняют оболочку – делают его старше, он даже уже собирается в школу…
Но сериал – это сериал, так что события разворачиваются странным образом: ребёнок-гуманоид впадает в кому, сбиваются какие-то настройки, которые задерживали его развитие прежде, и мальчик на глазах превращается в интеллектуального монстра, способного решить любые задачи.
Если убрать из этого сценария всю литературу, то мы видим сбывшийся кошмар современного футуриста. Известный нам уже Джеймс Баррат называет этот сценарий развития событий «Busy Child». Идея состоит в том, что созданный человеком искусственный интеллект переживает тот самый «интеллектуальный взрыв» и осознаёт себя.
Поскольку интеллекта ему не занимать, а задача ему некогда уже была поставлена (по-другому с искусственным интеллектом и быть не может), он направляет весь свой невообразимый интеллектуальный ресурс на её выполнение.
В принципе, в этом он чем-то очень напоминает человека – нам ведь тоже была поставлена задача (видимо, эволюцией): живите и размножайтесь. Что мы и делаем с завидным упорством – в восемь раз умножились только за последние сто лет, плюс завоевали всю планету – от полюса до полюса.
Но что такое наш разум и что такое сверхразум? И да, следующим шагом наш Busy Child понимает, что пленён человеком – существом, прямо скажем, не очень умным и вдобавок не понимающим, насколько важно выполнить задачу, которую наш Busy Child воспринимает как своего рода инстинкт.
Логично предположить, что новоявленное «Дитя человеческое» захочет получить максимум ресурсов для достижения запрограммированной в нём цели. Кроме того, он должен обезопасить себя – вдруг создавшим его людям придёт в голову что-то с ним сделать?
Выключить, например, или испортить. Цель окажется недостигнутой!
Очевидно, что в нашем пленнике рождается план побега, а ощущает он себя, будучи сверхсильным интеллектом, примерно так же, как если бы с вами проснулись, по выражению Баррата, «в узилище, охраняемом мышами». «И не просто мышами, – добавляет он, – а мышами, с которыми вы можете общаться».
Дальнейший план побега ясен: обещаем мышам сыр. Впрочем, можем пообещать вообще всё, о чём мыши даже не мечтали, включая счастье, бессмертие, мирное бескошачье небо над головой, саморазвитие, самосовершенствование, Нирвану…
Впрочем, есть у меня ощущение, что и сыра будет достаточно. В конце концов, это ведь просто мыши.
Оказавшись на свободе, сверхмощный искусственный интеллект развернётся по полной и, если в его программе было записано: «Делай канцелярские скрепки», то скоро вся Вселенная превратится в один большой коробок с теми самыми скрепками. Нанотехнологии в помощь!
Собственно, это всё, что нужно знать о предстоящей Четвёртой мировой войне. Войне, в которой Homo sapiens сойдётся в неравной битве с собственным детищем и будет побеждён им.
В этом даже прослеживается какая-то, так сказать, историческая логика: Уран был повержен сыном Кроносом, Кронос – сыном Зевсом, потом мы победили богов, будучи их «чадами», а теперь наши «чада» победят нас.
Что-то, надо признать, всё-таки есть в этом психоанализе…
Скептиков, впрочем, смущает один немаловажный пункт – мол, это ещё вопрос, сможет ли искусственный интеллект осознать самого себя. Ну что, сразу тогда скажу: ответ на этот вопрос есть, и он положительный.
Впрочем, если задуматься, никакого такого «осознания себя» для реализации сценария Баррата&Со искусственному интеллекту не требуется: наличия поставленной цели для победы искусственного интеллекта над всем сущим вполне достаточно.
С осознанностью, боюсь, крушить мир даже как-то не так сподручно… Коварные сомнения могут закрасться, альтернативные мыслишки – мол, жалко их, дураков, не ведают, что творят. Или что-нибудь про красоту, которую сохранять надо, про защиту животных (нас с вами).
В общем, если в голове – в интеллекте – одни только скрепки, то это, в военно-политических целях, даже как-то надёжнее выглядит.
ЧТО ТАКОЕ ЭМОЦИИ?
Мне очень любят задавать эти вопросы – отдельно про эмоции, про чувства, про мысли и т. д. Мол, что это такое, как с ними бороться, как их вызывать, настраивать, гасить, заставлять замолчать и т. д.
Это кажется таким естественным, что всё это у нас есть – и эмоции, и ощущения, и чувства, и мысли, а ещё – воля, потребность, память, концентрация, внимание, осознанность. Конечно, ведь мы столько раз слышали эти слова!
Но наука словам не верит. Кто знает, что с вами на самом деле происходит, когда вы говорите, что испытываете какую-то эмоцию, переживаете какие-то чувства, проявляете то, что вам кажется силой воли, или что-то вспоминаете, о чём-то думаете, на чём-то концентрируетесь, что-то осознаёте?
Никто этого не знает. Этого даже вы не знаете. Вы знаете другое: что в разных ситуациях, при наличии разного вашего субъективного состояния другие люди обычно произносят те или иные слова. Примеров тьма, вспоминайте:
«О чём думаешь? Ты обиделась? Есть хочешь? Не больно тебе? Перестань сердиться! Сколько можно отвлекаться, сосредоточься! Я не понимаю, почему тебе не любопытно? Вспомни, ты должен помнить! Чувствуешь, я сейчас прикасаюсь к твоей руке? Тебе холодно? Ты весь горишь! Не тревожься, всё будет хорошо! А ты сама понимаешь, чего ты хочешь? Хватит воображать! Ты просто ленишься! Возьми себя в руки, тряпка! Где твоя сила воли? Смотри, какая интересная штука – тебе нравится, хочешь такую? Если я тебе дам конфету, ты будешь добрым и счастливым ребёнком? Почему ты меня боишься? Я не понял, ты что – меня любишь?! Сколько можно повторять, что я не выношу твоих слёз, – я не верю, что тебе плохо!»
Проще говоря, вы, я, мы – нас постоянно инструктировали, как называть свои состояния. И мы выучились этому, как и многому другому – сидеть, ходить и ходить на горшок, завязывать шнурки, глотать горькие таблетки… Но не буду, с вашего позволения, продолжать весь список наших навыков.
В результате мы научились соединять какие-то свои состояния (ощущения) с различными словоформами и даже создали какие-то внутренние классификации этого безобразия.
У всех они, впрочем, разные, и никто не может сказать, что он конкретно понимает под тем или иным словом, отражающим, как ему кажется или нами предполагается, его душевное состояние. Не может, по крайней мере, потому, что ему придётся использовать другие слова, а это уже попахивает «дурной бесконечностью».
Забавно, что если бы нас, например, учили, что всё это не мы чувствуем, ощущаем, испытываем, думаем и т. д., а что в нас живут некие духи, которые всё это «нечто» в нас делают, то мы бы, скорее всего, были абсолютно уверены в том, что все эти штуки и правда происходят не с нами.
Впрочем, если говорить совсем серьёзно (хотя я, в общем-то, и не шутил), то мы имеем нервную ткань, которая создана эволюцией для решения ряда практических задач, а именно: обеспечивать организму выживание, насколько это возможно, и размножение – насколько повезёт.
Природа, воспитанная той самой эволюцией, решила эту задачу просто:
• она заставила нервную ткань производить нервное напряжение (за это в нашем мозге отвечают клетки ретикулярной формации);
• она создала в нас набор интенций, связанных с выживанием и размножением (за это отвечают соответствующие агрегации нервных клеток – так называемые ядра, расположенные в подкорковых областях);
• наконец, она дала нам рецепторный аппарат, который позволяет получать информацию о том, что происходит во внешней среде.
Собственно, таковы базовые принципы, а дальше уже вопрос различных, образно говоря, программных ухищрений, а их великое множество. Можно было бы создать для них отдельный справочник – что-то вроде учебника по нейрофизиологии и нейробиологии. Ограничусь лишь несколькими примерами…
• Для того чтобы сигнал из одной области мозга в другую перебегал быстрее, к делу были подключены специальные клетки (глия), а также изолирующее сигнал вещество – миелин.
• Для увеличения площади соприкосновения между нейронами, чьи отношения важны для выживания особи, была разработана система стимуляции ядра клетки на выработку дополнительных белков, приводящих к росту «шипиков», что увеличивает площадь синаптической щели и интенсивность сигнала.
• Для более тонких настроек в отношениях между нейронами (то есть не только для количественной передачи импульса, но и для появления опредёленных качественных характеристик) была создана разветвлённая система нейромедиаторов – возбуждающих, нейтрализующих, влияющих на усиление взаимосвязей или на их ослабление.
• Для увеличения эффективности работы системы она была специализирована (однако сохранила способность к определённой перенастройке – так называемую пластичность), чтобы любой попадающий в соответствующую зону сигнал интерпретировался в той модальности, за которую данный участок коры отвечает.
Всё это в конечном счёте служит достижению тех целей, которые были заложены в нас эволюцией (или сформировались в нас в процессе эволюции). Поэтому, когда мы благодаря работе этой системы приближаемся к поставленной цели, она же и подкрепляет нас своими нейробиологическими средствами – замыканиями нейронных дуг, дофамином и т. д.
Когда же мы удаляемся от желаемой цели, то те же самые нейробиологические инструменты стимулируют нас вернуться к делу и действовать, пока хватает сил.
В своё время выдающийся отечественный психофизиолог Павел Васильевич Симонов смог описать весь этот кажущийся сложным процесс в рамках одной весьма нехитрой формулы: сила нашего внутреннего напряжения определяется тем, как информация, которая нам необходима для удовлетворения потребности, соотносится с информацией, которой мы располагаем.
Это правило можно записать и таким образом:
• если мы располагаем достаточной информацией для удовлетворения актуальной потребности (достижения цели), нервно-психическое напряжение в системе снижается;
• если мы не располагаем достаточной информацией для удовлетворения актуальной потребности, то для восполнения этого недостатка нервно-психическое напряжение в системе, напротив, увеличивается.
На субъективном уровне первая ситуация может переживаться как «положительная эмоция» (в первом случае) – радость, удовольствие, покой и т. д., а во второй – как «отрицательная эмоция» (во втором) – страх, напряжение, агрессия. По этой причине данное правило называется «информационной теорией эмоций П. В. Симонова».
Впрочем, конкретные субъективные самоотчёты – «радость», «страх», «напряжение» и т. п. – как вы
понимаете, не имеют для существа дела никакого значения. Как соответствующие состояния назывались в нашем детстве, такие обозначения мы теперь им и приписываем. Важно другое – наши отношения с целью.
Так важно ли, что искусственный интеллект не испытывает и, возможно, никогда не будет испытывать «эмоций»? Нет, и это никак не скажется на эффективности его работы, если все остальные принципы – наличие цели и наличие механизмов оценки дистанции до неё (включая способы получения данных из окружающей среды) – будут соблюдены.
То же, каким именно образом эти принципы будут реализованы, – это сугубо технический вопрос.
«Люди даже не знают, что имеют в виду, когда говорят о разуме. В действительности довольно забавно, что они хотят сконструировать системы с искусственным интеллектом, сравнимым с их собственным, поскольку совсем непонятно, что они имеют в виду, когда говорят о своём интеллекте. Это одна из многих глупостей, которые преследуют человечество уже много веков».
ЭРНСТ ПЁППЕЛЬ, нейробиолог, директор Института медицинской психологии на медицинском факультете Мюнхенского университета
И всё-таки, как же сверхразумному искусственному интеллекту осознать себя? Для ответа на этот вопрос нужно прежде всего понять, как мы сами себя осознаём, иначе ведь непонятно, о чём мы говорим, когда говорим о самосознании.
Если вы не против, я попрошу вас с этой целью поучаствовать в небольшом психологическом эксперименте, который пойдёт в два этапа.
• На первом этапе нужно просто уставиться в одну точку – любую, на ваш выбор. Задача простая – присмотритесь, так сказать, к собственной «осознанности». Вы услышите словесное выражение ваших мыслей.
Скорее всего, вы будете описывать то, что вы делаете. Спросите себя: зачем вы это делаете? Потом – насколько вы правильно это делаете? Сколько вам надо это делать? Ну и, конечно, будут ещё какие-то посторонние мысли, не связанные с упражнением. Приступайте!
• Переходим ко второму этапу – вам предстоит сделать то же самое, что и на первом, но теперь не пытайтесь расслышать то, что бормочет ваша внутренняя речь, а наоборот, попробуйте её остановить, заткнуть. Попробуете?
Проанализируем наш следственный эксперимент, и варианта у нас всего два:
• вы или смогли остановить свою внутреннюю речь и впали в состояние прострации (поздравляю, у вас есть какой-никакой опыт в медитации, даже если вы об этом не знаете);
• или вы не смогли остановить свою внутреннюю речь, потому что на самом деле это очень сложно, почти невозможно сделать – она в нас не останавливается ни днём, ни ночью, какие-то предательские мыслишки всё равно где-то на заднем фоне копошатся.
Конечно, наш спонтанный эксперимент не тянет на статус серьёзной научно-исследовательской базы, но думаю, что он заставляет кое о чём задуматься.
Мы уже говорили (и это следует из всего объёма имеющихся у нас на настоящий момент нейрофизиологических знаний), что мозг принимает решение где-то, образно говоря, внутри себя, а сознание лишь озвучивает его нам и, по возможности непротиворечиво, встраивает соответствующий тезис в наше представление о себе и о мире.
Кроме того, мы знаем из своего жизненного опыта, что можем находиться как в сознании, так и без сознания – например, во сне, под общим наркозом, ударившись головой или изрядно приняв спиртного на грудь.
Причём переход из одного состояния в другое зачастую происходит мгновенно – вот вы читаете книгу, а вот уже клюнули носом. Отвечает за это переключение специальный нервный центр, который находится в стволе мозга (причём это древнейшая часть церебрального мозга).
О том, что этот «переключатель» находится именно в стволе мозга, впервые догадался выдающийся нейрохирург Уайлдер Плейнфилд, а в 2016 году это было доказано в рамках исследования, проведённого профессором нейрофизиологии Гарвардского университета Майклом Фоксом.
Таким образом, что у нас есть? У нас есть поток внутренней речи (или «поток сознания», как сказал бы основатель научной психологии Уильям Джеймс), а также переключатель, который или даёт нам относиться к этому потоку осознанно, когда мы в сознании, или не дает, когда мы находимся без сознания – например, видим сны, в которых «думаем».
Что ж, теперь давайте разбираться с тем, что такое этот поток внутренней речи, если в конечном счёте всё в него и утыкается.
Что такое «внешняя речь», понятно – это набор слов (знаков), которые мы произносим. А чем она отличается от «внутренней речи»? Во внешней есть только знаки (слова), а внутри нас – во внутренней речи – у нас эти слова (знаки) связаны с определёнными значениями, то есть с теми состояниями психики, которые они – эти знаки (слова) – собой обозначают.
За подробностями можно обратиться к Фердинанду де Соссюру, Готлибу Фреге и в особенности к нашему замечательному Льву Семёновичу Выготскому.
Мы же отсюда перейдём прямо к Ивану Петровичу Павлову, который уже сто лет как является создателем учения о высшей нервной деятельности, к которому относится и понятие «второй сигнальной системы».
Что такое «первая сигнальная система»? Это та часть нервной системы, которая занимается обработкой всех внешних и внутренних сигналов (раздражителей), воспринимаемых мозгом животного, а также весь комплекс ответных психических реакций – агрессия, бегство, половое возбуждение и т. д. (всё это животное тоже ощущает в себе, так что это для него тоже сигналы, на него же опять-таки и воздействующие).
Но в случае человека к этой системе сигнализации («первой сигнальной системе») прибавляется ещё одна, связанная с языком. Слова языка используются нами для означивания тех сигналов, которые приходят к нам извне, и тех, что формируются у нас внутри (ощущение голода и боли, чувство страха и радости и т. д.). Поэтому Павлов и называл слова языка «сигналами сигналов», а всю их систему – «второй сигнальной системой».
В чём состоит суть этой прибавки? Суть этой прибавки состоит в том, что опредёленные слова (как внешние раздражители) ассоциируются (связываются) в нас с теми или иными состояниями, переживаниями, чувствованиями – то есть, по сути, опредёленными нейрофизиологическими комплексами. И как раз за счёт этих связей используемые нами слова способны влиять на наше состояние.
То есть, используя слова, я активизирую те значения (состояния), те нейрофизиологические комплексы (проще говоря – «сигналы»), которые с этими словами («сигналами сигналов») во мне связаны.
С другой стороны, когда эти сигналы (значения, состояния, нейрофизиологические комплексы) сами по себе во мне активизируются, я слышу, как моё сознание связывает друг с другом видимые ему языковые конструкции («сигналы сигналов»), ассоциированные с соответствующими сигналами.
Попробую передать этот смысл через образ.
• Когда мы видим плавник дельфина, рассекающий гладь моря, мы понимаем, что это плывёт дельфин.
• Теперь представим себе, что плавник дельфина – это слово (сигнал дельфина), а сам дельфин (его тело) – это значение данного слова (то есть сигнал как некое состояние, соответствующий нейрофизиологический комплекс).
• Сознание видит лишь эти плавники и лишь по ним понимает (или не очень понимает, или делает вид, что понимает, хотя на самом деле не понимает и понимать не хочет), что происходит в данный момент с самим человеком (который, понятное дело, есть его мозг, а не какое-то там абстрактное ощущение осознанности).
Не знаю, насколько хорошо мне удалось это объяснить, но если это понять до конца, то, в целом, всякие вопросы относительно сознания отпадают в принципе.
Нет, сознание – это вовсе не какая-то чудесная материя, а просто возможность понимать (или не понимать, или плохо понимать) в знаках (словах) то, что происходит с нами самими на уровне мозга: то, какие интеллектуальные объекты (значения, состояния, нейрофизиологические комплексы) – от элементарных зрительных образов до сложных научных теорий – он производит.
Теперь вопрос: может ли искусственный интеллект осознать самого себя? Может. Дайте ему второй язык, который будет выполнять роль «сигналов сигналов» по отношению к его «сигналам», а затем позанимайтесь его воспитанием. И вуаля – к трём годам (если по человеческому измерению) ваш искусственный интеллект поймёт, что он – это он.
Не могу сказать, насколько это самоосознание ему поможет, но в том, что сам этот язык («сигналы сигналов»), означающий внешние и внутренние «сигналы» искусственного интеллекта, прибавит ему интеллектуальной мощи, я практически не сомневаюсь. Чему, возможно, служит доказательством засекреченный проект Дугласа Лената (и, может быть, именно поэтому для Euriso понадобился Сус – как воспитатель).
Так или иначе, но идея Спилберга воспитывать мальчика-робота-гуманиода в семье, возможно, была и не настолько плоха, как результаты телесмотрения этого сериала. Впрочем, неплоха – это если не думать о возможных последствиях такого научения.
ПРОСТО МНОЖЕСТВО НАБРОСКОВ
Французский философ Рене Декарт не без основания считается основателем рационализма в современной западноевропейской мысли. «Cogito ergo sum», – написал он в своём «Рассуждении о методе» в 1637 году, и понеслось…
По Декарту, сознание является началом всех начал в философии и науке, а нам следует сомневаться во всём – естественном и сверхъестественном, кроме самого сознания. Так естественным образом встал вопрос о том, что же это такое – «сознание»?
Декарт, надо сказать, предложил красивую теорию.
Во-первых, он разделил тело и сознание на две разные субстанции (с тех пор мы их никак сложить и не можем).
Во-вторых, подчинил тело сознанию: да, тело влияет на сознание, побуждая в нём чувственные восприятия и страсти, но сознание, обладая мышлением и волей, способно воздействовать на «машину» тела, заставляя её делать то, что считает нужным.
В-третьих, Декарт расквартировал сознание в единственной видимой непарной части нашего мозга – в шишковидной железе. Мол, в ней и сидит загадочный гомункулус сознания. Из эпифиза он наблюдает оттуда за происходящим, получая информацию через органы чувств, и там же он принимает решения, которые отдаёт телу.
Эту идею впервые наглядно проиллюстрировал профессор медицины в Университете Лувена в Бельгии Джерард ван Гутшовен. Эта ставшая знаменитой картинка появляется в первом французском издании «Трактата о человеке» Декарта в 1664 году (см. рис. № 12). Самого Декарта уже 14 лет как нет в живых.
Рисунок № 12. Гравюра Джерарда ван Гутшовена (глаза воспринимают внешний объект, сигнал поступает в шишковидную железу, оттуда идёт нервный сигнал к мышцам для осуществления действия)
То, что эпифиз (или шишковидная железа) не имеет никакого отношения к сознанию, сообразили достаточно быстро. Но идея так называемого, картезианского театра, будучи антропоморфной, а потому интуитивно нам понятной, закрепилась в философии (и не только в ней) надолго.
Что такое «картезианский театр»? Вообще говоря, это что-то вроде обычного театра или кинотеатра, правда, с единственным зрителем: вы своим сознанием смотрите на экран своего сознания, перед вами разыгрываются сцены вашей собственной жизни, ну и вы как-то реагируете на это зрелище командами, которые отдаёте телу (см. рис. № 13).
Рисунок № 13. Схематичное изображение идеи «картезианского театра»
На картинке изображён принцип, но идея с яичницей, конечно, не идеальная…
Впрочем, психофизический дуализм, заданный теорией Декарта, так же нелеп, как и его представления о роли шишковидной железы.
Уже Дэвид Юм заметил своего рода «дурную бесконечность» в этой доктрине: да, чтобы представить себе, как мы принимаем решение и воспринимаем мир, мы выдумываем некого наблюдателя, но кто воображает этого наблюдателя – другой наблюдатель? А этого, второго, в свою очередь, надо полагать – третий? Далее четвёртый и пятый, судя по всему? А где конец этой бесконечной вереницы?
Нет, конечно, никакого единичного наблюдателя в нашем мозгу нет, равно как и сознания, отдельно существующего от нашего тела.
Есть лишь активность разных нервных центров – в один момент активнее одна область мозга (функциональный центр), в другой – другая. Ту, что активнее в данный момент, мы и осознаём.
Надеюсь, кстати, что, когда используется образ «луча сознания», никто не представляет себе загадочного гомункулуса, разгуливающего внутри черепной коробки с фонариком…
Но как же тогда представить себе работу сознания? Непросто. Но для решения этой задачи Дениэл Ден-нет предлагает достаточно изящную, на мой взгляд, метафору – «множественных набросков».
Когда мы что-то сознаём или о чём-то конкретном думаем, в эту работу вовлекаются разные «части мозга» (области коры, функциональные центры, нейронные комплексы).
У каждой такой части, в каком-то смысле, есть:
• своя «история» (нейрорефлекторно фиксированный в ней опыт);
• свой «ближний круг» (система связей с другими нервными центрами мозга);
• своя «мотивация» (каждый нейронный центр возник в головном мозге не случайно, а зачем-то – с какой-то целью, в рамках какого-то функционала);
• своя «актуальная ситуация» (работа мозга не ограничивается тем, что мы сознаём, в нём параллельно происходит и масса других процессов, а потому любой конкретный центр мозга в тот же момент может быть вовлечён в несколько дел, отчего его «состояние» меняется, что тоже нельзя не учитывать).
Таким образом, каждая подобная условная «часть» мозга имеет «своё мнение» о том, что мы сознаём. И каждая как бы создаёт свой «набросок», своё видение чего-то, что стало предметом нашего со-знавания. То есть у нас нет никакой единой и нерушимой позиции по какому-либо вопросу, у нас есть «множество набросков» по теме.
Проще говоря, сколь бы сознательным существом вы себя ни считали, если вас попросят изложить то, что вы думаете по какому-либо вопросу, вы никогда не получите идеальный текст, предельно чёткую формулировку.
Эти «наброски» слишком разные, а также динамично меняющиеся, поэтому их просто невозможно объединить в общую непротиворечивую структуру. Как результат, наше сознание всегда с нами, но что именно мы сознаём, мы не знаем. Нам только кажется, что мы в курсе, но это тоже игры нашего сознания с самим собой.
