19
Роботы
ПЕННИ: Я ПОНЯЛА, ПОНЯЛА. ТЫ БЕСЧУВСТВЕННЫЙ РОБОТ.ШЕЛДОН: НУ, Я СТАРАЮСЬ.«ДЕФИЦИТ ХОФСТЕДТЕРА» (СЕЗОН 7, ЭПИЗОД 1)
Самой странной парочкой на вечеринке по поводу Хэллоуина, устроенной Стюартом, были Тряпичная Энни и Тряпичный Андроид: Эми в классическом костюме тряпичной куклы просто сияет от счастья, потому что наконец-то вышла в свет со своим парнем из крови и плоти, и Шелдон в костюме C-3PO из «Звездных войн» с париком и шляпой Тряпичного Энди, который ждет не дождется, когда он сможет прекратить это дефективное углеродное существование и поместить свое сознание в вечную кремниевую матрицу.
Он знает, что в робототехнике до сих пор существует много нерешенных проблем, включая то, как создавать роботов, похожих на людей, – андроидов – и как наградить автоматы автономией, чтобы они делали то, что нам нужно, а не только то, что мы им диктуем. Он знает, что многие проблемы искусственного интеллекта были решены в последние годы, но что полное решение не придет еще несколько десятков лет . И даже когда у нас появятся компьютеры, которые будут похожи на людей с человеческим рассудком, захотим ли мы избавиться от множества особенностей и недостатков, которые, по мнению некоторых, и делают нас людьми? Ведь иначе результатом может стать раса абсолютно несговорчивых, бесчувственных, скучных и абсолютно невыносимых существ.
Вполне возможно, что интеллект, основанный на совершенной логике, избавленный от эмоций и причуд, будет не просто скучен, но и ужасно неприятен в общении. Ведь с людьми именно так и происходит. Эми и Шелдон могут оборвать начало разговора обычной фразой «Мне это не интересно» – и это будет простой констатацией факта, которая их не обидит, хотя большинство из нас прочтут в ней резкий отказ от общения .
Герой Шелдона, мистер Спок из «Зведного пути», не одобряет человеческую иррациональность и имеет тенденцию вешать ярлыки нелогичности на информацию или поведение, которые являются противоречивыми, парадоксальными или изобилующими эмоциями (а иногда он прибегает и к более суровой характеристике – «крайне нелогично»). Но нелогично не значит нерационально. Иррациональные мысли и поведение могут прекрасно следовать правилам логики (особенно логике сердца), тогда как слово «нелогично» подразумевает нарушение этих правил (см. главу 8). Для Шелдона разграничение очевидно: когда Пенни спросила, решил ли он не перечить Эми, чтобы не ранить ее чувства, он возражает: «Я что, по-вашему, какой-то немытый хиппи? Нет. Все дело в том, что она создала цепочку логических аргументов, которую я не смог опровергнуть» .
Легко считать эмоциональное отключение Спока и Шелдона высокомерностью. Люди запрограммированы интерпретировать отсутствие эмпатии как неодобрение и презрение. Вспомните, как вы раздражаетесь на ваш компьютер или музыку на другом конце провода во время ожидания ответа на звонок за то, что они остаются столь равнодушны к вашему отчаянию и срокам сдачи работ. Эти машины, конечно же, просто не знают и не интересуются тем, что происходит в вашем мире. Но верите вы или нет в то, что компьютер может думать, компьютерный пионер Алан Тьюринг предсказал в 1950 году, что к концу века мы будем говорить о них так, как будто они думают.
Тьюринг не предлагал определять, на самом ли деле компьютер может думать. Суть способности думать по-прежнему остается философским понятием вместе с определением сознания. Вы не можете читать ничьи мысли, кроме своих собственных (и вы даже не знаете, как вы это делаете), поэтому единственный способ сделать выводы о мыслительных процессах других – это наблюдение за их поведением. Ну здесь вмешивается предвзятое отношение. В 60-х годах программа под названием ELIZA заставила некоторых людей поверить, что она является человеком. Она могла поддерживать разговор, получая печатные сообщения и повторяя их отрывки собеседнику ободряющим тоном, совсем как психотерапевт по принципу Роджерса: «Мне жаль, что вы в депрессии», «Расскажите мне о вашей семье», «И почему вам так кажется» и тому подобное. Компьютер совершенно не обладал сознанием и уж точно ни о чем не думал, но пользователям казалось обратное.
Делая свое предсказание, Тьюринг имел в виду тест, который мы теперь называем тестом Тьюринга, но в более широком смысле его предсказание сбылось гораздо быстрее. Компьютерные пользователи часто наделяют человеческими качествами компьютерные программы и технику. Ваш пульт от телевизора «тормозит». Ваш принтер «дохнет». А ваш ноутбук «хочет вашей смерти».
Тест Тьюринга – показатель искусственного интеллекта, когда человек поддерживает беседу с помощью клавиатуры: с человеком и с компьютером. Существуют несколько интерпретаций теста, но одна из них гласит, что если 70% пользователей не могут определить, кто из собеседников является человеком, после пятиминутного разговора, то тогда справедливо назвать компьютер думающим.
С другой стороны, компьютер, запрограммированный демонстрировать всю непредсказумость и непоследовательность человеческого существа, может свести с ума любого собеседника. А компьютер, застрявший в дебрях логического парадокса, может стать настоящим кошмаром.
Искусство неосознания незнания
В разговоре между Леонардом и Алекс, ассистентом Шелдона, возникает случай то ли логической иррациональности, то ли рациональной нелогичности. Обсуждая тему того, как часто с Леонардом заигрывают женщины, Алекс игриво замечает: «Уверена, что это происходит чаще, чем тебе кажется». Леонард отрицает это так категорично: «Уж поверь мне, это не так», что она отступает .
Но как он может это утверждать? Если под пониманием он подразумевает «узнать это в тот момент, когда событие происходит», то тогда это утверждение равняется «Я всегда знаю, когда со мной заигрывают», что хоть, возможно, и аргументировано логически, на самом деле иррационально надменно (и неверно, как показывает сам же разговор). Но если под пониманием подразумевается «осознание в какой-то момент», к чему стремится Алекс, то тогда Леонард зацикливается на пустой тавтологии (что-то вроде «мне не кажется, что со мной заигрывают больше, чем мне кажется») и сразу переходит к нелогическому заключению («и поэтому со мной абсолютно никто не заигрывает больше, чем мне кажется»). В любом случае он просто игнорирует рассудок, или логику, или все вместе взятое.
Ну или он просто кокетничает.
Некоторых парадоксов невозможно избежать. Философ Рэймонд Смаллиан отметил один из таких, он заложен внутри нас и основан на том факте, что наш ум – это клад идей и мнений. Вы не уверены во всех из них на сто процентов, но в большинстве вы не сомневаетесь и более или менее считаете их фактами: Земля круглая; люди произошли от обезьян; приговоренная убийца Лиззи Борден «сцапала топор, и ее мама мервая с тех пор» и тому подобное. Но каждый раз, когда вы узнаете что один из ваших «фактов» оказывается ошибкой, – Земля на самом деле немного грушевидной формы (см. главу 21); обезьяны и люди произошли от общего предка; мисс Борден была оправдана (а погибла не ее мать, а мачеха), – вам приходится (возможно, нехотя) убирать его из копилки вещей, в которые вы верите.
Как же тогда описать эту внутреннюю коллекцию Вещей-Которые-Я-Считаю-Правдой? С одной стороны, вы уверены, что каждый экземпляр этой коллекции правдив. С другой стороны, вы уверены, что какие-то из них точно неверны; вы просто еще не знаете какие. Коллекция не содержит неверных фактов, и в то же время некоторые из них неверны. Так… содержит или не содержит? Или как заявляет Шелдон: «Вам не кажется, что, если бы я был неправ, я бы об этом знал?»
Разрешение этого парадокса по Смаллиану в том, чтобы принять его как необходимый аспект человеческой природы: мы ведем себя так, будто все наши верования правдивы, осознавая при этом, что некоторые таковыми не являются. В случае если человек не является паталогически самовлюбленным или не страдает от какого-то другого психологического расстройства, он просто продолжает жить с этим внутренним конфликтом, принимая поправки по мере их поступления, ища утешения в словах Богарта из «Касабланки»: «Меня неправильно информировали».
Похожий рациональный подход к парадоксам непознаваемости заставляет работать закон Хофстедтера о разработке проекта, провозглашенный не Леонардом, а когнитивистом Дугласом Хофстедтером (который получил свою фамилию от того же человека, что и Леонард):
Закон Хофстедтера – все всегда занимает больше времени, чем вы ожидали, даже если вы примете во внимание закон Хофстедтера.
Логические конфликты такого рода могут привести к серьезной проблеме: когнитивному диссонансу. Неприятный для людей, он может оказаться абсолютно губительным для компьютеров и роботов. Как раз по этой причине HAL из фильма «2001: Космическая Одиссея» начал убивать. Возможно, по той же причине у Шелдона начинается нервный тик.
Когнитивный диссонанс – то чувство неловкости, возникающее от осознания, что вы одновременно придерживаетесь двух взаимоисключающих точек зрения. Обычно они включают в себя такие командные слова, как «следует» и «должен» (см. главу 28), наряду с чувством вины и отвращением к себе.Например, такая хитрая лисица уж точно должна придумать, как достать виноград, но у нее не получается, значит, она этого сделать не может. В этом случае когнитивный диссонанс исходит из одновременного осознания «Да, я могу это решить» и «Нет, я не могу это решить». Еще один пример: вы ненавидите себя за то, что разбили свой ноутбук о стену, но в то же время этот момент доставил вам огромное наслаждение.
Люди развили множество способов борьбы с когнитивным диссонансом: они могут рационализировать, сменить тему разговора, притвориться, что не понимают вопроса. Ф. Скотт Фитцджеральд считал его вызовом: «Испытанием превосходного интеллекта является способность удерживать в голове две противоположные идеи одновременно и при этом сохранять способность функционировать» .
Но попросите компьютер из любого научно-фантастического фильма 60-х удержать два противоречивых логических заключения одновременно, и он расплавится или начнет нести чепуху. Это в шутку называется «исполнение инструкции «Остановись и гори!». В остальных не столь экстремальных ситуациях устройство просто выдает с нотой презрения: «Решение невозможно», эту фразу впервые услышали в 1964 году в ситкоме «Моя живая кукла». Ее произносил андроид, который также любил добавлять «Это… запись» после особо длинных высказываний.
Никто, даже подражающий роботам Шелдон, не может игнорировать парадоксы человеческой природы, да этого и не следует делать. Неопределенная зона между известным и неизвестным не просто часть жизни, это источник жажды знания. Судья Оливер Уэнделл Холмс-младший писал: «Если я считаю что-то правдой, это только значит, что у меня нет причин в это не верить» . Сама цель научного исследования, как говорят, это отсекание от монолита правды всех гранул лжи, и именно поэтому все научные труды и лабораторые доклады настолько детализированы – они призваны обеспечить читателя самым точным долотом.
эврика! @ caltech.edu
«Я бы спросил, готов ли твой робот ко встрече с создателем…»
Калтеховский профессор Мелани Хант побывала на многих ролях в институте, включая должность заместителя проректора, замкафедры и руководителя кафедры механической инженерии. Для международного инженерного конкурса The Solar Decathlon («Солнечное десятиборье»), проводящегося раз в два года, ее студенты разработали дома, которые работают исключительно на солнечной энергии.
Она также была одним из преподавателей популярного калтеховского курса «Лаборатория инженерного дизайна», где командам студентов предлагалось разработать и собрать роботов и представить их на соревновании машины против машин в качестве выпускного экзамена. Студенты получают очки не только за победу в соревновании, но и за точное документирование всех этапов разработки и соблюдение рамок бюджета.
Соревнование немного мягче драки за выживание, оно построено в виде состязания по сбору и распределению обычных предметов, с помощью оператора и без. Роботу, возможно, придется искать вторсырье на каменистом ландшафте или тащить кучу шаров для пинг-понга через водоем университетского городка. Главная цель – установить порядок, уменьшив таким образом энтропию (беспорядочность) системы. Но роботы (они же все-таки роботы) постоянно получают неумышленные повреждения друг от друга, а иногда их собственная энтропия может увеличиться довольно существенно… или даже катастрофически.
Энтропия – показатель случайности или неупорядоченности.
Спроси у звезды: Джули Ньюмар
Джули Ньюмар – это актриса, которая сыграла роль Роды в сериале «Моя живая кукла», робота с потрясающими пышными женственными формами , а затем в сериале «Бэтмен» стала первой Женщиной-Кошкой в облегающем костюме, который теперь хранится в Смитсоновском институте. Из всех актрис, сыгравших дикую роковую кошку на экранах, больших и малых, Ньюмар остается любимицей публики. Шелдон (неоднократно) говорит об этом Говарду в первом эпизоде второго сезона .
Вопрос: Каково это – быть любимой Женщиной-Кошкой Шелдона Купера?
Джули Ньюмар: Естественно, я очень польщена! Хотя все знают, как Шелдон любит роботов, может быть, он просто относится ко мне теплее из-за моей роли Роды.
(Или он наконец-то освоил путешествие во времени. После ее визита в студенческий городок Калтеха в 1962 году в газете The California Tech появилась ее фотография с четырьмя нескладными поклонниками. Сходство этой фотографии с обложкой DVD третьего сезона «Теории Большого взрыва» просто поразительно.)
Назад: 18 Тысячи бликов
Дальше: 20 Ночная рыбалка
