Сознательные машины

Есть три сценария обретения, по которым машины могут обрести сознание: оно может быть запрограммировано, может появиться само в результате усовершенствования компьютеров или может быть ими усвоено.

Первый путь выглядит менее вероятным. Как запрограммировать нечто, что мы сами едва понимаем? Возможно, достаточно будет добавить исполнительный слой, который станет отслеживать действия и размышления компьютера. Однако, вероятно, нам придется подождать, пока мы сами не начнем понимать этот феномен лучше, прежде чем его программировать.

С другой стороны, необходимости в том, чтобы закладывать в компьютер сознание снаружи, может и не быть. Есть вероятность, что оно появится само собой. У нас есть множество примеров таких самозарождающихся феноменов в сложных системах. Жизнь, например, возникла сама в условиях сложной Вселенной. Точно так же сознание может возникнуть внутри сложной машины. В природе сознание совершенно точно возникает именно в сложно устроенных мозгах. Однако мы знаем о нем так мало, что всерьез обсуждать подобную возможность не имеет смысла.

Третий вариант – что машины научатся быть сознательными, – тоже имеет под собой основания. Часть нашего, вероятно, тоже была усвоена в процессе. Сразу после рождения наше сознание ограничено. Например, нам доставляет удовольствие изучать собственные пальцы на ногах. Проходят месяцы, прежде чем мы понимаем, что наше отражение в зеркале – это мы. Если мы научились осознавать себя, то почему машина не сможет этого сделать?

Однако сознание – это то, что нельзя смоделировать. Это может быть свойством некоторого особого типа материи. В качестве аналогии можно привести погоду. Можно смоделировать на компьютере шторм, но это не значит, что внутри машины станет мокро. Точно так же сознание, вероятно, может зарождаться лишь при определенном состоянии материи. И совсем не факт, что кремний подойдет на эту роль.

Интеллект зомби

Люди, когда говорят об искусственном интеллекте, обычно делают акцент на слове «интеллект». В конце концов, это то, что делает нас особенными, то, чего мы пытаемся добиться, когда создаем ИИ. Однако я напоминаю людям, что слово «искусственный» имеет не меньшее значение. Возможно, в 2062 году мы придем к созданию совсем иного – очень искусственного – интеллекта, который будет существенно отличаться от нашего. Например, он может не иметь сознания.

Хорошая аналогия – полет. Мы, люди, очень успешно научились конструировать искусственный полет. Мы создали самолеты, которые летают быстрее скорости звука, пересекают океаны за несколько часов и перевозят тонны груза. Если бы мы попытались воспроизвести естественный полет, подозреваю, мы все еще стояли бы в конце взлетной полосы и махали крыльями. Однако мы подошли к проблеме с совершенно другой стороны – придумали статичные крылья и мощный двигатель. И естественный, и искусственный полет основываются на одной и той же теории аэродинамики, но предлагают разные решения проблемы. Естественное решение вовсе не обязательно самое простое.

Искусственный интеллект тоже может оказаться совершенно другим подходом к проблеме. Например, быть неосознанной формой интеллекта. Этот феномен Дэвид Чалмерс называет интеллектом зомби. Мы можем создать разумный, даже очень разумный, но не имеющий самосознания ИИ. Такие машины уж точно будут казаться нам искусственным интеллектом. Интеллект зомби стал бы демонстрацией того, что разум и самосознание – отдельные друг от друга явления. Это был бы пример интеллекта без сознательности. Однако, если нам не удастся разработать сознание без интеллекта (что представляется маловероятным), интеллект зомби не станет доказательством раздельной природы этих двух феноменов. Один из них не может существовать без другого, но не наоборот.

Интеллект зомби был бы серьезным этическим подспорьем для человечества. В таком случае нам не пришлось бы беспокоиться по поводу наших взаимоотношений с ИИ. Мы смогли бы поручать им самые утомительные и продолжительные задания. Мы бы были уверены в том, что отключение не доставит им никаких страданий. С другой стороны, если ИИ все же не будет иметь интеллект зомби, возникнут определенные вопросы этики. Если машины будут обладать сознанием, нужны ли им права? В наше время ведутся кампании по предоставлению юридической личности большим обезьянам, таким как шимпанзе или гориллы. Получат ли ИИ подобные права при условии наличия сознания? Оставим ли мы за собой право их отключать?

Удивительный осьминог

Люди – не единственные сознательные существа на планете. Природа создала как минимум два разных варианта разума и сознания. Головоногие – особенно подкласс двужаберных, который состоит из беспозвоночных вроде осьминога, – обладают типом нервной системы, совершенно не похожей на нервную систему позвоночных. Головоногие – самые разумные из всех беспозвоночных.

Вероятно, это звучит не слишком убедительно, учитывая, что у беспозвоночных нет мозга. Однако интеллект головоногих поражает. Они используют инструменты. Они формируют группы и коммуницируют друг с другом во время охоты. Они могут открыть бутылку с отвинчивающейся крышкой. Головоногие, кажется, способны даже узнавать и запоминать людей. Отто, известный осьминог из Кобургского океанариума в Германии, смог выключить раздражающую его лампочку мощностью в две тысячи ватт, плеснув на нее водой. И это не единственный забавный пример того, как они умеют решать задачи, в том числе касающиеся побега из аквариумов.

В нескольких странах запрещено проводить тесты на головоногих как раз по причине их разумности. В Великобритании осьминог обыкновенный – единственное беспозвоночное, которое было защищено Конвенцией по защите экспериментальных животных, принятой в 1986 году. В Европе головоногие – единственные беспозвоночные, которые защищены Директивой 2010 года о защите животных, использующихся в научных целях.

Пути головоногих и людей разошлись около 600 миллионов лет назад, задолго до появления динозавров. В то время самые разумные существа на планете имели всего по несколько нейронов. Интеллект головоногих развивался совершенно в ином направлении. Три пятых от общего количества нейронов осьминога располагается в его восьми ногах. Каждая нога способна ощущать и думать самостоятельно. Можно представить, будто каждая нога имеет свой индивидуальный мозг. Трудно представить, каково это – быть осьминогом, чьи ноги действуют по собственной воле; возможно, это похоже на состояние алкогольного опьянения.

Эта странная экзотичная форма интеллекта напоминает нам, что ИИ может иметь совсем другой разум. Даже если нам удастся создать сознательный ИИ, он все равно может быть очень искусственным по сравнению с нашим. И это опять же может быть крайне полезно с этической точки зрения.

Коровы, свиньи и многие другие одомашненные животные тоже обладают определенной степенью разумности и сознательности. Однако частично потому, что они так на нас непохожи, мы предпочитаем не замечать, как неоднозначно мы с ними обходимся. Точно так же мы, возможно, будем вести себя с искусственными интеллектом. Так, как ни за что не повели бы себя по отношению к человеку.