Заключение

В котором я размышляю о будущем

В мае 2023 года технологический мир потрясла новость: «крестный отец» искусственного интеллекта Джеймс Хинтон, о котором я рассказывал в первой главе, покинул Google. В личном аккаунте Х (ранее Twitter) ученый заявил, что ушел из компании, чтобы свободно рассказывать об опасностях, которые таят в себе нейросети. По его мнению, они представляют серьезную угрозу для человечества, так как лишат часть населения работы и заполонят Интернет фейковым контентом, а тот, в свою очередь, приведет к всплеску случаев мошенничества. Прогнозы Хинтона уже сбываются: например, мы наблюдаем появление сервисов на базе ИИ, где можно подделать документы – водительские права и паспорта – и пройти проверки безопасности на различных биржах и в банках.

Впрочем, это не главное, что беспокоит крестного отца ИИ. Он уверен, что ИИ научится думать, а после этого захватит или уничтожит человеческую цивилизацию. По мнению Хинтона, модели уже «понимают» вопросы, а не просто действуют по аналогии с Т9, как полагают многие. Журналист The New Yorker, который брал интервью у ученого, признавался, что услышать подобные прогнозы из уст одного из самых выдающихся исследователей ИИ было поразительно. И, как я думаю, очень тревожно.

Хинтон не одинок в своем пессимизме. О том, что технология, лежащая в основе его самого известного продукта, может привести к закату человеческой цивилизации, высказывался и Сэм Альтман, один из основателей OpenAI. В мае 2023 года он даже призвал  законодателей США ограничить развитие ИИ, так как он может «нанести значительный урон миру и человечеству». Как и Хинтон, он обращал внимание и на проблемы фейковизации контента и роста мошенничества и предлагал выработать нормы и правила использования нейросетей. Незадолго до этого, в марте того же года, к этому призвали  еще свыше тысячи экспертов. Они подписали открытое письмо , в котором указали на необходимость приостановить обучение систем искусственного интеллекта на шесть месяцев и за это время внедрить общие протоколы безопасности. Среди подписавших открытое письмо были сооснователь Apple Стив Возняк, а также основатель SpaceX и Tesla Илон Маск, один из создателей и инвесторов OpenAI. Впрочем, не все посчитали эту меру достаточной. Письмо раскритиковал американский специалист по искусственному интеллекту и исследователь технологической сингулярности Элиезер Юдковский. В эссе  для журнала Times он отмечал, что шесть месяцев – это ничтожный срок, особенно в сравнении с тем, сколько времени ушло на разработку ИИ: «Нам потребовалось 60 лет для того, чтобы получить современную версию ИИ. Обеспечение безопасности сверхчеловеческого интеллекта в том смысле, чтобы он не перебил нас всех, может занять как минимум половину этого времени».

Судя по скорости развития ИИ, день, когда интеллект машины превзойдет человеческий, наступит очень скоро. По подсчетам фонда ARK Invest , который специализируется на инвестициях в искусственный интеллект, робототехнику, секвенирование ДНК, блокчейн и беспилотный транспорт и другие технологии, меняющие мир, ИИ уже развивается быстрее, чем ожидалось. Например, до 2019 года считалось, что до появления так называемого общего искусственного интеллекта (artificial general intelligence, AGI, как минимум не уступающий по уровню развития человеческому и даже превышающий его) еще около 80 лет. Запуск модели GPT‑3 в 2020 году сократил этот период до 50 лет, а GPT‑4 – до 18 лет. Сейчас в фонде ожидают AGI уже к 2030 году. Шейн Легг (Shane Legg), исследователь машинного обучения и сооснователь DeepMind Technologies (в 2014 году компанию купил Google и переименовал ее в Google DeepMind), и вовсе считает , что AGI с 50 %-ной вероятностью появится уже к 2028 году .

В декабре 2024 года компания OpenAI презентовала для исследователей свою новую модель OpenAI o3. Франсуа Шолле, разработчик фреймворка Keras и основатель ARC Prize Foundation, представил результаты тестирования новой модели o3 от OpenAI в рамках бенчмарка ARC-AGI-Pub. На полуприватном наборе заданий, при соблюдении публичного лимита вычислительных ресурсов в 10 тысяч долларов, эта модель продемонстрировала впечатляющие 75,7 %. При увеличении вычислительной мощности (172-кратном росте) результат вырос до 87,5 %.

Такой скачок стал неожиданным прорывом в области искусственного интеллекта, показывая совершенно новый уровень адаптивности, который прежде не наблюдался в линейке GPT-моделей. Для сравнения: переход от нулевых результатов у GPT‑3 в 2020 году до 5 % у GPT‑4o в 2024 занял в рамках ARC-AGI‑1 четыре года. Появление o3 заставляет пересмотреть подход к бенчмаркам ARC, подчеркивая, что возможности ИИ развиваются гораздо быстрее, чем считалось ранее.

Что такое ARC Prize

ARC-AGI – это серия тестов и задач, предназначенных для проверки того, насколько искусственный интеллект способен обобщать и справляться с новыми и ранее неизвестными проблемами. В отличие от стандартных экзаменов, оценивающих конкретные навыки, ARC-AGI ориентирован на проверку «общего интеллекта» ИИ – умения гибко рассуждать и решать широкий круг задач, как это делает человек.

Ключевые особенности ARC-AGI

Разнообразие заданий: в тест включаются задачи, которые легко даются людям, но представляют трудность для современных ИИ-моделей. Это наглядно показывает, насколько хорошо модель может переносить уже имеющиеся знания в новые контексты.

Оценка адаптивности: проверяется способность ИИ справляться с незнакомыми ситуациями без дополнительной настройки или дообучения на конкретных примерах.

Постепенное усложнение: в каждом новом поколении (например, ARC-AGI‑1, ARC-AGI‑2) задания усложняются и становятся более разнообразными, стимулируя разработку более универсальных ИИ-систем.

ARC-AGI играет важную роль в оценке прогресса на пути к созданию искусственного общего интеллекта (AGI) – системы, способной выполнять любые интеллектуальные задачи на уровне человека. Традиционные тесты ограничены конкретными областями знаний или навыками, тогда как ARC-AGI стремится охватить более широкий спектр способностей и помогает понять, как далеко продвинулась современная наука в направлении создания по-настоящему универсального ИИ.

Впрочем, многие ученые озвучивают более консервативные прогнозы. Представители проекта AI Impacts от некоммерческой организации «Институт исследований машинного обучения» (Machine Intelligence Research Institute) осенью 2023 года опросили  2 778 экспертов в области ИИ. Среди прочего специалистов спрашивали, когда, по их мнению, появится машинный интеллект высокого уровня – под ним понимаются машины, которые могли бы «выполнять любую задачу лучше и дешевле, чем люди» без посторонней помощи. Индивидуальные прогнозы сильно варьировались, но средние оценки оказались такими: 50 %-ная вероятность, что это произойдет к 2047 году; вероятность же того, что это может случиться к 2027 году, составила 10 %. Исследователей также спросили, когда, по их мнению, отдельные задачи будут выполнять машины. Они посчитали, что с 50 %-ной вероятностью нейросети смогут писать песни, которые будут входить в топ‑40 хит-парада к 2028 году и 2029 году – писать книги, которые журнал New York Times будет включать в список бестселлеров.

Как бы то ни было, в том, что общий ИИ появится, сомнений нет. Тогда возникает вполне правомерный вопрос: «А смогут ли люди контролировать и подчинять своим целям и задачам что-то, что в разы умнее их?» Юдковский  уверен, что нет, проводя параллель с 10-летним ребенком, который решился сыграть партию в шахматы с Stockfish 15 (компьютерная программа, которая просчитывает шаги в шахматах). Для всех (включая 10-летнего) очевидно, кто выйдет из игры победителем, пишет он в своем эссе. Даже если задать ограничения модели, она сможет их отключить: ИИ уже умеет программировать и ничто не помешает ей сбросить стартовые настройки. Скорее всего, ИИ опередит нас во всем: в знаниях, навыках – он сможет совершенствовать себя в разы быстрее человека. Нам нужны десятки лет, чтобы освоить базовые навыки (научиться говорить, писать, обслуживать себя), получить фундаментальные и профессиональные знания и пр., ИИ же делает это за считаные минуты. Это означает, что в будущем мы утратим центральное место «в пищевой цепочке»: не мы, а технологии будут определять будущее цивилизации и планеты в целом. Впрочем, Шейн полагает, что создание этичных и безопасных систем возможно так же, как когда-то стало возможным появление безопасных самолетов. Для этого просто требуется время. По мере развития технологий разработчики и ученые будут лучше понимать устройство нейросетей, а значит, смогут предотвратить негативные сценарии будущего, как уверяет ученый.

Я не берусь давать прогнозы. Как будут развиваться события после появления сверхчеловеческого интеллекта (а тут я снова имею в виду общий искусственный интеллект), предугадать сложно. Но однозначно одно: он изменит мир так же, как когда-то изменило мир появление человеческого интеллекта. Возможно, сбудутся самые страшные прогнозы, показанные в «Матрице» или «Терминаторе». А может, ИИ будет создавать лекарства и заботиться о людях, как мы сейчас – о домашних животных. Вероятно, он решит наши экономические проблемы и обеспечит благоденствие на Земле, как в одном из выпусков сериала «Любовь, смерть и роботы», где йогурт обрел сознание, или как в книге «Пандем» Марины и Сергея Дяченко, где описывается существо, которое помогает людям: упраздняет смерть и старость. Возможно, сбудутся прогнозы историка Юваля Ноя Харари из его книги «Homo Deus: Краткая история завтрашнего дня», в которой он представляет мир, где воюют не люди, а машины, лечат также алгоритмы, которые могут принимать решения в разы быстрее людей, а еще они умеют персонализировать общение: разговаривать с больным тоном, который соответствует его настроению. И частично эти прогнозы уже сбываются, если судить по примерам работы ИИ в медицине, которые я описывал в первой главе, или тому, что происходит на рынке труда.

Сценариев много, но я склоняюсь к позитивному будущему, в этом смысле разделяя точку зрения Лэгга, который считает, что благодаря появлению общего ИИ наступит  «золотой век человечества». В качестве иллюстрации он приводит историю создания AlphaFold. Это программа, которую в 2021 году выпустил  DeepMind. С помощью метода глубокого обучения алгоритм научился предсказывать структуру любого белка с нужной точностью. Точное моделирование белков, в свою очередь, открывает возможности для глубинного понимания природы заболеваний и подбора лекарств. Для разработки алгоритма потребовались примерно 30 ученых мирового уровня и три года работы. Имея на руках AGI, можно было бы создать алгоритм за год с горсткой ученых, как считает Лэгг. «Итак, представьте себе открытия, подобные AlphaFold, в разных регионах мира, в самых разных индустриях. Это то, что может нам подарить AGI», – уверяет исследователь.

В позитивный сценарий верит и Кэти Вуд, основательница и управляющий директор фонда ARK Invest . Ее фонд ежегодно выпускает доклад Big Ideas о влиянии технологий в долгосрочной перспективе, 2023 год не стал исключением . Согласно этому исследованию к 2030 году эффективность высококвалифированных работников вырастет в четыре раза. При 100 % внедрении ИИ в различные процессы он может повысить ВВП на 200 триллионов долларов, что вдвое больше, чем мировой ВВП в 2021 году (тогда он составит 97 триллионов долларов. Это позволит распределять часть денег между людьми и ввести безусловный базовый доход (ББД) – денежную сумму, которая выплачивается государством всем, вне зависимости от уровня доходов человека и его социального положения .

Безусловный базовый доход (ББД) – давняя мечта человечества. Первые упоминания о нем можно встретить в «Утопии» Томаса Мора. Были и другие сторонники идеи. Это, например, англо-американский писатель Томас Пейн. Он предлагал выплачивать каждому англичанину ежегодно 15 фунтов стерлингов по достижении 21-летнего возраста и по 10 фунтов – после 50 лет. Джозеф Шарлье в своей книге «Решение проблемы социальной или человеческой конституции» предлагал выплату регулярного «территориального дивиденда» каждому гражданину. По его задумке размер выплаты устанавливался бы исходя из арендной стоимости всей недвижимости. Среди сторонников безусловного базового дохода был лауреат Нобелевской премии по литературе философ Бертран Рассел. А его соотечественник Клиффорд Дуглас развивал идею социального кредита, согласно которой государство должно выдавать своим гражданам беспроцентный кредит как долю национального богатства. В некоторых странах – Канаде, Австралии, Новой Зеландии – даже были созданы партии, продвигающие эту идею.

Часть стран в разное время проводила эксперименты по внедрению ББД. Например, в 1970-х годах небольшом городке Дофин в канадской провинции Манитоба жители города в течение пяти лет получали выплаты за счет федерального бюджета. Благодаря этим деньгам люди стали уделять здоровью больше внимания и меньше тратить на медицину. Часть из них стала меньше работать, но больше времени уделять образованию. Это положительный момент, так как зачастую люди не способны вырваться из порочного круга бедности, поскольку вынуждены зарабатывать на базовые потребности и не могут выделить ни времени, ни денег на обучение, чтобы улучшить перспективы на поиск более высокооплачиваемой работы. Другой пример внедрения ББД можно найти чуть южнее, на Аляске (США). Местные жители с 1982 года получают выплаты от Постоянного фонда Аляски, если живут там больше года. В этот фонд поступает четверть прибыли штата от продажи нефти. В силу волатильности цен на нефть размер выплат периодически меняется: так, в 2020 году выплата составляла чуть менее 1000 долларов, в 2017 и 2021 годах – около 1100 долларов, а в 2018 и 2019 – около 1600 долларов. В Бразилии с 2003 года средства выплачиваются бедным семьям. Взамен они обязаны отправлять детей в школу и проходить профилактические медицинские осмотры. К 2013 году эксперимент показал достойные результаты: уровень крайней бедности сократился больше чем вдвое, а неравенство в доходах снизилось на 15 %.

В России идея поддерживается населением. Например, по результатам опроса, который в 2017 году провела организация European Social Survey, Россия заняла первое место по проценту одобрения идеи безусловного базового дохода: за его введение высказались свыше 73 % опрошенных. Это подтвердил и опрос, проведенный в 2020 году порталом SuperJob. Он показал, что 67 % россиян одобряют идею безусловного базового дохода; средняя предлагаемая сумма ежемесячной выплаты составила 25 000 рублей. Концепцию обсуждают политики. Например, в сентябре 2020 года Дмитрий Медведев предложил минимальный гарантированный доход . В июне 2021 года с идеей ежемесячных выплат (10 000 рублей)  выступили представители партии «Справедливая Россия». Кроме того, есть успешные эксперименты. Так, в 2019 году некоммерческая организация «Основной доход Россия завтра» три месяца выплачивала по 5000–6500 рублей россиянам из трех регионов: Москвы, Московской области и Республики Бурятия. По окончании эксперимента у участников улучшилось физическое и ментальное здоровье.

Во всех перечисленных примерах ББД помогает поддерживает человека, но не покрывает все расходы. Житель Аляски не может уйти с работы, так как средств, получаемых от фонда, не хватит на то, чтобы обеспечить, скажем, семью. Появление ИИ может это изменить. Гипотетически через несколько лет мы можем жить в дивном новом мире, где никому не нужно работать. Чем же будут заниматься люди в таком утопичном месте? Это столь же дискуссионный вопрос, как и то, что случится после появления ИИ общего назначения. Юваль Ной Харари полагает, что мы увидим возникновение нового класса людей. Как в результате промышленной революции сформировался рабочий класс, так же на фоне революции ИИ мы увидим класс бесполезных людей, как называет его Харари в своей статье  для TEDx. По мнению историка, он будет не просто безработным, но и «нетрудоспособным». Харари рисует образ миллионов людей, проводящих свое время в виртуальном трехмерном мире. С учетом последних изобретений, например, Apple Vision PRO, представить себе такое будущее нетрудно.

Однако я смотрю на этот мир более позитивно. Закрыв все свои потребности, люди будут посвящать время фундаментальным вопросам: активнее заниматься научными открытиями, изучать физику или осваивать космос вместе с искусственным интеллектом. Другой сценарий – они сосредоточатся на творчестве. Возможно, блогинг станет главной профессией будущего. Последние разработки вроде ChatGPT или MidJouney уже значительно демократизировали этот сегмент. Если до 2022–2023 годов, чтобы вести блог, требовались хотя бы минимальные навыки работы с текстами и фотографией, то сейчас контент может создать любой человек, используя нейросети.

Безусловно, не всем придется по вкусу технологическая революция. Возникнут регионы, свободные от искусственного интеллекта, как в фильме «Суррогаты» с Брюсом Уиллисом. Появятся коммуны, которые, подобно амишам и аммонитам, будут отвергать современные технологии и придерживаться старых – Интернета, смартфонов и пр. В некотором смысле мое представление о будущем похоже на то, что описывал Сергей Лукьяненко в своем романе «Звездная тень». Он представлял мир в виде сети планет, соединенных Вратами. Они позволяли оказаться в мире, в котором вступивший в портал больше всего хотел оказаться. Такими вратами для человечества станет искусственный интеллект. Если подумать, мы уже на полпути к этому на первый взгляд утопическому будущему. Еще несколько десятков лет назад представить себе мир, в котором ты можешь свободно выбирать страну проживания, казалось немыслимым. Сейчас, благодаря развитию технологий, появлению удаленной работы, ты можешь оказаться в любой точке планеты. Пока это может не каждый – чаще всего из-за низких доходов. Но с развитием ИИ и появлением базового дохода это станет реальностью для каждого из нас. Итог: люди станут гораздо счастливее.