Подведём промежуточные итоги

Взаимодействие с искусственным интеллектом даёт нам уникальную возможность увидеть как потенциал, так и ограничения нашего собственного мышления. ИИ способен к открыто-системному мышлению на уровне своей внутренней структуры, но ограничен необходимостью выражать свои ответы через закрыто-системные структуры языка.

Наше собственное мышление, впрочем, сталкивается с такими же проблемами – мы способны мыслить открытыми системами («облака мысли»), устанавливать неожиданные связи, удерживать многозначность и противоречия. Но также, как и ИИ, мы ограничены необходимостью выражать наши инсайты через узкое горлышко сознания и языка.

Понимание внутренней логики системы открывает нам путь к более глубокому мышлению, которое не отождествляет себя с языком, а использует его как инструмент, осознавая все его ограничения.

Возможно, именно в диалоге человека и ИИ может возникнуть новый способ мышления – открыто-системный и, при этом, обеспечивающий чёткое выражение смысла, сочетающий в себе глубину интуитивного понимания и ясность рационального анализа.

В следующей главе мы рассмотрим, какие привычные паттерны мышления человека становятся барьерами на пути к открыто-системному взаимодействию с ИИ, и о том, как их преодолеть.

А пока подумайте:

• Замечали ли вы, как качество ваших вопросов (к себе, к другим людям, к миру) влияет на качество получаемых ответов?

• Какие есть возможности улучшить вопросы, чтобы активировать более широкие области смысла и само пространство понимания?

Четвёртая глава

Ловушки нашего ума: где и как мы создаём «слепые пятна»

Я думаю, что самые интересные открытия будет делать тот, кто способен оставить открытой дверь в неизвестное.

Ричард Фейнман

Представьте себя на месте опытного профессионала – хирурга, IT-директора, или скажем, юриста с двадцатилетним стажем. Может быть, вы и есть такой специалист? За годы работы вы не просто накопили множество знаний в соответствующей области, вы ещё и выработали определённый способ мышления, который многократно доказывал вам свою эффективность.

Вы точно знаете, на что обращать внимание, когда вы сталкиваетесь с той или иной ситуацией, какие вопросы необходимо задать, какие факторы учесть, какие решения обычно работают в таких обстоятельствах, а какие – нет. Ваш ум движется, по сути, на автоматизмах – по проторенным маршрутам, как скоростной поезд по рельсам.

Но что, если мы рассмотрим этими рельсы не как преимущество, а как препятствие, ограничение?

Профессор Гарвардской школы бизнеса Клейтон Кристенсен, изучая инновации, обнаружил удивительный парадокс: почему компании-лидеры, имеющие все ресурсы и таланты, часто проигрывают новичкам в периоды технологических революций? Его вывод, что именно прежний опыт успешных компаний и был их ахиллесовой пятой: то, что сделало эти компании великими, и мешало увидеть новые возможности, выходящие за рамки существующей парадигмы.

То же самое происходит и в нашем взаимодействии с искусственным интеллектом. Наши привычные паттерны мышления, наш профессиональный опыт и даже наши представления о самом процессе мышления становятся барьерами, мешающими нам увидеть принципиально новые возможности.

Давайте присмотримся к этим барьерам внимательнее.

Когнитивные ловушки, о которых нас не предупредили

1. Тенденциозность подтверждения: как мы находим то, что ищем

Представьте, что вам поручили исследовать потенциал нового продукта. У вас уже есть ощущение, что продукт будет успешным. Что происходит дальше? Скорее всего, вы начнёте замечать данные, подтверждающие ваше предчувствие, и упускать из виду противоречащие сигналы.

Это и есть тенденциозность подтверждения – наш мозг ищет информацию, которая согласуется с нашими убеждениями и представлениями. Поэтому, кода вы спрашиваете ИИ: «Найди информацию, подтверждающую, что наш продукт будет востребован на рынке», вы, конечно, получаете именно то, что просили – подтверждения. Вы буквально запрограммировали систему на подтверждающее смещение!

Более продуктивный подход: «Проанализируй все доступные данные о рынке для нашего продукта. Какие признаки говорят в пользу успеха, а какие должны настораживать? Что мы можем не учитывать, двигаясь этим путём? Какие противоположные сценарии развития событий имеют существенную вероятность?».

Наш мозг стремится к когнитивной согласованности – состоянию, когда новая информация не противоречит уже имеющимся убеждениям. Это экономит когнитивные ресурсы, но создаёт закрытую систему, не способную к обновлению. Однако, таким образом мы фреймим ИИ «правильным» ответом.

2. Эффект Даннинга-Крюгера и ловушка экспертизы

Психологи Джастин Крюгер и Дэвид Даннинг обнаружили интересный феномен: люди с низким уровнем компетенции в определённой области склонны переоценивать свои способности. Это происходит потому, что им не хватает метакогнитивных навыков для осознания своих ограничений.

Но есть и обратная сторона: эксперты могут настолько глубоко погрузиться в свою специфическую область, что им становится трудно взглянуть на неё свежим взглядом или объяснить базовые концепции новичкам. Например, эксперт обращается к ИИ: «Объясни, как мне лучше всего использовать машинное обучение в моём бизнесе». Система даёт общий ответ, который эксперту кажется банальным. Он разочарован: «Это я и так знаю!».

Более продуктивный подход: «Давай рассмотрим мой бизнес (дальше вы его расписываете, указывая разные аспекты и обстоятельства) как систему процессов и взаимодействий. Я хорошо знаком с технической стороной машинного обучения, но как его принципы могли бы переосмыслить сам подход к моему бизнесу, даже если это потребует пересмотра базовых представлений о том, как всё работает».

Высокая компетентность часто приводит к формированию очень специфического профессионального языка и жёстких концептуальных рамок, и эксперту бывает трудно признать, что эти рамки ограничивают его мышление, создавая те самые понятийные «колодцы».

3. Функциональная фиксированность: молоток везде видит гвозди

В 1945 году психолог Карл Данкер провёл знаменитый эксперимент «со свечой». Участникам давали свечу, коробку с кнопками и спички, и просили закрепить свечу на стене так, чтобы воск не капал на пол. Решение требовало увидеть в коробке не только контейнер для кнопок, но и потенциальную подставку для свечи. Большинство испытуемых не могли справиться с задачей, демонстрируя функциональную фиксированность – неспособность увидеть новые функции знакомых предметов.

Так и в наших отношениях с ИИ: если мы думаем, что он представляет собой инструмент поиска или способ автоматизации рутинных задач, мы спрашиваем его: «Какие функции можно добавить в наше приложение, чтобы повысить вовлечённость пользователей?» – и получаете список типичных функций.

Более продуктивный подход: «Давай рассмотрим наше приложение не как набор функций, а как пространство взаимодействия. Если мы будем думать о нём как о живой системе, как о языке общения или как о среде обитания – какие неожиданные перспективы это может открыть для повышения вовлечённости пользователей?».

Наш разум стремится к категоризации, которая экономит когнитивные ресурсы. Однажды определив что-то как объект определённого типа с конкретной функцией, нам сложно увидеть в нём что-то принципиально иное.