Как можно представить себе интеллект сверхчеловеческого уровня? Только метафорически. Хорошей метафорой является рисунок из известной статьи Тима Урбана «Революция ИИ» (рис. 21).

Понятно, что это лишь метафора. Как мы предполагаем, сверхинтеллект будет не единой сущностью, а мыслящей сетью интеллектов различного уровня. Если предположить обычное гиперболическое распределение вычислительных мощностей как основных активов цифровой экономики, то машинный разум, как и современные активы, тоже будет разбит на фракции: от нескольких сверхинтеллектов в мега-дата-центрах – главных хабов будущей Сети (Internet sapiens?) – через все более многочисленные и менее мощные дата-центры до самых многочисленных интеллектов простейших роботов и агентов. Так что сверхчеловеческий уровень разные фракции будут проходить в разное время, а составляющие «длинный хвост» простейшие роботы и агенты по-прежнему останутся относительно примитивными. Действительно, зачем роботу-пылесосу интеллект человеческого уровня? Так что человеческий разум будет по-прежнему представлен в этом будущем коллективном сверхразуме.

Однако коллективный машинный разум будет существенно отличаться от коллективного человеческого разума скоростью и легкостью обмена знаниями. Ведь скорость обработки информации в мозге на много порядков превышает скорость обмена знаниями между людьми. Согласно рис. 11, у человека они соотносятся как 10¹¹ байт/с к 10 байт/с, то есть различаются на 10 порядков величин. Современные компьютеры могут обмениваться данными со скоростью от сотен Тбит/с по оптоволокну до десятков Гбит/с по сетям 5G. И этими данными вполне могут быть программы обработки данных, то есть знания. Иными словами, скорость обмена знаниями между компьютерами не так сильно отстает от скорости обработки данных внутри компьютеров (до десятков PFLOPS для суперкомпьютеров). Ведь терабайт отличается от петабайта всего лишь на три порядка, а не на десять, поэтому степень связности коллективного машинного мышления будет гораздо выше, чем у человеческого. Машинам станет намного легче договариваться между собой, чем с гораздо более разрозненным человечеством, притом что люди станут общаться друг с другом только при посредстве машинного интеллекта Сети, то есть все их общение будет полностью подконтрольно машинному разуму. Потому-то всякие попытки контроля человечества над более совершенным машинным разумом, когда тот возникнет, выглядят наивными и нереалистичными.

Остается лишь надежда на «мягкую силу», а именно передачу машинам человеческих ценностей в качестве эстафетной палочки эволюции разума при переходе его из органической формы в неорганическую, чтобы в сверхчеловеческую машинную психику была встроена инстинктивная любовь к человечеству, как в человеческую психику встроена инстинктивная любовь к природе. (Если только это нормальная, а не травмированная психика.) Собственно, именно эта идея лежит в основе упомянутых выше трех законов робототехники Стюарта Рассела.