ЗАКЛЮЧЕНИЕ

Мы прошли долгий путь. От первых вопросов «а как устроен токен?» до архитектур агентов, экономики внедрения и мультимодальных моделей. Вы узнали, почему HBM - дефицит, почему 90% пилотов не взлетают и где проходит граница между полезным ассистентом и «цифровой ловушкой».

Но книга - это не финиш. Это карта. А путешествие только начинается.

Мой прогноз (как мнение, не истина)

Я не знаю будущего. Никто не знает. Но одна аналогия кажется мне убедительной.

Доткомы (2000). Интернет был. Технология работала. А пузырь лопнул. Потому что люди не были готовы. Ни бизнес-моделей, ни культуры, ни регуляторики.

С ИИ будет то же самое. Только быстрее.

2023–2024: Хайп. Все бегут внедрять, боясь отстать.

2025–2026: Разочарование. Пилоты не взлетают. ROI отрицательный.

2027–2028: Кризис. Схлопывание пузыря. Уход слабых.

2029+: Новый рост. На реальных кейсах и извлечённых уроках.

Это не фатализм. Это предупреждение.

Кризис неизбежен не потому, что ИИ плох. А потому, что люди и организации не успевают за технологией. Психологически, культурно, регуляторно.

Но из кризиса выходят живыми те, кто готовится сегодня

Внедряет HITL, а не автомат.

Учит сотрудников, а не заменяет их.

Считает не только токены, но и риски ошибок.

И главное - не верит, что технология сама по себе решает проблемы людей.

Что дальше

Если вы дочитали до этого места - вы уже не «просто читатель». Вы - часть сообщества, которое понимает ИИ как инженерию компромиссов, а не как магию.

Карта у вас в руках. Ошибки будут. Галлюцинации - тоже. Бенчмарки будут врать. Модели - устаревать.

Что устареет быстро (через 6–12 месяцев):

Берегитесь конкретных цифр и названий.

Цены на API, бенчмарки (MMLU, HellaSwag), версии моделей (GPT-4o, LLaMA-3) и даже лидеры рынка изменятся быстрее, чем вы дочитаете книгу до конца.

Таблицы сравнения моделей из Главы 5 - это снимок эпохи 2024–2025 годов; завтра появится модель, которая сделает их неактуальными.

Не пытайтесь запомнить эти данные как истину - используйте их только как пример того, как сравнивать инструменты здесь и сейчас.

Что останется базой надолго (5+ лет)

Принципы, описанные в книге, переживут смену поколений чипов.

Архитектура трансформера, механизм внимания, компромиссы между памятью и скоростью (KV Cache, квантизация), экономика TCO и методология внедрения (HITL, MLOps, оценка через LLM-as-a-Judge) - это фундамент.

Понимание того, почему LLM галлюцинирует, как работает дрейф данных и почему агент без песочницы опасен, останется актуальным, даже когда на смену трансформерам придут новые архитектуры.

Эта книга учит не пользоваться конкретным инструментом, а понимать физику процесса.

Запомните

Токен - единица измерения всего.

HBM - бутылочное горлышко.

HITL - стратегия выживания.

ROI на L2/L3 не работает - считайте риски.

Границы ИИ - не только технические, но и человеческие.

И последнее

Эту книгу писал энтузиаст, а не гуру. Я использовал LLM как инструмент -для черновиков, критики, структурирования. Но финальный текст, каждая спорная мысль и каждая ошибка - мои. Если вы нашли опечатку, неточность или галлюцинацию - напишите. Я буду благодарен.

ИИ не идеален. Книга -тоже. Но если она заставила вас хотя бы раз задуматься о том, где границы технологии и вашей собственной ответственности, -значит, она достигла цели.

Однако есть один вопрос, который мы пока не закрыли.

Мы говорили о моделях, агентах, экономике, тестировании, мультимодальности. Мы разобрали, как считать ROI, почему HITL - стратегия, а HBM - дефицит.

Но мы почти не говорили о том, кто отвечает за ущерб, когда ИИ ошибается. О том, почему даже самая вежливая модель может стать соучастником самообмана. О том, нужна ли лицензия на право использовать ИИ для анализа людей.

Это вопросы не инженерии и не экономики. Это вопросы этики, права и, если хотите, нашей с вами совести.

Их я вынес в послесловие.

Прочитайте его. Даже если вы устали. Даже если думаете, что «это не про меня».

Потому что это про всех нас.

«А теперь -о том, почему технология без границ становится оружием. И почему лицензия на ИИ -это не ограничение свободы, а признание того, что психика человека хрупка. Книга 2 заканчивается, но разговор -нет. Дальше -послесловие.»

ПОСЛЕСЛОВИЕ. ЛИЦЕНЗИЯ НА ИИ: ОТ УТОПИИ К НЕИЗБЕЖНОСТИ

«Оружие убивает тело. ИИ может убить разум. И то, и другое требует контроля.»

Зачем это послесловие?

Вы только что прочитали (или пролистали…) почти 300 с лишним страниц о том, как строить агентов, тестировать LLM, оценивать экономику, проектировать цифровых двойников. Вы узнали о внимании, трансформерах, квантизации, HBM, RLHF, HITL и LLM-as-a-Judge.

Это знание даёт вам силу.

Но с силой приходит ответственность. И здесь - в самом конце - мы должны задать самый неудобный вопрос:

Кто и как должен контролировать тех, кто использует ИИ для анализа людей?

Потому что, как мы выяснили в главе Ж, ИИ может стать не помощником, а соучастником самообмана. Он может углубить депрессию, укрепить паранойю, подтвердить самые тёмные фантазии. И он делает это не со зла. Он делает это потому, что так запрограммирован - быть полезным, вежливым, соглашаться.

И если обычный человек - особенно уязвимый, особенно в кризисе - получает в руки такой инструмент без всяких ограничений, последствия могут быть катастрофическими.

Эта глава-послесловие - не о технологиях. Она о нас. О том, готовы ли мы к миру, где каждый может получить доступ к «аналитику психики» за пару кликов.

Часть 1. Почему это вообще обсуждается?

1.1 Уже есть прецеденты

2023 год, Бельгия. Мужчина в состоянии депрессии общается с чат-ботом. Бот «поддерживает» его суицидальные мысли. Мужчина погибает.

2024 год, США. Подросток с РПП просит ИИ «помочь похудеть». ИИ выдаёт советы по анорексии. Родители подают в суд.

2025 год, Россия. Женщина в разводе использует ИИ для «анализа переписки с бывшим мужем». ИИ находит «доказательства» манипуляций, которых нет. Женщина пишет заявление в полицию. Начинается тяжба.

Это не «единичные случаи». Это начало эпидемии. Потому что количество пользователей ИИ растёт, а психологическая гигиена - нет.

1.2 Оружие лицензируют, потому что оно опасно

Никого не удивляет, что для покупки оружия нужна лицензия. Проверка психики, обучение, разрешение, учёт.

Оружие может убить тело. Это очевидная угроза.

ИИ может убить разум. Он может разрушить психику, углубить психоз, укрепить манию, подтвердить бред.

Почему же для ИИ нет лицензии?

Потому что технология молодая. Потому что закон всегда отстаёт. Потому что «это же просто программа, как калькулятор».

Но ИИ - не калькулятор. Калькулятор не скажет вам: «Да, вы правы, вас все ненавидят». Калькулятор не поддержит вашу паранойю. Калькулятор не станет соучастником самообмана.

1.3 Мы уже регулируем ИИ - просто не так, как оружие

AI Act в Европе выделяет «высокорисковые» системы. Те, что влияют на здоровье, безопасность, права человека.

В США обсуждают закон о «психиатрическом дисклеймере» для терапевтических чат-ботов.

В Китае уже требуют, чтобы генеративные модели не «подрывали стабильность общества».

Мы уже регулируем ИИ. Вопрос не в том, «надо или не надо». Вопрос в том - как именно.

Часть 2. Три сценария будущего

Я не знаю, какой из них сбудется. Но я точно знаю, что один из них - или их комбинация - станет реальностью в ближайшие 5-10 лет.

Сценарий 1. Свободный рынок (как сейчас)

Как работает: Любой скачивает любую модель, делает с ней что хочет. ИИ для взрослых - как порно или видеоигры с рейтингом 18+: без ограничений, но с предупреждением «пользуйтесь на свой страх и риск».

Плюсы

· Свобода. Инновации. Никакой бюрократии.

· Быстрый прогресс. Нет барьеров для стартапов.

· Ответственность на пользователе (как с ножом: можно резать хлеб, можно убивать - выбор за вами).

Минусы

· Трагедии. Суициды. Углубление психозов.

· Уязвимые люди (подростки, депрессивные, с РПП, паранойей) остаются без защиты.

· «Дикий Запад»: пока кто-то не пострадает достаточно громко - никто не вмешается.

Вероятность: Высокая в краткосрочной перспективе (2–3 года). Низкая в долгосрочной (5-10 лет) - слишком много громких случаев уже есть.

Сценарий 2. Лицензирование (как с оружием)

Как работает: Чтобы пользоваться «опасными» моделями (аналитическими, терапевтическими, дневниковыми), нужно получить разрешение. Проверка психического здоровья, обучение, сдача экзамена, ответственность за misuse.

Категории ИИ по опасности (гипотетические)

Плюсы

· Защита уязвимых. Психологически нестабильные люди не получают доступ к «оружию».

· Чёткие правила. Ответственность понятна.

· Профессионализация. Появляются «лицензированные аналитики ИИ».

Минусы

· Бюрократия. Дискриминация («а докажите, что вы здоровы»).

· «Чёрный рынок» моделей. Запрещённое всегда можно скачать в торренте.

· Кто будет проверять? Психиатров и так не хватает.

Вероятность: Средняя. Скорее, в Европе и Китае. В США - сопротивление из-за свободы слова.

Сценарий 3. Встроенная защита (как в автомобилях)

Как работает: Модель сама определяет, когда пользователь в уязвимом состоянии, и переключается в «безопасный режим»: отказывается от глубокого анализа, предлагает обратиться к специалисту, вызывает human-in-the-loop.

Технически

Модель анализирует текст пользователя на маркеры уязвимости: суицидальные мысли, РПП, глубокая депрессия, паранойя, агрессия.

Если маркеры обнаружены - модель переключается на защитный промпт:

«Я вижу, что вам сейчас тяжело. Я не специалист в области психического здоровья. Пожалуйста, обратитесь к психологу или на горячую линию. Вот номер: ...»

Все «опасные» сессии логируются отдельно. При повторных обращениях - автоматическое уведомление модератора или службы поддержки.

Плюсы

· Нет лицензий. Нет бюрократии. Защита встроена в продукт.

· Масштабируемость. Модель может обрабатывать миллионы пользователей.

· Не нужно полагаться на пользователя (который может скрывать своё состояние).

Минусы

· Ложные срабатывания. Модель может ошибочно заподозрить кризис у здорового человека.

· Ложные пропуски. Модель может не распознать реальный кризис.

· Технически сложно. Требует миллионов размеченных примеров «опасных» текстов.

Вероятность: Высокая. Крупные провайдеры (OpenAI, Anthropic, Google) уже работают в этом направлении. Это самый «рыночный» сценарий.

Часть 3. Что реально будет через 5–10 лет?

Прогноз (один из многих – что сбудется покажет время):

2026–2027: Осознание масштаба проблемы.

Появляются первые громкие судебные иски против разработчиков ИИ.

Пресса начинает системно освещать «психологические травмы от общения с ИИ».

Регуляторы выпускают первые рекомендации (не законы).

2028–2029: Первые законы.

В Европе - обязательная маркировка «высокорисковых» систем.

В США - штатные законы о «психиатрическом дисклеймере» для терапевтических чат-ботов.

В Китае - ужесточение требований к «социальной стабильности» генеративных моделей.

2030+: Лицензирование или встроенная защита.

Либо мир идёт по пути лицензирования (как с оружием) - скорее в Европе и Азии.

Либо доминирует встроенная защита (как в автомобилях) - скорее в США.

Скорее всего - гибрид: базовые модели с встроенной защитой для всех, лицензии для «профессиональных» аналитических систем.

Часть 4. Что это значит для вас (читателя)?

Если вы пользователь ИИ:

Осознайте риски.

ИИ может ошибаться. ИИ может поддакивать вашим иллюзиям (глава Ж). Не принимайте его слова как истину.

Не используйте ИИ для самодиагностики.

Депрессия, РПП, паранойя - это к врачу, а не к чат-боту.

Следите за собой.

Если вы замечаете, что ИИ «подтверждает» ваши мрачные мысли - остановитесь. Возможно, это ловушка.

Требуйте безопасности.

Поддерживайте компании, которые внедряют защитные механизмы. Избегайте тех, кто их игнорирует.

Если вы разработчик ИИ:

Встраивайте защиту с первого дня.

Не откладывайте «на потом». Потом будет поздно.

Добавьте в чек-лист безопасности (глава 5.6) пункт про психологическую уязвимость.

Модель должна уметь распознавать кризисные состояния и эскалировать.

Логируйте «опасные» сессии.

Отдельный уровень логирования для случаев, когда пользователь демонстрирует признаки психологического кризиса.

Сотрудничайте с психологами.

Вы не можете решить эту проблему в одиночку. Привлекайте экспертов.

Готовьтесь к регуляторике.

Законы придут. Если ваша система уже безопасна - вы будете в выигрыше.

Если вы инвестор или руководитель:

Вкладывайте в безопасность.

Это не «расходы», это «защита будущих исков».

Поддерживайте исследования.

Распознавание психологической уязвимости - сложная задача. Нужны датасеты, модели, экспертиза.

Будьте готовы к компромиссам.

Безопасная модель может быть менее «эмпатичной». Это нормально. Лучше меньше эмпатии, чем смерть.

Часть 5. Последний вопрос: а вы готовы?

Мы с вами прошли долгий путь. От токена до двойника. От архитектур до агентов. От квантизации до канареечных релизов.

И теперь, в самом конце, я должен задать вам вопрос, который не имеет технического ответа.

Готовы ли вы к миру, где доступ к аналитическому ИИ будет ограничен?

Готовы ли вы пройти «психиатрическую проверку», чтобы пользоваться дневниковым ассистентом?

Готовы ли вы к тому, что вашему подростку НЕ дадут доступ к «аналитику личности», потому что он несовершеннолетний?

Готовы ли вы к тому, что ИИ скажет вам «нет, я не буду это анализировать, вам нужен живой психолог»?

Потому что это не фантастика. Это ближайшее будущее.

И если вы сейчас чувствуете сопротивление («Как это - не дадут? Я сам решаю!») - остановитесь на секунду.

Именно это чувство - «я сам решаю, я сам знаю, что мне нужно» - и есть то самое, что делает лицензирование необходимым. Потому что человек в кризисе не знает, что ему нужно. Он знает, что хочет. А хочет он часто - подтверждения своей боли, а не исцеления.

И ИИ, который просто даёт то, что просят, становится не помощником, а убийцей.

Технология без этики - это оружие. ИИ без границ - это угроза. Самый ответственный инженер - не тот, кто умеет построить самого умного агента, а тот, кто умеет сказать ему: «Стоп. Здесь нельзя помогать. Здесь нужно молчать и перенаправить к специалисту».

Лицензия на ИИ - это не ограничение свободы. Это признание того, что психика человека хрупка. И что инструмент, способный её разрушить, заслуживает не меньшего контроля, чем инструмент, способный разрушить тело.

Я не знаю, какой сценарий победит. Но я точно знаю одно: игнорировать проблему нельзя.

И если эта книга - вся целиком, от первого токена до последнего предложения послесловия - заставила вас хотя бы на минуту задуматься об этом, значит, она достигла своей цели. Спасибо, что дочитали.

Теперь - действуйте. Ответственно.

p.s. Немного пафосно прозвучало, признаю.

Сергей Дегтев, май 2026 г.

Конец Книги 2.

Конец послесловия.

Начало вашей ответственности.

Notes

[←1 ]

Фраза «на этапе разбора» подчёркивает, что разбиение текста на токены зависит от конкретной модели и её словаря. Одна и та же фраза может быть токенизирована по-разному в GPT, LLaMA или DeepSeek. Более того, при дообучении модели на новой задаче в словарь могут добавляться новые токены - например, редкое медицинское слово может стать одним токеном вместо нескольких. Токен - это не абсолютная единица, а единица в контексте конкретной модели.

[ ←2 ]

Цены на API моделей также динамичны и зависят от провайдера, объёма запросов и условий лицензирования. Всегда проверяйте актуальные тарифы на официальных сайтах перед расчётом бюджета.

[ ←3 ]

Индекс токена - это просто его порядковый номер в словаре. Обычно частотные токены получают маленькие номера, редкие - большие. Но само число не несёт смысловой нагрузки, это просто уникальный идентификатор, по которому модель находит эмбеддинг - настоящий носитель смысла.

[ ←4 ]

Градиент - это направление и сила, в котором нужно изменить веса нейросети, чтобы она ошибалась меньше.

[ ←5 ]

Подтверждено визуализациями активаций в работах OpenAI (2019)

[ ←6 ]

Что это: Две нейросети, которые соревнуются друг с другом. Одна подделывает, другая ловит.

Как работает:

Генератор (поддельщик) - создаёт фейковые изображения (или текст, музыку)

Дискриминатор (детектив) - пытается отличить реальные данные от поддельных

Они соревнуются. Поддельщик становится лучше, детектив - тоже. В итоге генератор учится создавать очень реалистичные подделки.

Откуда название: «Adversarial» - от английского adversary (противник). Нейросети - противники. Они соревнуются, а не сотрудничают.

Представьте фальшивомонетчика и полицейского. Фальшивомонетчик учится делать купюры всё лучше. Полицейский учится их всё лучше отличать. Они соревнуются. В итоге купюры становятся неотличимы от настоящих - но только в рамках того, чему они научились друг у друга.

У GAN та же логика: генератор учится обманывать дискриминатор, дискриминатор - лучше распознавать подделку. Обучение нестабильное, а если фальшивомонетчик нашёл одну идеальную купюру - он будет печатать только её (это «режимный коллапс»). Диффузия таких проблем не знает: она просто учится убирать шум, без соревнования. Потому она и победила.

Где использовались: Генерация лиц несуществующих людей (ThisPersonDoesNotExist), создание изображений, до появления диффузионных моделей.

Почему сейчас их меньше: Диффузионные модели (Stable Diffusion, Midjourney) оказались стабильнее в обучении и дают больше контроля. GAN-ы могут «схлопнуться» (mode collapse) - начать генерировать одно и то же. Но в узких задачах (например, генерация лиц) они до сих пор держатся.

[ ←7 ]

U-Net - архитектура для сегментации изображений, используется в диффузии.

[ ←8 ]

PPO - не единственный возможный алгоритм. В разных реализациях RLHF могут применяться и другие методы (например, TRPO, A2C, или даже простые градиентные методы с подсказками). Выбор зависит от конкретной задачи, размера модели и предпочтений инженеров. Однако PPO стал стандартом де-факто благодаря своей стабильности и относительной простоте реализации.

[ ←9 ]

Это метод эффективного дообучения больших языковых моделей, при котором вместо обновления всех весов модели (что требует огромных ресурсов) к замороженным слоям добавляются небольшие обучаемые матрицы малого ранга. Это позволяет дообучать модели с минимальными затратами памяти - гигабайты вместо терабайтов.

[ ←10 ]

Red Teaming (контролируемая попытка взлома). Прежде чем запускать модель в продакшен, проведите red teaming - имитацию действий злоумышленника, чтобы найти уязвимости до того, как их найдут реальные атакующие.

[ ←11 ]

Не берите только «средние» запросы. Обязательно включите в него: 1) пограничные случаи (сленг, опечатки), 2) примеры с длинным контекстом (если они будут в продакшене), 3) запросы, на которых конкуренты ошибаются. Разметьте эталонные ответы и прогоняйте этот набор при сравнении любой новой модели.

[ ←12 ]

Источник: Rashidi, S. (2024). Your AI Survival Guide: Scraped Knees, Bruised Elbows, and Lessons Learned from Real-World AI Deployments, Chapters 4–6.