«Мы находимся в гонке со временем, стремясь обезопасить детей нашей страны от рисков, связанных с искусственным интеллектом. Существующие меры защиты оказались недостаточными. Необходимо действовать немедленно».

 

Национальная ассоциация генеральных прокуроров,

6 сентября 2023 г.

 

 

Часть первая. Клетка

 

 

Для одних зал суда – это театр, где разворачивается постановочное представление, тщательно спланированное до мелочей. Другие видят в нём сложную стратегическую игру, подобную шахматам, где каждый ход просчитан наперёд, а любая ошибка грозит катастрофой. В этой игре присутствует зрительный зал, полный предвзятости и осуждения, заранее настроенный на определённый исход.

Я же воспринимаю зал суда как арену для жестокой битвы, как «Октагон», где сталкиваются бойцы без правил. Двое вступают в схватку, и только один выходит победителем. Кровь и шрамы – неизбежная плата за участие. Вот что для меня значит зал суда.

В тот день заседание проходило в гражданском суде, хотя, на мой взгляд, это название не совсем отражало суть происходящего. Атмосфера была далека от спокойной и мирной, свойственной гражданским делам. Дело «Рэндольф против Тайдалвейв технолоджиз» было из тех, где решалась судьба не только участников процесса, но и, возможно, всего человечества – по крайней мере, я бы так это описал.

Председательствовала судья окружного суда США Маргарет Рулин. Я знал её ещё со времён, когда она, будучи ещё адвокатом, была известна как Пегги Рулин и часто засиживалась в баре «Рэдбёрд» после работы. Теперь она была уважаемым и опытным судьёй, назначенной ещё при Обаме. Она объединила все иски и стремилась ускорить процесс, не допуская затягивания. Я был согласен с ней, но адвокаты противоположной стороны, братья Мейсон, явно хотели отложить разбирательство на как можно более долгий срок.

Компания «Тайдалвейв» была выставлена на продажу, и инвесторы рассчитывали на выгодную сделку с одним из технологических гигантов. В числе потенциальных покупателей назывались «Майкрософт», «Мета» и компания Маска. От исхода этой сделки зависело, будет ли она оцениваться в миллионы или миллиарды долларов.

Я был настроен решительно и не собирался позволить им затягивать процесс. «Тайдалвейв» предоставила нам огромный объём информации – двенадцать терабайт данных, которые в распечатанном виде заполнили бы склад до самого потолка. Однако ключевые сведения в этих тысячах страниц были скрыты за чёрными полосами, делая документы почти бесполезными. Мне было необходимо узнать, что они пытались скрыть, иначе я рисковал проиграть дело всей моей жизни.

Судья терпеливо ждала моего ответа одному из Мейсонов, который встал и заявил, что редактирование материалов раскрытия необходимо для защиты прав собственности в крайне конкурентном мире генеративного искусственного интеллекта. Он сказал, что сведения, скрытые от меня, — это ключи от королевства. И раздавать их они не собираются.

— Господин Холлер, — подсказала судья. — Ваш ответ, пожалуйста.

— Да, Ваша честь, — сказал я.

Следуя установленному судьёй протоколу, я поднялся и вышел к кафедре между столами истца и ответчика.

— Ваша честь, довод защиты в лучшем случае лицемерен, — начал я. — Речь идёт не о ключах от королевства. Ключевые улики намеренно замалчиваются, ведь мистер Мейсон прекрасно осознает их обвинительный характер. Они подтверждают позицию истца. Творение «Тайдалвейва» подтолкнуло впечатлительного подростка взять в школу отцовское оружие и…

— Господин Холлер, — перебила судья. — Вам нет нужды каждый раз при возражении заново зачитывать обоснование истца. Уверена, что представители средств массовой информации, которых вы пригласили сегодня, это ценят, но суд — нет.

Судья кивком указала на первый ряд, где плечом к плечу сидели репортёры. В федеральном суде камеры и записывающие устройства были под запретом. Каждому журналисту, даже телевизионщикам, приходилось делать записи от руки. С краю сидел художник, делавший наброски для телеканала «Си-Эн-Эн». В эпоху, где безраздельно правили цифровые технологии, включая искусственный интеллект и интернет, традиционные ручка и бумага выглядели анахронизмом, вызывающим улыбку.

— Благодарю, Ваша честь, — сказал я. — Дело касается защитных мер, предпринятых компанией. «Тайдалвейв» утверждает, что располагала такими мерами, но скрывает их детали, прикрываясь коммерческой тайной. Это не соответствует действительности, уважаемый суд. Истец требует выяснить, как ИИ-разработка «Тайдалвейва» смогла обойти эти предполагаемые барьеры и дать подростку совет, оправдывающий насилие.

Братья Мейсон одновременно поднялись, чтобы возразить. Они были одни за столом защиты: их клиент решил не направлять представителя в суд для участия в этих досудебных стычках.

Близнецы переглянулись и что-то быстро обсудили, после чего Маркус занял свое место, предоставив слово Митчеллу.

— Ваша честь, адвокат истца снова искажает факты и доказательства, — сказал Митчелл. — Он разговаривает со средствами массовой информации, а не с судом.

Я ответил сразу, пока всё ещё стоял у кафедры.

— Откуда нам знать факты и доказательства, если нам не предоставляют полный объём материалов раскрытия? — спросил я, широко разведя руками.

Рулин подняла ладони, требуя тишины.

— Достаточно, — сказала она. — Господин Мейсон, подойдите к кафедре.

Я вновь занял своё место рядом с Брендой Рэндольф, её глаза блестели слезами. В стенах этого зала любое упоминание о её убитой дочери неизменно пробуждало в ней эту скорбь. Это не было игрой или маской, а истинным, неизбывным горем, которое не утихнет, что бы ни произошло. Я накрыл её руку своей, пытаясь дать хоть какую-то опору. Мой разум должен был быть поглощён судьёй и оппонентами, но я чувствовал всю тяжесть этих минут для Бренды и знал, что впереди её ждут ещё более мучительные испытания.

— Господин Мейсон, суд склонен согласиться с господином Холлером в этом вопросе, — сказала Рулин. — Как вы предлагаете нам разрешить эту ситуацию? У него есть право на полное раскрытие информации.

— Мы не можем, Ваша честь, — ответил с кафедры Митчелл Мейсон. — Вместо того чтобы раскрывать наши запатентованные научные наработки, код и методики, мы предложили истцу щедрый пакет компенсации. Но он был отвергнут, чтобы адвокат истца мог и дальше красоваться перед средствами массовой информации своими совершенно необоснованными заявлениями и…

— Позвольте вас на этом прервать, господин Мейсон, — сказала судья. — Каждый истец имеет право на судебное разбирательство. Мы не будем обсуждать мотивы отказа от урегулирования.

— Тогда, Ваша честь, — подхватил Мейсон, — мы готовы передать материалы назначенному судом специальному эксперту для изучения и определения того, что подлежит раскрытию, а что должно оставаться засекреченным как запатентованная информация.

Я поднялся, чтобы возразить, но судья меня прервала.

— Я с неохотой рассмотрю это предложение, учитывая его влияние на график суда, — сказала Рулин. — А пока перейдём к следующему вопросу. Господин Мейсон, вы…

— Ваша честь, — сказал я. — Прежде чем перейти дальше, можно ли мне высказаться по предложению защиты о назначении специального эксперта?

— Господин Холлер, я знаю ваш ответ, — произнесла Рулин. — Вы возражаете, потому что хотите, чтобы дело не вышло из графика. Если желаете, можете подать мотивированное возражение в электронном виде, я рассмотрю его прежде, чем вынесу решение. А пока продолжим. Защита подала ходатайство об исключении одного человека из списка свидетелей истца. Это Рикки Патель, бывший сотрудник ответчика, компании «Тайдалвейв». Господин Мейсон, желаете изложить ваши доводы для протокола?

Митчелл Мейсон был одет в сине-чёрный костюм «Армани» и свой фирменный жилет с узором, дополнявший деловой образ. Тёмно-русые волосы были аккуратно уложены, борода коротко подстрижена, и в ней начала проступать седина. По бороде я и различал близнецов: у Митчелла она была, у Маркуса — нет.

— Да, Ваша честь, — сказал Митчелл. — Как указано в ходатайстве, господин Патель — бывший сотрудник «Тайдалвейв» и при увольнении подписал соглашение о неразглашении. Копия прилагалась к ходатайству. Проще говоря, Ваша честь, это попытка истца обойти нас и получить конфиденциальные данные и сведения компании. Мы категорически возражаем против того, чтобы господин Патель вообще давал показания, тем более в открытом судебном заседании.

— Хорошо, можете присесть, — сказала Рулин. — Господин Холлер, я заметила, что вы не подали письменного возражения на ходатайство. Вы исключаете господина Пателя из списка свидетелей?

Я снова вышел к кафедре.

— Наоборот, Ваша честь, — сказал я. — Рикки Патель — ключевой свидетель истца. Он был в лаборатории, когда эта компания создала ИИ-помощницу по имени Клэр и выпустила её на волю, не предупредив об опасности - ничего не подозревающих…

— Хватит эффектных формулировок, господин Холлер, — резко оборвала меня Рулин. — Я вас уже предупреждала. Вы выступаете передо мной, а не перед публикой в первом ряду.

— Да, Ваша честь.

— Итак, почему суд не должен требовать исполнения соглашения о неразглашении, подписанного вашим предполагаемым свидетелем?

— Ваша честь, суть этого дела – установление ответственности за качество продукции. Запрет бывшему сотруднику давать показания о халатности «Тайдалвейв» в вопросах безопасности продукта противоречит интересам общества. Калифорнийские суды последовательно отказываются применять соглашения о неразглашении, если они нарушают основополагающие принципы публичного порядка. Моя клиентка и общественность не связаны этим «соглашением о неразглашении» и заинтересованы в выяснении обстоятельств, приведших к трагедии, когда ИИ-помощница подтолкнула подростка к убийству. Свидетель Рикки Патель не собирается раскрывать коммерческие секреты или конфиденциальную информацию. Его показания будут касаться недостатков в работе «Тайдалвейв».

— Мы находимся в федеральном суде, господин Холлер, а не в суде штата Калифорния, — напомнила Рулин.

— Возможно, так, Ваша честь, но суду также следует знать, что соглашение о неразглашении было подписано под давлением. Господин Патель опасался, что отказ подписать его при увольнении из «Тайдалвейв» повлечёт последствия для него и его семьи.

Маркус Мейсон вскочил и возразил, вскинув руки ладонями вверх: откуда, мол, взялось это нелепое утверждение?

— Подождите, господин Мейсон, — остановила его судья. — Это очень серьёзное заявление, господин Холлер. Вновь предупреждаю: суд не потерпит голословных утверждений, делающих эффект на средства массовой информации и потенциальных присяжных.

— Ваша честь, — сказал я, — господин Патель готов под присягой в этом зале или на открытом заседании рассказать о страхах и давлении, заставивших его подписать «соглашение о неразглашении» с завуалированными угрозами. Он не должен быть связан этим документом. И я могу заверить суд, что его цель как свидетеля — не раскрытие конфиденциальной информации, которая так тревожит компанию. Он будет свидетельствовать о возражениях, которые с самого начала выдвигал по проекту «Клэр». Возражениях, которые были проигнорированы и о которых компания явно не желает, чтобы узнала общественность.

— Ваша честь? — напомнил о себе Мейсон, на случай если судья забыла, что он стоит у кафедры.

— Продолжайте, господин Мейсон, — сказала Рулин.

Я вернулся к своему столу, а к кафедре подошёл Маркус Мейсон — тот самый чисто выбритый близнец, который предпочитал бабочки вместо жилетов к своим очкам «Армани».

— Ваша честь, это судебный процесс из засады, — сказал он. — Не больше и не меньше. Господин Холлер, когда защищал преступников, был известен как адвокат, орудующий средствами массовой информации как дубинкой. Он делает то же самое и здесь. Разумеется, он не ответил на наше ходатайство в электронном виде. Зачем, если можно пригласить в федеральный окружной суд репортёров, чтобы они услышали его преувеличения и нелепую ложь? В формулировках «соглашения о неразглашении» нет угроз за пределами того, что содержится во всех подобных документах. Никакой угрозы господину Пателю не было, и нет ни единого законного аргумента, позволяющего ему нарушить соглашение ради дачи показаний по этому делу.

Мне пришлось сдержать улыбку. Маркус Мейсон был хорош. Он был явно более умным из двух братьев, и именно на него мне предстояло нацелиться. Бабочка смягчала его образ убийцы в зале суда. Но это меня устраивало, потому что я сам был убийцей — в судебном смысле.

Улыбку во мне вызвало то, что Мейсон помянул мои времена в уголовной адвокатуре как упрёк. Да, я заработал имя в мире криминальной защиты. От рекламных щитов до автобусных остановок, от уголовных судов до окружных тюрем меня знали как «адвоката на Линкольне». Есть дело — и он готов ехать. Я обещал обоснованные сомнения за разумный гонорар. Это была тяжёлая работа. Коллегия адвокатов Калифорнии только и ждала, когда я оступлюсь в этике. Полицейские ждали, когда оступлюсь в уголовном праве. Все ждали, когда я рухну. Это наследие по-прежнему преследовало меня в этом городе.

Я устал от этого и ушёл. За два года, прошедших с момента моего ухода из мрачных и тесных залов уголовного правосудия, я столкнулся с новыми вызовами и рисками в, казалось бы, респектабельных и просторных кабинетах гражданской практики. Это место было моим привычным окружением, и братья Мейсон даже не подозревали, что их здесь ожидает.

Судья закрыла слушание, заявив, что изучит устные доводы и письменные материалы и вынесет решения по обоим вопросам в следующий понедельник.

— Суд объявляет перерыв, — сказала она.

Судья покинула кафедру и направилась в свой кабинет. Братья Мейсон собрали бумаги и толстые сборники законов, а журналисты стали подниматься с первого ряда и выходить. Я вернулся к столу истца и сел рядом с Брендой Рэндольф.

Бренда, миниатюрная женщина с испуганными глазами, работала шлифовщицей линз в оптометрической лаборатории в Долине. Казалось, она навсегда лишилась надежды на счастье. Каждый свой выходной и отпуск она посвящала судебным заседаниям по делу, которое считала делом своей дочери

— Вы в порядке, Бренда? — прошептал я.

— Да, — сказала она. — То есть нет. Я никогда не буду в порядке. Каждый раз, когда произносят её имя или кто-то вспоминает, что произошло, я теряю самообладание. Ничего не могу с собой поделать. Мне очень жаль.

— Не извиняйтесь. Просто будьте собой.

— Как думаете, судья примет решение в нашу пользу?

— Должна.

Мейсоны встали и, пройдя через барьер, направились к выходу. Проходя мимо, они не сказали мне ни слова.

— Приятных вам выходных, — крикнул я им вслед.

Ответа не последовало.

 

Отправить