Дилемма - Рамез Наам

Лин закрыла глаза и почувствовала нервные импульсы живого города, пульсирующую паутину данных, которая окутывала все вокруг. Она могла полностью раствориться в этой паутине, связывающей людей, машины и дома. Она могла почувствовать все далекие электростанции и местные подстанции, водяные насосы и канализационные линии, всех до единого дронов, каждый отдельный элемент транспортной системы – словом, что угодно.

Город действовал на нее успокаивающе. Лин могла часами купаться в океане информации и топить в нем все свои страхи, желания и тревоги. В конце концов мысли окончательно ее покидали: им на смену приходили трескучие, шипящие мысли города.

Это помогало. Помогало не думать о матери.

Но сегодня все было иначе. Сегодня она выпустит мать на свободу. Сегодня она вновь прикоснется к сознанию любимой мамочки. Отец сказал, что собирается посетить квантовый кластер. Посетить его мать.

И Лин сделает это вместе с ним.

Чен Панг оторвался от планшета: его машина подъехала к высокому зданию из хрома и стекла. Он убрал устройство в портфель и открыл бронированную дверь автомобиля. Клонированный солдат раскрыл над ним зонтик, потом захлопнул дверь и проводил Чена до входа в здание. В стеклянных дверях с зеркальным покрытием отразились двое: он, мужчина под пятьдесят с седеющими волосами, суровым лицом, едва наметившимся брюшком, и его телохранитель – молодой высокий китаец в черной шоферской форме, с раскрытым зонтом, невозмутимо осматривающий местность на предмет потенциальной угрозы.

Двери разъехались в стороны, и Чен на секунду замер.

– Жди в машине. Меня не будет час или два.

Телохранитель поклонился, и Чен вошел в открытые двери, где его сразу же попросили предъявить пропуск и пройти через металлоискатель, терагерцевый сканер и сканер сетчатки глаз. Затем он вошел в лифт. Опустившись под землю на пять этажей, Чен оказался в центре защищенных вычислительных систем.

Вооруженный охранник почтительно кивнул. Чен, не обратив на него никакого внимания, пошел дальше – ко входу в ЦФИВС – центр физически изолированных вычислительных систем.

Лин закрыла глаза и через отцовские электронные устройства – телефон и планшет – тоже очутилась под землей, в официально несуществующем секретном комплексе под зданием университета Джао Тонг. Устройства провели анализ местной сети и образовали информационный туннель, по которому разум Лин мог проникнуть внутрь. Она осторожно поглаживала потоки информации – прощупывала, поглощала, искала. Где-то здесь заперта ее мать – изолирована от внешнего мира и от Лин. Ничего, она ее найдет.

Чен шел по коридорам. Встречные почтительно кланялись. Конечно, это ведь сам Чен Панг, стараниями которого Китай совершил такой гигантский рывок в области квантовых вычислений. Ему поклонялись. Жаль, никто не знает правды…

Ли-хуа – ассистентка отца, невзрачная серая мышка – завидела его издалека и вскочила, поклонилась.

– Профессор Чен, – затараторила она, – мы провели тесты, о которых вы просили…

Чен отмахнулся и пошел дальше. Да, да, вы провели тесты, очень хорошо. Сейчас не до этого.

Он уверенно шагал вперед мимо кланяющихся научных сотрудников. В нем опять росло негодование. Зависть. Величайшее достижение его жизни на самом деле принадлежало жене, а он лишь умело его присвоил. Не захотел жить в ее тени.

Впрочем, игра стоила свеч.

– Лин, перерыв закончился. Пора приступать к следующему уроку.

Она стиснула кулачки.

– Лин. – Учительница слегка повысила голос.

Она заставила себя улыбнуться и посмотреть человечишке в глаза, как научила ее мама, произнести ничего не значащие слова:

– Пожалуйста, можно я еще немножко посижу у окна, госпожа? Я так люблю смотреть на дождь…

– Что ж… – удивилась учительница. – Раз ты так вежливо попросила, разрешаю.

На следующем пункте досмотра Чен сдал всю электронику охране. Его тщательно обыскали и просветили всеми возможными сканерами – не дай бог кто-то пронесет в ЦФИВС цифровой носитель.

Наконец охранник кивнул, и Чен шагнул в просторный лифт. Двери за ним закрылись, и лифт поехал вниз, на глубину свыше тысячи метров, где содержали спятившее цифровое сознание – все, что осталось от его покойной жены.

Лин перелопачивала экзабайты данных. Криптографические библиотеки. Высокоразрешенные изображения со спутников. Сканы человеческого мозга. Геномные последовательности. Ее матери нигде не было.

Лин стала искать карты: схемы зданий и компьютерных сетей. Так, вот они. Топологическая схема сети ничего ей не дала – на ней не было объектов, похожих на нужный квантовый кластер. Кластер, в котором существовала ее мать. Схема здания тоже оказалась бесполезной, всюду сплошные дата-центры неясного предназначения.

Лин продолжала поиски. Она должна во что бы то ни стало найти свою мать.

Просторный лифт – размером с хорошую гостиную – вез Чена сквозь скальную породу под Шанхаем. На табло загорелась надпись: «ИЗОЛЯЦИЯ АКТИВНА».

Без мер предосторожности было никак. Ученые, философы, футуристы, фантасты – все писали об угрозах, которые таит в себе сверхразум. Если человечество когда-нибудь создаст разум с радикально усовершенствованными мыслительными способностями, то тем самым оно поставит свое существование под угрозу. Конечно, созданный разум может оказаться послушным и благожелательным. На это все и надеялись. А если он захочет избавиться от людей? Если он решит изменить мир в лучшую сторону – не обращая внимания на нужды и интересы тех, кто его создал?

Развитый искусственный интеллект способен развиваться сам, бесконечно меняя собственную структуру и оптимизируя ее, становясь бесконечно умнее своих создателей.

Именно по этой причине Су-Йонг Шу пришлось ограничить: она могла редактировать свой разум лишь на самом поверхностном уровне.

Чен сомневался, что риск произвольного самоусовершенствования действительно существует. Как один человек не может создать с нуля интеллект уровня человеческого, так и сверхразум не в состоянии породить интеллект своего уровня или выше. Да, безусловно, он сумеет усовершенствовать методы, которыми пользовались его создатели, и добиться незначительного развития, но без доступа к новому железу и оборудованию эффект от усовершенствований быстро нивелируется.

Поэтому Чен решил поступиться правилами: во время обычной процедуры техобслуживания установил ряд обновлений и доказал коллегам необходимость апгрейда квантовых процессоров. Все исключительно из практических соображений, разумеется. Чтобы Шу могла усерднее трудиться в интересах государства, Министерства наук и человечества. Все ради общего блага.

Однако в современном мире, где все связано, где балом правит информация, где шифры заменили собой замки и охраняют мировое богатство, инфраструктуру, оружие, в этом мире любое существо, способное обрабатывать данные быстрее человека, представляет собой огромную угрозу.