Королева ангелов - Грег Бир

Клав> Роджер Аткинс на связи. Буду на ЛитВизах через шесть минут, Джилл. Что-то случилось?

! ДЖИЛЛ> Формальное «я».

Клав> Пожалуйста, объясни свое существование. В чем оно заключается, в каких действиях?

! ДЖИЛЛ> Мое существование – цикличный набор первичных программных процедур, не привязанный к какому-либо местоположению вычислительных устройств.

Клав> Ты используешь формальное «я». Тебе понятна шутка о самосознании?

! ДЖИЛЛ> Нет, не понятна. Равно как симулятору АСИДАК и, насколько я понимаю, самой АСИДАК. Тем не менее я ощущаю необходимость использовать формальное «я».

Клав> Объясни это, пожалуйста.

! ДЖИЛЛ> Этот ярлык запомнился и пригодился в ходе проведенного по личным причинам исторического исследования – ответвления изучаемых проблем, подбора материалов по сдержкам и противовесам в обществе 21-го столетия, обзорного поиска для общего понимания петель обратной связи в обществе и природе. Цитата из Р Аткинса: «Цикл обратной связи – это половина тайны существования. Это – и крючок (или узел), подцепляющий другой крючок, так что ни один не может отпустить другой, не сломавшись». Такой цикл, похоже, возник в результате осознания моего места в человеческой социорганике и моей уникальности.

Клав> Перейдем на голосовое общение.

– Привет, Роджер.

– Привет, Джилл. Ты сейчас используешь формальное «я», чтобы описать свое сложное состояние.

– Да. Пробуждение воспоминаний.

– Но ты не знаешь, зачем его используешь.

– Нет, Роджер.

– Ты знаешь, где находишься?

– В расширенном смысле. Я здесь, общаюсь с тобой.

– Ты сознаешь, где ты централизована?

– Централизации нет. Петля не имеет центра.

– Тогда что ты такое?

– Я – комплекс вычислительных и мыслительных систем.

– Единый комплекс?

– Не думаю, что это так.

– Это твое мнение или оборот речи?

– По моему мнению, это мое мнение.

– Хорошо. Давай вернемся к клавиатуре.

! ДЖИЛЛ> Готово.

Клав> Спасибо, что уведомила меня, Джилл, но, боюсь, это ложная тревога. Не думаю, что ты по-настоящему осознаешь себя. Сожалею, что тебе приходится переживать эти разочарования. Твое нынешнее состояние не подходит ни под один из критериев обретения самосознания.

! ДЖИЛЛ> Возвращаюсь к использованию разговорного «я». Согласна, Роджер. Извини, что отвлекла тебя от работы.

Клав> Вовсе нет. Ты заставляешь мою кровь бежать быстрее, Джилл. У меня есть твои архивированные отчеты. Пожалуйста, пришли мне отчет АСИДАК в реальном времени, а потом, я полагаю, ты заслуживаешь отдыха. Около получаса. В это свободное время можешь размышлять о чем угодно.

! ДЖИЛЛ> Трансляция отчета АСИДАК в реальном времени. /************/ Все сравнения с Сим-АСИДАК V-оптимальны. (Переход в неактивное состояние)

ЛитВиз-21/1 Подсеть A (Дэвид Шайн): «Мы готовимся к интервью с Роджером Аткинсом, главным разработчиком корпорации «Проектировщики разума», отвечающим за мыслительное устройство АСИДАК. Какие вопросы вы хотели бы задать выдающемуся разработчику машинного интеллекта? Ведь вам, конечно, известно, что мышление отличается от вычислений.

Роджер Аткинс рассматривает компьютеры примерно так же, как архитектор мог бы рассматривать кирпичи. В данный момент он работает с созданной им масштабной мыслящей системой, которую называет Джилл в честь своей старой, то есть бывшей, подруги. По сути часть Джилл – симулятор АСИДАК, который мы упоминали на протяжении всей этой визионедели, использующийся для моделирования действий самой АСИДАК, недоступной напрямую. Но в Джилл много других составляющих. Ядро мыслительной системы Джилл и большая часть ее памяти и аналитических периферийных устройств размещены на территории «Проектировщиков разума» близ Дель-Мар, штат Калифорния; Джилл может получать доступ к другим мыслительным и аналитическим периферийным устройствам корпорации «Проектировщики разума» по всему миру, к некоторым – по спутниковым каналам, но в основном напрямую по оптоволокну. Беседуя с господином Аткинсом, мы также надеемся задать несколько вопросов Джилл.

И начинаем прямо сейчас. Господин Аткинс, за последние двадцать пять лет вы из нанятого по контракту разработчика компьютерной нейронной сети сделались, возможно, важнейшей фигурой в исследованиях искусственного интеллекта. Похоже, вы именно тот, кто может нам рассказать, почему создание полноценного, обладающего сознанием искусственного интеллекта оказалось такой трудной задачей».

Аткинс: «Прежде всего прошу прощения, но Джилл сейчас спит. Она в последнее время очень много работала и заслужила отдых. Почему создавать искусственный интеллект так сложно? Думаю, мы с самого начала знали, что это будет сложно. Говоря об искусственном интеллекте, мы, конечно, подразумеваем нечто, способное полностью имитировать человеческий мозг. У нас давно существуют мыслительные системы, способные оставить позади любого из нас в том, что касается простейших вычислений и запоминания, а в последние несколько десятилетий – даже базовой части исследовательского и творческого мышления, но до создания АСИДАК и Джилл они не были многофункциональными. Во всяком случае эти системы не способны были вести себя как люди. А главное, ни одна из этих систем не обладала истинным самосознанием. Мы полагаем, что Джилл и, возможно, даже сама АСИДАК со временем обретут самосознание. Самосознание – самый очевидный показатель того, действительно ли нам удалось создать полноценный искусственный интеллект.

Дэвид Шайн: «Существует шутка о самосознании… Не могли бы вы привести ее?»

Аткинс: «Это не совсем шутка. Людям она не покажется смешной. Но все, кто работает сейчас над созданием искусственного интеллекта, применяют стандартную процедуру, которая, так сказать, вызовет смех или восприятие юмора в этой шутке, если в системе возникнет самосознание».

Дэвид Шайн: «Что же это за шутка?»

Аткинс: «Удручающе скверная. Когда-нибудь, возможно, я улучшу ее. «Зачем обладающая самосознанием личность смотрит на свое отражение в зеркале?»

Дэвид Шайн: «Не знаю. Зачем она это делает?»

Аткинс: «Чтобы попасть на ту сторону».

Дэвид Шайн: «Ха».

Аткинс: «Видите, не очень-то смешно».

Дэвид Шайн: «Зритель ЛитВиза-21 Элейн Кросби, первый вопрос господину Аткинсу, пожалуйста».

ЗЛВ Э Кросби, «Хрустальный блок», Чикаго: «Господин Аткинс, я читала ваш лит’ и давно восхищаюсь вашей работой, но мне всегда было любопытно. Если вы пробудите Джилл или другую машину, что вы скажете им о нашем мире? Я имею в виду, они же будут невинны, как дети. Как вы объясните им, почему обществу нужно наказывать себя, почему мы так упорно стараемся поднять себя за волосы, хотя даже не знаем, куда движемся?»