10 (1)
[1] [2] [3] [4]Соггдон покачала головой:
– Это работает, но лишь в немногих и весьма специфических случаях. Мне никогда не приходилось слышать, чтобы подобная система применялась широко. Раньше или позже искусственный разум с такой настройкой непременно сгорит или начнет давать сбои. Роботы, которых вы имеете в виду, имеют дело с просчетом гипотетических, даже абстрактных ситуаций, возможных в далеком будущем. А модулю Ди приходится иметь дело с анализом проблем повседневных, решениями сегодняшнего дня, причем такими, которые воздействуют на судьбы миллионов людей. С некоторыми она общается напрямую, разговаривая с ними, обмениваясь сообщениями и информацией. Модуль Ди не способна мыслить так, как вы говорите. Она воспринимает людей не как некую монолитную общность, а как отдельных индивидуумов.
– И в чем же заключается выход? – осведомился Крэш.
Соггдон набрала полную грудь воздуха и выпалила, словно хотела покончить с этими разъяснениями как можно скорее:
– Модуль Ди считает, что Инферно не существует.
– Что? – переспросил Крэш. Ему показалось, что он ослышался.
– Мы обманули Ди. Она думает, что проекта трансформации Инферно и самой планеты не существует, что они всего лишь смоделированы для того, чтобы просчитать варианты настоящей трансформации некоей настоящей планеты, к осуществлению которого еще только предстоит приступить.
– Бред какой-то! – воскликнул Крэш. – В это невозможно поверить!
– Однако, к счастью для всех нас, модуль Ди в это поверила.
– Но ведь в ее распоряжении имеется столько доказательств того, что это не так. Так много деталей… Их просто невозможно смоделировать!
– Мы «кормим» ее информацией очень дозированно и осторожно, – ответила Соггдон. – Не забывайте, искусственный мозг не может получать информацию самостоятельно. Только от нас. Откровенно говоря, время от времени мы намеренно подбрасываем ему ошибочные данные, противоречивые изображения или сведения, лишенные смысла. После этого мы исправляем эти «ошибки», создавая у Ди иллюзии, что это не реальная работа, а лишь моделирование, симуляция. Это заставляет ее думать, что все происходит не на самом деле, а как бы понарошку. В таком случае, если мы по недосмотру предоставим ей какую-то опасную информацию, мы в любой момент можем сказать, что это очередная ошибка, и она ничего не заподозрит. Модуль Ди считает, что Инферно – воображаемый мир, выдуманный специально для нее, и полагает, что сама она установлена в лаборатории, находящейся на Баливорде и предназначена для того, чтобы найти пути взаимодействия с компьютерным оборудованием поселенцев для использования в будущих проектах преобразования климата.
– Что?!
– Поверьте, это было необходимо. Если бы она поняла, что вы – реальный человек, она, без сомнения, удивилась бы тому, что вы делаете в ее выдуманном виртуальном мире. Нам приходится прилагать невероятные усилия для того, чтобы выдавать реальный мир за несуществующий.
– Значит, вы должны сообщить машине, что меня на самом деле не существует?
– Совершенно верно. С ее точки зрения, разумные существа делятся на три категории: те, которые существуют в реальном мире, но не имеют к ней отношения; те, которые существуют в реальном мире, находятся в этой лаборатории и общаются с ней; и, наконец, имитанты – разумные, но не существующие в реальном мире виртуальные существа.
– Имитанты? – эхом повторил Крэш, но это не было вопросом. Женщина поняла, что Правитель приказывает ей объяснить этот термин.
– О да, сэр. Так на профессиональном жаргоне называют разумных существ – людей и роботов, – которые создаются при моделировании тех или иных гипотетических ситуаций. По мнению модуля Ди, все население Инферно – не более чем набор искусственно созданных имитантов, и вы, сэр, входите в их число.
– То есть, по-вашему, я не могу разговаривать с машиной, поскольку она считает, что меня не существует? – уточнил Крэш.
– Не совсем так, сэр. Вы вполне можете беседовать с модулем Ди. Она каждый день разговаривает с инженерами-экологами, роботами полевой службы и так далее. Но она полагает, что все они играют написанные для них роли. Очень важно, чтобы Ди продолжала думать то же самое и о вас.
– Иначе мозг сможет заподозрить, что мир, который он считал выдуманным, на самом деле существует в реальности, и задумается о том, не причиняют ли его действия вреда живым людям, – продолжил Крэш мысль женщины.
– Дело в том, что ее действия уже стали причиной гибели нескольких человек, – подхватила Соггдон. – Это были несчастные случаи, без которых не обойтись, и в основе их лежало стремление спасти других людей в других местах. Эти случаи не оказали на мозг модуля Ди пагубного воздействия только потому, что она считала всех этих людей имитациями. Но даже о них машина заботится и бережет их, как своих детей. Ведь они – единственные, кого она знает.
– Они единственные, кто населяет ее мир, – сказал Крэш. – Но они не реальные люди.
– Конечно, конечно, но я веду к тому, что, даже считая их выдуманными, Ди уже начала верить в них. Примерно так, как писатель начинает верить в придуманные им персонажи или как хозяин собаки общается со своим любимцем, хотя и знает, что тот не понимает ни слова. Даже думая, что ее подопечных на самом деле не существует, модуль Ди неподдельно интересуется их судьбой и даже испытывает конфликт Первого Закона – хотя и весьма умеренный, – когда кто-то из них погибает, а она знает, что могла бы предотвратить эту смерть. Даже гибель имитанта заставляет ее переживать. А если бы она узнала, что, пусть даже помимо своей воли, является причиной гибели реальных людей, это был бы конец. В ее мозгу произошел бы обширный конфликт Первого Закона, ступор и как следствие – смерть. Но еще хуже было бы, если бы она после всего этого выжила.
– Почему это? – осведомился Крэш.
Соггдон посмотрела на массивную полусферу, устало вздохнула и покачала головой.
– Не знаю. Я могу только предполагать. Если такое случится, то в лучшем случае, я думаю, она найдет какой-нибудь способ вообще раз и навсегда прикрыть все проекты, осуществляемые на Инферно. Мы, конечно, можем попытаться помешать ей, но она слишком хорошо осведомлена обо всем, что происходит, и, главное, действует с дьявольской быстротой. Я могу предположить, что она каким-то образом отключит питание всего, кроме себя, найдет способ нейтрализовать модуль Дум, чтобы мы не смогли использовать его, сотрет все компьютерные файлы… Она пресечет любую деятельность, связанную с преобразованием климата Инферно, поскольку ее осуществление может представлять опасность для людей.
– Лучший, с вашей точки зрения, вариант выглядит довольно мрачно. А что же тогда называть худшим?
– В худшем случае модуль Ди может попытаться нейтрализовать вред, который, по ее мнению, она уже нанесла, вернув все на свои места. – Женщина невесело усмехнулась. – Она попытается повернуть процесс климатических изменений вспять, и лишь звездам известно, чем это закончится. Мы, конечно, можем отключить ее или хотя бы попытаться сделать это, но до того она может натворить такого, о чем даже подумать страшно.
Крэш глубокомысленно кивнул:
– Теперь я понимаю причину вашего беспокойства в связи с моим появлением. Но мне все равно нужно поговорить с ней. И, разумеется, с модулем Думом. Про него, кстати, вы почти ничего не рассказали.
Соггдон пожала плечами:
– О нем и рассказывать-то особенно нечего. Это всего лишь бездушная и безмозглая машина, которая, впрочем, великолепно справляется со своими обязанностями. Общаясь с ним, вы имеете дело с псевдоличностью, поскольку в отличие от модуля Ди он не обладает индивидуальностью. Не стоит дурачить себя, принимая модуль Дум за того, кем он не является.
– Но может ли он взять управление на себя в том случае, если модуль Ди будет отключен?
– Теоретически – да. Модуль Дум способен самостоятельно контролировать весь процесс планетной трансформации. На деле же все может оказаться иначе. Именно поэтому все мы здесь отдаем должное вашей мудрости. Вы поступили совершенно правильно, не захотев зависеть от одной контрольной системы и решив монтировать обе одновременно. Нам необходимо разнообразие мнений. Кроме того, научившись работать вместе, две машины составили прекрасную команду, действуя в три или даже четыре раза эффективнее, чем если бы работали поодиночке. К тому же наш проект существует всего несколько лет, а рассчитан он как минимум на столетие, а то и больше. Мы не можем рисковать, иначе все, чего мы достигли, полетит в тартарары.
– Я все понял, – сказал Крэш. – Итак, какие предосторожности я должен соблюдать, общаясь с ними?
– Не выходите из себя, если вам покажется, что модуль Ди разговаривает с вами в снисходительной или даже покровительственной манере. Не забывайте, что она принимает вас всего лишь за выдуманный персонаж. Вы для нее – не более чем один из элементов большой игры. Не раздражайтесь, если вам покажется, что она знает о вас очень много и даст вам понять это. Кое-что мы взаправду сообщили ей, добавив к этому еще и неверную информацию. Помните: вас не существует. Это главное. Что до остального, то вы будете общаться с ней при помощи наушников и микрофона, а я буду следить за тем, как идет беседа, на тот случай, если понадобится сообщить вам что-то еще.