14 (2)

И для этого мы должны изменить Три Закона.

Она сказала это. Зал замер, потом взорвался выкриками протеста, злобы и страха. Эмоции вышли из-под контроля! Фреда вцепилась в край кафедры и приготовилась заговорить громко и уверенно.

– Три Закона прекрасно нам послужили, – начала Фреда, понимая, что надо сказать что-нибудь приятное для слушателей. – С ними мы смогли достичь грандиозных свершений. Они – величайшее достижение цивилизации колонистов. Но не все достижения годятся во все времена, на все случаи жизни.

Снова возмущенный рев, крики, свист.

– Пришло время создать лучших роботов.

И зал затих. Ага! Они все внимание! В конце концов, даже девиз Железноголовых – «Больше лучших роботов!». И Фреда продолжила:

– Когда-то, давным-давно, в незапамятные времена, когда еще не было в помине никаких роботов, люди для скрепления самых разных конструкций пользовались двумя видами приспособлений – гвоздями и винтами. Для того чтобы забивать гвозди, применяли инструмент под названием молоток, а винты завинчивали инструментом, который назывался «отвертка». И не могло быть даже речи, чтобы самый лучший молоток использовали вместо самой плохонькой отвертки. Сегодня, когда мы не применяем ни гвоздей, ни винтов, оба эти инструмента никому не нужны. И самый распрекрасный молоток нам ни на что не сгодился бы. Мир меняется. Точно так же и с роботами. Сейчас нам нужны новые, лучшие роботы, с новыми, лучшими Законами.

Погодите возражать – те, кто хотел повторить то, что обычно говорят наши роботы. Что Три Закона вечны и неизменны, потому что заложены в саму основу позитронного мозга. Все мы, конечно, знаем, что Три Закона неразрывно связаны с позитронным мозгом. Мы убедились в этом за тысячи лет, тысячи попыток усовершенствовать позитронный мозг. И любой современный позитронный мозг в своей основе почти такой же, как самые первые, примитивные образцы, созданные на Земле многие тысячелетия назад. И всякое усовершенствование только накладывалось на прежнюю основу, а Три Закона по-прежнему оставались вплетенными в каждую цепь, каждую извилину позитронного мозга. Ни одно усовершенствование не задевало Трех Законов. Невозможно создать позитронный мозг без Трех Законов, как невозможен человеческий мозг без нейронов!

Все это так. Но моему коллеге Губеру Эншоу удалось изобрести нечто совершенно иное, новое, никак не связанное с прошлым, это чистый лист, на котором можно начертать любые законы, какие нам нужны. Губер Эншоу изобрел гравитонный мозг. Невероятные возможности, гибкость, чувствительность гравитонного мозга – это наш шанс начать все с начала!

Йомен Терах, еще один мой сотрудник, создал большую часть основных программ для гравитонного мозга, в том числе и программу введения Новых Законов в мозг новых роботов. Роботов с гравитонным мозгом. И эти роботы, леди и джентльмены, вскоре начнут работать над проектом преобразования климата «Лимб»!

Внезапно слушатели осознали, что слова Фреды Ливинг – не просто умозрительные рассуждения. Она рассказывала о реальных, уже существующих роботах, а не об отвлеченных научных изысканиях. В зале снова поднялся шум – кто-то бранился, кто-то недоумевал.

– Конечно, эти новые роботы – экспериментальные, – снова заговорила Фреда, стараясь привлечь внимание аудитории, пока взволнованные слушатели не стали совершенно неуправляемыми. – Они будут заняты исключительно на острове Чистилище. Их задача – восстановить и заново запустить климатическую станцию Лимба. Специальные приспособления – так называемые «ограничители диапазона» – не позволят новым роботам действовать за пределами острова. Если такой робот окажется вне острова, он просто отключится. Они будут работать под руководством специальной команды экспертов-поселенцев, вместе с добровольцами-колонистами, которые уже набраны.

Фреда понимала, что не стоит углубляться в подробности того, почему это стало возможным. Когда Тоня Велтон узнала о роботах с Новыми Законами – хотя сам черт ведает, как ей удалось про них разнюхать, она настояла на том, чтобы все новые роботы, созданные на Инферно, были оснащены гравитонным мозгом. Это было условием помощи в преобразовании климата со стороны поселенцев. Правитель Грег испробовал немало способов, чтобы разубедить поселенцев на этот счет, но все впустую. И теперь это не имеет уже никакого значения.

Фреда продолжала:

– Задача, которая стоит перед этой объединенной командой поселенцев, колонистов и роботов, грандиозна: ни больше ни меньше, чем спасение нашей планеты от экологической катастрофы. Им предстоит восстановить климатическую станцию на Чистилище. В давние времена роботы трудились бок о бок с людьми как товарищи, а не как рабы. И Новые Законы позволят возродить эти отношения.

А теперь позвольте рассказать, в чем же состоят эти Новые Законы.

Новый Первый Закон роботехники гласит: «Робот не может причинить человеку вред». Как видите, мы убрали пункт о бездействии. Согласно этому закону людям не придется защищаться от роботов. Однако на то, что роботы будут защищать людей, рассчитывать не стоит. Людям, как в прежние времена, придется полагаться только на собственную инициативу и уверенность в себе. Им придется самим о себе заботиться. И, что очень важно, этот Закон ставит роботов в относительно более высокое положение по сравнению с людьми, чем раньше.

Новый Второй Закон роботехники таков: «Робот должен сотрудничать с людьми, если это сотрудничество не противоречит Первому Закону». Роботы с Новыми Законами будут сотрудничать, а не подчиняться. Они больше не будут игрушками капризных людей. Вместо беспрекословного подчинения приказам новые роботы сперва осмыслят их и решат, стоит ли повиноваться. Заметьте однако, что сотрудничество по-прежнему осталось обязательным. Роботы должны стать партнерами людей, а не рабами. Люди должны нести ответственность за свои действия и не ждать, что будет исполнен любой, самый бессмысленный приказ. И не придется рассчитывать, что роботы согласятся разрушать самих себя или других роботов ради потехи какого-нибудь человека.

Новый Третий Закон роботехники: «Робот должен заботиться о собственной безопасности, пока это не противоречит Первому Закону». Заметьте, что Второй Закон здесь больше не упоминается, он теперь не доминирует над Третьим. Сохранность роботов так же важна, как и их полезность. И этим тоже повышается социальное положение роботов по отношению к людям по сравнению с тем, что было раньше. И одновременно люди освобождаются от своих рабов, перестают быть рабовладельцами, неспособными существовать без рабов.

И, наконец, Четвертый Закон роботехники, о котором мы только что говорили: «Робот может делать что пожелает, кроме тех действий, которые противоречат Первому, Второму или Третьему Законам». Этот Закон открывает двери свободе творчества для роботов. С таким совершенным, гибким мозгом, как гравитонный, роботы смогут приспособиться к окружающему миру, найдут пути для воплощения собственных мыслей и желаний, всех своих возможностей. Обратите внимание, что они «могут», а не «должны» делать что пожелают. Четвертый Закон дает право на свободу выбора. Свободу действий нельзя навязать в приказном порядке.

Фреда окинула взглядом зал. Вот и все. Она сказала все, что собиралась сказать, и сумела удержать толпу слушателей от…

– Не-е-ет!

Фреда повернулась туда, откуда раздался крик, и тут ее сердце замерло.

«Нет!» – раздалось снова. Голос – низкий, глубокий, звенящий от гнева – донесся откуда-то из задних рядов.

– Это неправда! – кричал он.

Из задних рядов? Точно. Один из Железноголовых. Их командир, Симкор Беддл. Толстый мужчина с побледневшим от гнева лицом.
[1] [2] [3]