Клод Шейнис. Конфликт между законами
[1] [2]Клод Шейнис
Конфликт между законами
Двадцатый век породил вычислительную технику. Но он же породил и нелепые выдумки относительно электронно-счетных машин. Летописцы науки дают себе волю — «мыслящие машины», «электронный мозг», «сверхмозг»… Из того обстоятельства, что ЭВМ типа 14–40 может сыграть простенькую партию в шахматы, а типа 360-30 — по двум-трем строчкам установить, кто автор текста, досужий профан, ничтоже сумняшеся; делает поспешные выводы, приписывая приборам, немного более сложным, нежели маникюрные ножницы или пинцет, чисто человеческое качество — способность принимать решения по собственной воле.
И даже когда люди наделили машины свободой выбора между теми или иными способами решения заданной проблемы, от этого ничего не изменилось.
В следующем столетии беспрестанная миниатюризация приборов, снижение себестоимости электронной техники и к тому же необходимость исследований планет, проводимых в такой среде, где человек работать не может, подвели человека к осуществлению его извечной мечты о роботе.
В тот высокоторжественный день, когда появилась на свет первая партия электронных роботов — устройств-аналогов систем, обладающих свободой выбора, — им присвоили имя «Карел» (в честь Карела Чапека, придумавшего слово «робот»). Но и у них свобода выбора была лишь относительной, они были свободны не более, чем любой инструмент, повинующийся воле человека.
Простейшее орудие — молоток — не снабжено каким-либо устройством, которое предотвращало бы удар по пальцам. Более совершенное орудие — бумагорезательная машина — останавливается, если рабочий не успевает убрать из-под нее руку. Что же касается сверхсовершенной машины — Карела (или, точнее, в какой-то мере человекоподобного механизма, чьим прообразом послужил Карел), то в ней было множество таких устройств, предназначенных лишь для одного — помешать человеку своей новой «игрушкой» стукнуть себя по пальцам.
Этот рассказ посвящается Айзеку Азимову, деятелю науки, который в 40-х годах XX цена, намного опередив свое время, сформулировал и облек в форму законов наиболее существенные положения относительно такого рода страховки. Но:
1) Невозможно предусмотреть все…
2) Кто хочет все делать слишком хорошо…
Для людей жизнь на Проционе-Ш была отнюдь не райской, хотя местные жители со своим фторо-кремниевым обменом чувствовали себя великолепно, купаясь в плавиковой кислоте. Но это уже другая история.
Проционцы, находящиеся примерно на уровне развития землян 20-х годов XX века, впрочем, оказались народом гостеприимным и приветливым. При помощи специально разработанного радиокода, позволявшего взаимное общение, они сообщили о своем согласии на то, чтоб земляне высадились и оборудовали на Проционе-Ш свою базу — герметизированную капсулу с кислородной атмосферой, внутри, прочно прикрепленную к скале, чтобы противостоять фтористым ураганам.
Через толстые двойные иллюминаторы, сделанные из прозрачного материала, устойчивого к разъедающему действию кислорода, а снаружи — к такому же действию фтора, с инертным газом посредине, между рамами, обитатели Проциона порой с доброжелательным любопытством созерцали чудищ, вдыхающих кислород и пьющих закись водорода. Подумать только, что эти чудища называют закись водорода водой! Но это опять-таки совсем другая история.
В тот день на базе, содрогавшейся, несмотря на все крепления, под бешеными порывами фтористого урагана, томились от скуки трое землян. Двое из этих чудищ принадлежали к числу пьющих закись водорода (частенько с добавлением некоего этилового соединения в виде водки — это относилось к экспедиционному биологу и психологу, русскому полковнику медицинской службы Борису Мужинскому — либо рома, когда дело касалось американца Питера Говарда, геолога, минералога и химика). Третьего — тоже землянина — звали Карел-178, и томился он больше всех. Ибо из-за обостренного, как и у других Карелов, чувства ответственности он считал, что все неприятности происходят из-за него. Пожалуй, здесь была доля правды, хотя сам Карел, конечно, был совершенно не виноват.
Накануне Питер пожаловался:
— Я плохо себя чувствую. Болит живот.
Борис жестом обвинителя ткнул в Карела пальцем и, раскатисто произнося «р», приказал по-французски — а он говорил с Питером именно на этом языке:
— Повтори-ка Первый закон роботов!
Отдаленно напоминавший человека футляр, которого называли Карелом, не мог менять выражение лица, зато голосовой регистр робота был очень богат. Удивленно, досадливо-жалостливым тоном, каким обращаются к надоедливому ребенку, отнюдь не изменившись в «лице», Карел ответил:
— Первый закон. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Карел был славным малым, но чувство юмора в отличие от сегодняшних роботов у него было развито слабо.
— Вот видишь, ты нарушил Первый закон, — продолжал врач.
Прежде чем брякнуть «Как так?», Карел издал диковинное гудение.
Борис расхохотался:
— Очень просто! Ты в полдень накормил нас неудобоваримым американским кушаньем — сосисками с кетчупом. И вот пожалуйста — у Питера болит живот.
Питер улыбнулся, несмотря на недомогание (пока это было лишь легкое недомогание!). Ни тот, ни другой человек не был специалистом по роботам и не отдавал себе отчета в том, какой грозный смысл имеет сказанное. Ибо для робота нет ничего более важного, чем Первый закон. Не худо бы это знать любителям шуточек.
Человеку шутка может спасти жизнь. Но у Карела она может вывести из строя дорогостоящий мозг. Вот мы и подошли к нашей истории.
Побледнеть Карел не мог, он не был на это способен.
Он ответил бесцветным голосом:
— Вы полагаете, доктор, что Питеру повредил приготовленный мною обед?
Однако Борис был поглощен своим делом и не ответил. Уложив американца на кушетку, он пощупал его живот и, хмурясь, произнес:
— Как же так — не вырезать аппендикса перед полетом в космос! Весьма непредусмотрительно!
Двенадцать часов спустя стало совершенно ясно, что диагноз правилен и требуется операция, к тому же безотлагательная. И вот начинает разыгрываться драма. Завязка: Карелу одно за другим отдаются распоряжения. Прежде всего — очистить длинный стол, за которым и обедают, и работают. Затем Борис, вертя в могучих руках ампулу растворителя для пентотала, приказывает:
— Сходи в кладовку, приставь себе новую пару рук и прокали их на огне.
Карел повинуется беспрекословно. Такие, как он, не оборудованы устройством для обсуждения приказов. Когда он возвращается в столовую, вытянув новые стерилизованные руки и стараясь ни к чему не прикоснуться, Питер лежит на чистой простыне, а Борис извлекает из ящичка стерильные инструменты. Американец, уже усыпленный, тихонько дышит через маску, подсоединенную к небольшому черному баллону. Стоя у стола, Борис отдает очередное распоряжение:
— Встань напротив меня!
Робота еще со вчерашнего дня преследует все та же мысль, и он, легко скользнув к указанному месту, задает свой вопрос:
— Так вы считаете, доктор, что обед, приготовленный мною…
Удаление аппендикса не бог весть какая хитрая операция. Борису не раз приходилось оперировать аппендицит. Но он был врачом широкого профиля, а не хирургом и поэтому немного волновался. Ему было не до переживаний робота. По счастью, он даже не ответил на вопрос. Натянув перчатки (как было бы удобно, если бы можно было приставить и себе другую пару рук, предварительно ее прокалив, подумал он), Борис уверенно взял скальпель и протянул Карелу зажим.
— Когда я сделаю разрез и из сосуда пойдет кровь, — пояснил он, — ты сразу подашь мне этот зажим, возьмешь позади себя кэтгут и по моему приказанию приготовишь узелок.
Борис наметил линию разреза.
И тут началась драма.
Отступив на шаг, Карел голосом, выдающим полнейшее смятение (такой голос тоже предусмотрен в его колебательном контуре), заявил:
— Я не могу!
— Что?! — воскликнул Борис.
— Не могу. Я даже и вам не могу позволить! Первый закон! Робот не может причинить…
Ну, как его переубедишь? Оставалось одно: отведя душу в залпе непереводимых русских выражений, разбудить Питера и искать решение.
Прошло еще двенадцать часов. В капсуле томятся трое землян — врач, больной, которому срочно необходима операция; но больше всех томится робот, который не может ассистировать, когда человеку разрезают живот, не может даже допустить, чтобы это было сделано.
— И зачем только вы мне сказали? — тужит он. — Я вышел бы на воздух — или, как его, на фтор, — а по возвращении просто оказался бы перед совершившимся фактом…
Питер лежит на кушетке. Временами он постанывает от боли и мучительно размышляет. Борис и Карел сидят за столом друг против друга и в двадцатый раз перебирают все возможные варианты, тут же отвергая их один за другим.
Допустить, что Карел выйдет? Невозможно. Теперь, когда он знает, в чем дело, его первейший долг, самая главная его обязанность — исполнить Первый закон, то есть остаться на месте и не допустить посягательства на целостность брюшной полости Питера.
Эвакуировать Питера? Но до ближайшей базы одиннадцать суток полета. Он не выживет.
Вывести Карела из строя? Немыслимо. Карел — единственный, кто может выходить во фтористую атмосферу и обеспечивать бесперебойную работу генераторов, размещенных под станцией. Если же генераторы перестанут работать, погибнут два человека.