VI (2)

ГИЛАС. Но представь, какие губительные перспективы открывает такая возможность! Какое-то время набирающие мощь электронные мозги еще будут выполнять действия, которые люди смогут понять, охватить разумом, оценить хотя бы приблизительно. Однако впоследствии эта раз обнаруженная пропасть начнет расширяться. Мыслящие агрегаты станут представлять нам результаты своих теоретических разработок, которые мы, возможно, и сможем применить, но понять их мы уже окажемся не в состоянии. Будет все увеличиваться область явлений, которыми станут распоряжаться автоматы. В конце концов люди съежатся до размеров безмозглых слуг железных гениев и, может быть, начнут оказывать им божеские почести...

ФИЛОНУС. Вообрази себе, дружище, что слова твоего пророчества по отношению к роду человеческому уже исполнились, к тому же в довольно отдаленном прошлом.

ГИЛАС. О чем ты? Я не понимаю.

ФИЛОНУС. Возникновение электронных мозгов – это начало эволюции средств мышления. Потенциально они могут стать независимыми от человека, как уже стали независимыми от него результаты его общественной и производственной деятельности. С возникновением общества оформилось разделение труда, специфика производственных сил и способ производства создали машину, которая, освобождаясь от человеческой воли, все более влияла на судьбу индивидов, вплоть до того, что были времена, когда человечество этой машине – государству – стало оказывать почти божеские почести... Это не случайная и не поверхностная аналогия, мой Гилас! Люди ни в коем случае не должны – ни сейчас, ни в будущем – утратить контроль над творением их собственных рук и мозгов. Они ни в коем случае не имеют права предаваться спокойной бездумности, интеллектуальной лени, розовому оптимизму, наивной вере в то, что то или иное изобретение или та или иная общественная организация спонтанно, автоматически гарантирует наступление Золотого века. Никакие проявления неудовольствия, никакое отвращение, никакие исполненные возмущения причитания вроде: «и все-таки человек – венец творения» не изменят фактов, а создание все более совершенных и функциональных электронных мозгов есть факт бесспорный, и никто их не отменит в нашей земной жизни, раз уж они в ней появились. Если человечество не будет тщательно анализировать все, именно все, то есть также и отрицательные, самые мрачные последствия развития электронного мозга, то результаты его эволюции могут оказаться еще более губительными, чем кризисы, экономические катастрофы, безработица и хаос свободного капиталистического рынка. Именно поэтому мы так много рассуждаем о кибернетике, стремясь – зачастую тщетно – понять все, что она может нам сказать о явлениях, на первый взгляд так отдаленных во времени, как биологическая эволюция и психология, общая теория информации и социология.

ГИЛАС. Ты забыл упомянуть эсхатологию, науку о последних временах, ведь ее материалом являются представления о вечной жизни, а значит, тем самым – и о твоей пересадке живой человеческой личности на мертвый мозговой протез. Допускаешь ли ты, имеешь ли ты смелость предположить, что кто-нибудь когда-нибудь попробует реализовать подобную пересадку психики из живого тела в мертвый металл машины?

ФИЛОНУС. Система привилегированных принципов мышления, то есть система предпочтений, действует не только в отдельных нейронных сетях, друг мой, но также и в обществе. В этом смысле культура – это система исторически возникших предпочтений, суммирующих определенным образом реакции представителей человечества на внешние и внутренние импульсы. Конвенциональный, то есть исторически обусловленный, относительный характер большей части этических норм, нравственных установок, действующих законов сегодня ни у кого не вызывает сомнений. Концепция перемещения живой человеческой психики внутрь мертвой машины представляется нам сегодня чем-то в корне противоречащим нашим устоявшимся фундаментальным навыкам умственной жизни, чем-то низким, недостойным, антигуманным, чем-то неприемлемым. Однако нельзя исключать того, что в будущем – в результате глубоких изменений системы общественных предпочтений, изменения норм – восприятие этой проблемы изменится диаметрально. Посуди сам, мы говорим об операции, проведение которой станет возможным только в очень далеком, на тысячелетия отстоящем от дня сегодняшнего будущем. Эволюция электронного мозга таит в своей глубине еще не одно могучее потрясение общественного мировоззрения. Только представь себе возможность создания электронного мозга, интеллектуально и функционально более или менее идентичного человеческому, причем из этих машин можно будет «воспитывать» (как я уже говорил) верующих и святош. Понимаешь ли ты, какого чудовищного противника обретут в электронном мозге все без исключения религиозные верования? Какую софистику будут вынуждены развить богословские науки в свою защиту перед лицом несомненных фактов проявления «духа» среди электрических проводников и катодных ламп? А другая проблема, значительно более масштабная, значительно более трудная для преодоления, чем конфликт спиритуализма и кибернетики: что делать людям в обществе с полностью автоматизированным производством всего? А чудовищная, производная от этого опасность возникновения общества, только потребляющего, инертного, обреченного на жизнь в наивысшей материальной роскоши и полном умственном застое – перед фактом, что любое человеческое намерение что-либо сделать будет откровенным абсурдом в сравнении с возможностью реализовать это совершеннейшим образом с помощью мыслящих устройств? Вот проблемы, с которыми человеческий разум должен соизмеряться уже сегодня, которые он должен – любой ценой должен! – одолеть. Ты требуешь от меня ответов, которых у меня нет, Гилас. Так уж есть, и всегда так было в истории, что сначала появляется неизвестное, пусть даже дело рук человеческих, что сначала возникают вопросы, и только потом, в процессе изнурительного труда возникают ответы – формируемые жизнью целых поколений, ответы несовершенные, часто ошибочные, неполные, и прежде чем проблема оформится и разрешится, на горизонте возникают уже новые непонятные явления и новые знаки вопросов. И на этом рассуждении мы сегодня закончим, оставляя себе еще только одну, видимо наиболее сложную для обсуждения проблему. Я имею в виду социологию, изложенную в понятиях кибернетики.
[1] [2]