Станислав ЛЕМ
СУММА ТЕХНОЛОГИИ
ГЛАВА ВОСЬМАЯ
ПАСКВИЛЬ НА ЭВОЛЮЦИЮ
(e) КОНСТРУКЦИЯ СОЗНАНИЯ
Каждый, кто достаточно терпеливо наблюдал за амебой, отправляющейся
на охоту в капле воды, не мог не изумиться сходству действий этой капельки
протоплазмы с рациональным, если не сказать человеческим, поведением. В
отличной книге Йеннингса "Поведение низших организмов" (старой, но
достойной внимания) 1 можно увидеть и прочитать описания такой охоты.
Двигаясь в своей капле воды, амеба сталкивается с другой, меньшей амебой и
начинает ее окружать, выдвигая ложноножки (псевдоподии). Меньшая делает
попытки вырваться, но агрессор крепко держит схваченную часть. Тело жертвы
начинает удлиняться, пока не произойдет разрыв на две части. Остаток
спасшейся амебы удаляется с разумным ускорением, а агрессор заливает
плазмой то, что поглотил, и отправляется восвояси. Тем временем та часть
жертвы, которая оказалась "съеденной", начинает быстро двигаться. Плавая
внутри протоплазмы "хищника", она вдруг достигает наружной оболочки,
прорывает ее и выбирается наружу. "Застигнутый врасплох" агрессор сперва
позволяет трофею ускользнуть, но затем бросается в погоню. И тут мы
становимся свидетелями ряда прямо-таки гротескных ситуаций. Агрессор
несколько раз настигает жертву, но та каждый раз ускользает от него. После
многих напрасных попыток "отчаявшаяся" амеба прекращает погоню и медленно
удаляется в надежде на более удачную охоту.
Самым удивительным в приведенном примере является то, в какой степени
нам удается его антропоморфизировать. Мотивы действий капельки протоплазмы
понятны нам: погоня, поглощение жертвы, первоначальное упорство в
преследовании и, наконец, отчаяние при "осознании" того, что игра не стоит
свеч.
Мы не случайно говорим об этом в разделе, посвященном "строительному
материалу сознания". Сознание и разум мы присваиваем другим людям,
поскольку сами обладаем и тем и другим. То и другое мы приписываем в
известной степени и близким нам животным, таким, как собаки или обезьяны.
Чем меньше, однако, организм по своему строению и поведению походит на
наш, тем труднее нам признать, что, может быть, и ему знакомы наши
чувства, знакомы страх и наслаждение. Отсюда и кавычки, которыми я снабдил
историю охоты амебы. Материал, из которого "выполнен" организм, может быть
необыкновенно похож на строительный материал наших тел, однако что же мы
знаем об ощущениях и страданиях гибнущего жука или улитки? О чем
догадываемся? Тем больше возражений и оговорок вызывает ситуация, когда
"организмом" служит система из каких-то криотронов и проводничков,
поддерживаемых при температуре жидкого гелия, либо кристаллический блок
или даже газовое облако, удерживаемое в повиновении электромагнитными
полями.
Этой проблемы мы уже касались, говоря о "сознании электронной
машины". Теперь казалось бы уместным лишь обобщить то, что было сказано
там. Ведь если вопрос о наличии сознания у Х решается исключительно
поведением этого X, то материал, из которого Х выполнен, не имеет никакого
значения. Тем самым не только человекоподобный робот, не только
электронный мозг, но и гипотетический газово-магнитный организм, с которым
можно затеять беседу, - все они принадлежат к классу систем, обладающих
сознанием.
Проблему в целом можно сформулировать так: верно ли, что сознание -
это такое состояние системы, к которому можно прийти различными
конструктивными путями, а также при использовании различных материалов? До
сих пор мы считали, что не все живое сознательно, но все сознательное
должно быть живым. А сознание, проявляемое системами бесспорно мертвыми? С
этим препятствием мы уже встретились и кое-как его преодолели. Полбеды
еще, пока образцом для воспроизведения, пусть в произвольном материале,
служит человеческий мозг. Но ведь мозг наверняка не является единственным
возможным решением проблемы "Как сконструировать разумную и чувствующую
систему". Что касается разума, наши возражения не будут слишком большими,
коль скоро мы уже построили прототипы разумных машин. Хуже обстоит дело с
"чувствами". Собака реагирует на прикосновение горячего предмета; значит
ли это, что система с обратной связью, издающая крик, когда к ее рецептору
приближают зажженную спичку, тоже чувствует? Ничего подобного, это лишь
механическая имитация, говорят нам. Это мы слышали уже много раз. Такие
возражения постулируют, что, кроме разумных действий и реакций на
раздражители, имеются еще некие "абсолютные сущности", Разум и
Чувствование, слившиеся в Двуединстве Сознания. Но это не так.
Физик и автор научно-фантастических произведений в одном лице,
А.Днепров, описал в своем рассказе эксперимент, призванный опровергнуть
тезис об "одухотворенности" машины, переводящей с языка на язык 2. Для
этого элементами машины, заменяющими транзисторы или реле, стали у него
люди, соответственно расставленные на большом пространстве. Выполняя
простые функции передачи сигналов, эта построенная из людей "машина"
перевела предложение с португальского языка на русский, после чего ее
конструктор каждому, кто был "элементом машины", задал вопрос о его
содержании. Никто из них, конечно, не знал этого содержания, поскольку с
языка на язык система переводила как некое динамическое целое. Конструктор
(в рассказе) заключил из этого, что "машина не мыслит". Однако один из
советских кибернетиков возразил в поместившем рассказ журнале, что если
расставить все человечество так, чтобы каждый человек функционально
соответствовал одному нейрону мозга конструктора, выведенного в рассказе,
то эта система думала бы лишь как целое и никто из участвующих в этой
"игре в человеческий мозг" не понимал бы, о чем "мозг" думает. Из этого,
однако, вовсе не следует, будто сам конструктор лишен сознания. Машину
можно построить даже из шпагата или порченых яблок; из атомов газа или из
маятников; из огоньков, электрических импульсов, лучистых квантов и из
чего только заблагорассудится, лишь бы функционально она представляла
собой динамический эквивалент мозга, - и она будет вести себя "разумно",
если "разумный" - значит умеющий действовать универсально при стремлении к
целям, устанавливаемым на основе всестороннего выбора, а не заранее
запрограммированным (как, например, инстинкты насекомых). Сделать
невозможной какую-либо из этих реализаций могут только технические
трудности (людей на Земле слишком мало для "построения" из них, как из
"нейронов", человеческого мозга; кроме того, трудно было бы избежать
дополнительного соединения их какими-то телефонами и т.п.). Но эти
проблемы совсем не отражаются на контрдоводах, выдвигаемых против
"машинного сознания".
Когда-то я писал (в моих "Диалогах") 3, что сознание - это такое
свойство системы, которое узнаешь, когда сам являешься этой системой. Речь
идет, конечно, не о каких угодно системах. И даже не обязательно о
системах, находящихся вне нашего тела. В каждой из его восьми триллионов
клеток находится по меньшей мере несколько сот ферментов, чувствительных к
определенному химическому веществу; активная группа фермента является
здесь своеобразным "входом". Эти ферменты "чувствуют" недостаток или
избыток вещества и соответствующим образом реагируют. Но что мы, владельцы
всех этих клеток и систем ферментов, знаем об этом? До тех пор пока летать
могли только птицы или насекомые, "летающее" отождествлялось с "живым". Но
мы слишком хорошо знаем, что летать могут сегодня и устройства абсолютно
"мертвые". Не иначе обстоит дело и с проблемами разумного мышления и
"чувствования". Суждение, будто электронная машина способна в крайнем
случае мыслить, но никак не чувствовать и не переживать эмоции,
проистекает из такого же недоразумения. Дело ведь не обстоит так, как если
бы некоторые нервные клетки мозга обладали свойствами логических
переключателей, а другие занимались "восприятием ощущений"; те и другие
очень похожи друг на друга и отличаются только местом, занимаемым в
нейронной сети. Подобно этому клетки зрительного и слухового полей коры
мозга, по существу, однородны, и вполне возможно, что такое переключение
нервных путей (если только выполнить операцию очень рано, например у
новорожденного), при котором слуховой нерв доходит до затылочной доли, а
зрительный нерв идет к слуховому центру, привело бы к достаточно
эффективному зрению и слуху, несмотря на то что такой индивидуум "видел
бы" слуховой корой, а "слышал" - зрительной. Даже совсем простые
электронные системы имеют уже устройства типа "поощрения" и "наказания",
то есть функциональные эквиваленты "приятных" и "неприятных" ощущений.
Этот бинарный оценочный механизм весьма полезен, так как ускоряет процесс
обучения; именно поэтому эволюция и сформировала его. Итак, совсем уже в
общем плане можно сказать, что класс "мыслящих гомеостатов" включает мозг
живых существ как некоторый свой подкласс, а вне его заполнен
гомеостатами, в биологическом смысле абсолютно "мертвыми". Правда, эта
"мертвость" означает лишь отсутствие белков и ряда параметров,
свойственных известным нам живым клеткам и организмам. Решение вопроса о
том, к какому классу следует отнести гомеостатическую систему, которая,
хотя и построена, скажем, из электромагнитных полей и газа, способна все
же не только выполнять мыслительные операции и реагировать на
раздражители, но еще и размножаться, получать из окружающей среды "корм",
двигаться в произвольно выбранном направлении, расти и подчинять эти и
другие функции сохранению самой себя как главному принципу, доставило бы
немало хлопот.
Одним словом, при обсуждении вопроса о сознании гомеостатов нужны не
столько ответы, "проникающие вглубь", сколько определения. Не означает ли
это, что мы вернулись к исходной точке, выяснив, что масло - ex
definitione - масляное? Отнюдь нет. Надо эмпирически установить, какие
параметры системы должны быть налицо, чтобы в ней могло проявиться
сознание. Границы между сознанием "ясным" и "помутневшим", "чистым" и
"сумеречным" нечеткие, и поэтому приходится проводить их произвольно,
точно так же как лишь призвольно мы можем решить, лыс ли уже наш знакомый
мистер Смит или нет еще. Таким образом мы получим набор параметров,
необходимый для конструирования сознания. Если все эти параметры имеются у
совершенно произвольной системы (например, построенной из железных
печурок), то мы скажем, что она обладает сознанием. А если это будут
другие параметры или несколько иные значения введенных параметров? Тогда,
согласно определению, мы скажем, что эта система не проявляет сознания
человека (то есть сознания человеческого типа), и это, разумеется, будет
истиной. А если система, обладающая этими параметрами, ведет себя как
гений, который умнее всех людей, вместе взятых? Это ничего не меняет, ибо
если она столь уж умна, то у нее нет человеческого сознания: ведь ни один
человек не является столь гениальным. А не софистика ли это, спросит
кто-нибудь. Ведь возможно, что какая-то система обладает сознанием,
отличным от человеческого (в точности как у той "гениальной" или такой,
которой, по ее же словам, самую большую усладу доставляет купание в
космических лучах).
Однако тут мы выходим за пределы языка. О возможностях "иного
сознания" мы не знаем ничего. Конечно, если бы оказалось, что сознание
"человеческого типа" характеризуют параметры А, В, С и D со значениями
соответственно, 3, 4, 7 и 2; если бы у некой системы значения этих
параметров равнялись 6, 8, 14 и 4; если бы она проявляла совсем
необычайный, может быть и недоступный нашему пониманию, разум, следовало
бы задуматься, дозволен ли риск экстраполяции (можно ли признать ее
одаренной чем-то вроде "удвоенного сознания"). То, что я сказал, звучит
очень уж наивно и упрощенно. Дело просто в том, что эти параметры, так же
как и их значения, не будут, вероятно, изолированными, а явятся какими-то
узлами "общей теории сознания" или, вернее, "общей теории мыслящих
гомеостатов со сложностью, не меньшей сложности человеческого мозга". В
рамках подобной теории можно будет выполнить известные экстраполяции,
связанные, конечно, с определенным риском. Как же проверять
экстраполяционные гипотезы? Путем создания "электронных приставок" к
человеческому мозгу? Но мы сказали уже обо всем этом достаточно, а может
быть, и слишком много. Разумнее всего поэтому здесь остановиться, добавив
лишь, что мы, конечно, вовсе не верим в возможность построить мыслящий
индивидуум из шпагата, порченых яблок или железных печурок; ведь и дворцы
трудно, пожалуй, строить из птичьих перышек или мыльной пены. Н_е
в_с_я_к_и_й материал одинаково пригоден в качестве субстрата конструкции,
в которой должно "зародиться сознание". Но это, конечно, столь очевидно,
что ни единого слова посвящать этому вопросу больше не стоит.
1 Н.S.Jennings, Das Verhalten der niederen Organismen, Berlin, 1910. 2
А.Днепров, Игра, сб. "Мир, в котором я исчез", изд-во "Молодая гвардия", 1966. 3
S.Lеm, Dialogi, Wyd. Literackie, Krakow, 1957.