|
|
Физическая личность
ЛЕОНИД ЛЕВКОВИЧ-МАСЛЮК
levkovl@spp.keldysh.ru
В Англии принято присваивать выдающимся соотечественникам дворянское звание Рыцарь (Knight) и титул Сэр (Sir). В том, что недавно Рыцарем стал крупнейший математик и физик-теоретик Роджер Пенроуз, есть точная символика: вот уже более десяти лет он бесстрашно, открыто и честно атакует одну из величайших тайн природы - тайну разума.
Утверждая, что смоделировать интеллект на машине нельзя, Пенроуз предлагает физический механизм, на котором, возможно, основаны наши интеллект и сознание - а может быть, и то неуловимое, что мы называем личностью человека. "Физическая личность"?..
Основные результаты и гипотезы Пенроуза и его коллег по этому отчаянному предприятию суммированы в книге "Тени разума" (1) и в нескольких статьях. Их можно разделить на "отрицательную программу" и "положительную программу".
Отрицательная программа сводится к математической аргументации (на основе теоремы Геделя) против возможности алгоритмически смоделировать разум. Понятием "разум" можно хоть как-то оперировать в формальных терминах, если иметь в виду математическое творчество - теоремы, вычисления, алгоритмы. Поэтому появляется возможность использовать достаточно четкие аргументы - а они-то как раз и подтверждают, что даже в математике самое существенное - то, что не формализуемо! Тем меньше остается надежд, что можно смоделировать другие свойства разума.
Положительная программа, строго говоря, есть всего лишь обсуждение комплекта согласованных друг с другом гипотез. Одна их часть относится к физике, другая - к нейрофизиологии, а в итоге получается вот что. Существенную роль в таком неотъемлемом свойстве разума, как сознание, играет некий "квантовый процесс" в так называемых микротрубочках нейронов мозга. Этот процесс влияет на сигналы, которыми обмениваются нейроны, внося принципиально важный ингредиент: невычислимость (а без нее не обойтись, если мы согласны с выводами отрицательной программы). В рамках существующей квантовой теории описать этот процесс невозможно (так как в ней все вычислимо, пусть даже и в вероятностном смысле). Можно сделать лишь некоторые количественные оценки, но до сколько-нибудь полной теории таких явлений еще далеко. Более того, Пенроуз считает, что создание этой теории должно быть связано с таким же радикальным, концептуальным пересмотром основ физики, какого в свое время потребовало создание общей теории относительности. По поводу реализуемости нужных квантовых процессов в клетках мозга тоже есть лишь косвенные данные. Однако работа продолжается очень активно, и к ней начинают подключаться экспериментаторы.
Пафос первой части книги заключается в том, чтобы на основе виртуозных математических и логических построений дать убедительные аргументы в пользу неалгоритмической работы сознания. Пенроуз выделяет четыре наиболее характерные точки зрения на вопрос о связи сознательного мышления и вычислений на компьютере.
A. Мышление целиком и полностью является вычислением. В частности, ощущение осознания (feeling of conscious awareness) вызывается просто выполнением соответствующих вычислений.
B. Сознание есть один из результатов физического действия мозга. Любое физическое действие может быть вычислительно смоделировано. Однако само по себе вычислительное моделирование не может вызвать осознание.
C. Определенное физическое действие мозга вызывает осознание. Однако это физическое действие не может быть вычислительно смоделировано ни в каком разумном смысле.
D. Сознание невозможно объяснить ни в рамках физики, ни в рамках теории вычислений, ни вообще в рамках науки.
Пенроуз придерживается позиции C, и ее обоснованию посвящена вся его книга. По отношению к другим позициям автор исключительно корректен (в особенности это относится к D), но всегда абсолютно четко формулирует свое отношение к ним. По поводу D он замечает (после многочисленных реверансов) примерно следующее: а почему, собственно, именно эту проблему - что такое сознание, осознание, понимание - мы должны отказаться исследовать научными методами, которые позволили человечеству так заметно продвинуться в понимании мира, в котором мы живем?
Для иллюстрации различий между A и B, а также для демонстрации подходов, которых автор не собирается придерживаться, в одной из первых глав приводится замечательное рассуждение философа Джона Серля (John Searle), известное под названием "Китайская комната". Оно звучит так.
Предположим, компьютеру рассказали некую историю. Он ее понял, и теперь ведет осмысленное обсуждение этой истории с несколькими людьми. Но и люди, и машина - все говорят только на китайском языке. В той же комнате находится человек, который китайского не знает. Зато он умеет быстро-быстро двигать костяшки на счетах, точно воспроизводя все вычисления, которые делает компьютер при выслушивании, обдумывании и обсуждении истории. Спрашивается: поймет ли этот человек то же самое, что понял компьютер? Вряд ли. Но, согласно А, вроде бы должен понять - ведь он выполнил нужные вычисления. Значит, понимание не сводится к вычислению...
Разумеется, против этого рассуждения можно выдвинуть ряд возражений. Но я хочу подчеркнуть: ни это рассуждение, ни какие бы то ни было другие рассуждения на эту тему строгими доказательствами не являются. (Сам же Серль, кстати, высказывался в том духе, что мозг - это компьютер!) В данном случае, например, надо различать внешние и внутренние проявления сознания. И таких тонкостей множество - если бы их не было, то и проблемы бы не было! Между прочим, Пенроуз нигде не говорит: я доказал, что машинный разум невозможен. Он говорит: я привел очень сильные аргументы... Пенроуз ставит задачу достаточно узкую: может ли процесс установления математической истины, который используется математиками, быть результатом действия вычислительного алгоритма (в очень широком смысле этого слова)? И самыми сильными аргументами против того, что это возможно, он считает те, что основаны на теореме Геделя о неполноте.
Использовать эту теорему для доказательства того, что разумная деятельность не сводится к вычислениям, пытались многие. Например, еще в 1961 году известный логик Джон Лукас (John Lucas) выступал с подобной программой. Его рассуждения оказались довольно уязвимыми - однако он и задачу ставил более широко. Пенроуз использует несколько другой подход, который излагается в книге полностью, "с нуля". Причем изложение доведено до такого совершенства, что его вполне может понять вдумчивый пятиклассник!
Поделюсь впечатлениями о том, как я читал эту часть книги. Сначала автор говорит: предположим, что есть алгоритм, который решает... ну, скажем, все задачи определенного класса, которые могут решить математики. Затем он предлагает: давайте из нескольких задач скомбинируем другую задачу, вот такую; она тоже из этого класса. Ладно, говорим мы. А теперь, говорит автор, мы сделаем вот так, так и так, и получается, что эту задачу наш алгоритм решить не может. Согласны? Допустим, говорим мы. А теперь подумайте, - говорит он, - ведь задача-то эта, скомбинированная, решается. И ответ будет вот такой! Ну и что? - строго спрашиваем мы. Как "ну и что!" - теряет терпение автор. Мы - люди, то есть - решили. А алгоритм, который, как мы предположили, умеет решать - нет. Значит, свести то, что мы с вами умеем делать, к алгоритму - нельзя. Ах вот оно что!!! - обрадованно кричим мы (то есть я). И тут же соглашаемся, что заменить нас машиной - невозможно. Но оказывается, что все только начинается...
Во-первых, "геделевские аргументы" требуют, чтобы алгоритм был, хотя бы в принципе, познаваем. А кто сказал, что встроенный в головы математиков алгоритм они (математики) могут познать? Может быть, выбор только в том, чтобы верить или не верить в это? Далее, в рассуждениях было нужно, чтобы алгоритм на самом деле был правильным. А если в наши головы встроен алгоритм, но он неправильный (то есть иногда делает ошибки)? (Между прочим, к этой точке зрения склонялся Тьюринг. Сам же Гедель считал, что математическая интуиция в принципе может быть сведена к некоей "теоремной машине", но доказать этот факт будет невозможно, даже случайно обнаружив эту "машину".) И так далее... Следующие 130 страниц посвящены анализу всех этих возражений, - причем рассматриваются не только "обычные", но и вероятностные алгоритмы, эволюционные вычисления, квантовые вычисления, вычисления с оракулом...
Пенроуз аргументирует очень развернуто и конкретно, что и дает прекрасные возможности для критики в его адрес. И критика сразу же начинается - жесткая и, я бы даже сказал, свирепая. Разбирать здесь аргументы и контраргументы невозможно, и не нужно. Ясно одно - Пенроуз играет честно. Он собрал всю известную ему критику его предыдущих работ, добавил к ней несколько возражений, придуманных им самим, и отвечает по пунктам и с формулами. Через два года после выхода книги, в 1996 году, в журнале "Psyche" (реферируемый онлайновый научный журнал: http://psyche.cs.monash.edu.au/index.html) прошла большая дискуссия по ней с участием крупнейших специалистов. Интересно, что вся критика касалась только первой части (отрицательной программы). Один из участников, очень известный специалист по математической логике С. Феферман (S. Feferman), нашел формальную ошибку в одном из рассуждений Пенроуза. В статье "Ни тени сомнения" (!) в "Psyche" (http://psyche.cs.monash.edu.au/v2/psyche-2-23-penrose.html) Пенроуз ответил на все возражения и показал, что найденную ошибку можно исправить, не жертвуя основными выводами.
Оставляя в стороне математические аргументы, я хочу упомянуть только о двух моментах. Первый связан с непознаваемостью алгоритма. Очень трудно логически аргументировать против того, что у нас в головах есть некий непознаваемый и несознаваемый алгоритм, который управляет "математическим мышлением". К непознаваемому алгоритму нельзя непосредственно применить теорему Геделя... Но, не отказываясь от виртуозной логической аргументации, Пенроуз спрашивает: почему мы должны всеми силами держаться за саму идею "алгоритмичности" нашего мышления? Что в ней такого уж естественного? Каким образом, например, мог "универсальный математический алгоритм" возникнуть в процессе эволюции? Зачем природа могла снабдить охотника на мамонтов сверхсложным аппаратом, уже содержащим, в определенном смысле, и неевклидову геометрию, и К-теорию?.. Не проще ли предположить, что в процессе естественного отбора совершенствовался некий универсальный механизм понимания?..
Второй момент - возможность того, что некий хаотический, то есть детерминированный, но стохастический "с виду" процесс может отвечать за математику в нашем мышлении. Для этого необходимо, чтобы хаотический процесс мог хотя бы более или менее эффективно приблизить невычислимый процесс. Таких примеров, по-видимому, пока нет. В любом случае речь идет лишь о приближении, ибо хаотический процесс можно - в принципе - точно смоделировать. А на практике, как это обычно и делается, точно смоделировать нельзя, но можно смоделировать типичный хаотический процесс того или иного вида. С этой темой связана еще одна интересная проблема, о которой говорит Пенроуз: проанализировать возможность возникновения невычислимой динамики в рамках уже известных законов физики или химии.
Итак, центральная тема первой части - невычислимое против вычислимого. В математике много невычислимого, но, главным образом, в весьма абстрактных ее разделах. Пример, который приводит Пенроуз для иллюстрации того, что такое невычислимость, показан на рис. 3. Он построен на совершенно элементарном материале - задаче о покрытии плоскости плитками полиомино. Сравнительно недавно было доказано, что эта задача алгоритмически неразрешима. То есть не существует алгоритма, который бы получал на вход набор плиток, а на выходе выдавал бы "да" или "нет", в зависимости от того, можно ли замостить плоскость плитками из этого набора без зазоров и перекрытий. На рис. 1 показано, как можно построить абсолютно детерминированную "эволюцию" наборов плиток, не описываемую никаким алгоритмом.
Рис. 1. Невычислимая эволюция
"игрушечной Вселенной", состоящей из
наборов плиток полиомино. Все наборы
занумерованы; эволюция происходит по закону: Sn->
Sn+1, если плитки из набора Sn покрывают плоскость
без зазоров и перекрытий, и Sn-> Sn+2 в противном
случае.
(Из книги R. Penrose, "Shadows of the Mind".)
Еще много любопытнейших вещей упоминается по ходу дела. Лично меня поразило, что уже несколько лет в научной юридической (!) литературе обсуждаются возможные подходы к проблеме прав, обязанностей и ответственности компьютеров - это связано с определением понятия "свободного выбора"... Но пора переходить к "положительной программе".
Большая часть второй половины книги занята изложением азов квантовой теории, и научно-популярно настроенный читатель получает блестящую возможность понять основные принципы этой теории. А тот, кого интересуют только выводы, узнает вот что (2). Квантовая система живет по своим внутренним - сложным, но точно предсказуемым - законам до тех пор, пока не вступит в контакт с классической системой. Этот контакт называется измерением, а то состояние, в котором система (например, электрон) оказывается после этого - результатом измерения. Состояние описывается так называемой пси-функцией. Так вот, во время "квантовой жизни" эта пси-функция плавно и красиво эволюционирует (в абстрактном математическом пространстве), самым невероятным образом изменяет свою форму, но увидеть этого мы не можем! Если же мы поймаем электрон и посадим его под микроскоп, то увидим там одну из ничтожно малого количества заранее известных пси-функций! И даже точно рассчитав всю эволюцию электрона в его "квантовой жизни", мы можем узнать только вероятность того, что измерение даст нам ту или иную из разрешенных к наблюдению пси-функций.
"Превращение" некоей невидимой пси-функции в реально наблюдаемую называется редукцией, или схлопыванием. Пенроуз обозначает это превращение буквой R. Спрашивается, что такое R? Реальный процесс или математическая абстракция? Пенроуз относит этот вопрос к истинным загадкам квантовой теории (в отличие от кажущихся, которых там тоже хватает). Во-первых, говорит он, совсем не обязательно ответ должен сводиться к одной из этих двух "крайностей". А во-вторых, эта проблема имеет свою длительную историю, здесь есть много красивых идей, и... собственно, на этом твердо обоснованная (общепринятая, скажем так) физика кончается.
Начинаются гипотезы. Главная физическая идея, которой придерживается Пенроуз, выдвигалась в той или иной форме многими авторами. Она состоит в том, что R можно рассматривать как реальное физическое явление, связанное с выбором той или иной конфигурации пространства-времени, в котором находится наша квантовая система. Более того, редукция может происходить по двум причинам. Одна из них - взаимодействие со средой, с "классическими объектами". Когда это так, редукция носит вероятностный характер. Так вот, основная гипотеза в том, что существует еще и такое явление, как объективная редукция, OR, прерывающая "квантовую жизнь" любой системы независимо ни от каких измерений, если в ней слишком много частиц, или накопилось слишком много энергии, или она просто слишком долго не схлопывалась. Эта самая OR как раз и предполагается невычислимой (3). В обычных условиях, когда квантовая система очень быстро вступает во взаимодействие со "средой", R и OR практически неотличимы друг от друга. Но если квантовая система изолирована от среды и долго живет в так называемом сцепленном состоянии (entangled state), называемом еще когерентной квантовой суперпозицией (quantum coherent superposition), в ней происходит OR, результат которой алгоритмически непредсказуем.
Уф! Кажется, самое трудное позади. Если не считать того, что, по мнению Пенроуза, построение настоящей теории всего этого потребует кардинального пересмотра современной физики: нужен переворот такого же масштаба, какой произвела когда-то общая теория относительности! Пока такой теории нет, хотя все эти рассуждения строятся отнюдь не на пустом месте, и существует целый ряд подходов к реализации такого рода идей. А характерные времена и массы, связанные с OR, можно оценить в рамках принятых гипотез.
Итак, кандидатура на роль невычислимого ингредиента найдена - точнее, названа. Но при чем здесь сознание? Да и где в мозгу могут происходить квантовые процессы, влияющие на работу нейронов?
Нейрофизиологи уже давно задумывались над возможными квантовыми механизмами, связанными с работой мозга. На эту тему много писал классик нейрофизиологии Джон Экклс (John Eccles). Однако позднее возникли другие идеи, связанные с именем другого действующего лица нашей истории.
Стюарт Хамерофф (Stuart Hameroff), основатель нанобиологии, много лет работает в Аризонском университете в Тусоне (Tucson). Он преподает анестезиологию и сам участвует в операциях в качестве анестезиолога. Его главный научный интерес - механизмы сознания. В 1987 году вышла его пионерская работа - книга "Ultimate Computing: Biomolecular Consciousness and NanoTechnology", где речь шла о своеобразных вычислениях, происходящих в так называемых микротрубочках цитоскелета. Микротрубочки - важная часть "скелета" клетки. Это полые цилиндрические трубочки диаметром примерно 25 нм. Они состоят из субъединиц - тубулинов. Тубулины - это молекулы-димеры, то есть они могут существовать по крайней мере в двух пространственных конфигурациях (конформациях). Для того чтобы произошло "переключение" из одной конформации в другую, достаточно чтобы единственный электрон "переехал с места на место". Поверхность микротрубочки составлена из тубулинов, расположенных в узлах правильной решетки. Конфигурация каждого тубулина зависит от конфигурации его соседей. Прямо-таки клеточный автомат, изготовленный самой природой!
Микротрубочки есть во всех клетках всех организмов, за исключением некоторых бактерий и водорослей. Хамерофф предположил, что микротрубочки нейронов играют важную роль в работе мозга. В них могут возникать "вычисления" - последовательные перестройки конфигурации тубулинов, нечто вроде того, что происходит в игре "Жизнь" (где, как известно, можно реализовать даже машину Тьюринга). Эти вычисления, в свою очередь, влияют на передачу сигналов между нейронами.
Идеи Пенроуза и Хамероффа укладываются в общую картину следующим образом. Есть (косвенные) экспериментальные свидетельства, а также некие физические соображения в пользу того, что в микротрубочках тубулины могут образовывать большие когерентные квантовые системы. Другими словами, большая совокупность тубулинов может некоторое время жить "квантовой жизнью", а потом переходить в классическое состояние с помощью невычислимой процедуры OR. Вот этот переход и есть "момент сознания", или, как пишут авторы, используя терминологию английского философа А. Н. Уайтхеда (Alfred North Whitehead), "элементарный фактор чувственного опыта" ("occasion of experience"). Поток таких событий и образует субъективно ощущаемый "поток сознания".
Что такое "большая совокупность"? Исходя из формулы Пенроуза, связывающей среднюю продолжительность "квантовой жизни" системы с ее "гравитационной энергией", и данных некоторых экспериментов в нейрофизиологии, среднее количество тубулинов, находящихся в сцепленном состоянии при реализации "момента сознания", оценивается в один миллиард. Для этого (тоже оценочно) с большим запасом хватает тысячи нейронов. Более тонкий анализ приводит к модели "оркестрованной OR" (orchestrated OR), в которой участвуют еще и белки MAPs, связывающие микротрубочки друг с другом. Количество таких событий в мозгу человека может достигать сотен миллионов в секунду. В нервной системе червя, с его 302 нейронами и примерно тремя миллиардами тубулинов, "моментов сознания" будет не более двух в секунду - на большее нейронов не хватит.
Рис. 2. Модель работы "клеточного автомата" в микротрубочке. Черные и белые "крючки" - тубулины в разных конформациях. Серые "крючки" - совокупность тубулинов, находящихся в квантовой когерентной суперпозиции. Этапы 2-6 показывают рост этой совокупности вплоть до момента объективной редукции (OR), после которой возникает новое классическое состояние автомата (7). Переход от 6 к 7 связывается с "моментом сознания".
На рисунке 2 показана схема строения нейрона и расположение микротрубочек. На рисунках 3 и 4 проиллюстрирована (напомню, чисто гипотетическая!) "анатомия" одного "момента сознания".
Рис. 3. Схема центральной части нейрона. Показаны массивы параллельных микротрубочек, соединенных связанными с ними белками (MAPs).
Рис. 4. Предполагаемая схема развития квантовой когерентности в микротрубочках. По достижении некоторого порога происходит "объективная редукция", связываемая в концепции Пенроуза-Хамероффа с "моментом сознательного опыта".
Писать такие книги, как "Тени разума", могут себе позволить только очень авторитетные ученые. Точнее, написать-то может любой, но мало кто станет читать очередной вариант "теории всего", принадлежащий автору, до этого не проявившему себя в науке очень и очень ярко. Каждое сочинение такого рода воспринимается как попытка угадать дальнейший ход развития науки. А это безумно трудно и, кроме того, вызывает почти болезненное раздражение у многих активно работающих профессионалов: мало ли какие гипотезы можно выдумать...
Пенроуз - один из самых строгих критиков собственных работ. Говоря о положительной программе, он то и дело подчеркивает: речь идет лишь о предположениях (5). Но ведь и предположения бывают разного качества. Например, книга "Что такое жизнь с точки зрения физики" Э. Шредингера сыграла большую роль не потому, что там объяснено, что такое жизнь, - этого еще никто не объяснил, хотя книга вышла 50 лет назад. Но эта книга стимулировала множество плодотворных идей. Точно так же и то, что нам предстоит узнать о физической основе сознания, наверняка будет сильно отличаться от первоначальных набросков, которые сделали Пенроуз и Хамерофф. Если Пенроуз прав, сам ответ будет сформулирован на языке, которого пока просто нет. И не очень рискованно предположить, что и этот ответ не будет окончательным.
Но одно мне кажется бесспорным: работы, обсуждавшиеся выше, задают современный уровень, на котором только и интересно сегодня говорить о проблемах естественного и искусственного интеллекта в рамках физики, математики, биологии и компьютерных наук.
1 Roger Penrose, Shadows of the Mind, Vintage, 1995.
2 Я прошу специалистов в нужных местах мысленно вставлять "грубо говоря..."
3 Причем даже в более сильном смысле, чем невычислимая эволюция наборов полиомино.
4 См. сноску 2.
5 Speculations.
Ваши предложения и замечания ждем по
адресу: tails@computerra.ru
