Недавно на форуме возникла, но не получила продолжения дискуссия о
книге Роджера Пенроуза "Новый ум императора". (Penrose,R., The Imperor's
new mind. Penguin Books, 1991. First published by Oxford University Press,
1989.) Название пародирует известную сказку о соловье китайского
императора, а книга, несмотря на это веселое название, весьма серьезно и
глубоко повествует о том, возможен ли машинный интеллект. Пенроуз -
известный математик и физик-теоретик, один из самых талантливых ученых
современности. Он считает, что машинный интеллект в "компьютерном" его
понимании невозможен в принципе, так как жесткая логика "универсальной
машины Тьюринга" несовместима с реальным миром, в котором большое
число явлений не может быть просчитано в рамках формальной логики.
Для обоснования своей точки зрения Пенроуз приводит довольно детальный,
но достаточно доступный обзор современной математики и физики, что само
по себе захватывающе интересно.
При всем моем уважении к автору, я с ним решительно не согласен в главном,
так как считаю, что деятельность мозга может быть моделирована с
помощью машины, и феномен сознания не является здесь исключением.
Думаю, многим было бы интересно участвовать в обсуждениии этого вопроса,
актуальность которого растет со временем экспоненциально, или, хотя бы,
ознакомиться с тем, что думают по этому поводу разные люди. На данном
этапе, как мне кажется, вопрос этот не столь специальный, сколь
общекультурный, поэтому такому обсуждению место скорее на
литературном, а не на научном форуме.
Похоже, впрочем, что книгу прочитали очень немногие посетители форума.
Господа, которые не имеют по разным причинам возможности прочитать эту
книгу, но имеют к ней интерес, могут отправить E-mail по адресу в заголовке
этого сообщения, и возможно, я найду способ им помочь. Единственным
препятствием может быть незнание языка оригинала.
New York Times так отзывается об этой книге: "Ranks among the most
innovative and exciting scienсe books to be published in the last forty years."
Для того, чтобы можно было хотя бы отчасти понять, что же, все-таки,
предлагается к обсуждению, попытаюсь оспорить один из аргументов
Пенроуза.
Одно из очень интересных возражений против искусственного интеллекта,
которое приводит Пенроуз, связано с понятием "китайской комнаты",
мысленного эксперимента предлженного Серлем (Searle, J.R., Minds, brains
and programs. In The behavioral and brain sciences, Vol. 3, Cambridge University
Press, 1980).
Еще в 1977 году Шанк (Schank, R.C., Abelson, R.P. Scripts, plans, goals and
understanding. Erlbaum, Hillsdale, NJ, 1977) создал компьютерную программу,
целью которой было моделирование понимания компьютером простейших
текстов типа "Некто пришел в ресторан и заказал гамбургер. Когда гамбургер
принесли, оказалось что он подгорел дочерна. Человек рассердился и
выскочил из ресторана не уплатив и не дав на чай." и "Некто пришел в
ресторан и заказал гамбургер. Гамбургер ему очень понравился и он дал
официанту хорошие чаевые и уплатил по счету." Для того, чтобы убедиться,
что компьютер "понял" тексты, ему задавали вопрос, пробовал ли человек
гамбургеры в первом и втором случаях, так как прямо об этом в текстах не
упоминается. Компьютер успешно справился с таким заданием.
Чтобы доказать, что компьютер ничего не понял, хотя и правильно ответил
на вопросы, Серль и придумал свою "китайскую комнату". Суть в
следующем:
Переведем рассказы на китайский язык. Посадим человека, не знающего
китайского языка в закрытую комнату с прорезью на двери. Снабдим его
карточками с текстами рассказа и с программой того, что необходимо
сделать, чтобы получить ответы на поставленный вопрос. После того, как
программа выполнена человеком (нет сомнений, что человек может
выполнить простейшие действия, выполняемые компьютером согласно
программе), он должен просунуть в щель карточки с ответом "да" или "нет",
не зная при этом, что написано на карточках. Так как человек не знает
китайского языка, он понятия не имеет и о предмете обсуждения, но, тем не
менее, правильно отвечает на поставленный вопрос.
Казалось бы, аргумент Серля, приведенный Пенроузом, неопровержим,
действительно, задача решена без намека на понимание ее сути. Более того,
знание устройства компьютерного "железа" еще более убеждает
осведомленного человека в полной бессмысленности даже малейшего намека
на то, что компьютер может что-либо понимать.
Но почему, собственно, мы должны считать результат этого мысленного
эксперимента с китайской комнатой за окончательный ответ на вопрос,
может ли машина думать?
Стоит разобраться в том, что же в действительности происходит в
"китайской комнате". А происходит там то же самое, что случается на
каждом школьном экзамене. Когда школьника спрашивают, сколько будет
семью восемь, или чему равен синус одной четверти пи, он совершенно так же
не имеет понятия, о чем, собственно, идет речь, но вполне способен правильно
ответить. Действительно, что такое "семь"? Семь чего? Семь подгоревших
бифштексов или семь раз, в которые нечто больше другого нечто? А что есть
"восемь"? Но ответ, совершенно правильный, "пятьдесят шесть", или даже
приблизительно правильный, "сорок восемь" все-таки получен. Доказывает
ли это, что ученик понимает не больше, чем стул, на котором он сидит?
По-видимому, нет. И ученика, и машину научили действовать по программе,
но это не доказывает ничего, кроме того, что программа может быть
выполнена. Другими словами, Серль промахнулся, пытаясь ответить на
сложнейший вопрос простеньким рассуждением.
То, с чем имеют в данном случае дело машина или человек в "китайской
комнате", есть обобщенная модель действительности. Заменив гамбургер на
шницель или даже на беф-Строганофф, или заменив "съел" на "вычислил", а
гамбургер на логарифм, мы не изменим модель. Но даже и в таком
обобщенном виде модель отражает структуру реального мира, но тогда
только, когда модели соответствует хотя бы одна реальная ситуация. Суть
"понимания" надо искать не в особенностях построения и использования
моделей, а в том, способен ли машинный разум отражаться в самом себе. К
сожалению, наука только нащупывает сегодня связи между нашим
повседневным опытом и глубочайшей тайной сознания. Если обратиться к
истории знания, то вполне можно предположить, что искусственный разум
будет создан раньше, чем человек поймет его суть, аналогично тому, как
огонь использовали наши предки, понятия не имевшие об окислении или
электронах.
Для тех, кто по-привычке понимает под "литературой" или "культурой"
нечто более традиционное, хотел бы отметить, что эксперимент с "китайской
комнатой" отметает варварское понятие "мультикультурализма".
Действительно, наше знание о мире, или культура, никак не зависит от
языка. Но это уже совсем другой вопрос.
