Случилось так, что в номере «Финикового Компота», посвящённом мышлению машин, были две статьи, авторы которых опирались на исследования Людвига Витгенштейна и при этом пришли к противоположенным выводам. Один из них — я — утверждал, что роботы принципиально не способны к мышлению, другой — Мария Ананина — выступала за то, что машина, прошедшая тест Тьюринга, должна быть признана разумной. Я позволю себе высказать несколько критических замечаний относительно статьи Марии «Жук в коробке».

Начать хотелось бы с цитаты из Голубой книги:
«“Может ли машина мыслить?”<...> и беспокойство, выраженное в этом вопросе, на самом деле не в том, что нам еще не известна машина, которая могла бы выполнять определенную работу. Этот вопрос не аналогичен вопросу, который кто-то мог бы задать сто лет назад: “Может ли машина сжижать газ?”. Проблема, скорее, в том, что предложение “машина мыслит (воспринимает, желает)” кажется чем-то бессмысленным. Это как если бы мы спросили: “Какого цвета число 3?”<...>» [Витгенштейн 2008, 82].

А также из Философских исследований (§360):
«Но машина же не способна думать! Разве это эмпирическое утверждение? Нет. Только о человеке и ему подобных мы говорим, что они думают». (пер. М.С. Козловой)

Как же так получилось, что Витгенштейн не заметил, что его концепция языка, изыскания на тему боли, анализ «ментальных» терминов и пример с жуком в коробке, согласуясь с тестом Тьюринга, должны утверждать принципиальную возможность думающей машины? Может быть, он чего-то не заметил, или, не зная о работе Тьюринга, не смог развить свою мысль до конца и избавиться от непонимания, или же его опять неверно поняли? Я склоняюсь к последнему варианту и постараюсь объяснить почему.

Во втором абзаце своей статьи Мария пишет: «В своей гносеологии Гоббс развивает конвенциональную теорию языка, в которой значения ментальных понятий, так же, как значения терминов математики и физики, приобретают статус установленных соглашений по поводу их употребления. Без взаимного общения людей слова не были бы знаками, существуя лишь на уровне меток, создаваемых памятью для внутреннего индивидуального использования. <...> Гоббс приходит к выводу о невозможности индивидуального языка, а также к отрицанию абсолютной истины и метафизики».

Я не могу придумать никакого иного объяснения для изложения концепции Гоббса в начале статьи о тесте Тьюринга и Витгенштейне, помимо стремления укоренить исследования последнего в философской традиции. Такого рода приёмы нередки для исследований в области истории философии вообще и в отношении Витгенштейна в частности. Если попытаться объяснить эту тенденцию, то, наверное, стоит обратить внимание на процесс преподавания философии, в результате которого мы привыкаем укладывать философов в рамки школ и традиций, а также схем (в духе реализм/антиреализм и т. п.). Иногда это работает, главное не слишком увлекаться, и чтобы почва не оказалась чужеродной. И тут я вижу проблему. Легко заметить сходство между позицией Гоббса и витгенштейновским аргументом о невозможности индивидуального языка. Но за этим внешним сходством скрывается глубочайшее различие во взглядах и интенциях философов. Утверждая невозможность приватного языка и следования правилу, Витгенштейн говорит о логически приватном или индивидуальном. Он вовсе не утверждает, что человек не может индивидуально следовать правилу эмпирически. В своих текстах Витгенштейн допускает, пусть и сугубо теоретически, даже возможность врождённого языка, который человек мог бы использовать, фактически находясь в изоляции. Такой язык, по Витгенштейну, всё равно не был бы индивидуальным в логическом смысле. Он был бы публичным в том смысле, что он мог бы быть понят и выучен другими людьми. А вот язык, недоступный другим людям, логически не подошёл бы и на роль системы пометок «для внутреннего использования», потому что следование правилу их использования непременно бы сливалось с мыслью о следовании этому правилу, и не было бы никакого критерия соблюдения правил. Не социум как таковой, а практика играет здесь ключевую роль.

Далее Мария пишет: «Боль занимает для Витгенштейна особое место в понимании сознания, так как, в отличие от ногих других ощущений, таких как цвет или звук, боль в значительной степени свободна от интерсубъективной интерпретации. Другими словами, мы все видим красное, но никому из нас не дано почувствовать боль другого человека. Говоря о боли, мы попадаем в асимметричную ситуацию “опыта от первого лица”, и это условие существенным образом определяет правила языковой игры, в которой мы оказываемся».

Боль действительно привлекала значительное внимание Витгенштейна, например, в Голубой книге он пишет:
«Ибо мы можем вообразить, так сказать, радиосвязь между двумя телами, заставляющую одного человека чувствовать боль в своей голове, когда другой подвергает свою голову воздействию холодного воздуха. В этом случае можно возразить, что боль является моей, потому что она ощущается в моей голове; но, предположим, я и кто-то другой имеем общую часть тела, скажем, кисть. Вообразим, что нервы и сухожилия моей руки и руки А связаны с этой кистью. Теперь вообразим, что эту кисть ужалила оса. Мы оба орём, искажаем лица, даём одно и то же описание боли и т.д. Должны ли мы теперь сказать, что обладаем одной и той же болью или разными болями?» [Витгенштейн 2008, 90].

А в «Философских заметках» мы читаем:
«Если слова «зубная боль» означают одно и то же в «у меня зубная боль» и «у него есть зубная боль», почему хочется сказать, что он не может иметь ту же зубную боль, что и я? Как следует отличать зубные боли друг от друга? По интенсивности и подобными характеристиками, и по локализации. Но предположим, что они одинаковы в обоих отношениях? Но если возражение, что различие просто в том, что в первом случае кто-то один испытывает боль, а в другом – кто-то другой, то владелец является определяющим признаком самой зубной боли» [Wittgenstein 1998, 91].

Но «владелец» не является свойством боли. Скорее, «обладать болью» есть свойство страдающего человека. Кроме того «обладание» болью – это не то же самое, что обладание книгой, ведь «обладать болью», значит иметь ничто, а не нечто. И у нас нет права частной собственности на так называемые ментальные объекты.

И, наконец, в §253 Философских исследований:
«Поскольку высказывание о том, что у меня такая же боль, как у него, имеет смысл, то и возможно, что мы оба испытываем одинаковую боль. (Можно представить себе и то, что два человека испытывают боль в одном и том же, а не только в соответствующем месте. Это мог бы быть, например, случай с сиамскими близнецами.)» (пер. М.С. Козловой).

Витгенштейн неоднократно в своих текстах утверждал, что два человека могут иметь одну и ту же боль. Он отрицал представление о привилегированном доступе, которое характерно как раз для картезианской картины сознания. В своих пассажах о жуке в коробке Витгенштейн говорит ровно то, что говорит:

«...если грамматику выражения ощущения трактовать по бразцу “объект и его обозначение”, то объект выпадает из сферы рассмотрения как не относящийся к делу» (пер. М.С. Козловой).

Но ощущение боли не является излишним и неважным для наших языковых игр связанных с этим словом! И Витгенштейн этим примером демонстрирует лишь то, насколько грамматика выражения ощущения отличается от грамматики вещественных объектов и явлений. И если мы в данном случае слишком увлекаемся аналогиями, то возникает путаница, ярчайшим выражением которой является картезианский дуализм.

Не останавливаясь на различиях в позициях Райла и Витгенштейна (отмечу только, что последний не рассматривал «ментальные объекты» как поведенческие диспозиции – а в этом суть позиции первого), я перейду к тесту Тьюринга и взгляду на него с точки зрения философии Витгенштейна. Мне представляется, что он должен быть таким: мы должны спросить себя, что означает этот тест для нашей практики? В каких языковых играх он может применяться? В практической ситуации какого рода у нас может возникнуть необходимость отличить разумное существо от автомата? И вынудил бы проваленный нашим другом Т.Т. считать его искусственным гуманоидом (чтобы добавить абсурдности, можно вообразить, как через пару сотен лет выпускники российских школ проходят единый государственный тест Тьюринга)?

Сейчас тест Тьюринга «висит в воздухе», у нас нет для него серьёзного применения, потому что нет роботов по-настоящему похожих на людей, роботов, относительно которых мы бы испытывали хоть долю сомнения. И не будет – в предыдущем номере я пытался объяснить почему. А даже если бы подобные андроиды существовали, то мы вряд ли бы обратились к этому средству проверки. Тест Тьюринга бесполезен с практической точки зрения. Мнение какой-то группы людей насчёт того, что мой друг – неразумный киборг, сможет убедить меня разве что в том, что он не слишком склонен проходить дурацкие тесты. И я очень сомневаюсь, что если злобный компьютер попытается уничтожить человечество, мы будем с помощью теста Тьюринга проверять его на разумность. В своей обычной практике мы заключаем о наличии сознания на основании множества различных признаков, которые проявляются в языковых играх, связанных с понятиями «мышление», «сознание», «разум» и т. п. А вот тест Тьюринга мы как критерий наличия сознания не используем, потому что он ничто в сравнении с критериями нашей практики и без них ничего не стоит, а когда они есть, он становится совершенно избыточным, оставаясь в любом случае бесполезным для разрешения вопроса о приписывании кому-либо сознания.

Wittgenstein 1998 — Wittgenstein L. Philosophical remarks. Oxford: Basil Blackwell. 1998.
Витгенштейн 2008 — Витгешнтейн Л. Голубая и коричневая книга. Новосибирск: Сибирское университетское издательство. 2008.