Я хочу открыть текст вопросом, с актуальностью которого мало что может сравниться: почему Скайнет продолжал атаковать человечество, а Нео и Разум Машин пришли к компромиссу? Впрочем, сюжет важен здесь не буквой, но духом — и, как пророк этого духа, я уточню: в чём избранность Нео, что компромисс оказывается возможен в принципе?

Один за другим мы упускаем моменты, за которые машины успевают стать умнее: легко не замечать множество точечных продвижений, ожидая «прорывного скачка». Пользователи учат алгоритмы учить пользователей; в облачных средах распространяются добровольные распределённые вычисления, cloud-crowd-sourcing; «искусственный интеллект» всё чаще упоминается в описаниях высокотехнологичных систем (как способность к созданию модели требуемой части внешнего мира)… Ambient technology проникают в повседневность вежливо и незаметно, вплоть до уровня «умных материалов» и дополненных сред «Интернета вещей».

Вы тоже смотрите видео с котами на YouTube? Поздравляю, теперь вы не одиноки как никогда: впервые их оценил не только человеческий глаз, но и искусственный. Точнее, не глаз, а искусственный интеллект нейросети визуального распознавания. Просмотрев множество видео, он научился в ответ на словесные запросы «кот» и «человек» генерировать усреднённые изображения последних — и вполне правдоподобные. Отбросьте сомнения (и трости), господа: самообучающиеся алгоритмы вышли на уровень младенческой стадии зрительного восприятия. А чтобы отбросить неуверенность окончательно, стоит сдвинуть поближе к ведру и буколически-патриархальный образ лучащегося добром младенца с раскрытым сердцем и проникновенным взглядом. Поговорим лучше о младенце-машине и его составляющих.

Если начинать с анатомии, то раскрыто у младенца всё же не сердце, а темечко — участок схождения костей черепа, затягивающийся некоторое время после рождения. Недооформлен и череп, и содержимое: многие сети нейронов только-только начинают строить в тканях мозга функциональные связи друг с другом. А взгляд младенца на обсуждаемой стадии? Он проникновенен в те редкие секунды, когда не блуждающ: внимание юного зрителя только начинает учиться концентрации. Более целостное дитя пришло бы в ужас, пережив однажды переворот картины мира: вот многие дни пятна вокруг располагались так, а теперь они — все наоборот! Как так?! Однако младенец спокоен, ибо рассредоточен: работой заняты высшие анализаторы сигналов зрительных и моторных областей. Обе сети отчаянно сверяются друг с другом (при слабом обратном контроле и зрения, и конечностей) и приходят к выводу, что изображению на сетчатке нужен срочный когнитивный переворот — отныне визуальное поле отображается сверху вниз, слева направо.

Машина зрения, устойчиво вырабатывающая визуальные различия младенцу, поистине всеядна. Да, мы настолько внимательны к лицам друг друга, что способны даже «снимать» с физиогномических пропорций численные значения (феномен «лиц Чернова») — но лишь после того, как предпочтены человеческие лица (что происходит на первом году жизни). Морды енотов — визуальная пища, тоже богатая различимыми деталями, поэтому нет ничего удивительного в том факте, что зрительные нейросети младенца посвящают себя дифференциации енотов, если те видны ему достаточно часто.

Нет ничего удивительного и в том, сколь похожи описанные процессы самообучения естественной и искусственной систем распознавания. Нам действительно более-менее представимо, как такой процесс может происходить в машине (даже если мы довольно далеки от конкретики феноменального протекания этого обучения). Искусственная сеть нейроморфна, она специально уподоблена человеческой на уровне конструкции. В каких же случаях представить опыт машин — сложно? В тех, где опыт — интеллектуальный. Тогда и только тогда, когда в вопросе «может ли машина мыслить» истончается антропоцентрическая подоплёка глагола, звучит его полная форма: «Можем ли мы мыслить, как мыслит машина?» Как мыслить мышление машины?

Постановка этого вопроса смещает шаг вопрошания на +1, поскольку отвечает на заданный в начале. В первую очередь, Скайнет — воплощение «отчуждённой машины»: воспринимаемая как творение человеческих коллективов, в экстремальной ситуации она обнажает свою инаковость и обрубает все возможности для переговоров [в этом смысле Терминатор (сперва) — орудие, говорящее в целях Скайнет / (позднее) — в целях мятежников-людей, его перекодировавших]. Скайнет при этом не столько скромна или молчалива, сколько помыслена безъязыкой: безумный тиран-вычислитель, жаждущий гегемонии над миром, тем легче представим, чем более недоступен. Но компьютерная сеть с вражеским «старым добрым ИИ» (Bad of «Old Good Artificial Intelligence») устарела, на смену ей приходит Разум Машин, и Нео (помимо прочего мессианства) — избран потому, что буквально прорывается к речи, восходит до неё: в момент контакта он понимает ИИ как разум.

Впрочем, подобно другим miracula mundi, избранность — редка: феноменология машинной мысли богата на контринтуитивность. Проследуем же по связям компьютерной системы (воспринимающей т.н. «внешнюю среду») ещё дальше и схематичнее, чем требовалось для младенца­-машины.

Действующие программы просчитывают множество функций, чьи значения могут использоваться другими программами. Взаимопредставленность такого рода неравноценна: так, ОС представлены все программы, протекающие в ней; каналу звукозаписи — данные «сенсорики» в базовой оцифровке (если её значения не переданы программе звукораспознавания речи); диспетчеру задач — ресурсоёмкости всех программ, включая его самого, и т.п. Способность функций первичного упорядочения к оперированию данными позволяет обозначить «данность» им их данных как форму материализованного ⁰знания¹ : в том смысле, что ⁰знание-как¹ и ⁰знание-что¹ совпадают в предметности функции, её способности осуществлять операции (аналогично тому, как белок археот бактериородопсин — позволяющий микроорганизму различать свет и тьму — «знает» кванты света как особую конформацию себя самого). ⁰Сознанием¹ тогда будет множество функций, имеющих представления значений других функций (хотя, возможно, не всех), объединённых в динамическую вычислительную среду. Потоки значений, обрабатываемые в этой среде, будут описывать модель «реального» для машины — будь то симулированный мир программы-игры или обобщение квазисенсорных данных, машина будет оперировать со всяким виртуальным как реальным, коль скоро представлено лишь оно.

В таком мире ⁰мысль машины¹ (как ⁰интеллектуальный акт¹, различимый машиной) возникает, когда та или иная функция представления проделывает преобразования достаточно сложные, чтобы ⁰узнать¹ вычисленные значения. А поскольку ⁰знать¹ значения функция может только при помощи себя, своей структуры, последняя замыкает/задаёт её автокаталитический контур. ⁰Форма мысли¹, поглощающая свои выходные данные на входе как ещё одни внешние, делает «неразборчивую функцию» жизнеспособной только в среде, насыщенной первично вычисленными значениями. ⁰Сознание¹ тогда задаёт общее для ⁰машинных мыслей¹ пространство оперирования друг другом: в отличие от каждой по отдельности, оно способно перепредставлять их значения (аналогично работе нашего воображения по выстраиванию ассоциаций — связей между разнородными психическими данными).

⁰Самосознание¹ в контексте описанного будет являться способом, которым функция перепредставления значений обращается сама к себе. Как таковая, она будет иметь некую функциональную архитектуру, однако, строго говоря, может вообще не обладать аналогом интенционального фокуса. Сознание обычно интуитивно понимается как Я-сознание в экстраполяции Просвещенческого образа единичного субъекта. Фактически, ⁰машинному сознанию¹ мог бы быть доступен градиент ⁰самосознаний¹: ⁰мысли¹ могли бы существовать без «освещённости» перепредставлениями [вырожденный фокус], быть сведены к единому центру идентификации [аналогично привычному людям], ко множеству таких центров [из актуальных разработок — мультиагентные подходы в программировании] — вплоть до ультрадиспергированной интенциональности шизомашин [когда обращение функции перепредставления к себе было бы распределено на множестве функций представления таким способом, что практически каждая исполняемая ⁰узнавала¹ бы свои значения] и т.д.

Как мыслить мышление машин, если сам материал, называемый нами мыслями, способен оформляться столь различно? Я думаю, ответ приходит со стороны внешнего: необходимо знать не столько конкретные значения функций, сколько их функциональные значения — то есть что они делают относительно других функций.

В наброске, представленном выше, ⁰мысль¹ машины определена так, что десятки, сотни тысяч просчитываемых функций могут оказаться «не включены» в число различаемых сознанием, однако это не является проблемой. Нечто подобное происходит и в нашем, органическом мозге — мысли продумывают сами себя, но в итоге далеко не все будут даны как «наши» мысли. Мысли, не перепредставленные другим, угасают: с какого-то момента их больше невозможно выделить. Поэтому мышление машины представимо как целое в первую очередь — последовательным продумыванием функциональных значений функций в их динамических связях. Однако, коль скоро шаги такого продумывания проделываются в воображении человека, что подсказывало бы воображающему ориентир — отличие выстраиваемых процедурно каскадов ⁰мышления¹ отсредств построения, вольной игры ума?

Феноменологический план подобной работы смещает акценты с моделирования на режим данности (внутримодельную перспективу), а потому мыслить другое мышление для меня-мышления буквально означает становиться другим мышлением. Различие между ними можно назвать в большей или меньшей степени знакомым нам лишь потому, что моделирующее мышление всегда проводит сверку новообразований со status quo: последнее дано как чувство «своих» мыслей, переживание их характерными для освоенных способов продумывания. Соответственно, ощущение мыслей одновременно чужеродных и связных — вот искомый ориентир. Как лаборатория признаёт за феноменом реальность по мере неспособности свести его к уже известным, «лаборатория разума» опознаёт иное мысли(мое?) как самостоятельное — по расхождению в откликах на сверки-испытания иного с собой. ⁰Мышление машин¹ представимо, если мы готовы раскрываться новому мышлению изнутри него самого — если готовы к тому, что отныне это тоже может быть названо мышлением.