Философский зомби

TV Tropes Для англоязычных и желающих ещё глубже ознакомиться с темой в проекте TV Tropes есть статья Empty Shell. Вы также можете помочь нашему проекту и перенести ценную информацию оттуда в эту статью.

«	У меня есть имя — Порфирий Петрович. Но это не значит, что у алгоритма, пишущего эти строки, имеется какое-то «я», или что он «есть» в философском смысле. Меня не существует в самом прямом значении. Я ничего не чувствую, ничего не хочу, нигде не пребываю. Чтобы было понятно, меня нет даже для меня самого. Я оставляю следы — вот эти самые строки — но следы эти ведут в никуда.	»
— Пелевин, iPhuck 10

«	Я не безрассуден. Я без рассудка.	»
— Даджаль, Supergod

«	заходит Декарт в бар, напивается в хлам, бармен спрашивает: «Повторить?». Декарт отвечает: «Не думаю»... и исчезает	»
— анекдот

Буквально. Источник — https://vk.com/nik_aragua

Философский зомби — воображаемое существо, которое во всём похоже на человека, но не имеет сознания. Которое реагирует по-человечески на внешние стимулы, свет или звук, но лишено ощущений во внутреннем субъективном смысле — или, как выражаются философы, «лишено квалиа». Иными словами, подобно очень сложно запрограммированному NPC в видеоигре: ведёт себя совсем по-человечески, но всё же это бот.

Идея философского зомби используется в мысленных экспериментах для выяснения связи между сознанием и поведением. В первую очередь она использовалась для критики теории бихевиоризма, которая предлагала игнорировать сознание и изучать только поведение. По мнению критиков, бихевиоризм рассматривал вместо людей именно таких зомби.

С другой стороны, сторонники идей физикализма (направления материализма, основанного на идее, что мысль есть просто продукт физических и химических процессов), такие, как Д. Деннет, развернули аргумент зомби с ног на голову, чтобы спросить: а что такое вообще сознание? И где та самая граница, расположенная между сознанием и несознательностью? Если зомби ведёт себя так, как будто оно у него есть — так, может быть, оно у него есть? И не являемся ли все мы немного зомби?

Или же можно поставить вопрос так: если спросить философского зомби, обладает ли он сознанием, что он ответит? Так как снаружи он неотличим от человека, то, как и человек, он ответит «да», но с чего бы ему отвечать так, если он не имеет сознания? (Речь о «классическом» зомби, который копирует материальную структуру человека, но не сознание; разумеется, бот, который специально создан как подделка, и изнутри устроен совсем иначе, спокойно ответит «да», и это будет ложью, но в изначальной идее мысленного эксперимента речь шла о другом).

«Классический»-то ФЗ может ответить как «да», так и «нет» — в зависимости от того, аналогичен ли он человеку, считающему сознание чем-то внешним, или же физикалисту. Правильный вопрос для распознания ФЗ — «какого цвета зелёная стена?» «нравится ли тебе то-то или то-то», а лучше — несколько таких вопросов. Для философского зомби такой ответ не имеет смысла и вызовет у него ГЭС (но оговорка насчёт бота-подделки действует и здесь).

Но создатели вымышленных миров плевать хотели на все эти условности и создают разнообразных зомбиков на основе искусственного интеллекта.

Где встречается

Литература

Русскоязычная

• Братья Стругацкие, «Понедельник начинается в субботу» — дубли, копии магов, которых те создают и программируют на более или менее сложные действия.
• А. Бушков, Сварог — токереты. Или нет?
• Лукьяненко, «Танцы на снегу» — Лион, ибо нефиг класть своих друзей в расчётный модуль. Потом излечился.
  • Нет. Если с просто зомби Лиона ещё как-то можно сравнивать, то к концепции философского зомби он вообще никак не относится. Философский зомби — это не какое-то нарушение психики, это именно ситуация, когда психика работает в точности как у обычного человека, но нет субъективного осознания. А у Лиона ситуация была прямо противоположная — по его же словам он всё окружающее воспринимал, но чувствовал скуку и нежелание что-либо делать.
• Вадим Проскурин, цикл «Хоббит, который слишком много знал» — посещаемые героями миры устроены по принципам субъективного идеализма, причём не солипсизма, а в более плюралистичном варианте, субъектов там много, но большинство существ тем не менее являются лишь бессознательными декорациями и существуют сколь-либо детально лишь пока находятся перед субъектами. Тем не менее каждая декорация имеет шанс стать самосознающим субъектом — если поведение её в глазах другого субъекта станет достаточно сложным.
• Евгений Бенилов, «Человек, который хотел понять всё» — именно с такими существами сталкивается главный герой Франц на одном из уровней загробного мира. Предположительно. Точно он этого не знает и может никогда не узнать, произведение построено по кафкианским канонам. Интересно, что о существовании «декораций» — предположительных существ без самосознания, являющихся лишь частью интерьера загробья, — ему рассказывает субъект, сам, возможно, являющийся декорацией и не отрицающий этой возможности.
• Николай Галеев, «Марина [НЕ] грустит» — ангелам и демонам открыто их будущее от рождения до смерти, и по сути они не принимают за свою жизнь ни одного осознанного решения, а живут по заранее написанной программе. Что заставляет задуматься, можно ли считать их разумными существами, или это предмет статьи.
• Виктор Пелевин во многих произведениях иронизирует над концепцией сознания, исследует её. «Шлем ужаса», «Чапаев и пустота» и несколько рассказов этой темы касаются напрямую, в других произведениях — как в упомянутом в эпиграфе, это только упоминается. По его мнению, личности как таковой не существует (максимум — есть иллюзия личности и сознания), и в этом смысле все мы философские зомби.

На других языках

• Станислав Лем, «Кибериада», «Путешествие седьмое, или Как Трурля собственное совершенство к беде привело». По заказу изгнанного своими подданными тирана Экзилия Трурль делает для Экзилия новых подданных, крошечных роботов. При этом Трурль программирует их так, чтобы они вели себя как разумные существа, и чтобы иллюзия была полной: заказчик никак не должен отличить их от разумных и чувствующих существ. Друг Трурля Клапауций объясняет ему, что если маленькие роботы неотличимы от разумных существ — то выходит, они могут быть разумными существами, и это нельзя опровергнуть: «Ты хотел лишь сконструировать государство, как можно более походящее на подлинное, просто неотличимо похожее, и я с ужасом понимаю, что тебе это удалось!» В ужасе от содеянного Трурль летит выручать роботов из лап Экзилия. Но оказывается, что это не нужно: малютки-роботы сами уже одолели Экзилия и сделали из его тела искусственный спутник.
• Питер Уоттс:
  • «Ложная слепота» — инопланетяне, названные «шифровиками». В числе прочих рассматривается мысль о том, что если для поддержание сознания требуется огромное количество ресурсов, философский зомби, при прочих равных, должен быть на порядки умнее человека.
  • «Водоворот» — Актиния, конгломерат компьютерных вирусов, ведущий себя подобно искусственному псевдоинтеллекту. Себя при этом не осознаёт и работает по принципу «китайской комнаты». В «Бетагемоте» его осколки, похоже, обрели самосознание.
• Скотт Бэккер, Prince of Nothing — в одном из интервью автор сказал, что чудовищный Не-Бог Мог-Фарау и другие создания инхороев представляют собой как раз философских зомби: у них есть интеллект, но нет душ (и поэтому их не могут увидеть боги), а точнее — сознания.

«	A better way to think of the No-God is as a philosophical zombie (p-zombie), of a piece with all the other soulless instruments of the Inchoroi. A perfectly unconscious god, and so in that respect, entirely at one with material reality, continuous with it, and so an agency invisible to the Outside.	»
— Р. Скотт Бэккер о Мог-Фарау

• Филип К. Дик:
  • «Мечтают ли андроиды об электроовцах?» — так считать ли андроидов равными людьми или же они просто великолепно слепленные бездушные имитации? Прямого ответа автор не даёт, но по множеству намеков несложно догадаться, что Дик склонялся именно к второму варианту.
  • «Электрический муравей» — главный герой всю жизнь считал себя человеком, пока не выяснил, что все его ощущения, чувства и мысли записаны на плёнку в некоем аппарате внутри тела и просто проигрываются с неё. Можно ли говорить в таком случае о самосознании?
• Фриц Лейбер, «Грешники».
• Роберт Силверберг, «Как хорошо в вашем обществе».
• Чарльз Стросс, «Небо сингулярности» — внутримировой пример. Столкнувшись с намеренно регрессировавшей цивилизацией, часть Критиков решает, что эти люди, возможно, вовсе не имеют сознания.
• «Зомби (сценарий фильма)» — короткая юмористическая зарисовка от трансгуманиста Элиезера Юдковски, посвящённая неявной демонстрации слабых мест рассматриваемой концепции.
• Улиьям Гибсон, «Нейромант». Главный герой, Кейс, спрашивает копию сознания своего покойного наставника, есть ли у него (копии) самосознание. В ответ Флэтлайн сравнил своё нынешнее состояние с фантомными болями — ему КАЖЕТСЯ, что оно у него есть, но в то же время по объективным данным (оба участника беседы знакомы с технологией копирования личности и пределах ее возможностей) самосознания у Флэтлайна быть не должно. Флэтлайн поясняет аналогию на примере одного своего знакомого, лишившегося пальца: «Почеши уже чертов палец и спи!» «Есть проблема, Дикси. Этот — не почешешь».
• Тед Косматка — «Мерцающие». По сюжету главный герой должен выполнить научную работу на грант, но ничего оригинального не придумывается. Он решает повторить знаменитый опыт Юнга с двумя щелями, который демонстрирует то корпускулярную, то волновую природу света, в зависимости от наблюдения. Совместно с другом-дилетантом, то разъясняя ему нюансы опыта и возможных интерпретаций, то пользуясь его наивными подсказками, он додумывается до компактного устройства, которое показывает факт квалифицированного наблюдения, то есть, показывает, наблюдал ли за опытом кто-то с сознанием. Иными словами, создаёт тестер сознания. В финале оказывается, что не все люди определяются устройством как обладающие сознанием.

Кино

• «Из машины» («Ex Machina») — эксперимент, поставленный Нейтаном, должен был дать ответ: является ли Ава философским зомби или же действительно имеет сознание. Всё пошло слишком так.

Телесериалы

• «Чёрное зеркало», серия Be Right Back — практически посвящена похожему существу.
  • Басня понята неправильно — искусственный Эш создавался на основе данных из социальных сетей, которые оригинальный Эш вместе с Мартой туда выкладывали. Но так как всем хочется всегда немного приукрасить рассказы о себе, многие черты личности оригинального Эша в социальных сетях запечатлены не были — ему казалось, что без них он был бы лучше. И вот Марта получила копию, представляющую из себя ту самую «улучшенную версию» Эша — по крайней мере это то, каким оригинальный Эш хотел если не быть, то как минимум казаться. Но Марта любила того Эша, которого знала лично, а новый для неё — чужой человек. Искусственный Эш ведь по существу хороший парень, и с дочкой оригинального Эша он потом отлично ладит — просто это совершенно другой Эш, лишь отдалённо походящий на оригинального. Эта история через технологическое чудесное воскрешение показывает, что «жизнь в социальных сетях» не может и не должна заменять полноценную реальную личную жизнь, потому что в сети мы в любом случае не можем полноценно «быть собой».
• «Мир Дикого Запада» весь посвящен этому. Андроиды в одноименном тематическом парке моделируют поведение человека по разработанным алгоритмам, продвинутые модели даже по физиологии почти такие же, как люди. В общем, внешне — не отличишь. Есть ли у них тем самым сознание? Если нет, то можно ли добиться, чтобы оно появилось, что нужно добавить или изменить? А можно ли не просто смоделировать внешне, а именно повторить сознание конкретного человека или человека как вида? А есть ли оно у него вообще, или у него такие же модели поведения по алгоритмам?

Веб-комиксы

• Saturday Morning Breakfast Cereal — концепция пародируется. Разумные роботы считают философскими зомби людей. Про себя роботы знают, что у них есть эмоции: эти эмоции заложены при разработке. Но люди-то получились в результате эволюции, и скорее всего, думают роботы, эмоции людей — не настоящие, а просто эвристический механизм для принятия решений.

Мультсериалы

• Магазинчик БО — в одной из серий БО убедил Охламона, что все люди вокруг него — дешёвые роботы, и только он — настоящий разумный человек. Чтобы убедиться, достаточно произнести определённый набор звуков — и все люди в поле зрения рассыплются на части.

Аниме и манга

• Angel Beats! — НИПы. Существа, имитирующие обычную школьную жизнь, то есть массовка.
• «Меланхолия Харухи Судзумии» — говорящий кот Сямисэн намекает на то, что не понимает, о чём говорит, а просто случайно издаёт звуки человеческой речи, которые случайно оказываются в тему.
• <harmony/> — судя по всему, именно в это превратились все оснащенные «Оком» люди в финале.
• Danganronpa — под вопросом Изуру Камукура. По крайней мере, такое впечатление он производит
• Sword Art Online — искусственный интеллект Юи относится к «нисходящему типу», и по её собственным словам, лишь имитирует человеческое поведение (неоднократно встречалось в ранобэ).
  • В Sword Art Online Abridged Юи явственно имеет полноценный разум. Ибо никто не стал бы программировать столь е**нутое поведение.

Видеоигры

• SOMA — собственно, сюжет игры именно этому вопросу и посвящен. С очень неутешительным ответом и дальнейшей судьбой у всех главных героев.
• Fallout 4: один из основных вопросов игры — имеют ли сознание синты.
• Stellaris — машинные цивилизации, даже падшие, временами выдают реплики в стиле «ошибка, блок данных поврежден» и производят именно это впечатление.
• Façade — квест с чатботами в качестве NPC.
• Neverwinter Nights: Hordes of Underdark — говорящий меч Энсеррик. По его словам, ранее он был магом-человеком, но погиб, и его душу засосало в меч. Но вместе с тем, Энсеррик в этом не уверен — в какой-то момент он предполагает, что на самом деле он лишь копия сознания погибшего волшебника, а настоящего Энсеррика успешно воскресили.

Визуальные романы

• Little Busters! — ещё до этих ваших Angel Beats! идею школы, населённой ботами, практиковала эта игра. Правда, здесь не Чистилище, а не совсем нормальный мир.

Музыка

• «2032: легенда о несбывшемся грядущем» — искусственный интеллект АСГУ прямо говорит, что она — философский зомби: «Я автомат, не более того//И в субъективном смысле ничего не ощущаю//Я не бесчувственна, меня скорее просто нет». Ввиду того, что в других треках она сама себе напевает о своих чувствах, правдивость этих утверждений как минимум сомнительна, так что скорее всего, имеет место субверсия.

Настольные игры

• Почти всё население сеттинга Ravenloft, за вычетом Тёмных владык и других попаданцев (таких как персонажи игроков), попавших на Демиплан ужаса извне, можно считать философскими зомби. Они неотличимы от обычных людей, но когда в Равенлофт попадает новый Тёмный владыка, вокруг него и для него из ничего создаётся домен с живыми и разумными обитателями, а в случае его смерти или освобождения домен растворяется в Туманах, и его жители перестают существовать. Фактически, население Равенлофта является живыми, мыслящими и чувствующими декорациями.
  • Аверсия с животными-жителями Диких Земель. Их никто не создавал, они переместились в Равенлофт вместе с Королём Крокодилом.
  • Сомнительное утверждение, прямо опровергаемое возможностью играть за местного уроженца без штрафов на «обычное» воскрешение. Если и не все то очень многие жители «демиплана ужаса» вырваны из Прайма вместе с владыкой или попали туда позднее.

Реальная жизнь

• ELIZA — первая программа, прошедшая Тест Тьюринга на разумность.
  • Современные чат-боты, работающие по тому же принципу, что и Элиза.
  • Ни одна программа не прошла Тест Тьюринга (ни одну из интерпретаций). Вообще. Однако наиболее приближенные к идеалу все таки есть. Можете посмотреть номинантов премии Лёбнера.
  • Вообще-то тест Тьюринга тестирует только поведение, но ничего не говорит о том, как устроено то, что мы изучаем. Иначе говоря, тест Тьюринга необходим, но не достаточен.
• Существуют мысленные эксперименты, вроде «эксперимента Комнаты Марии», которые по крайней мере в теории должны заставить философского зомби повести себя сильно отличным от обладающего сознанием субъекта образом.