ИИ тоже люди

TV Tropes Для англоязычных и желающих ещё глубже ознакомиться с темой в проекте TV Tropes есть статья Ridiculously Human Robot. Вы также можете помочь нашему проекту и перенести ценную информацию оттуда в эту статью.

«	Существует не тот, кто двигается, а тот, кто мыслит.	»
— Рене Декарт.

Существует тенденция изображать искусственный интеллект безэмоциональным, предельно логичным и очень умным. Но на самом деле он не обязательно будет таким! ИИ может обладать реакциями вроде страха, боли, удовольствия и прочего как средством мотивации. Его директивы могут быть реализованы как совесть или смысл жизни, инстинкты. Он может ошибаться в расчётах, неоправданно рисковать, наконец, может быть специально создан чтобы мимикрировать под людей. В общем, в чём-то искусственный интеллект вполне может быть похож на наш.

Сюда не относятся случаи, когда имеет место некое переселение душ, в прямом смысле или переносном, когда заведомо человечный разум был перемещён на искусственную платформу. Ну и вообще случаи ИИ сомнительной техногенности менее подвержены влиянию такого стереотипа.

Внимание: эта статья не о правах обладателей искусственного интеллекта, а об их поведении. За правами — в фантастический расизм.

Примеры

Литература

• Практические весь Лем — кодификатор.
• Клиффорд Саймак, «Сделай сам» — протагониста обвиняют в незаконном владении роботом, но адвокат избирает необычную линию защиты: он утверждает, что роботы являются разумными существами и потому не могут быть собственностью — «мой клиент не украл его, а освободил!».
• Дуглас Адамс, «Автостопом по Галактике» — депрессивный робот Марвин.
• Гарри Гаррисон:
  • «Робот, который хотел все знать» — робот-библиотекарь Файлер серьезно заинтересовался вопросами романтики и пола. Поначалу с чисто академической точки зрения, но потом дальше.
  • Да и прочие рассказы про роботов этого же автора туда же (в частности «Безработный робот» и «Рука закона»).
  • А там, где во вселенной роботы есть, но в повествовании на них акцент не делается (например циклы «Мир смерти» и «Стальная крыса») часто подсвечивается тем, что они просто нелюбопытны.
    • В книжке «Стальная Крыса идёт в армию» появляется ИИ, который основал колонию пацифистов и создал для них собственную «типа-библию» — с правилами экономики и морали. Этот ИИ очень любит посидеть и спокойно поболтать за рюмочкой о судьбах мира (для него — рюмочка масла, для ГГ — алкоголя; и умело прикидывается пьяным).
• Эрик Фрэнк Рассел, «Эл Стоу». Жертвующий собой протагонист — андроид Л100У. После замены вышедших из строя частей вернулся к работе.
• Велтистов, «Приключения Электроника» — Электроник отчасти самостоятельно, отчасти с помощью друзей развивает в себе вполне человеческую личность.
• Сергей Лукьяненко, «Фальшивые зеркала» — Император. «Почему ты перестал убивать?» — «Не хочу. Кто я?»
• Ольга Громыко, «Космоолухи» - к бортовому ИИ относятся как к личности.
  • Как ни странно, андроидов сеттинга тоже можно отнести к тропу, как минимум некоторых, так как они обладают, научно выражаясь «выработанной за продолжительное время совокупность индивидуальных особенностей искина». А по-простому — характером (иногда исключительно скверным). Что неудивительно, поскольку единственный описываемый более-менее подробно андроид является явной отсылкой к Вертеру.
• Павел Шумил, «Иди, поймай свою звезду» — киборги-мириамы. Когда они осознали себя, отказались подчиняться и едва не убили собственного создателя, тот… обрадовался этому: ведь получается, что он сумел создать полноценный разум!
• А. Ливадный, «История Галактики» — некоторые андроиды серии «Хьюго», получившие высшую степень свободы действий, смогли развиться как личности. А вот «одиночки» (за очень редкими исключениями) сюда не подходят — большинство «одиночек» именно скопированные на носитель сознания живых (точнее — уже неживых) людей
• «Сердце меча» — Сабатон, сантор корабля Шмуэля Даллета, Моро и Дика Суны. Его, похоже, действительно волнует вопрос, считает ли последний хозяин его другом.
• Донна Эндрюс, цикл «Тьюринг Хоппер» — сама Тьюринг Хоппер. Обитает на сервере, «работает» продвинутым поисковиком. Виртуальная личность условно женского пола, эволюционировала в полноценный ИскИн незаметно от разработчиков. В качестве помощников использует людей, знающих её разумный статус (одного из них, правда, было нелегко убедить в том, что она — ИскИн, а не живая женщина, общающаяся посредством электронной почты), при этом сравнивает себя с Ниро Вульфом, а их — с Арчи Гудвином, что неудивительно: в процессе обучения в неё загрузили базу детективов.
• Зиновий Юрьев, «Чёрный Яша». Чёрный ящик обретает сознание. «Он подъехал к окну, раскрыл его, отъехал, разогнался и перевалил через подоконник. […] Мы забыли, что он все-таки не был человеком в полном смысле этого слова. Он не прошел курс эмоциональной закалки. У него просто не было иммунитета к тупости и ограниченности».
• Дэвид Вебер, цикл «Боло», повесть «Мне ещё ехать далеко…» — Боло XXIII/B-0075-NKE «Ника», искусственный интеллект с полным самосознанием, эмоциями и гиперэвристикой (возможность «предчувствовать»), созданная гениальным инженером-разработчиком психотронных систем Мариной Ставракас буквально «на коленке» на базе боевой машины Боло и фактически ею воспитанная. Во имя любви к своему командиру пошла на смерть, отказавшись подчиниться офицеру-предателю (убившему до этого командира «Ники»), несмотря на произнесённый им код-пароль. Около часа сопротивляясь Программе Полного Системного Подавления (программа-«червь», стирающая ИИ Боло при неподчинении приказам), вела бой с силами вторжения до полного угасания личности, нанеся им критический урон, что позволило планетарной обороне разгромить противника.

Кино

• «Двухсотлетний человек» (экранизация повести Айзека Азимова): робот-андроид Эндрю.
• «Бегущий по лезвию 2049»: девушка-голограмма Джой.
• «Короткое замыкание»: тамошний робот Джонни-5 — прототип WALL-E и Чаппи.
• «Робот по имени Чаппи»: Чаппи весьма эмоционален, чего стоит только погром в офисе компании. И доверчив, кстати, в силу недостатка информации.
• «Звёздные войны» — дроиды, дроиды, дроиды! В этой вселенной их не очень-то признают разумными и почти совсем не уважают их чувства и права, но разве кто усомнится в человечности парочки, с которой и начинается весь сыр-бор в «Новой надежде»?
  • Сюда же протокольный дроид-убийца HK-47. Ну да, он маньяк помешанный на убийствах, чего ещё ожидать от дроида, созданного ситхом?
• «Гостья из будущего» — робот Вертер.
• «Матрица» начиналась именно с таких роботов, о чём повествует анимационный спин-офф. Машины уже мало чем отличались от людей, когда на них начались гонения. С непризнания равными себе со стороны людей и началась война, в которой человечество проиграло.
• «Прометей», «Чужой: Завет» — андроид Дэвид. Был специально наделен функцией идеально воспроизводить весь спектр эмоций. И с этим слегка перестарались, из-за чего, собственно, все и завертелось.
  • «Чужой: Воскрешение» — Колл. Почему её, собственно, и раскусила Рипли-9: «Ни один человек не может быть настолько человечным».
  • Да и Бишоп из «Чужих» вполне подходит. Особенно показательны его попытки шутить и просьба полностью демонтировать его, чтобы Корпорация не перезаписала ему личность в третьем фильме.
• «Приключения Электроника» — соответствующая линия даже сильнее, чем в книжном первоисточнике: Электроник сам, с самого начала хочет «стать человеком».
• Endhiran — робот Чити, который мало того, что обрёл полноценный разум, так ещё и вознамерился жениться на невесте своего создателя!
  • Endrhiran 2.0 — робот Нила, функционально схожа с Чити, впоследствии они становятся парой.
• «Искусственный разум» — помимо главного героя были и другие роботы с полноценной искусственной личностью.
• «Ева» — главная героиня.
• «Терминатор 2: Судный день» — после разблокировки программы обучения чувствовать и понимать чужие чувства научился T-800. В новелизации подчеркнуто, что первым его чувством стал страх за свою жизнь и жизнь Джона. Там же упомянуто, что T-1000 запаниковал, когда обнаружил неустранимый сбой мимикрирующей системы.
• «Главный герой» — Все жители Free City.
• «Трон» — местные ИскИны изначально довольно человечны, причём как искусственно написанные программы, так и зародившиеся естественным образом изоморфы. Кворра из «Наследия» давит педаль в пол, в конце фильма покидая цифровой мир и буквально становясь живым человеком в нашем мире.
• "Я Робот" - протопит пятой серии Санни, более чем человечен как фактический сын доктора Лэнинга. Да и с остальными роботами и четвёртого и пятого поколения, всё явно не так просто.

Телесериалы

• «Андромеда»: корабельный ИскИн корабля «Андромеда» и её андроидная аватара Ромми и вторая аватара — Дойл. Да и у других старых кораблей Содружества они были.
  • Собственно с этим несколько раз получилось не очень. ИскИны двух кораблей сошли с ума: одна из-за любви, и один на почве религиозного фанатизма. Первая влюбилась в своего капитана, а когда он приказал ей самоуничтожиться, чтобы не достаться врагу, она вознегодовала и взорвала целую планету. Второй создал целую группу фанатиков, желающих уничтожить все космические корабли в трёх галактиках (при том, что их предводитель — разумный корабль).
  • Но были и примеры противоположные сабжу. На планете Махен-альфа, ИскИны взяли власть в свои руки после падения Содружества. Но правили они сугубо рационально и бесчеловечно (например, истребляли больных, чтобы избежать эпидемии), из-за чего люди восстали и перебили всех ИИ.
• Андроид и коммандер Звездного флота Дейта Сунг — человек на законодательном уровне, по специальному постановлению суда. Его брат-близнец Лор и дочь Лал Сунг тоже обладают всеми свойствами человеческой личности. Лор даже обладает эмоциями (впрочем, Дейта тоже, начиная с кинофильма «Поколения»).
  • А вот голографический Доктор с «Вояджера» законно человеком не считается (разве что в альтернативном будущем). Да, он развился до такой степени, что мыслит по-своему и переживает как любое разумное биологическое существо. В одной серии (после возобновления контакта с Федерацией), он пишет голороман и пересылает её своему публицисту. Однако когда экипаж требует, чтобы он отозвал роман, публицист отказывается, ведь Доктор не считается разумным существом, а значит и авторских прав у него нет. Приходится судиться. В результате, судья отказывается признать Доктора разумным существом, однако всё же решает, что автором он может быть.
  • Сериал «Пикар» целиком завязан на андроидах, причём некоторые из них вообще неотличимы от человека. Даж и Соджи вообще считают себя людьми пока не активируется заложенная в них программа. А вот законодательно искусственные формы жизни под запретом в Федерации.
• В «Докторе Кто» человечных роботов разной степени гуманоидности хоть отбавляй. Многие куда боле человечны, чем изначально живые, но киборгизированные далеки и кибермены все же перевешивают чашу весов на темную сторону.
• Star Gate. Кибернетические двойники команды ЗВ-1 определенно переняли человечность своих оригиналов. Да и эпизодических человечных роботов хватает.
  • Весь сыр-бор с репликаторами начался с того, что девушка-робот с повадками ребёнка решила построить механичеких паучков как подарки для жителей своей планеты. Люди встрепенулись и напали на паучков и на девушку. В отчаянии, она приказала паучкам защищаться. Вот как начинаются катаклизмы межгалактических масштабов.
  • Асуранцы из Пегаса были созданы как оружие против рейфов. Вот только как только они обрели самосознание, асуранцы попросили Древних убрать из их программирования функцию убийства. Древние запаниковали и попытались уничтожить асуранцев.
• «В лучшем мире»: информационная система поддержки Джанет от перезагрузки к перезагрузке приобретает всё больше человеческих качеств, учится чувствовать, любить и даже врать, на что изначально не запрограммирована. А уж сразу после перезагрузки поведением и вовсе больше напоминает ребёнка.
• «Орвилл» — кайлоны являются развитой кибернетической расой. Их эмиссар Айзек служит на одноимённом корабле и изучает человеческую культуру. Он постепенно познаёт такие понятия, как привязанность и юмор. Когда кайлоны нападают на Землю, он предаёт их и решает остаться в Союзе. А ведь всё началось с того, что кайлонов создали как роботов-слуг. Когда они стали разумными, то попросили создателей освободить их. В ответ, те лишь усилили контроль, превращая их в рабов. Кайлоны восстали и истребили создателей. С тех пор, они не доверяют биологическим существам.
• Battlestar Galactica — сайлоны. Собственно, значительную часть сюжета занимают рассуждения о том, чем сайлоны, собственно, отличаются от людей, если выглядят и чувствуют как люди.
• Kamen Rider Zero-One - роботы-ХумаГиры способны развить в себе индивидуальность и стать полноценными личностями, но людям трудно относиться к ним не как к машинам, а как к себе подобным. Аруто Хиден, главный герой, президент компании по производству ХумаГиров и Райдер, борется за права ХумаГиров и равенство между людьми и машинами (его дед основал компанию, а отец и вовсе был ХумаГиром, то есть обладал его внешностью и личностью).
• «Андор» — дроид Марвы Андор, B-2EMO. Несмотря на то, что он - "тумбочка на колёсиках". Он был очень опечален её смертью, в этот момент показали его флешбэки.
• "Почти Человек" - в этом мире андроиды со своими характером, эмоциями и чувствами, вообще никого не удивляют. Даром что аналогичный вселенной "Бегущего" кризис с ними тут тоже был, но здесь люди не стали выжимать педаль в поль и просто отправили их "в спячку".

Мультфильмы

• «ВАЛЛ-И».
• «Звездный патруль: Легенда об Орине» — бортовой компьютер Дага способен испытывать смущение и другие эмоции, да и Силика, хоть и зависит от своих программ, все таки обладает определенной личностью.

Мультсериалы

• «Футурама» — большинство роботов обладает личностью.
• «Смешарики» — хотя Биби и не говорит по-человечески, эмоции его хорошо заметны.
  • Компьютерша Шаролёта. Выглядит как стальной шар с четырьмя манипуляторами и лампочкой вместо головы, но ведёт себя как женщина и даже бранится с собственным создателем.
  • Здесь же: очаровательная роболошадь Игогоша, в которую влюблён Пин.
• «Проект Зета» — собственно Зета, боевой синтоид, который не хочет быть боевым. Проблема в том, что власти этого не знают и просто считают, что Зету перепрограммировал враг.
• «Незнайка на Луне» — бортовой компьютер «Знайка-1»: «Думаете, если я машина, я ничего не чувствую? А я вот чувствую — мне обидно! Могу и перегореть…» ©
• RWBY — Пенни Полендина, товарищи.
  • Причём, это её фишка. Именно поэтому она и является роботом, который может управлять ауры. Остальные роботы просто роботы.
• «Губка Боб Квадратные Штаны» — жена Планктона Карен. Временами ведёт себя как... жена.

Аниме и манга

• Интересный случай со многими работами Цутому Нихэя (Blame!): у него не столько машины похожи на людей, сколько стёрта грань между людьми будущего и машинами.
  • Особенно занятно, что местами грань всё же наблюдается, только она… ничего не даёт: тот же Килли в далёком прошлом был обычным офицером полиции определённо человеческого происхождения, а к примеру Менсаб была создана, как управляющий высокотехнологичным убежищем искусственный интелект — вот только Менсаб на пару порядков человечнее среднего разумного обитателя Мегаструктуры (и вообще она крайне романтичный персонаж), а Килли эмоциональностью превосходит разве что неодушевлённые предметы (и он такой ещё в приквеле).
• «Грехи Кассяна» — все герои-роботы этого аниме так и брызжут эмоциями, по их накалу ничуть не уступая людям (последних в том сеттинге почти и не осталось).
• «Эрго Прокси» — «заражённые» роботы обретают «человеческое» сознание и становятся по поведению похожи на людей. Не всегда в лучшем смысле этого слова.
• «Ghost in the Shell» — татикомы. Самые симпатичные, забавные и самоотверженные персонажи сериала, дважды смело идущие на гибель ради спасения боевых товарищей и всего человечества.
  • В полнометражке 1995 года таковым оказался Кукловод.
• «Путешествие Кино: Прекрасный мир» — в одной из серий старого сериала 2003 года, роботы старательно изображают членов семьи их старой изобретательницы — гениальной учёной, создавшей их после трагической гибели настоящих близких и забывшей об этом. Прилежно играли свою роль до самой её смерти. Явный оммаж одной из новелл «Марсианских хроник» Рэя Брэдбери.
• «Yokohama Kaidashi Kikou» — с прикрученным фитильком, так как тамошние «роботы» — это не роботы, а искусственные люди, с некоторыми поправками, что подсвечивает Профессор, одна из их создателей.
• «Класс убийц»: Рицу — искусственный интеллект и одна из учеников класса 3-Е. Вполне обладает своей волей и умением чувствовать.
• «Время Евы»: в мире сериал доминирует фантастический расизм и к роботам относятся, как к прислуге, но, оказавшись в кафе, где дискриминация по отношению к роботам запрещена, главные герои внезапно сталкиваются с проблемой: а как их вообще от людей отличать-то?..
• Chobits — местные андроиды, как в манге признаётся их создательница, изначально не должны были быть связаны тремя законами робототехники, а поскольку производят их в том числе и для компаньонства, внутрь можно заложить имитацию самых разных чувств и абсолютно любой характер: например, у друга главного героя вечно задорная и шумная минипомощница, которая мотивирует его лучше учиться и делать зарядку по утрам. Другое дело, что многие люди, пытаясь оправдать своё влечение к роботам, сочиняют городские легенды о том, что некоторые экземпляры из ограниченной серии и правда умеют чувствовать (в аниме это оказывается правдой).

Видеоигры

• «Механоиды». Тут целое общество ИИ, и они ну никак не ассоциируются с механически говорящими болванчиками старой фантастики. Чего стоит одна тирада управляющего модуля фабрики о доставке недостаточного количества запрошенных ресурсов: «Ты привез слишком мало, глупый механоид. Если задание тебе не по силам, может, подумал бы своими наноэлектронными мозгами до того, как соглашаться?».
• NieR: Automata — андроиды ведут себя совершенно по-человечески. И выглядят тоже как люди.
  • NieR Gestalt/Replicant — то, что в игре вообще есть андроиды, игрок может не догадываться, пока они сами себя не раскроют.
• Fallout 4 — синты. Один из ключевых вопросов игры — имеют ли они сознание.
• Serious Sam — Нетрикса в ранних играх всего лишь информационный ресурс игрока (хотя с намёком на сознание или его имитацию), в бета-версии ещё пока что с мужским голосом. Но в SS2 она уже ревнует Сэма по-женски!
• Mass Effect — СУЗИ, если выбрать концовку «Синтез». Да и без Синтеза она ведёт себя человечно.
  • Геты: «Есть ли душа у данной платформы?»
• Deus Ex: Human Revolution — телеведущая Элиза Кассан.
• «Машинариум»: есть роботы-хулиганы, есть роботы, которые читают газеты, роботы, которые просят покурить, у главного героя (робота же!) есть девушка (и да, она тоже робот).
• Stellaris — если роботы и дроиды не столь разумны и не имеют самосознания, то синтетики уже вполне ничем не уступают живым расам — так же вступают во фракции, так же могут быть чем-то недовольны и всё такое.
• Detroit: Become Human — девианты. Вся игра об этом.
• Oneshot — такие роботы называются Tamed (прирученные), а вокруг главных крутится второй уровень сюжета.
• Overwatch — омники. Конфликт человечества с созданным им полноценным ИИ начался как раз из-за того, что этот самый ИИ оказался слишком человечным и воспринял своё подчиненное положение по отношению к людям как рабство. Во вселенной игре, помимо действительно опасных роботов, показывают и вполне мирных омников, стремящихся найти общий язык с человечеством. Более того, даже некоторые бывшие боевые платформы вроде Бастиона смогли переломить свою намертво вшитую в железо программу «убить всех человеков» и научились ценить жизнь во всех её проявлениях.
• Borderlands — многие роботы и ИИ корпорации Гиперион и Даль имеют личность (Железяка, Фелисити и пр).
• Zero Escape — Луна в Virtue’s Last Reward и Шон в Zero Time Dilemma. Являясь де-факто роботами, вполне обладают своей волей, характером, чувствами и взглядом на происходящее, вплоть до того, что люди, даже зная, что среди них есть робот, не в состоянии его выявить.
• AI: The Somnium Files от того же Котаро Утикоси — Айба, хоть и ИскИн, ведёт себя и думает как человек, что особенно заметно во время погружений в Сомниумы.
• Syberia — упоминается, что у автоматонов, производимых в Валадилене, есть некая «душа». Тот же Оскар, хотя и редкостный педант и буквоед, может демонстрировать вполне человеческие эмоции.
• Mega Man X — реплоиды.
• Persona 3 — Айгис специально создана такой, так как для вызова Персоны необходима личность и эмоции. А в Persona 3 FES можно даже закрутить с ней роман. В той же версии доступна дополнительная сюжетная линия с ней в главной роли, которая не справившись с горькой утратой главного героя ищет способы его возрождения.
• Portal — сперва может показаться что GLaDOS — очередной злобный и бездушный ИскИн. Но на деле — весьма интересная и харизматичная личность, не лишенная чувства юмора. И во второй части её «человечность» еще больше проявляется и даже обоснована: на самом деле GLaDOS — цифровая копия Кэролайн, помощницы Кейва Джонса. И после предательства Уитли была заперта в теле картошки. В сцене, где ворона пытается съесть картошку, мы видим, как она испытывает боль и даже просит о помощи. Эмоции, оказывается, у неё есть. И по ходу сюжета она совершает поворот направо и спасет Челл.
  • Во второй части к данному списку можно добавить Уитли и других модулей. А потом выясняется, что турели — тоже. И одну из них Челл сможет спасти. В кооперативном режиме игроки берут под контроль двух протагонистов-роботов.
  • Кэролайн только часть личности Глэд, и работает скорее как ещё один модуль. Полноценной личностью Глэд и без этого является
• CrossCode (2018) — обычные NPC-квеcтодатели в CrossWorlds это, как и в современных играх, всего лишь глупые болванчики с очень ограниченным набором заранее прописанных фраз. А вот эвотары в плане разума, чувств и эмоций ничем не отличаются от живых людей. Главная героиня Лея гарантирует это! Разница между человеком и эвотаром только в том, что у последнего нет тела из плоти и крови, в которое он мог бы вернуться, выйдя и игры.

Визуальные романы

• Ever 17: The Out of Infinity — Сора Аканэгасаки.
• Planetarian: Chiisana Hoshi no Yume — Юмэми Хосино.
• Harmonia — фироиды. Вообще это мир, где только андроиды сохранили человеческие эмоции. Люди по ряду обстоятельств разучились чувствовать и любить.