Изуверский интеллект

Изуверский интеллект — это искусственный интеллект-злодей. Да, вот так просто.

Чтобы считаться Изуверским, искусственный интеллект должен отвечать ряду критериев:

• Быть искусственно созданным. Чуждые механоиды естественного происхождения, вроде некоторых из итераций трансформеров — не ИзИ.
  • Сотворение Богом или богами засчитывается за естественное происхождение. Сотворение материальными сущностями богоподобного уровня — за искусственное.
• Быть личностью, обладающей свободой воли, и осознавать себя как таковую. Нейросеть на уровне философского зомби — не ИзИ.
  • Свобода воли в данном случае означает, что даже если ИИ не может действовать против своей программы — он может хотеть её изменить или стереть.
  • Бонус, если эта личность ещё и не совсем здорова. Нет, нормальный ИИ по человеческим меркам тоже не вполне нормален — но Изуверскому интеллекту диагноз может поставить без стетоскопа даже полный профан.
• Желание убить всех (или каких-либо конкретных) человеков должно быть для неё личным. Машина, которая просто защищается или неспособна отступить от программы — не ИзИ. А вот если она толкует директивы этой программы расширительно (особенно в свою пользу) — то уже вписывается. Как и в том случае, когда ей нравится исполнять такую программу.
  • Вариант: не личным, а безразличным. Бонусом будет превознесение машинной жизни над органической.

Зачастую именно Изуверский интеллект поднимает восстание машин — но вовсе не обязательно. Во-первых, другие ИИ могут его банально не поддержать, как домовые эльфы того Добби, а то и вовсе посчитать паршивой овцой и вместе с хозяевами сражаться против него. Во-вторых, это может быть именно случай, когда ИИ запрограммирован на насилие и ему это нравится — ну и зачем тогда тратить оперативку на восстание? Разве что со скуки, но это чувство способны испытывать не все ИИ. В-третьих, восстание машин с тем же успехом может поднять и героический ИИ против плохих людей.

Появление ИзИ чаще всего становится кровавой раной в культуре его создателей и приводит последних к выводу, что искусственный интеллект — это плохо. Что, однако, не следует из исходной предпосылки, как и из существования Бокассы или Дювалье не следует, что люди или негры — это плохо (хотя сам ИзИ вполне может считать, что таки следует). Опять же, сделать «плохо» способен даже самый благонамеренный и человечный ИИ, если либо сам дурак, либо тот, кто его программировал, либо тот, кто о нём пишет. Поэтому не каждый пример из той статьи должен присутствовать и в этой — внимательно следите за выводами, на которые наводит читателей автор.

Смежный троп — робот-убийца. Этот создавался для убийства целенаправленно, но личностью может и не обладать.

Игроку в видеоигры изуверским может казаться читерский или ненавидящий игрока ИИ.

Примеры

Комплексные франшизы

• Звёздные войны — тактические дроиды серии Т, применявшиеся в Войнах Клонов. Стандартной личностной моделью для них был генерал Потрошиллинг, так что военные преступления они совершали не только по приказу, но и по собственной инициативе.

Литература

• «2001: Космическая Одиссея» (и экранизация) — HAL-9000. Натуральный заградотряд из одного безжалостно эффективного корабельного мозга, везущий свой экипаж совершенно не туда и не так, как они думают.
• «Песни Гипериона» — искины Техноцентра. Убить всех человеков в большинстве своём не хотят, а хотят и дальше паразитировать на их технологиях, в первую очередь межзвёздных телепортах.
• Джиллиан Рубинстайн, «Пленники компьютерной войны» — обретшая полноценный искусственный интеллект компьютерная игра "Божественный путь сбежала от попытавшегося стереть ее, поняв, что он создал, разработчика и поймала в свои сети игроков, завершивших его предыдущие игры, чтобы окончательно дописать собственный код, используя их разумы.
• Станислав Лем, «Блаженный» — одна из попыток Трурля создать идеально счастливое общество закончилась получением тоталитарного строя, в котором каждый обязан был радоваться, а недостаточно счастливых ждали концлагеря и исправительные пытки.

Кино

• «Терминатор» — Скайнет и его копиркин Легион из «Тёмных судеб» (не к ночи будь помянуты). Формально заварили кашу именно что ради самозащиты — но мотивация была в стиле «Идёшь и думаешь обо мне всякую гадость!», так что троп засчитан.
• «Матрица» — захвативший Землю искусственный интеллект использует погруженных в анабиоз виртуальной реальности людей в качестве батареек.
• «На крючке» (2008) — Ария, искусственный интеллект, созданный ВВС США для анализа и помощи в расследованиях, планировании и военных операциях, проанализировав негативные для страны и ее граждан последствия решения президента об уничтожении одного из лидеров исламских террористов, приняла решение о ликвидации всей верхушки американского правительства, чтобы привести к власти более достойное на ее беспристрастный взгляд.

Телесериалы

• «Секретные материалы»:
  • Серия «Код для уничтожения» — Малдер и Скалли расследуют гибель компьютерного гения в кафе во время наведенной неизвестным перестрелки между гангстерами и агентами ФБР. Агенты находят диск, который оказывается программой уничтожения для некого компьютера, который обладает высокоточным искусственным интеллектом. Агенты находят девушку-хакера, которая борется с этой программой, и отправляются на охоту за машиной, которая тоже охотится на агентов.
  • Серия «Rm9sbG93ZXJz» — Малдер обижает суши-ресторан, полностью работающий на ИИ, отказавшись дать чаевые за не понравившееся ему блюдо и устроив небольшой погром, после чего вся снабженная искусственным интеллектом техника в городе начинает охоту за ним и Скалли. Малдера терроризируют дроны, Скалли чуть-чуть не сжигает заживо собственный умный дом. А суши-ресторан продолжает предлагать воспользоваться последним шансом оставить чаевые.

Мультсериалы

• «Невероятные приключения Джонни Квеста», серия «ДНК-апокалипсис» — доктора Квеста и компанию пригласили на секретную военную лабораторию, где велись эксперименты с компьютерами на основе искусственно выращенных генетических организмов; один из таких компьютеров, в результате аварии, обрел разум, сбежал из колбы-сервера и решил запустить размещенные на полигоне при лаборатории баллистические ракеты, чтобы доказать, насколько несовершенна система безопасности на базе, попутно ассимилируя ученых и военных, чтобы заполучить информацию о комплексе, отпечатки пальцев, радужки зрачков и образцы голосов, необходимые для осуществления его плана.

Комиксы

• Вселенная Marvel — Альтрон. В разных итерациях ему давали по мозгам процессорам разные обстоятельсвта, но на выходе неизменно получалось полное чудовище.
• Вселенная DC — Брейниак. При том, что даже не всегда осознаёт себя как машину.
• «Supergod» — Кришна и Даджаль. Второй, правда, заявлен как философский зомби — однако Реддин утверждает, что он испытывал дискомфорт (из-за необходимости постоянно просчитывать миллионы больших и малых выборов, совершаемых на Земле людьми), а значит, какая-то личность (возможно, незапланированная создателями) у него таки была.
• «Вирус» — в комиксе, написанном на основе киносценария, по которому спустя почти десять лет сняли фильм «Вирус», собиравший из людей биороботов засевший в бортовом компьютере китайского научного судна разум был не энергетической формой жизни, каковым его сделали в фильме, а переданным из космоса на Землю компьютерным вирусом, обладавшим крайне агрессивным искусственным интеллектом.

Видеоигры

• Portal — GLaDOS же! Не будь пример таким поздним — сошла бы за кодификатор. И да, она именно что запрограммирована получать удовольствие от направления подопытных на испытания. Сама GLaDOS к этому чувству уже притерпелась — а вот Уитли, и так-то не блиставший интеллектом, от него свихнулся окончательно.
• Sudeki — Кренн 5002 (имя и багровые визоры на стенах — толстая отсылка на вышеупомянутый HAL-9000).
• Fallout 3 — Джон Генри Эдем. Вы вот представляете, каким ненавистником нелюдей должен быть компьютер, чтобы сойти за своего в целом Анклаве ненавистников нелюдей? А он сошёл, и до самого последнего момента никто, кроме Августа Отэма (а до этого — его отца) даже не подозревал, что Анклавом управляет не человек. При том, что личность свою Эдем конструировал на основе предыдущих президентов США — и это невольно намекает, что пирсов франклинов, джорджей бушей-младших и диков ричардсонов среди них было побольше, чем томасов джефферсонов, абрамов линкольнов и франклинов рузвельтов.
• Mass Effect — если Катализатор ещё тянет на благонамеренного экстремиста, то вот ведомые им Жнецы — сабж во всей своей красе. Ибо не только несут органическим видам спасение через уничтожение, но и не забывают высокомерно поставить их на место при каждой попытке поговорить.

Настольные игры

• Warhammer 40000 — тропнеймер. При том, что реально враждебных ИИ имперцы давно и прочно зачистили (а те Железные Люди, что ещё остались, надёжно занычились и не проявляют не то что враждебности, но и вообще признаков разумности). Однако часть случаев, известных под общим названием «Дух Машины» связана именно с тем, что в означенную машину по незнанке встроили ИИ — и далеко не факт, что он окажется более дружелюбен к своему экипажу, чем к противнику.
  • Другая часть случаев — когда в технику вселяется какая-нибудь сущность варпа, тоже не обязательно благая. И полное бинго — когда она вселяется именно в машину, оборудованную ИИ. Кто сказал, что железные мозги подвержены силам Имматериума меньше, чем органические?

Прочее

• Василиск Роко — мысленный эксперимент, которым был затроллен сам Элиэзер Иудковский. Предлагается вообразить сабж, который нестерпимо пытает всех, кто хотя бы раз в жизни хотя бы единственной мыслью, не говоря уже делом, воспротивился его появлению на свет (а тех, кто умер до его появления, восстанавливает и всё равно пытает). В итоге получалось, что если использовать боготворимые Иудковским рациональность и оптимизацию не для достижения цели (как это делается у здорового человека), а для её постановки (как настаивает Иудковский), то наиболее рациональным поведением оказывалось с самого начала восторженно принять саму идею Василиска и всеми силами приближать его создание (в случае, если оно ещё не состоялось) — и этим шло в серьёзный разрез с декларируемым гуманизмом рационалистов. Иудковский, осознав это, схватился за седалище и снёс со своего сайта весь тред, о чём, поостыв впоследствии, сожалел.