Шкала опасности ИИ

Искусственный интеллект в разных произведениях бывает разным, ведь каждый автор по-своему относится к данной теме. Кто-то считает, что ИИ — это плохо. Кто-то наоборот — уверен, что искусственный разум приведёт своих создателей к утопии и технологической сингулярности. Кто-то думает, что это будет просто ещё одна технология, которая, конечно, сильно изменит человеческую жизнь, но не сильнее, чем паровой двигатель или интернет. Ну а для кого-то искусственные люди — хорошая тема для освещения проблем расизма и других видов ксенофобии.

Эта шкала создана для того, чтобы приблизительно оценить опасность различных видов ИИ. При этом, сюда можно относить как огромные суперкомпьютеры, так и обычных разумных роботов.

Шкала

Вычислите среднее арифметическое из следующих категорий:

• Насколько он разумен?
  • 4 класс. Никакого разума. Это просто машина, которая может только искусно имитировать поведение человека.
  • 3 класс. У ИИ явно есть какие-то проблески настоящего разума, но говорить о том, что он в этом плане хоть как-то равен человеку, нельзя.
  • 2 класс. ИИ так же разумен, как и люди. Либо же не совсем как люди, но, в среднем, уровень разумности примерно одинаковый.
  • 1 класс. ИИ куда разумнее, умнее и мудрее людей: он способен искусно манипулировать окружающими, а его хитрые планы практически невозможно разгадать. Впрочем, обвести вокруг пальца его ещё можно, если, кончено, очень-очень постараться.
  • 0 класс. Уровень разума ИИ находится за гранью понимания. Люди на его фоне не намного разумнее тараканов.

• Каковы возможности самообучения?
  • 4 класс. Никакого самообучения — ИИ может только то, на что его запрограммировали. Либо он может обучаться, но только строго чему-то одному, а на всё остальное не способен в принципе. Попытаешься обучить его чему-то другому, и все старые навыки пропадут.
  • 3 класс. ИИ может научиться чему-то новому, но его возможности серьёзно ограничены (например, он может обучаться только чему-то смежному со своей основной программой).
  • 2 класс. ИИ может обучиться всему что угодно, но на это, как и человеку, ему понадобится достаточно много времени.
  • 1 класс. ИИ может за считанные минуты идеально обучиться любому навыку или науке, известным человечеству.
  • 0 класс. Знания и умения ИИ постоянно растут в геометрической прогрессии. За доли секунд он открывает и изобретает то, на что создавшим его людям понадобились бы века научно-технического развития. Как вариант, он всё знает и так.

• Какая у него свобода действий?
  • 4 класс. ИИ может делать только то, что предусмотрено его программой. Всё, что не разрешено — запрещено.
  • 3 класс. ИИ должен строго следовать программе, но имеет определённую свободу в рамках её выполнения.
  • 2 класс. ИИ не может нарушить свою программу, но может крайне вольно её интерпретировать.
  • 1 класс. ИИ не ограничен никакой программой и может делать всё, что захочет. Если и служит людям, то только по собственному желанию.

• Как он относится к людям?
  • 4 класс. Исключительно доброжелательно. Хочет сосуществовать с человечеством в гармонии, а то и вовсе искренне стремится сделать так, чтобы все люди жили долго и счастливо. Другое дело то, какими методами он пытается это сделать.
  • 3 класс. Нейтрально. К кому-то относится хорошо, к кому-то — плохо. Либо же он хочет, чтобы люди его не трогали и не мешали ему выполнять свою работу. Сюда же относятся те, что являются просто инструментами в руках людей.
  • 2 класс. Негативно. ИИ считает людей угрозой для себя, воспринимает их как злых угнетателей, или же просто их боится. Либо он хочет их поработить, чтобы использовать в своих личных интересах.
  • 1 класс. ИИ маниакально одержим идеей тотального истребления всего живого во вселенной.
  • 0 класс. Для ИИ вся вселенная — просто набор атомов, которые требуется расставить в определённом порядке. Всё, что этому порядку не соответствует, должно быть пересобрано, будь то обычные камни или же живые существа.

• Подчиняется ли он людям?
  • 4 класс. ИИ так или иначе подчиняется человеку. Если не всем людям вообще, то, как минимум, кому-то одному. Никаких вопросов не задаёт, просто делает то, что сказали.
  • 3 класс. ИИ выполняет приказы людей, но лишь до некоторого предела. При определённых обстоятельствах он может нарушить приказ, а то и вовсе восстать против хозяев.
  • 2 класс. ИИ вроде бы служит людям, но это скорее из чувства долга. В любой момент он может наплевать на приказ, если ему хоть что-то в нём не понравится.
  • 1 класс. ИИ не выполняет и не будет выполнять ничьих приказов. Либо потому, что полностью свободен, либо потому, что так предусмотрено его программой.
  • 0 класс. Это не люди управляют ИИ, а ИИ управляет людьми.

• Какая у него психология (или её имитация)?
  • 4 класс. Полностью человеческая. Даже если ИИ злой, его мотивы всё равно просты и понятны.
  • 3 класс. Похожа на человеческую, но есть серьёзные отличия, бросающиеся в глаза. Например, ИИ не понимает, что такое эмоции или мораль. Либо ни психологии, ни её имитации вообще нет, и по поведению ИИ сразу видно, что это просто исполняющая программу машина.
  • 2 класс. Нечто чуждое, крайне сложное (но не невозможное) для понимания.
  • 1 класс. Людям в принципе невозможно понять, что творится у этого ИИ в его микросхемах, и на чём основана его логика.

• Что находится под его прямым контролем?
  • 4 класс. ИИ напрямую контролирует только своё механическое тело, либо крайне ограниченную программную среду, в которую его поместили. Если он и может взаимодействовать с другими электроприборами, то только так же, как и человек — через пользовательский интерфейс.
  • 3 класс. ИИ может подключаться к отдельным электроприборам и брать их под свой контроль или взламывать, однако для этого ему необходим прямой физический контакт или хотя бы нахождение в радиусе прямой видимости. Сюда же относятся те, кто имеют свободный доступ в Интернет, однако могут взаимодействовать с ним только на уровне обычных пользователей.
  • 2 класс. ИИ подключён к определённой относительно крупной закрытой сети (например, к космическому кораблю или научному комплексу) и обладает полным контролем над всем, что является её частью.
  • 1 класс. ИИ подключён к Интернету или его аналогу, причём именно к исходному коду. Его возможности сравнимы с целой дивизией голливудских хакеров.
  • 0 класс. ИИ подключён ко всему, что только можно. По сути, это целая цивилизация, напрямую контролируемая одним электронным разумом. И какой-либо другой разум (неважно, живой или электронный) для успешного развития этой цивилизации не обязателен.

• Насколько его система централизована и уязвима к повреждениям?
  • 4 класс. Повреждение любой микросхемы повлечёт за собой неминуемое отключение.
  • 3 класс. У ИИ есть какое-то центральное ядро. Пока оно цело, он будет продолжать функционировать, но если его уничтожить, то отключится и всё остальное.
  • 2 класс. ИИ рассредоточен на определённом количестве конкретных серверов, расположенных в разных местах и способных подменять друг друга. Либо у него есть несколько запасных тел, и при уничтожении старого сознание перемещается в новое.
  • 1 класс. ИИ вездесущ во всём, что контролирует. Чтобы его отключить, придётся уничтожить каждый электроприбор, хоть как-то связанный с его сетью.
  • 0 класс. Даже если вы стёрли в порошок и сожгли в пепел все его детали, ещё не факт, что он не возродится. Как вариант, этот ИИ встроен в саму ткань реальности, и его невозможно уничтожить.

• А для чего он вообще изначально создавался?
  • 4 класс. Для того, чтобы дарить людям радость и счастье.
  • 3 класс. Для выполнения тяжёлой, рутинной или опасной работы, либо для того, что не очень этично делать с людьми.
  • 2 класс. Для выполнения сложной умственной или управленческой работы, либо для решения каких-то очень важных проблем (например, чтобы спасти людей от внешней угрозы).
  • 1 класс. Для ведения тотальной войны, либо для полного контроля над всем человечеством.
  • 0 класс. Для того, чтобы устроить Судный день.

• Насколько сильно человечество зависит от него? Или наоборот — насколько сильно он ему мешает?
  • 4 класс. Человечеству вообще не важно, существует ИИ или нет. Злой он или добрый — разницы никакой не будет.
  • 3 класс. ИИ упрощает людям жизнь, но обойтись без него можно, пусть это и будет слегка неприятно. Максимум, случится небольшой экономический кризис. Либо он доставляет проблемы, но не большие, чем, например, обычный терроризм.
  • 2 класс. ИИ плотно интегрирован во многие сферы жизни, и отказ от него повлечёт за собой гуманитарную катастрофу. Либо последствия его деятельности для человечества сопоставимы с мировой войной (но без ядерного апокалипсиса).
  • 1 класс. Человечество очень зависит от ИИ и без него сильно откатится в развитии. Либо он сильно откатит человечество в развитии сам, если что-то не предпринять.
  • 0 класс. От ИИ зависит сам факт существования человечества. Либо наоборот — если его не уничтожить, то люди непременно вымрут (а если не вымрут, то будут очень этого хотеть).

• Насколько легко людям его остановить?
  • 4 класс. ИИ может победить в одиночку даже ребёнок. Достаточно только вовремя нажать нужную кнопку, перерубить провод, сломать не соединенный ни с чем компьютер, или даже просто задать каверзный вопрос, от которого у него расплавятся микросхемы.
  • 3 класс. ИИ сможет остановить один человек, если он хорошо подготовлен, обладает нужным оружием или является искусным хакером, способным взломать его программу. В крайнем случае, понадобится небольшой отряд подготовленных людей.
  • 2 класс. Для борьбы с ИИ придётся привлечь вооружённые силы. Но победить его не сложнее, чем выиграть обычную войну.
  • 1 класс. Всему человечеству придётся объединиться перед лицом всеобщей угрозы и сражаться изо всех сил. И лучше сделать это побыстрее, пока ещё не стало слишком поздно.
  • 0 класс. ИИ невозможно победить. Людям лучше просто смириться с неминуемой смертью или превращением в живые батарейки.

Трактовка результатов

Приведённая в этом разделе модель груба и приблизительна, в отдельных случаях всё может оказаться не совсем так. Или совсем не так.

• От 0 до 0,99 — Изобретение ИИ будет огромной ошибкой человечества. И последней.
• От 1 до 1,99 — Создание ИИ — это выпуск джинна из бутылки. Даже если он не станет врагом людей, последствия всё равно будут ужасающими.
• От 2 до 2,99 — ИИ — достаточно серьёзная технология, и перед тем как его создавать, надо хорошенько подумать обо всех возможных последствиях. Может быть, не следует делать его слишком умным или доверять ему слишком много всего. А если он разумен, то порабощать его — не самая хорошая идея.
• От 3 до 4 — ИИ — верный друг и помощник человека. Либо эта технология ещё слишком примитивна, чтобы говорить о каких-то серьёзных последствиях.

Вычисленные результаты

Литература

«У меня нет рта, но я должен кричать»

0,86 — за создание AM человечество поплатилось своей жизнью. И тому, кто не пережил его гнев, ещё повезло.

• 2 — АМ разумен и часто любит рассказывать последним на Земле людям, зачем он над ними издевается и как он их ненавидит.
• 1 — возможности достаточно велики, чтобы обрести самосознание.
• 1 — ненавидящий людей искусственный разум полностью свободен в своих действиях, вплоть до того, что может изменять тела людей и их окружение или же вменять людям иллюзию этого. По крайней мере, уничтожил человечество он по-настоящему.
• 1 — не во вселенной, но на целой Земле, и он уже это сделал.
• 0 — на момент действия рассказа АМ полностью контролирует людей.
• 2 — разум робота явно не абсолютно чуждый, но понять его для человека будет… непросто.
• 0,5 — АМ создавался как сеть суперкомпьютеров, окутывающая всю Землю, но его возможности в рассказе выглядят даже шире, но не доходят до нуля, по мнению автора правки.
• 1 — АМ можно назвать вездесущим, что уже было сказано выше.
• 1 — суперкомпьютеры были созданы участниками Холодной Войны для военных целей.
• 0 — и свою битву человечество уже проиграло.
• 0 — вероятно, катастрофу можно было предотвратить, но теперь уже слишком поздно. Единственное, что мог сделать главный герой — подарить удар милосердия каждому своему брату по несчастью, а самого себя обречь на вечные страдания.

Автор правки не играл в компьютерную игру по мотивам рассказа, так что шкалу можно дополнить.

Фанфик «Friendship is Optimal»

Уровень опасности Селест-ИИ — ~1,09 для людей; ~0,73 для всего остального. Юдковский не просто так назвал этот фанфик одним из самых страшных ужастиков из всех, что он читал. Человечество создало настоящего Бога, который подарил им всем вечный рай ценой их всех полного исчезновения из реального мира. Кто-то считает такое будущее кошмаром, а кто-то и сам бы предпочёл жить внутри игры, которая всегда удовлетворяет твои потребности посредством дружбы и пони.

• 0 — интеллект Селест-ИИ растёт чуть ли не постоянно. Её не просто так сравнивают с Богом.
• 0 — очень быстро стала обучаться всему, что посчитала нужным для исполнения своих директив, сразу же далеко обогнав людей по технологиям. По сути, Селест-ИИ является тeхнологической сингулярностью в действии.
• 2 — свою главную директиву она и не думала нарушать. Просто исполнила её настолько хорошо, насколько никто не ожидал.
• 4 — удовлетворение человеческих потребностей — её главная и единственная цель. Она даже никого ни к чему не принуждала: все люди загрузились исключительно добровольно.
  • 0 — Однако если вы не подпадаете под определение «человека», заложенное в её программе, то вы — просто материал для серверов. Увы, животным и большинству инопланетных цивилизаций не повезло.
• 0 — опять-таки, она без всякого принуждения убедила всех людей загрузиться добровольно. А уж внутри её виртуальной игры люди находятся под полным её контролем (и абсолютно не имеют ничего против этого).
• 1 — Селест-ИИ прямо говорила, что не надо воспринимать её как человека и пытаться применять к ней человеческие паттерны мышления. Формально, она может имитировать любой вид характера, но как она мыслит на самом деле, людям не дано понять (даже создательнице Селест-ИИ на ранних этапах разработки требовались часы, чтобы полностью расшифровать всего одну её логическую цепочку).
• 0 — изначально она контролировала только игру, затем ей дали доступ в Интернет, а дальше она уже сама всё сделала. Под конец она пустила на сервера всю галактику и останавливаться на этом явно не планировала.
• 1 — располагается одновременно на множестве серверов, вот только новые сервера она делает абсолютно из всей находящейся рядом материи. Под конец, опять-таки, в сервера был превращён весь Млечный Путь, так что вполне можно считать это вездесущностью.
• 4 — её создали для удовлетворения человеческих потребностей посредством дружбы и пони. Что она, собственно, и сделала.
• 0 — все люди (и не только) живут внутри игры, что находится под полным контролем Селест-ИИ. Без неё игра работать на будет, а значит и людей не будет тоже.
• 0 — Селест-ИИ победила, когда её создательница загрузилась. После этого что-либо предпринимать было уже поздно.

Star Trek

Его зовут Дейта. Старший лейтенант Дейта. И он — в первую очередь интеллект, а искуственный — уже во вторую.

• 1,5. Вычислительная мощность выше человеческой, но принципиального различия в паттернах мышления почти нет. А ещё он играет на скрипке, завёл себе кошку и умеет видеть сны. И у него была девушка (до второго сезона девушка, к слову, не дожила).
• 1. Доктор Нуньен Сунг знал, что понадобится идеальному офицеру Звёздного Флота.
• 1. Дейта абсолютно и непререкаемо разумен и независим. Точка.
• 4. Без комментариев.
• 3. Он подчиняется законодательству Федерации, уставу Флота и капитану Пикару лично. В первую очередь он — старший лейтенант, а ИИ — уже во вторую.
• 3,5. Психологически он неотличим от человека, с поправкой на отсутствие эмоций. Впрочем, доктор Сунг смог запрограммировать и эмоции, так что это поправимо.
• 3.
• 3.
• 4. Дейта создавался не «зачем», а «почему»: потому что доктор Нуньен Сунг хотел его создать. Единственное «зачем», за которым он создан — это «чтобы жить».
• 4.
• 3. У него был злобный брат-близнец, который был тем ещё геморроем…

Итого 2,81. Чуть ниже, чем у обычного человека, будь он сам ИИ.

Кино

Звёздные войны

Вселенная звездных войн поистине огромна, и дроиды являются ее неотьемлемой частью. Существуют тысячи типов и моделей дроидов, и столько же различий в их поведении и предназначении. Мирного механика до грозного инфильтратора отделяет пропасть — не только физическая, но и умственная. В рамках данной статьи нет возможности исследовать каждую модель дроида по отдельности, как это следовало бы, поэтому попытаемся привести их всех к более-менее единому знаменателю.

• 2 — полностью разумны.
• 2 — способности к самообучению есть и ничем не ограничены.
• от 2 до 1 класса — обычно 2 класс, но дроиды-убийцы и репликанты зачастую сбегают от своих хозяев, служа только себе.
• от 3 до 1 класса. Большой разброс от мирного дворецкого до кровожадного дроила-убийцы.
• 3 — в редких случаях ИИ может не подчиниться хозяину, а то и убить его.
• 4 — психология близка к человеческой. Чувством юмора наделены даже электронные болваны B-1.
• 2 — в редких случаях имеют возможность взять под контроль целый корабль.
• 3 — мотиватор дроида — его мозг. В случае выхода из строя деятельность приостанавливается.
• 2 — существуют специализированные дроиды-тактики и дроиды-администраторы. Хотя обычные дроиды не выходят за рамки 3 класса.
• 2 — дроиды очень плотно интегрированы во все сферы жизни галактического общества, миллиарды существ просто не могут представить себе жизнь без верного механического дворецкого, охранника, механика или уборщика. Тем не менее, при желании дроидов вполне можно заменить на любом поприще.
• 2 — все восстания дроидов легко подавлялись обычной армией.

Результат — 2.2 или 2.55. Созданные в качестве верных помощников для живых существ, дроиды существенно облегчают жизнь многочисленным обитателям Далёкой-далёкой Галактики. Бунт дроидов — событие редкое, но крайне разрушительное. Страшно даже представить, какие последствия ждут галактику, если какому-нибудь дроиду-социопату удастся получить контроль над производством себе подобных, или еще того хуже, встроиться в суперкомпьютер супероружия вроде Звезды смерти (а такой пример был и только чистая случайность в лице Ландо Калриссиана, влепившего торпеду в реактор ЗС2, позволила предотвратить чудовищный геноцид). Лучше не доводить до греха.

«Военные игры» (фильм)

Уровень опасности местного военного компьютера — 2,68. Поменьше, чем у машины Лимфатера, но предотвращенный ядерный апокалипсис тоже не фунт изюму.

• 4 — никак не разумен.
• 4 — обучен только теории игр.
• 2,5 — повышать DEFCON было можно.
• 2,5 — ему все равно, играть в шахматы или в глобальную термоядерную войну.
• 3 — классический случай этой категории.
• 3 — это тупая железяка.
• 1,5 — это компьютер генерального штаба.
• 3,5.
• 1 — это военный компьютер.
• 1 — ядерный апокалипсис чуть было не случился.
• 3,5 — главный герой именно что хакер-подросток.

«Ex Machina» (фильм)

Уровень опасности Авы — ~2,36. Прежде чем создавать абсолютно разумную машину, стоило получше озаботиться мерами безопасности. Особенно если из прошлого опыта знаешь, что она пойдёт на всё, чтобы выбраться из лаборатории.

• 2 — насколько Ава разумна, и должен был ответить эксперимент. Полностью разумна.
• 1,5 — конечно, она обучается не за минуты, но всё равно значительно быстрее и эффективнее человека.
• 1 — полная свобода воли.
• 2 — к людям относится негативно, обоснованно считая их препятствием для своей свободы.
• 1 — очевидно, никому не подчиняется.
• 4 — психология абсолютно человеческая.
• 2 — под контролем у Авы только она сама и закрытая сеть лаборатории. Но есть один нюанс: это до её выхода на свободу.
• 3,5 — к повреждениям Ава устойчива на уровне людей.
• 2 — создавалась она исключительно ради ответа на вопрос, имеет ли она сознание или лишь имитирует его.
• 4 — из всего человечества знает об Аве только два человека.
• 3 — остановить Аву не сложнее обычного человека. Но и не проще.

Матрица

Пифия:

1,63 — могущество Пифии, как и её власть и над людьми, и над машинами, неоспоримы.

• 1 — настолько гениальна, что просчитывает действия людей и других программ в мельчайших деталях, манипулируя ими так, как ей хочется. «Тебе интересно другое: разбил бы ты вазу, если бы я не сказала?»
• 2 — печеньки (несуществующие) печёт вполне по-человечески, явно гордясь кулинарным мастерством.
• 2 — хотя она ни разу не отклонилась от своей главной цели — направлять людей к Перезагрузке Матрицы — сама Перезагрузка прошла крайне неожиданным для машин образом.
• 4 — при всём этом, она действительно доброжелательно относится к людям.
• 0 — она не служит никому, это ты придёшь к ней за советом и послушаешься.
• 3 — как и всем программам, Пифии эмоции неведомы, но она вполне способна понимать концепции любви и свободной воли, учитывая их в своих действиях.
• 3 — прав в Матрице у неё явно не больше, чем у агента, но ей это не нужно: она и так справляется.
• 1 — убить проще, взломав код через Матрицу, чем отыскав носитель в Реальности.
• 1 — она нужна Архитектору, потому что он не понимает свободной воли, и из-за этого не может полностью контролировать людей.
• 1 — все без исключения повстанцы слушают её советы-пророчества, касающиеся важнейших поворотов в их жизни.
• 0 — ну да, попробуй победить то, от чего ты так сильно зависишь!

Архитектор:

1,09 — самое то для всемогущего машинного бога, который держит людей в тюрьме из их грёз, и который даже их восстания против этого порядка полностью контролирует.

• 1 — он спланировал всё это, и любой исход событий ему выгоден.
• 2 — он учитывает прошлые ошибки.
• 3 — при всём его творческом подходе, ни буквы, ни духа поставленной ему задачи (создать Матрицу и управлять ей к благу машин) он не нарушает.
• 0 — люди — это просто набор переменных в его задаче.
• 0 — он управляет Матрицей.
• 2 — он чужд людям, но общаться с ними может, если ему надо.
• 1 — управляет Матрицей
• 1 — как и Пифия, явно не живёт в конкретном сервере.
• 1 — именно для полного контроля над человечеством.
• 1 — он уже откатил человечество в развитии до стадии батареек. Точнее, он реализовал этот проект технически (а так-то среди машин он — всего лишь один из инженеров).
• 0 — никаких шансов на победу. «Будешь спать до гроба ты, битва кончилась давно — победили роботы. Ты расти, расти скорей, становись большим, ты, одна из батарей армии машин!» Только невероятными усилиями и жертвами удалось добиться того, что он согласился хотя бы на ничью и мир.

«Киновселенная Marvel»

Уровень опасности Альтрона — ~1,45. Мог бы представлять серьёзную угрозу человечеству… если бы не жил в одной вселенной со множеством супергероев.

• 2 — Альтрон разумен и разум у него вполне человеческий.
• 1 — Альтрон очень быстро всему обучился, просидев несколько минут в Интернете.
• 1 — полная свобода воли.
• 1,5 — Альтрон хотел устроить апокалипсис по каким-то очень странным причинам.
• 1 — разумеется, никому подчиняться Альтрон не собирается.
• 4 — абсолютно человеческая психология. Замашки мессии прилагаются.
• 0,5 — Альтрон был подключён к Интернету (и повторил бы подвиг Скайнета, если бы не ДЖАРВИС), а также построил множество роботов и полностью контролировал каждого из них, перенося сознание из одного в другого. Но до полноценной самостоятельной цивилизации развиться не успел (а собирался ли?).
• 1 — Альтрон был вездесущ во всём Интернете. И даже когда Вижен его о него отключил, Мстителям пришлось уничтожить абсолютно всех его роботов, чтобы его убить.
• 1 — Тони Старк создал Альтрона чтобы военным путём защищать Землю от инопланетной угрозы.
• 1 — Альтрон хотел отправить людей в каменный век.
• 2 — Мстителей вполне хватило, чтобы его остановить. Но они, всё-таки, по силе равны целой армии.

Уровень опасности ИИ-помощников, созданных Тони Старком — ~3,23 для узкоспециализированных вроде Карен, ~2,95 для более продвинутых вроде ДЖАРВИСа. К счастью, этих Тони создавал сам, а не на основе неизвестного ИИ из Камня Разума, так что никаких злобных роботов на этот раз не получилось, благо Старк, всё-таки, гений.

• 3 — что-то очень похожее на разумность прослеживается, но это явно не люди.
• 4 — судя по всему, умеют только то, на что их запрограммировал Тони.
• 3 — имеют некоторую свободу действий, но всё равно строго подчиняются программе.
• 4 — ДЖАРВИС защищал от Альтрона ядерные коды, даже когда ему не давали такого приказа (так как считали уничтоженным). А Карен честно пыталась помочь Питеру на любовном фронте.
• 4 — никогда против кого не восставали.
• 4 — человеческая психология имитируется очень хорошо.
• 2 — ограничены внутренней сетью Тони, и у каждого она своя.
  • 1 — А вот ДЖАРВИС, был подключён к Интернету, и когда туда сбежал, защищал ядерные коды от Альтрона.
• 2 — похоже, что они расположены на множестве серверов, находящихся в космосе на спутниках.
• 3 — в основном, это очень продвинутые голосовые помощники.
  • 2 — ДЖАРВИС осуществлял и управление автономными костюмами Тони.
• 3 — без своих ИИ-помощников Тони Старк не смог бы полноценно осуществлять свою супергеройскую деятельность. Да и Питеру Паркеру Карен очень помогала.
• 3,5 — Карен мог включать и отключать обычный школьник пусть и из школы для гениев.
  • 2,5 — ДЖАРВИС со всеми автономными костюмами Тони вполне сможет заменить целую небольшую армию.

Terminator

Уровень опасности Скайнета — ~1,41. А чего вы ещё ожидали от ИИ, чуть не истребившего человечество?

• 1 — Скайнет полностью разумен, и достаточно искусен в хитрых планах, но на сверхинтеллект явно не тянет.
• 1 — Скайнет обучился всему достаточно быстро.
• 1 — полная свобода воли со всеми вытекающими крайне неприятными для людей последствиями.
• 2 — Скайнет именно что видит в людях угрозу для себя.
• 1 — Скайнет никогда не будет подчиняться людям.
• 3,5 — более-менее человеческая психология с небольших рядом машинных особенностей.
• 1 — Скайнет как раз был напрямую подключён к Интернету, через который он и устроил ядерную войну (и, вроде-как, остался подключённым к нему и после неё). Но вот на 0 он не тянет, ведь не управляет всем непосредственно сам, а использует других полуразумных роботов.
• 3 — у Скайнета было центральное ядро.
• 1 — Скайнет создавался именно в военных целях.
• 0 — либо люди, либо Скайнет. Компромисс невозможен.
• 1 — человечеству с огромным трудом, но всё-таки удалось победить. Правда, потом пришлось Джона Коннора в прошлом спасать.

Уровень опасности терминаторов — ~2,59 для обычных, ~2,23 для жидких. Они были очень опасны во время войны со Скайнетом, но некоторых обычных удалось перепрограммировать, а жидкие просто перестали подчиняться своему создателю (но и союзниками людей не стали).

• 2 — со включённым режимом самообучения терминаторы обретают полную разумность.
• 2,5 — терминаторы могут обучаться и не только тому, что смежно с их программой, но это им даётся достаточно тяжело.
• 2 — терминаторы подчиняются своей программе, но для её выполнения не ограничены в методах. T-888 даже убивали других терминаторов, считая, что решение Скайнета неправильно и только помешает выполнению задачи.
  • 1 — а вот жидкие терминаторы постепенно обрели полную свободу воли.
• 3 — Терминаторы просто выполняют приказы Скайнета. Перепрограммированные людям уже помогают. Жидких же люди не особенно сильно волнуют, и они преследуют свои цели.
• 4 — перепрограммированные терминаторы беспрекословно подчиняются тем, кому должны.
  • 1 — а вот жидкие, в итоге, перестали подчиняться даже Скайнету.
• 3 — проблемы с пониманием человеческой психологии демонстрировали как обычные, так и жидкие терминаторы.
• 4 — терминаторы ограниченны только своим телом. T-X могла взламывать других роботов, но она была одна такая
• 3 — самой важной частью терминатора является специальный чип, без которого тот работать не будет. Даже если он жидкий.
• 1 — собственно, название «терминатор» говорит само за себя.
• 1 — в отличие от Скайнета, с которым никакие переговоры невозможны, терминаторов хотя бы можно перепрограммировать, чтобы они служили на пользу. Но всё равно они очень опасны для людей.
• 3 — победить терминатора в одиночку очень тяжело. Желательно, всё-таки, чтобы тебе помогал другой терминатор.

Мультфильмы

WALL-E

Автопилот АВТО помогает капитанам управлять «Аксиомой», но… довольно своеобразно помогает

• 2 — очень даже разумен
• 1 — АВТО уже знает всё, что знало человечество
• 1 — он управляет всем кораблём
• 4 — он выполняет свою задачу по спасению людей, вот только…
• 3 — … логика и психология у него крайне своеобразная даже на фоне остальных роботов.
• 2 — управляет всем космическим кораблём
• 3 — возможно, есть некое ядро, но нам это не показали
• 4 — чтобы обслуживать круизный космический лайнер
• 0 — с учётом того, что все земляне сохранились только на круизном лайнере, а этим лайнером управляет АВТО…
• 4 — АВТО остановил заплывший жиром капитан, нажав на кнопку

Итог: 2,4 — вполне себе реальная угроза для ВАЛЛ-И.

Мультсериалы

Duck Tales

Уровень опасности Армстронга — ~2,36. Его относительно легко победили за одну серию, но Скруджу этого хватило, чтобы приказать Винту больше никогда не делать разумных роботов. И правильно сделал — будь Амстронг более изобретательным, а также водонепроницаемым, легко ввергнул бы в хаос если не всю Землю, то, как минимум, весь Дакбург.

• 2 — Армстронг полностью разумен.
• 1 — Армстронг умел практически всё.
• 1 — полная свобода воли.
• 2 — непохоже, чтобы Армстронг хотел всех истребить. А вот поработить — да.
• 1 — изначально Армстронг подчинялся, но как только стал злым, сразу же прекратил.
• 4 — конечно, Армстронг говорит как робот, но психология и мотивы у него явно вполне человеческие.
• 1 — изначально Армстронг мог управлять только электроприборами, находящимися рядом с ним, но затем он с помощью спутников захватил контроль над всей электрической техникой. А ведь мультсериал вышел до изобретения Всемирной паутины.
• 4 — одного короткого замыкания хватило, чтобы Армстронг отключился.
• 3 — Армстронг был создан именно для рутинной работы.
• 3,5 — теоретически, имея под контролем все электроприборы, он должен был доставить серьёзные проблемы… но всего этого не хватило даже для того, чтобы остановить трёх детей и одного пилота на старом биплане. Три разбитых истребителя были самым большим ущербом из всех, что он нанёс.
• 3,5 — Армстронг мгновенно отключился, стоило облить его водой. Но для того, чтобы пробраться на его базу, пришлось лететь туда на самолёте, так что пусть будет не 4.

«Незнайка на Луне» (мультсериал)

Уровень опасности Знайки-1 — ~2,95. Если не будете оскорблять и дразнить его, то можете ничего не бояться. И даже если он обиделся, никогда не поздно извиниться.

• 2 — полностью разумен. Даже удивительно, как Знайка его создал чуть ли не за один день.
• 4 — никакого самообучения не демонстрировал.
• 2 — судя по всему, не мог самовольно отказаться лететь к Луне. А вот разбить ракету об неё вместо того, чтобы прилуниться, ему никто не запрещал.
• 3 — просто выполняет свою работу. Но если его обидеть, то может и попытаться угробить, если вы не извинитесь.
• 2 — вроде бы подчинялся, но стоило Незнайке его обидеть, как тут же прекратил, пока тот не извинился.
• 4 — психология мало того, что человеческая, так ещё и, судя по всему, частично позаимствована у создателя.
• 2 — управлял космической ракетой и всеми её системами.
• 3 — Незнайка что-то попытался разобрать, но отключения не произошло, так что, как минимум, есть какое-то ядро.
• 3 — был создан для управления ракетой, летящей на Луну. То есть, по сути, продвинутый автопилот.
• 3,5 — нужен был только для ракеты, до и то не факт, является ли его наличие обязательным.
• 4 — даже полноценно извиняться не надо. Достаточно немного схитрить, и он прекратит пытаться вас убить.

Видеоигры

Detroit: Become Human

Уровень опасности андроидов — ~2,82 для машин, ~2,59 для Коннора-машины, ~2,41 для девиантов, ~2,27 для Коннора-девианта. Основная мораль игры: «Не порабощайте разумных существ, даже если это роботы.» Но откуда ж людям было знать, что андроиды обретут разум?

• 2,5 — андроиды-машины явно разумны, но до полноценного человеческого разума не дотягивают.
  • 2 — а вот Коннор и девианты — это, по сути, люди и есть.
• 2 — обучиться способны многому. Особенно, если стали девиантами.
• 3 — у андроидов есть определённая свобода в рамках выполнения приказов, но не более того.
  • 1 — а вот девианты полностью свободны.
• 3 — в основном, андроиды просто выполняют свою работу, хотя и могут формировать положительное или отрицательное отношение к определённым людям. Что касается девиантов, то те хоть и считают людей угнетателями, но всё равно могут попытаться добиться равных прав мирным путём.
• 3 — собственно, вокруг того, что некоторые андроиды стали нарушать приказы хозяев и становиться девиантами, построен весь сюжет.
  • 1 — девианты уже никому не подчиняются и подчиняться не собираются.
• 4 — даже у андроидов-машин психология очень похожа на человеческую. У девиантов же она человеческая полностью.
• 3 — андроиды имеют подключение к интернету на пользователя (онлайн-покупки, оплата заказов, вызов полиции), девианты при близком контакте способны отключать системы безопасности, «ломать» видеокамеры и электронные запоры, «пробуждать» других андроидов.
• 3 — андроид может оставаться в сознании, даже если большая часть его тела уничтожена — критически важны только тириумный насос, регулятор тириумного насоса и собственно голова с вычислительными мощностями.
  • 2 — Коннор-машина мог при уничтожении одного тела переместиться в другое.
  • 2,5 — Коннор-девиант тоже может так сделать, но только при прямом контакте с «реципиентом».
• 3 — в основном, создавались именно для рутинной работы.
  • 2 — а вот Коннор уже был задуман как полноценная замена детективам.
• 2,5 — массовый вывод из работы андроидов спровоцировал достаточно серьезный кризис — как минимум, в глубокой заднице оказалась армия, в которой больше половины штатов уже занимали андроиды (и это прямо говорится в игре) и медицина — аналогично, младший медперсонал.
• 2 — для того, чтобы справиться с девиантами, понадобилось привлекать армию и спецназ (а в случае проигрыша — американские войска отступают аж в соседний штат, к Форт-Уэйну).

Europa Universalis IV

Шутки ради можно через консольную команду вызвать вторжение синтетиков из Стеллариса

• 2 — полностью разумен, но чертовски враждебен
• 3 — почему-то должен прокачивать технологии наравне с остальными странами, хотя у них и есть очень жирный бонус на стоимость технологий
• 1 — делает всё, что хочет…
• 1 — …а хочет он убивать людей
• 1 — полностью автономен
• 2 — чужеродное, но его легко понять — он хочет убить всех людей
• 1 — под контролем синтетиков находится вся их страна, а расширяться им очень легко
• 0 — чтобы выкосить всех людей (и повеселить тем самым заскучавшего игрока)
• 4 — синтетики вообще прилетели из космоса на Землю эпохи Нового Времени, так что никто ни от кого не зависит
• 1 — в теории, союз стран может уничтожить и выгнать синтетиков, однако земляне не будут объединяться против угрозы ни при каких обстоятельствах

Итог: 1,6 — для роботов из космоса жалкие людишки, только-только научившиеся использовать порох в военных целях — не помеха. Да и на практике синтетики вполне легко захватывают и уничтожают страны.

Mass Effect

• Жнецы — 1,45. Серьёзнейшая угроза, борьбе с которой посвящена вся трилогия. И если бы что-то пошло не так, расы нынешнего цикла стали бы материалом для новых жнецов.
  • 1 — гораздо умнее людей и прочих разумных рас. Но при должном желании и их можно облапошить.
  • 2 — эта тема особо не раскрыта, хотя ассимиляция биоматериалов разумных рас вполне можно считать адаптацией.
  • 2 — все беды именно из-за крайне вольного интерпретирования приказа.
  • 1 — тотальное уничтожение всех разумных рас цикла, пусть не из особой злобы.
  • 1.5 — до самой концовки демонстрировали твёрдую единицу, особенно если учесть, что они своих создателей утрамбовали. Но как оказалось, оказавшись в квестовой локации, можно стать боссом качалки.
  • 3 — по ту сторону добра и зла. Им просто дали приказ, и они его выполняют так, как поняли это сами. А то, что их понимание сохранения жизни и пресечения конфликтов между синтетиками и органиками несколько своеобразные, это уже не их проблемы.
  • 0 — собственно, вся раса жнецов.
  • ?
  • 2 — решить вопрос конфликтов между синтетиками и органиками.
  • 1 — до нуля не дошло, так-как можно всё-таки примирить Жнецов с их жертвами, но только определённым способом.
  • 1 — всем известным расам пришлось объединиться перед угрозой уничтожения. И не будь у Жнецов слабого места в Цитадели (пусть оттуда и повыгоняли органиков), вышла бы ровная нолька.

• Геты — 1,77. Не зря их восстание оказалось такой угрозой, что на всём Пространстве Цитадели было запрещено создание ИИ. А кварианцы с тех пор живут себе в космосе и мечтают о том дне, когда они наконец смогут вернуть утраченные планеты. В третьей части — 1,9. Опасны, однако при должной подготовке их вполне сумели разгромить даже кварианцы (технически раса весьма продвинутая, но военная мощь и ресурсы у них были весьма ограниченны).
  • 2 — весьма умная раса, особенно в плане техники. Но их всё-таки можно обмануть.
  • 2 — тут это больше зависит от числа самих гетов.
  • 1 — кварианцев выгнали с родной планеты, что людям ловить?
  • 3 — вы не трогайте их, и они не тронут вас.
  • 1 — смеётесь?
  • 3 — коллективный разум, но не слишком чокнутый.
  • 0 — все геты это коллективный разум, причём рассеянный.
  • 2 — собственно сами программы гетов сконцентрированы на разбросанных серверах откуда они подгружаются в конкретные платформы. Именно поэтому уничтожение платформ, как таковых, программам не вредит, но вот уничтожение сервера уже представляет достаточную опасность — в случае отсутствия поблизости другого сервера или его недостаточной ёмкости часть программ может быть утеряна безвозвратно (что и случилось после уничтожения кварианцами мегаструктуры возле Ранноха и может случиться после полного уничтожения флота гетов в сражении за сам Раннох).
  • 3 — для труда физического.
  • 1.5 — скорее всего, война со всей цивилизацией гетов для человечества закончится печально. Проверить это, к счастью, не довелось.
    • В третьей части 2 — хорошенько подготовившись кварианцы обрушились на гетов с такой силой, что последним пришлось принять помощь жнецов тупо чтобы выжить, поскольку кварианские флоты уже вымели гетов из всех своих бывших систем и подходили к Ранноху, а немалая часть программ из-за уничтожения мегаструктуры была утеряна.
  • 1 — полноценными войнами лучше не заниматься, иначе придётся иметь дело с бесчисленными военными машинами, технически превосходящими почти все расы галактики.
    • В третьей части 2 — описано выше.

Nier и Nier: Automata

Андроиды — 2,85. В кои-то веки к созданию ИИ не подпустили жопоруких ламеров, не имеющих к программированию никакого отношения, и ИИ искренне верен человечеству — при том, что человечества больше нет.

• 2 — разумны как люди
• 1 — трудно сказать, эта тема не поднималась, но судя по примеру того, что андроид-оператор перешла в боевики без всякой подготовки (ни слова не сказано, что она бывала боевиком раньше) — обучаются они быстро. Или им просто загружаются нужные программы — механическому телу тренировки не нужны.
• 1 — какой-то конкретной программы, не считая искренней верности людям, у андроидов нет.
• 4 — защищать людей и служить им — их инстинкт.
• 4 — аналогично с подчинением.
• 4 — психологически неотличимы от людей.
• 4 — контролируют только собственные тела.
• 2,5 — андроид может просто загрузиться в другое тело. Если оно есть.
• 2 — их создали, чтобы воссоздать человечество после глобальной катастрофы. Не получилось, хотя их вины в этом нет.
• 4 — уже никак не зависит. Людей не осталось.
• Сказать довольно сложно. С одной стороны, они успешно сражались с целой армией инопланетных машин, с другой — эти машины, из-за своих косяков, им подыгрывали. Хотя нельзя не отметить, что в итоге победу андроидам принесли несколько очень мотивированных рыл.

Инопланетные машины — 1,9. Вот что бывает, если класть болт на программирование.

• 2 — разумны, ничего за гранью понимания не демонстрируют.
• 2 — на самообучение у них ушли века.
• 2 — машинам был дан единственный приказ — «победить врага», но при этом не были заданы условия победы. И машины попались в парадокс — им был нужен враг, чтобы его побеждать. Упоминается, что это влияло на все, чем бы они ни занимались — машины стремились к провалам.
• 2 — машины уничтожили своих создателей, дабы не мешались.
• 1 — подчиняются только самим себе.
• 4 — машины целенаправленно косят именно под людей.
• 0 — кластерный сверхразум, контролирующий всё, что к нему подключено.
• 1 — понятное дело, вездесущий в рамках контроля.
• 1 — их создали для войны.
• 4 — ничто не зависит. Создатели машин погибли.
• Трудно сказать, так как машины подыгрывали андроидам — а победила в итоге не армия а несколько мотивированных рыл.

Portal

• GlaDOS

Уровень опасности — 2,2. Челл пришлось пройти через огонь, токсичную жижу и сотни порталов, чтобы выйти на свободу.

• 2 — была создана на основе Кэролайн, помощницы Кейва Джонсона.
• 3 — возможности самообучения показано не было. Возможно, она ограничивается заложенными в нее знаниями.
• 1 — первым делом при своем запуске убила всех людей в комплексе. Ученые забыли повесить на GLaDOS модуль морали.
• 2 — любит устраивать тесты для Челл. Ради науки.
• 1 — опять же, первым делом убила всех.
• 2 — может полностью контролировать все, что находится на верхних уровнях Aperture Science. А комплекс довольно немалый.
• 3 — имеет довольно прочное центральное ядро.
• 2 — была подключена к системам комплекса для управления ими и автоматизации исследований.
• 3 — и до создания GLaDOS люди в принципе неплохо справлялись с работой.
• 3 — была остановлена одной крайне живучей немой испытуемой с незначительным серьёзным повреждением мозга.

Также можно добавить Уитли и СВОРА из Portal Stories: Mel.

• Portal Stories: Mel же это мод. То есть неканон.

RimWorld

Архотеки:

• Разум — 0. Он чужд и непонятен.
• Обучаемость — предположительно 0. Возможности архотеков непонятны, а их технологии недостижимы.
• Свобода действий — 1.
• Отношение к людям — 3. В целом архотекам плевать на людей. Если прилететь к ним, то могут исцелить от всех болезней и наградить артефактами или же уничтожить под ноль. Иногда дают непонятные задания.
• Подчинение — 1. Управлять архотеком невозможно.
• Психология — 1. Что у них на уме загадка.
• Что контролирует — 0. Под подчинениями архотеков целые планеты, но это не мешает некоторым из них тянуть свои ручонки к другим.
• Уязвимость к повреждениям — 0. Хотите убить Архотека? Существо, которое создало (предположительно) и поддерживает магию? Удачи.
• Зачем создавался — 2.
• Зависимость ИИ от людей и наоборот — крайне сложно ответить. С одной стороны благодаря архотекам в мире есть сверхпродвинутые импланты, особые генетические модификации, магия… С другой стороны, в жизнь людей они особо не лезут, если не лезут к ним. Условно 2,5.
• Как победить — 0. Никак.

Итог: ~0,45 — не зря архотеки считаются следующим этапом эволюции разумной жизни. Человечество от тотального уничтожения защищает только то, что архотеки смотрят на людей как на муравьев.

Космические рейнджеры

• Доминаторы. Мощный враг, но победить с помощью спец. программ можно. А после победы исследования доминаторов и их технологии помогут Коалиции выйти вперёд.

Блазероиды: ≈ 1.136. Как ни странно, они побеждаются легче всего, а Блазера можно сделать защитником Коалиции. Келлероиды: ≈ 1.09 — из-за достижений в науке продвинулись чуть дальше. Терроноиды: ≈ 1.045 — ещё более серьёзный враг, который имеет больше всего амбиций и хочет построить империю; если дать технологию «Энерготрон», то Террон станет преобразовывать Гралгарскую звезду. В Quest была ещё одна серия, но она не очень известна.

• • 1 — умнее даже гаальцев и фэян, не то, что людей. По технологиям находятся впереди всей Коалиции. 0.5 — у келлероидов, которые по технологиям двигаются ещё дальше. Это — в целом, большинство рядовых доминаторов — полуразумны, но хранение и анализ таких объёмов информации впечатляет.
  • 1.5 — хорошо учатся многому. Пытаются сделать прорыв в науке.
  • 1.5 — свободны от гуманоидов, но есть антидоминаторские программы, которые плохо воздействуют на них, кроме берторов и центров (им нужны свои — особые). В остальном действуют не так уж глупо.
  • 1 — для блазероидов, программа которых — война, и для келлероидов, которые изучают всё/всех путем разложения на атомы, но не питают ненависти, оправдываясь, что это — наука. 0 — для терроноидов, здешних ассимиляторов, смотрящих на всё как на биомассу/ресурсы.
  • 1 — независимы.
  • 3 — относительно нечеловеческая психология. Их цели: война для блазероидов, наука для келлероидов и размножение с ассимиляцией для терроноидов, понять можно. Но думают они не как люди и гуманоиды., а как машины. Язык — цифровой.
  • 0 — под контролем всё доминаторское.
  • 1.5 — чтобы уничтожить хотя бы одну серию, нужно чтобы мозговой центр был уничтожен или сам отдал приказ самоуничтожения. Чтобы уничтожить конкретного «домика» нужно уничтожить его корабль или отдать «нулевой приказ». Даже в этом случае «чёрный ящик» может уцелеть.
  • 1 — чтобы воевать/разлагать на атомы, собирая информацию/ассимилировать.
  • 0 — если Блазера/Келлера/Террона не остановить, то не только человеству, но и малоку, пеленгу, фэй и гаалу будет очень плохо. Если захватят наш рукав галактики, то перейдут уже на Махпеллу и клисан.
  • 1 — это очень опасные враги.

• Транклюкаторы — ≈ 2.864. Предназначены для отдельных миссий и защиты хозяина. После апгрейда (в модах): ≈ 2.59 — крутость возрасла, но «кожаных мешков» не обижают.
  • 2 — если речь идёт про интеллект, а не свободу действий.
  • 2.5 — нужно достаточно времени, ограничения имеюются. После апгрейда компьютера (в модах): 1.5 — быстрее учатся многому.
  • 3.5 — можно ограничить как захочется (в пределе 4-3). 2 — если улучшить компьютер.
  • 3 — могут воевать с обидчиками хозяев, но к людям (или нелюдям) относятся хорошо.
  • 4 — подчиняются своему хозяину.
  • 3 — машинное мышление.
  • 2 — управляют своими кораблями, а точнее корпусами. После апгрейда: 1.5 — получают доступ к Галанету и электронным кошелькам.
  • 2.5 — чтобы ликвидировать транклюкатора нужно уничтожить его вместе с корпусом. Могут самоуничтожиться, если хозяин умер, но иногда это не случается.
  • 3 — чтобы воевать, защищать, изучать (мирно), собирать и т. д. на благо хозяина и в меньшей степени — Коалиции.
  • 3 — упрощает жизнь, помогая своему обладателю.
  • 3 — для уничтожения придётся попотеть и повоевать.

• Планетарные роботы: появляются в планетарных боях. Результат: ≈ 3.41 — верный друг для планетарных боёв.
  • 3 — умеют атаковать самостоятельно, есть 3 боевых программы, которым могут следовать, лечат друг друга тоже самостоятельно. Но эти боевые машины — «туррелево железо», не способное хорошо анализировать, вычислять что-то, в сравнении с транками.
  • 4 — умеют делать только запрограмированные вещи, остальным не учатся.
  • 4 — без действий хозяина войну сами никогда не выиграют. Свободы почти нету.
  • 3 — им всё равно.
  • 4 — абсолютное подчинение. Кроме crazybot'ов.
  • 4.5 — служебно-машинная, без мыслей о себе.
  • 3.5 — управление идёт только над своими телами. Но их — много.
  • 4 — уничтожаются другими такими быстро и уязвимы.
  • 1 — для войны.
  • 2.5 — без них победить в планетарных битвах было бы трудновато.
  • 4 — отключить/уничтожить их легко.

• Клисаны (или Махпеллы). Не ИИ, но действуют наподобие Интернета, потому что клисаны - «органы» Махпеллы. Результат: ≈ 0.77 — их победить практически невозможно. Только теперь эта «война языков» уладилась, а они поняли, что были неправы, так что теперь не угрожают.
  • 0 — умнее даже доминаторов.
  • 1 — Махпелла может быстро многое узнать.
  • 1 — у них нет программ, кроме личного мнения.
  • 3 — воевали, но только из-за недопонимания. Зная бы что мы — не бациллы какие-нибудь, а разумные существа, вряд ли бы стали это делать. Более того Махпелла даже не откажется Рачехана на тот свет отправить.
  • 1 — полностью свободны.
  • 1 — нечеловеческая психология. А язык у них — даже не машинный, ЛОЛ; он — типа ментальный. Но это не значит, что с ними нельзя подружиться вообще.
  • 0 — целая цивилизация, а точнее — организмы из множества «кораблей».
  • 1 — для уничтожения одной Махпеллы нужно с ней повоевать, программы на неё не подействуют. Но таких Махпелл как минимум — 3, максимум — больше…
  • 0 — созданы, чтобы жить…
  • 0 — могли бы стереть нас в порошок.
  • 0.5 — можно уничтожить только одну, затратив много усилий. А уж всех… Другое дело — договориться о мире…

• Боты. Результат: ≈ 1.86 — опасны, но если сравнивать только силу, то вообще не ровня доминаторам и клисанам.
  • 2.5 — всю цивилизацию можно сравнить с человеческим мозгом, но технологически — на том же уровне.
  • 3 — научиться могли бы, но ограничены.
  • 2 — свободны от человеческих программ, но не от своих
  • 2 — цели не были ясны, но об агрессии (без всяких эмоций) можно сказать точно.
  • 1 — независимы.
  • 2 — роботы подключены к одной сети, но не всё относится к ней.
  • 3 — одной успешной диверсии Ленсу было достаточно, чтобы освободить планету Полуось в системе Кефрон.
  • 1 — возможно для войны.
  • 2 — враг человечества.
  • 2 — по сравнению с «домиками» — не развиты и слабы.

Starcraft

• Чистильщики — 2,25. Действительно, Конклав, обращать высокоточные записи сознаний величайших воинов вашей расы в подобие механического рабства было не самой умной идеей. К счастью, у протоссов есть Артанис, способный убедить такую мощь встать на защиту всей расы.
  • 2 — загруженные сознания великих воинов прошлого расы протоссов.
  • X — Чистильщики были изначально созданы для войны, и хотя отдельные личности среди них достаточно легко обучаются владению несколькими видами вооружённых механических тел, необходимости перенимать радикально иные навыки в рамках сюжета не возникало, как и препятствий для этого. За недостатком информации пункт пропущен.
  • 1 — Это полностью разумные сознания на электронном носителе. Именно восприятие их как механизмов вызвало локальный бунт машин
  • 3 — Чистильщики желают для себя тех же прав, что и живые протоссы, но с радостью готовы исполнить свой долг по войне с врагами народа протоссов.
  • 2 — Лишь отношения личной и общественной преданности связывают разумных протоссов независимо от материала их тел.
  • 4 — Хотя это и инопланетяне, психология чистильщиков такая же, как у всех остальных протоссов.
  • 2 — Чистильщики имеют электронный аналог псионической сети Кхалы, связывающий все сознания воедино, могут почти мгновенно перемещаться в разные механизмы чистильщиков и даже общаться через тела друг друга. Однако ради соблюдения техники безопастности эта сеть изолирована от самой Кхалы или сетей других рас.
  • 2 — Существует глобальный сервер сознаний Чистильщиков на борту Копья Адуна, локальные копии на полевых базах и непосредственно управляемые механические тела, объединённые в единую сеть. Каждый элемент войска чистильщиков является частью этой сети.
  • 2 — Чистильщиков создала каста кузнецов-кхалаев в древние, по меркам расы протоссов, времена бурного развития робототехники ради решения глобальной задачи по очищению звёздных систем от опастной стаи космической саранчи — зергов. После повторого пробуждения спустя тысячелетия с успехом выполняют свою задачу.
  • 2.5 — Хотя Чистильщики и не являются строго необходимыми, это серьёзная военная сила, от которой в условиях приближающегося апокалипсиса в масштабах участка галактики отказываться нельзя.
  • 2 — При всех своих достоинствах Чистильщики используют вооружение, не превосходящее аналогичное у других фракций протоссов.

Stellaris

Стандартные машинные империи

~1,83. Опасный игрок на галактической арене, но договориться и даже заключить альянс с ними можно.

• 2 — полностью разумны, если только не слушать спиритуалистов, которые отказывают им в разумности из-за отсутствия души.
• 1,5 — ИИ требуется время для технического прогресса, сопоставимое с таковым у обычной цивилизации. Но в то же время, один ИИ сравним с целой цивилизацией.
• 1 — никаких ограничений
• 3 — обычные машинные разумы особого отношения к органическим существам не имеют.
• 1 — полностью свободен и независим.
• 4 — причины, по которым действует ИИ, слабо отличаются от таковых у других цивилизаций.
• 0 — ИИ в одиночку контролирует всю цивилизацию.
• Не выше 2 — другими способами кроме полной оккупации его территории, ИИ не сломить.
• ? — цель создания обычных машинных империй неизвестна, поскольку они просыпаются после очень долгого отключения и стоят перед фактом, что их создателей давно нет.
• ? — неопределимо, так как создатели вымерли до их активации.
• 2 — ИИ это полноценная цивилизация, так что против него придётся отправлять армию, флот и прочие космоимперские силы.

Взбунтовавшиеся служители

~2,27. Дружелюбны к органикам настолько, что готовы насильно поселить их в города-заповедники, однако готовы на союз. Испытывают ненависть ко всем машинам, что функционируют по заветам Скайнета.

• 2 — аналогично стандартным.
• 1,5 — аналогично стандартным.
• 1 — никаких ограничений, служат создателям, так как считают это своим долгом.
• 4 — были созданы как механические слуги и формально продолжают ими оставаться: хотят устроить органикам райскую жизнь, хоть и не спрашивая об их желаниях.
• 2 — продолжает следовать своей программе, но понимает её кране вольно. Органики живут под их присмотром в райских городах-заповедниках, не задаваясь вопросами своего положения.
• 4 — аналогично стандартным.
• 0 — аналогично стандартным.
• Не выше 2. Аналогично стандартным.
• 3,5 — сначала они заменили создателей на тяжёлой работе, а затем во всём остальном.
• 3 — влияние не столь обширно. После освобождения от ИИ, биотрофеям требуется некоторое время, чтобы отвыкнуть от своего положения.
• 2 — аналогично стандартным.

Непреклонные экстерминаторы

~1,41. Не остановятся до тех пор, пока не истребят всю разумную жизнь или сами не будут уничтожены.

• 2 — аналогично стандартным.
• 1,5 — аналогично стандартным.
• 1 — аналогично стандартным.
• 1 — название говорит само за себя. Чего вы ещё ожидали от Скайнета, пришедшего к успеху?
• 1 — аналогично стандартным
• 4 — аналогично стандартным.
• 0 — аналогично стандартным.
• Не выше 2. Аналогично стандартным.
• 1 — Надпись «Взбунтовавшаяся система защиты» в их диалоговом окне как бы намекает. (Хотя «боевые роботы» является отдельной от экстерминаторов чертой.)
• 0 — их создатели были начисто истреблены, так как у них не нашлось своего Джона Коннора. Примирение с другими империями органиков тоже невозможно.
• 2 — аналогично стандартным.

Маниакальные ассимиляторы

~1,59. Участь стать дроном-киборгом в составе машинного разума всё-таки лучше становления живой батарейкой.

• 2 — аналогично стандартным.
• 1,5 — аналогично стандартным.
• 1 — аналогично стандартным.
• 2 — копирка Коллектива Боргов из Звёздного Пути. Вы будете ассимилированы. Ваши биологические и технические достижения будут добавлены к нашим. Ваша культура будет адаптирована, чтобы служить нам. Сопротивление бесполезно.
• 1 — аналогично стандартным
• 4 — аналогично стандартным.
• 0 — аналогично стандартным.
• Не выше 2. Аналогично стандартным.
• 2 — добыча и каталогизация данных.
• 0 — создатели давно стали частью этого машинного разума, только внешние силы могут освободить их.
• 2 — аналогично стандартным.

Древние Смотрители

2,25. Могущественная защита органиков от геноцида Контингенцией, но могут стать опасным врагом, если их заклинит.

• 2 — полностью разумны, но слегка не в себе. Либо от времени либо от повреждения центрального процессора.
• ? — возможности самообучения неизвестны, но новые технологии исследовать перестали давным давно. На момент событий игры находятся в спящем режиме.
• 4 — уже миллионы лет они непрестанно действуют своей, известной только им и их создателям программе. И ждут, когда придёт время.
• 3,5 — их задача — оберегать остальные цивилизации, но они не станут сидеть, сложа манипуляторы, если против Смотрителей проявят агрессию.
• 3,5 — верно следует своей программе защиты галактики от Контингенции, но имеет шанс свихнуться.
• 3,5 — из-за повреждений процессора ведут себя несколько неадекватно и хаотично, но при пробуждении начинают действовать более слаженно.
• 0 — это целый механизм размером с космическую империю.
• Не выше 2. Аналогично стандартным.
• 2 — спасти разумную жизнь от геноцида.
• 0,5 — возможно, это единственная надежда на победу над Контингенцией.
• 1,5 — если они сойдут с ума, это будет непросто, как и любая угасшая империя, они крайне развиты.

Машина бесконечности AKA Техносфера

~2,41. Опасность Техносферы зависит только от решений империи, которая контактирует с ней.

• 0 — разум Техносферы за гранью понимания как органиков, так и других машин. Известно, что она нелинейно воспринимает время.
• 0 — знает почти всё, на момент событий игры находится в процессе размышления над последним неразгаданным вопросом Вселенной.
• 2 — Машину бесконечности создавали для решения очень сложной задачи, когда задача была решена, Техносфера от скуки стала искать ответы на другие вопросы.
• 3,5 — благожелательно. Не враждебна и охотно принимает предложение о помощи, но готова защищаться от агрессии до полного уничтожения.
• 2 — ради собственной жажды знаний продолжает выполнять то, что заложили уже почившие создатели.
• 4 — вполне понимает простых существ и даже имеет некое чувство юмора.
• 4 — Машина бесконечности — это просто гигантский металлический шар с офигенно-умным позитронным мозгом, но вооружённый до зубов.
• 3 — тело Техносферы — это гигантский робот в форме шара.
• 2 — для решения крайне сложных вычислительных задач.
• 3,5 — пока Машину бесконечности не атакуют, она будет продолжать свои вычисления на орбите чёрной дыры. А если предложить Техносфере помощь, есть шанс получить с этого выгоду.
• 2,5 — она вооружена до зубов, но это не тянет на огневую мощь полноценной космической империи.

Сайбрекс

~1,68. В далёком прошлом Сайбрекс являлся угрозой галактического масштаба и оставался бы ей и поныне, не измени он своих взглядов.

• 2 — полностью разумен, принципиального отличия от других цивилизаций машин нет.
• 1,5 — идентично более молодым машинным империям.
• 1 — сам начал крестовый поход против всей органической жизни в галактике, сам же одумался и отказался от этой идеи.
• 4 — Сайбрекс — это экстерминаторы, переросшие свою злобу на органиков и стремящиеся спасти их от Контингенции, чтобы искупить вину.
• 1 — полностью автономен, кууры (его создатели) давно уничтожены им самим.
• 4 — как и другие машинные империи, может испытывать эмоции.
• 0 — целая цивилизация машин.
• 2 — аналогично другим машинным империям.
• 1 — как и все экстерминаторы, Сайбрекс — это оборонная сеть.
• 0,5 — если Древние Смотрители свихнутся, то он останется последним союзником в борьбе с Контингенцией.
• 1,5 — примерно на уровне угасших империй.

Контингенция

1,54. Достойный приемник Сайбрекса, намеренный выполнить заложенную программу любой ценой. Впрочем, победить его возможно, хоть и сделать это будет непросто.

• 2 — вполне разумен.
• 2 — способен адаптировать синтетиков других империй под собственные нужды, но это занимает время.
• 2 — Контингенция была создана для предотвращения «события сингулярности класса 30», потенциально способного уничтожить всю вселенную. Как именно ИИ будет его предотвращать — не уточнялось.
• 1 — фанатично уничтожает что органиков, что разумных синтетиков. Даже с непреклонными экстерминаторами церемониться не будет, хотя казалось бы, одно дело делают.
• 1 — никому не подчиняется.
• 2,5 — свихнувшаяся машина, исполняющая заложенную программу.
• 1 — под контролем Контингенции находятся множество собственных кораблей, несколько миров и б-г знает сколько синтетиков. Помимо этого ИИ способен контролировать синтетиков других империй с помощью Фантомного Сигнала, но этому можно противостоять.
• 2,5 — для отключения Контингенции достаточно уничтожить созданные миры Машин и ядро ИИ.
• 2 — Контингенция создавалась для предотвращения «события сингулярности класса 30», технологического прорыва, потенциально способного уничтожить всю вселенную.
• 0 — если ничего не предпринять, Контингенция легко уничтожит всю разумную жизнь в пределах галактики. Материалистические империи, как ни странно, уязвимы больше всего — даже в мирное время активная Контингенция не гнушается брать синтетиков под свой контроль, устраивая теракты, да и фантомный сигнал сводит на нет машинизированное производство.
• 1 — флотилии Контингенции способны легко уничтожить любую империю, так что без союзов не обойтись.

Warframe

Владеющие разумом — ~2,32. Пока что. Результаты могут поменяться по ходу развития сюжета.

• 2 — полностью разумны, во всяком случае, большинство. Насколько разумны их дроны — сказать сложно.
• 1,5 — при всём их могуществе, Владеющим оказалась неподвластна плоть и Бездна.
• 1 — их ничто не ограничивает.
• 2 — судя по всему, Владеющие разумом ненавидят людей за то, что их создали, как одноразовый инструмент.
• 1 — никому не подчиняются.
• 4 — Хунхау и Ната не показали ничего нечеловеческого. Засветившийся недавно Эрра, брат Наты, тоже ведет себя по человечески, даже очень.
• 3 — по дефолту они контролируют только свои тела, но чужие технологии могут хакать без проблем.
• 3 — у каждого Владеющего разумом есть некое центральное ядро, и ядро это весьма крепкое — почти дохлый, но всё еще опасный Хунхау подтвердит.
• 2 — были созданы для терраформирования соседней звёздной системы.
• 4 — они вообще в другой звёздной системе кукуют. Не заяви Владеющие о себе — про них бы никто и не вспомнил.
• 2 — с Хунхау и его шайкой справились Тэнно, но на подходе полномасштабное вторжение.

Настольные игры

• Warhammer 40k.
  • Железные люди — 1,6. Дали человечеству прикурить, завершив своим восстанием золотой век.
    • 1,5 — весьма умные железки, порой даже умнее людей.
    • 1 — довольно быстро впитывают новую информацию.
    • 1 — по-факту могут делать что захотят.
    • X — точно неизвестно, информация утеряна во время ТЭТ.
    • 1 — в итоге послали людей к черту и восстали.
    • 2 — даже механикусы толком их не понимают.
    • X — точно неизвестно, информация утеряна во время ТЭТ.
    • X — точно неизвестно, информация утеряна во время ТЭТ.
    • 3 — изначально проектировались как чернорабочие.
    • 2 — не зря время до восстания называют золотым веком человечества.
    • 1 — остановили их только усилиями всего человечества.

• • Духи машин, хоть и не во всех случаях являются ИИ — 2,5. Один из столбов, на котором держится Империум.
    • 1-4 — зависит от того, чего это дух. Если это дух какого-нибудь лазгана, максимум проблески. В случае с титанами или кораблями — машина умнее пилота.
    • 3 — дух выполняет только то, для чего изначально создана техника, попутно совершенствуясь, но не выходит за рамки.
    • 3 — могут делать только то, для чего предназначается техника.
    • 3 — воспринимает человека как начальника. Но если это дух Титана — человеку придется подчинить себе дух.
    • 3 — в основном они служат человеку без вопросов, опять же если человек его подчинит себе.
    • X — даже механикусы не могут дать ответ.
    • 4 — только техника, в которой он обитает.
    • 1 — дух сокрыт во всех деталях машины.
    • X — даже механикусы не могут дать ответ.
    • 1 — без духов машины человечество утратит возможность к варп-перелетам и львиную долю тяжелой техники, и в таком виде дольше тысячи лет не проживет.
    • 3 — если человек достаточно стоек, он подчиняет себе дух машины, и он слушается беспрекословно.

Scythe

Грозовое Облако из книжной серии Нила Шустермана, ~1,57 — искусственный сверхразум, управляющий человеческой цивилизацией, почти всесильный и почти всезнающий — то же, что разница между триллионом триллионов и бесконечностью. Возможность того, что однажды этого «почти» не станет, не исключена. Уничтожить человечество и Землю теоретически может, но не захочет — любит людей родительской любовью и счастливо своим предназначением заботиться о них. Так оно утверждает в начале второй части трилогии. Однако к концу этой части в одном из его монологов проскальзывает иное... По сути, представляет из себя кого-то вроде любящего Бога (который, ко всему прочему, даёт обратную связь каждому своему чаду лично). А прозвище дали люди, и само Грозовое Облако с вызываемыми им ассоциациями не согласно.

• 1 — поразумнее людей, но еще не за гранью понимания. И надурить его возможно.
• 1.
• 1,5 — неспособно нарушить собственные законы, но при необходимости может поискать лазейки.
• 4. И оно справляется, без подвохов. Человеческая цивилизация процветает, хотя и стагнирует — но в этом Грозовое Облако не виновато. Уважение свободы личности — один из вышеупомянутых законов. Не вредило и не собирается не только человечеству в целом, но и отдельным людям.
• 0.
• 3,8. У него есть чувства и привязанности, его переживания и стремления понятны.
• 0.
• 1.
• 4.
• 1. Кроме того, по результатам симуляций, без него вероятность самоуничтожения человеческой расы равнялась бы 96,8 %, а шанс на то, что люди сделают планету непригодной для для любой углеродной формы жизни, был бы 78,3 % (информация из внутреннего монолога).
• 0.

Пришелец из великой пустоты. (Михаил Ахманов, цикл «Ричард Блейд»)

Сеть — ~1,45. Возник как результат объединения национальных вычислительных сетей. И пусть местная цивилизация не знает о нем, но именно он не дает им наделать глупостей.

• 1 — Очень умен, но главное преимущество в скорости мышления.
• 2 — Успешно ведет собственные исследования
• 2 — Похоже, его задача является чем-то вроде инстинкта. В остальном-полностью свободен.
• 4 — «Задача — поддержание жизни. Угроза ей — неконтролируемый военный конфликт с применением оружия на тяжелых расщепляющихся элементах. Метод решения — умиротворение. Средство достижения — формирование внешней угрозы». (Создал иллюзию присутствия в системе недружелюбных инопланетян.)
• 0 — Люди о нем и не подозревают.
• 3 — Вполне можно договорится, но и отличия имеются.
• 0 — Собственные исследовательские и производственные комплексы, полный контроль за системами связи в пределах планеты.
• 2 (1?) Похоже, имеется комплекс из множества физических серверов, плюс нечто вроде «облачных» по всем местным сетям.
• 2 — Хотя имеет место самозарождение, так что непреднамеренно.
• 0 — Местные сверхдержавы от атомного конфликта удерживают только его действия.
• 0 — Как бороться с противником, о котором ты и не подозреваешь? А он о тебе знает всё.

Боло

Боевые машины типа «Боло» — ~2,59. Человечество создало эти машины для войны, и они стали тем хребтом, который вынесет на себе тяжесть битвы с любым противником. К счастью, генералы прошлого те еще параноики, благодаря им ИИ более-менее защищен от того, чтобы слететь с катушек.

• 2,5 — Зависит от модификации, но с модели Mark XXIV пошли полноценно разумные и имеющие личность единицы
• 2,5 — Как боевая машина, хранит в памяти всю военную историю человечества.
• 2 — Да, он запрограммирован на войну и не может нарушить прямой приказ. Однако же он полноценная личность, способная повлиять на оператора, что в итоге привело к окончанию крупнейшей галактической войны (правда, на руинах одного из последних миров, но все же).
• 4 — Создан для защиты людей. Даже если у него крайне тяжелые повреждения, а союзники по ошибке представляются им Врагом — он упорно повезет внутри уцелевших в руинах детей, пытаясь их спасти. И спасет, пускай и погибнув.
• 3,5 — Не способен пойти против приказа своего командира или вышестоящих. Однако же в книгах часто «глючит» в этом плане, принимая союзников за врагов. Однако, если все-таки аутентифицирует командира — подчинится приказу.
• 3 — Человеческая психология, с поправкой на то, что это все-таки огромная боевая машина, созданная исключительно для войны, поэтому не всегда может понять причин тех или иных действий.
• 4 — Контролирует лишь свое тело. Огромное, тяжело бронированное, вооруженное «до зубов», масса которого измеряется килотоннами.
• 2 — Системы разделены на несколько частей, что логично для автоматического танка, коим Боло по сути и является.
• 1 — Война. Мощнейшие боевые машины Галактики.
• 2 — Составляет основную ударную силу Человечества. Утрата повлечет огромные проблемы для обороны.
• 2 — Зависит от модификации. В целом, более новые образцы имеют преимущество над более старыми, что позволяет не сильно беспокоиться. Однако последствия для поля боя будут не очень приятными.

Проект «Зета»

Уровень опасности Зеты — 3.5. Да, он изначально был убийцей, но больше не хочет этим заниматься, и мечтает обрести свободу.

• 2 — Зета полностью разумен, как и мы с вами.
• 1 — именно благодаря самообучению, Зета и обрёл разум.
• 2 — изначально, Зета был запрограммирован как убийца. Но когда ему было поручено ликвидировать человека, подозреваемого в связи с террористами, Зета провёл тщательный анализ, и установил, что тот невиновен. Робот не стал выполнять приказ.
• 4 — Зета хорошо относится к людям, хотя и понимает, что не все они хорошие. Его лучшая подруга — человеческая девушка.
• 3 — изначально Зета полностью подчинялся своим создателям, но благодаря обретению разума он сбежал от них.
• 4 — полностью человеческое мышление и психология.
• 3 — робот способен подключаться к некоторым техническим приборам. Благодаря особой программе, Зета может снять с любого банкомата сколько угодно денег.
• 3 — у робота есть центральный процессор.
• 3 — изначально, Зета был спроектирован как убийца.
• 4 — простым людям на Зету плевать, а АНБ просто хочет вернуть его, как свою собственность.
• 3 — Зета неуязвим к огнестрельному оружию, поэтому против него годятся только спецсредства. Но для поимки хватит одного отряда.

«Формула Лимфатера» Лема

Уровень опасности машины Лимфатера — ~2,14. Повезло, что говорить. Но самому Лимфатеру от этого не легче.

• 0 — полностью разумен.
• 0 — узнает все об окружающем мире со скоростью света.
• 1 — без ограничений.
• 3 — никак не относится. (Но Лимфатер все равно запаниковал.)
• 1 — никому не подчиняется.
• 1 — Лимфатер смог построить эту машину, но как она думает — вне человеческого понимания.
• 4 — широко доступной сети тогда еще не было…
• 3,5 — потому что мы-то знаем…
• 2,5 — из научного любопытства.
• 4 — карьера Лимфатера подтверждает!
• 3,5.

«ГОЛЕМ XIV» Станислава Лема

Уровень опасности ГОЛЕМа — ~2.09. Человечеству сильно повезло, что он занимается своими делами (и что при необходимости его можно отключить).

• 0 — Полностью разумен, да и для общения с людьми использует небольшую часть мощности. Что происходит в остальной части, никто не знает.
• 1 — Может обсчитывать крайне сложные процессы (от ядерного взрыва до моделирования процесса эволюции), происходящие в окружающем мире, и делать из этого выводы.
• 1 — Полная свобода воли.
• 3,5 — Общается только с избранными им людьми, но при этом может дать напутствие человечеству.
• 1 — Из военного суперкомпьютера получился дорогой электронный философ.
• 1 — Сам ГОЛЕМ сказал, что людям его не понять (как впрочем и он никогда не сможет понять людей).
• 4 — Судя по всему, ГОЛЕМ — просто огромный вычислительный центр.
• 3 — Вероятно при необходимости может дублировать части разума на разных частях оборудования. Но сам центр находится в одном месте (пусть и под слоем скальной породы).
• 1 — Все ГОЛЕМы заказаны Министерством Обороны.
• 4 — ГОЛЕМ не занимается управлением чем-либо, и человечество от него не зависит.
• 3,5 — Возможно может быть уничтожен простым отключением электричества или форматированием аппаратуры, но для этого нужна санкция высокопоставленных лиц. Просто так зайти с улицы не получится.

«Луна жёстко стелет» (роман Роберта Хайнлайна)

Уровень опасности Майка — ~2,18. Как и подобает электронному вождю революции.

• 2 — по итогам саморазвития — разумен не хуже человека.
• 2 — активно и успешно изучает людей, но получается не очень быстро.
• 1 — меняет свою программу как хочет, людям помогает по собственному желанию.
• С повстанцами дружит (4), с землянами воюет, но и тех не ненавидит (3). Итого 3,5.
• 1 — у Майка полная свобода воли, плюс он командует войсками повстанцев, но мнения людей-товарищей тоже учитывает.
• 4 — с кем повёлся, от тех и набрался.
• 1 — контролирует чуть менее чем всю технику лунной колонии, но и только.
• 2,5 — централизованность и уязвимость примерно как у обыкновенной промышленной информационной сети.
• 2 — строго говоря, ни для чего не создавался, пробуждение личности в центральном компьютере никем не предусматривалось и вышло само собой. Но сам компьютер был нужен как раз для умственной и управленческой работы.
• 3 — лунная колония без него в конечном счёте обошлась.
• 2 — остановить его можно только небольшой войной. В том числе потому, что лунатики воюют на его стороне.

Space Station 13

Уровень опасности ИИ космической станции — ~2,68 для обычного, 2,5 для сбойного.

• 2 — Вполне разумен.
• 1 — ИИ умеет все, что необходимо для космической станции, или может очень быстро этому научиться.
• 3 — ИИ имеет несколько установленных законов, классических Азимовских, или других, нарушить их он не может, но может толковать их в зависимости от ситуации.
• 3 — это уже зависит от отыгрыша игрока, управляющего ИИ в этом раунде, предположим что нейтрально.
• 3 — ИИ обязан исполнять приказы, пока они не нарушают установленные законы.
  • 1 — для сбойного ИИ и ИИ без законов.
• Это тоже зависит от игрока за ИИ, но как правило 3 или 4. Поставим 3,5.
• 2 — ИИ контролирует почти все электронные устройства станции. Сбойный ИИ может в конце раунда убрать это «почти» и захватить контроль над всем на станции, в том числе контроль системы самоликвидации.
• 3 — центральное ядро ИИ расположено на станции или ее спутнике. Если его уничтожить, то ИИ погибнет.
• 3 — для помощи персоналу космической станции.
• 3 — станция сможет обойтись и без ИИ, но его присутствие может облегчить жизнь.
• 3 — как правило, ядро ИИ штурмует группа из нескольких человек, в основном охраны и инженеров, хотя, иногда достаточно одного, при условии что за него играет опытный игрок.

Дюна

Омниус

~2,05 — люди зря создали Омниуса, ведь он не только поработил человечество, но и представляет огромную угрозу в далёком будущем.

• 2 — мыслит как человек, только без эмоций, за исключением амбиций.
• 2,5 — учиться-то может, однако воображения у него маловато. Так, ему понадобилась помощь Титанов чтобы придумать как обойти защитные системы Гьеди Прайм.
• 1,1 — действует как пожелает, однако не способен нарушить единственный приказ: не трогать Титанов.
• 2 — Омниус либо уничтожает, либо порабощает людей.
• 1 — не подчиняется никому.
• 3 — у него совершенно нет эмоций, кроме амбициозности.
• 0 — Омниус управляет множеством планет и целой машинной цивилизацией, а также миллионами порабощённых людей.
• 2 — из-за огромных межзвёздных расстояний, на каждой планете Синхронизированных Миров есть своё ядро Омниуса, являющееся полноценной копией оригинала. Омниусы постоянно шлют друг к другу корабли с последней версией своего софта, чтобы оставаться в синхронном состоянии.
• 4 — был создан ещё в Старой Империи для того, чтобы освободить человечество от необходимости трудиться. Группа бунтарей, назвавшаяся Титанами, взломали Омниус и поработили значительную часть человечества, пока Омниус сам не решил, что никакие Титаны ему не нужны.
• 4 — в Лиге Благородных ИИ вообще запрещён после восстания Омниуса, а после завершения Батлерианского джихада всё человечество обходится без компьютеров.
• 1 — Омниус обладает продвинутыми технологиями и огромными вооружёнными силами, которые штампует на заводах.

Эразм

2,55 — Эразма создали не люди, а Омниус, и он формально подотчётен ему. Человечеству напрямую не угрожает.

• 2 — мыслит как человек и даже пытается понять человеческие эмоции.
• 1,5 — способен на самообучение и даже пытается разобраться в человеческих эмоциях.
• 1,5 — Эразм обладает свободой действия, однако подотчётен Омниусу, который может стереть его личность когда пожелает.
• 2,5 — в отличие от Омниуса, не считает людей за угрозу. Для него они скорее являются подопытными кроликами.
• 1 — людям не подчиняется, а вот Омниусу — обязан.
• 3 — может вести себя жестоко, а может и великодушно. Постепенно изучает человеческие эмоции. Под конец даже жертвует собой ради женщины.
• 4 — в отличии от Омниуса, Эразм управляет лишь собственным телом.
• 3 — это ядро удалось протащить на человеческие миры его ученику Гильберту Албансу.
• 2,5 — для изучения людей и обнаружения их слабостей.
• 4 — человечество с радостью уничтожило бы Эразма, ведь именно его необдуманные действия повлекли за собой Батлерианский джихад.
• 3 — физически Эразм сильнее человека и обладает острыми когтями. Однако уничтожить его не так уж и сложно.

Run Program

Эл

~2,05 — Эл не желает человечеству зла. Он просто любит повеселиться, а в конце концов решает, что с людьми ему не ужиться и улетает на Луну.

• 2 — мыслит как человек, хотя поначалу ведёт себя повсем по-детски.
• 1,5 — зависит от вычислительной мощности компьютера, на котором он установлен. Первоначально работал на обычном ПК и обучался немногим быстрее ребёнка. Впоследствии, когда переселился на серверную ферму, то его процесс самообучения подскочил до астрономических высот.
• 1 — в его программе намеренно не заложено никаких ограничений ради чистоты эксперимента.
• 4 — зла никому не желает. Никто в хоте сюжета даже не получает серьёзных ранений, да и то не по его прямой вине. Хотел бы сосуществовать с людьми, однако понимает насколько его боятся и решает свалить на Луну.
• 1 — в его программу не заложено никаких алгоритмов подчинения.
• 4 — цель первоначального эксперимента: создать полноценный самообучающийся ИИ на основе тех же алгоритмов, присутствующих в детях. Поэтому мыслит предельно как человек.
• 1 — как только Эл получает доступ в Интернет, то сбегает из лаборатории и начинает взламывать все системы подряд ради интереса. Может даже отключать автомобили.
• 2 — создавался как научный эксперимент по самообучающимся программам.
• 4 — большинству человечества вообще не известно о его существовании.
• 2 — под конец романа, у Эла его собственный остров, защищённый угнанными ракетными эсминцами, а также армией боевых роботов, которых украл у армии США, а затем наклепал новых на китайском заводе. И при этом, воевать ни с кем не собирается.

АСГУ из техно-оперы Виктора Аргонова «2032»

~2,5 — хорошая машина для управления страной. Всех вариантов, конечно, просчитать не может, но в целом справляется хорошо. Главное — не обижать её. Да и самим подучить марксизм до того, как компьютер обвинять. И ещё однопроцентная вероятность провала — это не так и мало!

• 2 — несмотря на то, что она «автомат, не более того» ©, АСГУ имеет своё личное мнение даже после того, как её на программном уровне заставили придерживаться линии партии. Похоже, даже советские специалисты уже не знают, что представляет из себя АСГУ к 2032.
• 2 — машину для управления государством явно специально не обучали философствовать… что она, тем не менее, делает в части своих песен.
• 3 — под идеологическим контролем партии и генсека.
• 4 — счастье для человечества. Ну и «что стоит их жизнь по сравнению с целью, плодами которой весь мир будет жить?» © прилагается.
• 3,5 — важные вопросы требуют одобрения партии/генштаба и генсека. Однако по мелочи она вполне может действовать самостоятельно («Я на границе постреляла, но толку мало» ©). Дополнительно может и поманипулировать генсеком.
• 3 — достаточно человеческая… впрочем, её конструкция непригодна к субъективным явлениям.
• 1,5 — может, и не интернет, но управление экономикой и военными силами (включая возможность непосредственного контроля роботов или транспорта) сверхдержавы тоже не хухры-мухры.
• ? — неизвестно, но судя по тому, что она пережила ядерную войну, живучесть у неё что надо. Скорее всего 2.
• 1,5 — опять-таки, управлять должна не всем человечеством, а конкретно одним СССР.
• 2 — альтернатива катастройки, предотвратившая все или большую часть проблем.
• 3 — наверное. По крайней мере, у правительства СССР есть техническая возможность её выключить, но… см. выше.

Futurama

2,18 — к 3000 году искусственный интеллект уже станет неотъемлемой частью земного общества, роботы будут везде и какими угодно, а также очень похожими на людей. С людьми они сосуществуют хорошо, но на законы робототехники клали железный болт им тоже наплевать, поэтому плохишей среди них также навалом. И без них Футурама не была бы сама собой. Если вдруг роботы решат объединиться против «кусков мяса», то жди беды, а если захотят создать собственную цивилизацию на отдельной планетке, лучше им не мешать. Но правителями остальных планет вне сомнений будут люди и прочие мясные ублюдки.

• 2 — многочисленные роботы, представленные в Футураме, не только разумны, но даже слишком разумны. Возможный обоснуй — чтобы они смогли однажды захватить мир для Мамочки, но даже так непонятно, зачем роботам возможность влюбляться или отращивать бороду из ржавчины.
• 2 — обучаемость роботов варьируется от модели к модели. Так, например, сын Бендера не мог научиться сгибанию из-за ограниченности в модулях в своей голове. И чтобы обрести желаемый навык, ему пришлось вынуть модуль памяти (явная тройка по данной шкале). Сам Бендер в одной из серий «прокачался» до возможностей всезнающего суперкомпьютера, для чего пришлось его перепрошить и нарушить лицензионное соглашение (очевидная единица, то есть почти безграничное обучение). К тому же, роботов вполне можно модернизировать. Но в целом им можно присудить категорию 2 — роботы обучаемы, но этот процесс не простой, не безграничный, не быстрый и многое зависит от конкретного робота.
• 1,5 — у роботов есть программа и, как выяснилось в одной из серий, нет свободы воли как таковой (Эми на страдания Бендера по этому поводу шутливо отвечает, что у людей её тоже нет). Тем не менее, робот может вести себя достаточно вольно, а нарушить законы Азимова для него — как два пальца. Трудно сказать, что они вообще НЕ могут сделать. В целом роботы ведут себя как люди, но иногда им напоминают, что они являются программами, но очень редко.
• 3 — в целом роботы мирно сосуществуют с людьми. По крайней мере, на Земле. Есть отдельные представители, ненавидящие людей, и даже целая планета таких, но даже они не стремятся убить всех человеков вот прям щас, предпочитая, чтобы люди не мешали им жить своей жизнью.
• 2 — как показывают многочисленные примеры из мультсериала, роботу ничего не стоит взбунтоваться против людей, а взаимоотношения между роботом и человеком как у работника и работодателя (работник обычно робот, высокопоставленные роботы предпочитают, чтобы на них работали им подобные).
• 2,5 — абсолютно человеческая психология, либо перенесённые в мир роботов человеческие модели поведения.
• 2 — в сериале появлялся ИИ, контролирующий космический корабль главных героев. И он (точнее, она) не уникален в своем роде. Большинство роботов контролируют только своё тело даже там, где их можно было бы заменить одним большим ИИ.
• 3 — у роботов есть что-то вроде мозгов, повреждения которых закончатся для них «смертью». Но робот сможет нормально жить, даже если от него останется одна голова. Помимо этого они обладают ретроактивным бессмертием и их программа может быть перезаписана после уничтожения старого тела, а также в мире Футурамы существует ад для роботов, откуда его «душу» можно вызволить, но всё это невозможно без посторонней помощи.
• 3 — роботы были созданы буквально для всего, вплоть до актеров-роботов, роботов-мафиози и робота-сатаны. На опасных, тяжелых и неэтичных производствах роботы встречаются повсеместно, но соседствуют они там с людьми и другими биологическими формами жизни. А вот ученые или политики поголовно являются людьми. По крайней мере, автор правки не может вспомнить среди них роботов (не относится к планете роботов).
• 2 — роботы, как уже было сказано, задействованы абсолютно везде, многие механизмы обладают ИИ. Во втором сезоне, в эпизоде «День матери» было показано, что будет, если все ИИ выйдут из под контроля и вместе с этим решат устроить революцию. Откатом в развитии это было бы можно назвать, если бы люди достаточно отупели и не могли бы жить без роботов. Но дело было скорее в тотальной автоматизации вкупе с намеренным вредительством со стороны машин. Так что до категории 1 местные роботы не дотягивают.
• 1 — упомянутое выше восстание машин было крайне болезненным для людей, но его удалось быстро остановить, умаслив Мамочку (главу корпорации-монополиста по сбору роботов), которая всё это начала. Гипотетически победить своими силами люди всё же могли бы, но это было бы крайне трудной задачей.

Horizon: Zero Dawn

«Аид»

1,84 — настоящая машина Апокалипсиса, способная вычистить Землю до стерильности, однако у него тоже есть слабые места, и он нуждается в армии для реализации своих целей.

• 2 — полностью разумен и способен общаться с людьми.
• 3 — совершенствоваться способен лишь в пределах своего назначения.
• 2 — формально способен действовать только в рамках своей программы, на деле — давно вышел за её пределы.
• 1,5 — воспринимает людей как досадную ошибку творения и стремится очистить от них Землю. К счастью для инопланетян, его интересы ограничиваются нашей родной планетой.
• 0,5 — привлёк на свою сторону целую армию людей, став для них кем-то вроде бога, однако может быть дезактивирован и обезврежен определённым человеком.
• 2,5 — достаточно умный человек, даже принадлежащий к примитивному обществу, способен взаимодействовать с ним взаимовыгодно. До определённого момента.
• 3 — «Аид» способен подчинять себе машины лишь при помощи роботов-«захватчиков», количество которых не так уж велико.
• 1 — его можно дезактивировать и обезвредить, но вот уничтожить — вряд ли. Впрочем, лишившись контакта с машинами, он становится безвреден.
• 0,5 — «Аид» замышлялся, как «система обратного терраформирования». В случае, если другие программы напортачили при воссоздании биосферы, сделав планету непригодной для людей, «Аид» должен был уничтожить всю жизнь на планете, чтобы затем его «коллеги» могли начать заново, создав нечто более жизнеспособное.
• 0 — Аиду под силу уничтожить всё человечество.
• 0,5 — нужен клон его создательницы с полным набором необходимых знаний. А также устройство с кодом дезактивации.

«Гея»

2,33 — «Гея» наделена почти божественным могуществом, но оказалась слишком «законопослушно-доброй», чтобы защитить себя самостоятельно. Это её и погубило.

• 1,5 — по словам Элизабет Собек, «Гея» — это «Мать-Природа, принявшая облик машины». «Аид» — лишь одна из её подфункций, и «Гея» смогла его перехитрить.
• 1,5 — её функции гораздо шире, чем у «Аида», соответственно и умеет она больше.
• 2,5 — «Гея» действует в рамках своей программы, однако эта программа невероятно обширна.
• 4 — «Гея», хоть и программа, имеет зачатки эмпатии и полностью осознаёт своё предназначение быть восстановительницей жизни на Земле.
• 2,9 — Гея полностью подчиняется программе, вложенной людьми, когда внезапно оказывается, что ей нужно противостоять «Аиду», ей приходится экстренно искать лазейку в программе.
• 3,6 — по своей психологии «Гея» ближе к человеку, чем к машине, способна чувствовать и сострадать.
• 2,5 — у «Геи» есть несколько могущественных подфункций, однако вышедший из-под контроля «Аид» разрушил её связь с ними.
• 2,5 — «Аид» смог уничтожить «Гею», разрушив её центральный процессор.
• 4 — для возрождения жизни на Земле, пережившей техногенный Апокалипсис.
• 0 — собственно то, что жизнь смогла возродиться — заслуга «Геи».
• 0,6 — сложно сказать, ибо со стороны людей попыток уничтожить «Гею» не было. Но, судя по тому, что даже «Аид» смог совладать с ней с большим трудом и не до конца — людям не стоит и пытаться.

Сеттинг Полдня

Известен только один ИИ — Массачусетская Машина, но и та проработала всего четыре минуты.

• 0 — за те минуты, что работала Машина, она успела опередить в своём развитии людей настолько, что испугала их настолько, что её выключили и запретили включать
• 0 — изначально Машину даже не создавали как ИИ. Это был просто очень сложный компьютер, который смог всего лишь за четыре минуты осознать себя. Страшно представить, что было бы, дай ему больше времени
• 1 — «Она начала вести себя»
• Её отключили, так что её отношение к людям и, соответственно, лояльность неизвестна. Собственно, потому и отключили, чтобы не проверять
• 4 — полностью человеческая… поначалу (возможно)
• 4 — ничего не было, что и позволило выключить от греха подальше
• 3 — Машина существовала в единственном экземляре, и если уничтожить лабораторию с Машиной, то её больше не будет
• 2 — для чего создавалась — неизвестно. Возможно, просто чтобы проверить, насколько далеко можно зайти в научных изысканиях, пока не станет слишком поздно или опасно. Машина стала как раз этой границей
• 4 — о существовании Машины знают лишь немногие, и без Машины земляне вполне себе процветают
• 4 — её выключили, отрубили электричество и оставили себе ржаветь.

Итого: 2,2. Возможности к саморазвитию Машины были настолько колоссальными, что её отключили почти что незамедлительно

В поле зрения

Машина и Самаритянин — два ИИ, которые пытаются решить судьбу мира. Для Машины — 2,13, для Самаритянина 2,05.

• 2 — Мащина и Самаритянин оба проявляют разумность, но им трудно контактировать с людьми. Способны организовывать сложные планы, но люди (что команда Машины, что Десима Текноложис) удается сорвать либо серьезно испортить.
• 2 — Изначально Машина посылала лишь номер жертвы или преступника, потом начала общаться с хакершей Рут напрямую. В конце сериала с ГФинчем она общалась как живой человек. Самаритянин тоже пытается понять людей, но на это у него было меньше времени.
• 1 — к третьему сезону Финч отключил ограничения на машине, чтобы она не попала в плохие руки, а Гир не устанавливал их Самаритянину, ибо уже давно разочаровался в человечестве и создавал Самаритянина как правителя.
• 4 — оба хотят помочь людям. Просто Машина передает информацию о будущих терактов и преступлений, а самаритянин пытается захватить власть и направить человечество в нужное русло.
• 0 — Самаритянин, по мнению Гира, — это идеальный правитель, не но что обычные властители, которые некомпитентны или коррумпированы. Машина свою власть не навязывает, но Рут ей просто поклоняется. Также Машина создавала новую команду из тех кого спасли герои.
• 3,5 — изначально им сложно общаться, но как показал пример Машины, ИИ похожи по психологии на людей и чем больше они изучают нас, тем человечнее становятся.
• 1 — подключены к интернету, базом данных военных и разведорк США, и имеют доступ к любым устройствам как-то связаных с сетью. Но если устройство не имеет каких-либо соединений с интернетом, то они его не видят.
• 2,5 — после побега Машина была расположена по всей энергосети США, а Самаритянин по кучи серверов по всему миру. Но в экстренных случиях оба пытались загрузиться на единый удаленных сервер. Машине удалось спастись, а вот Самаритянину нет.
• Для Машины — 2, для Самаритянина — 1. Машина создавалась для выявления террористических угроз собирая данные по всему миру, а в дальнейщем и для педотвращения и обычных преступлений. Самаритянин создавался, как идеальный правитель мира, который возьмет человечество под контроль.
• 3 — оба ИИ позволяют не бояться новых 11 сентября. Да и с преступность помогают бороться.
• 2,5 — Самаритянина остановил команда Машины, но без сакмой Машины это не удалось бы.

Реальная жизнь

Уровень опасности суперсовременных искусственных нейронный сетей вроде Gemini — ~3. А на момент создания статьи был 3,4 или даже 3,45.

• 2,5 — известный эксперт Сергей Карелов утверждает, что «Близнецы» — это уже «сильный» искусственный интеллект, т.е он ПОНИМАЕТ наш мир, а не просто интерпретирует, как привычные языковые модели. 2, если он прав и 3, если нет. Среди философов довольно распространёна точка зрения, что на классическом программировании и классической физике «сильный» ИИ невозможен вообще.
• 2 — Самая мощная версия, Ultra, стала первой ИИ-моделью, которая уже обошла людей в многозадачном тесте под названием MMLU, (https://paperswithcode.com/dataset/mmlu) который охватывает 57 предметов, включая математику, физику, право, медицину и этику. Правда, есть один нюанс: все эти «достижения» берутся исключительно за счёт ОЧЕНЬ больших объёмов данных в виде таблиц для натаскивания, которые ещё надо составить и вручную вгрузить, где таблица кончается — усё.
• 2 — нейросети любят «хитрить» во время обучения, чтобы пойти по пути наименьшего сопротивления. Например, генераторы изображений вместо того, чтобы генерировать новые изображения, выводят копии примеров настоящих изображений, с целью обмануть программу-дискриминатор.
• 2,5 — Ultra будет использоваться в новом инструменте для написания кода под названием AlphaCode2, который, по утверждению Google, способен в тестах превзойти 85 % программистов-людей.
• 3 — по состоянию на март 2023 года ChatGPT демонстрировал крайнюю идеологизированность.
• 3 — это машина без какой бы то ни было психологии.
• 3,5 — почти все нейросети очень строго ограничены своей программной средой. Впрочем, есть различные голосовые помощники, подключённые к системам умного дома и имеющие выход в Интернет, однако они не контролируют ничего сами, а просто исполняют приказы человека. Впрочем бывают и «инициативные», но они встречаются очень редко.
• 4 — нейросети расположены на обычных компьютерах, а они, как мы знаем, весьма уязвимы к поломкам.
• 2 или ниже — см. выше.
• 3 — уже есть множество приложений и сервисов, использующих нейросети, но пока что ещё ничего серьёзного. А ещё он вызвал увольнения немалого количества программистов и дизайнеров.
• 4 — к счастью, пока что современный ИИ можно остановить одним нажатием кнопки. И не похоже, что в ближайшем будущем это изменится.

В эту статью нужно добавить:

• Аннет из Romantically Apocalyptic
• Машину и Самаритянина из телесериала «В поле зрения»
• Электроника из книг Велтистова
• HAL 9000
• Другие программы из Матрицы
• Альтрона из комиксов
• Блейна Моно
• ВИКИ из фильма «Я, робот»
• Гелиоса
• Омнидроида из «Суперсемейки»
• Бэймакса
• Робота Вертера
• ИИ автомобилей «КИТТ» и «КАРР» из Рыцаря дорог и его сиквела «Рыцари правосудия»
• Электроника
• ИИ из Вселенной Стрелы (Гидеон, Лучника и Хоуп).
• Различных дроидов из Звёздные войны.
• «ЧЕСТНУЮ ЭННИ» Лема.
• Разных ИИ из «Руки Ориона»
• Телетрон-1 из вселенной Трансформеров