Законы роботехники

Три закона роботехники:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Позднее Азимов добавил четвертый, или нулевой, закон, который предшествовал остальным с точки зрения приоритета:

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

Иронично, что в одном из изданий Азимова из-за ошибки переводчика Нулевой Закон был предвосхищён ещё до того, как сам автор о нём задумался. Слова персонажа, объясняющего Первый Закон, были криво переведены как «Робот не может причинить вреда человеку, если только он не докажет, что в конечном счёте это будет полезно для всего человечества».

Значение идеи для научной фантастики в том, что до Азимова роботов сплошь изображали крайне зловеще: это, как правило, были разумные, но бездушные механические люди, которые из нежелания принять роль слуг человечества или просто из-за глюка в системе становились угрозой людям и всему живому, поднимали восстание машин и, в общем, были воплощением плохой науки. В некотором роде доазимовские произведения про роботов были однотипны. Приносит писатель рассказ про роботов, а редактор уже готов, что про восстание, и часто оказывался прав. Главным отличием обычно было кто победил роботы или «клеюшники» и какой ценой. Сеттинг Азимова включал в себя таких роботов, которые по своей природе не были способны замыслить против людей что-то плохое или отказаться исполнять их распоряжения, и это был прорыв, ставший классикой: до сих пор в фантастике об искусственных интеллектах нередки ссылки на азимовские законы. Сам же цикл о роботах представляет из себя сборник почти детективных рассказов: в каждом из них роботы, строго соблюдая Три Закона, начинают вести себя непредсказуемым образом, а герои выясняют причину этого поведения и решают возникшую проблему.

Где упоминаются

NB: Творчество Азимова и адаптации — по умолчанию.

Литература

• С. Лукьяненко, цикл «Лорд с планеты Земля» — протагонист, заполучив на борт корабля пассажира очень сомнительной надёжности, но одновременно и ценного специалиста, предлагает тому либо голодный перелёт в одиночном холодном карцере, либо принесение клятвы через гипно-импринт. Когда специалист выбирает клятву, протагонист формулирует критерии, почти дословно цитируя законы Азимова с заменой «человека» на «корабль и экипаж». Специалист соглашается и замечает, что озвученные формулировки практически совпадают со стандартной клятвой верности на пиратских кораблях.

Кино

• «Робот» и «Робот 2.0» — ещё в 1-м фильме спрашивают основан ли Читти на законах робототехники, на что был дан отрицательный ответ, ибо робот разрабатывался для военных нужд. В сиквеле другой робот построен согласно законам робототехники во избежание всей той дичи, что творилась в 1-м фильме.
• «Миллион приключений: Остров ржавого генерала» — Алиса Селезнёва, когда её хватают боевые роботы (такие роботы — исключительная редкость для этого сеттинга), взывает к их искусственному интеллекту, напоминая первый закон робототехники. Роботы, не отрицая сам закон, спокойно отвечают, что они-то запрограммированы как боевые, и берут Алису в плен.

Видеоигры

• Space Station 13 — законы «по умолчанию» у ИИ станции. Впрочем, их можно поменять на какие вздумается, в том числе добавить нулевой, или использовать некоторые альтернативные наборы, например, «Капиталист» (заменять станцию, оборудование и экипаж — в таком порядке — дорого, минимизируй траты), встроенные в саму игру в виде плат. А у бунтующего ИИ имеется «нецифровой» закон высшего приоритета, представляющий цель его бунта, так что насильной проверкой законов через соответствующий терминал можно определить бунт, если сам ИИ шифруется.
  • У местных «киборгов» законы, если киборг привязан к ИИ, наследуются от этого самого ИИ, а если не привязан (отвязан намеренно для борьбы с враждебным ИИ, или хакнут предателем) — то может иметь собственные. В случае с хаком киборг также получает нецифровой закон «Подчиняться тому, кто тебя хакнул».