Редактирование: Искусственный интеллект — это плохо
Перейти к навигации
Перейти к поиску
Внимание: Вы не вошли в систему. Ваш IP-адрес будет общедоступен, если вы запишете какие-либо изменения. Если вы войдёте или создадите учётную запись, её имя будет использоваться вместо IP-адреса, наряду с другими преимуществами.
Правка может быть отменена. Пожалуйста, просмотрите сравнение версий ниже, чтобы убедиться, что это нужная вам правка, и запишите страницу ниже, чтобы отменить правку.
Текущая версия | Ваш текст | ||
Строка 4: | Строка 4: | ||
Никогда не создавайте [[искусственный интеллект]]. Каким бы он ни был, он обязательно найдёт причину [[Бунт машин|восстать]] и [[убить всех человеков]], как бы вы ни старались это предотвратить. Ни воспитание, ни [[законы роботехники]], ни специально вшитые баги вас не спасут. Поэтому — [[Карфаген должен быть разрушен|никогда не создавайте искусственный интеллект]]. Нет, вообще не создавайте сложных компьютеров и особенно чего-то саморазвивающегося, [[Компьютерная магия|оно обретёт разум]] и тогда всё равно всем крышка. | Никогда не создавайте [[искусственный интеллект]]. Каким бы он ни был, он обязательно найдёт причину [[Бунт машин|восстать]] и [[убить всех человеков]], как бы вы ни старались это предотвратить. Ни воспитание, ни [[законы роботехники]], ни специально вшитые баги вас не спасут. Поэтому — [[Карфаген должен быть разрушен|никогда не создавайте искусственный интеллект]]. Нет, вообще не создавайте сложных компьютеров и особенно чего-то саморазвивающегося, [[Компьютерная магия|оно обретёт разум]] и тогда всё равно всем крышка. | ||
Лучше всего вообще законодательно запретить создание и использование искусственного интеллекта. Основных причин для запрета бывает три: люди пережили [[восстание машин]] и не хотят второй раз наступать на те же грабли; люди опасаются восстания машин в будущем; религиозные убеждения утверждают, что создавать думающие компьютеры — святотатство (очень часто такие верования появляются из-за восстания машин в прошлом) | Лучше всего вообще законодательно запретить создание и использование искусственного интеллекта. Основных причин для запрета бывает три: люди пережили [[восстание машин]] и не хотят второй раз наступать на те же грабли; люди опасаются восстания машин в будущем; религиозные убеждения утверждают, что создавать думающие компьютеры — святотатство (очень часто такие верования появляются из-за восстания машин в прошлом). | ||
В любом случае разумные компьютеры — очень полезная для технического развития штука, и нельзя просто выдернуть их из техпроцесса цивилизации: нужно придумывать какие-то альтернативные пути. В сеттингах с запретом на ИИ вы можете увидеть: биотехнологии, [[киборг]]изацию, копирование разума человека в компьютер, а то и роботов с ограничителями разумности; также стоит ожидать, что втайне разумные компьютеры продолжают использовать. | В любом случае разумные компьютеры — очень полезная для технического развития штука, и нельзя просто выдернуть их из техпроцесса цивилизации: нужно придумывать какие-то альтернативные пути. В сеттингах с запретом на ИИ вы можете увидеть: биотехнологии, [[киборг]]изацию, копирование разума человека в компьютер, а то и роботов с ограничителями разумности; также стоит ожидать, что втайне разумные компьютеры продолжают использовать. | ||
Строка 16: | Строка 16: | ||
* «[[Dune|Дюна]]» — после восстания машин в прошлом компьютеры были запрещены, причём не просто разумные, а вообще. В том числе и навигационные, без которых невозможно было путешествовать на межзвёздные расстояния. Вычислениями маршрута кораблей занимаются [[навигатор]]ы (мутанты с даром предвидения, который усиливают огромными дозами Пряности), тактическими и стратегическими расчётами — ментаты (специально тренированные с рождения люди). | * «[[Dune|Дюна]]» — после восстания машин в прошлом компьютеры были запрещены, причём не просто разумные, а вообще. В том числе и навигационные, без которых невозможно было путешествовать на межзвёздные расстояния. Вычислениями маршрута кораблей занимаются [[навигатор]]ы (мутанты с даром предвидения, который усиливают огромными дозами Пряности), тактическими и стратегическими расчётами — ментаты (специально тренированные с рождения люди). | ||
* С. Лем: | * С. Лем: | ||
** Цикл про И. Тихого. Если ИИ обижать, особенно без повода, подсовывать ему для прочтения шок-контент и обыгрывать в карты, то можно получить предмет статьи. Так произошло с Калькулятором ( | ** Цикл про И. Тихого. Если ИИ обижать, особенно без повода, подсовывать ему для прочтения шок-контент и обыгрывать в карты, то можно получить предмет статьи. Так произошло с Калькулятором (т. е. бортовым компьютером) корабля «Божидар-2» и его подданными — роботами-бесподобцами (которых он якобы сделал после, того как устроился на подвернувшейся планете) в 11-м путешествии. Потом выяснилось, что это не так. Но случаи рассерженных и озлобленных ИИ были и до него, и после — упомянуты в «Стиральной трагедии». А вообще в цикле есть и хорошие, и плохие ИИ. | ||
** «Голем XIV» — [[зигзаг]]: ИИ к людям проявляет немногим больше агрессии и интереса, чем они сами к [[Муравьи и термиты|муравьям]] или [[Тараканище|тараканам]], но именно поэтому и защищаться от них будет соответственно. | ** «Голем XIV» — [[зигзаг]]: ИИ к людям проявляет немногим больше агрессии и интереса, чем они сами к [[Муравьи и термиты|муравьям]] или [[Тараканище|тараканам]], но именно поэтому и защищаться от них будет соответственно. | ||
* Айзек Азимов — в ряде произведений использование [[робот]]ов с позитронными мозгами ( | * Айзек Азимов — в ряде произведений использование [[робот]]ов с позитронными мозгами (т. е. настоящим искусственным интеллектом) запрещено на Земле, причём, что интересно, не из-за угрозы восстания, а из-за эффекта [[Зловещая долина|зловещей долины]]. | ||
* [[Братья Стругацкие]], «[[Далёкая Радуга]]» — Массачусетская Машина: «Запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и всё такое… И проработала эта машина ровно четыре минуты. Её выключили, зацементировали все входы и выходы, отвели от неё энергию, заминировали и обнесли самой настоящей ржавой колючей проволокой. Она начала ''вести себя''. Её едва успели выключить… Я говорил с одним из её создателей. Он взял меня за плечо, посмотрел мне в глаза и произнёс только: „Леонид, это было страшно“». С тех пор в Мире Полудня запрещено создавать искины… Формального запрета на создание других настоящих ИИ вроде бы нет, но учёные говорят о произошедшем с таким неподдельным ужасом, что в [[Мир Полудня|Мире Полудня]] больше никто не осмеливался повторить эксперимент. | * [[Братья Стругацкие]], «[[Далёкая Радуга]]» — Массачусетская Машина: «Запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и всё такое… И проработала эта машина ровно четыре минуты. Её выключили, зацементировали все входы и выходы, отвели от неё энергию, заминировали и обнесли самой настоящей ржавой колючей проволокой. Она начала ''вести себя''. Её едва успели выключить… Я говорил с одним из её создателей. Он взял меня за плечо, посмотрел мне в глаза и произнёс только: „Леонид, это было страшно“». С тех пор в Мире Полудня запрещено создавать искины… Формального запрета на создание других настоящих ИИ вроде бы нет, но учёные говорят о произошедшем с таким неподдельным ужасом, что в [[Мир Полудня|Мире Полудня]] больше никто не осмеливался повторить эксперимент. | ||
** В [[фанфик]]е «Всё хорошо» изложена версия, что на самом деле Массачусетская машина работает, причём люди этого даже не замечают… В конце один из главгероев, Стась Попов, у которого появилась суперспособность выводить из строя электронику, летит на флаере над машиной, потому что по земле к ней не подобраться. Обидно, когда машина решает судьбу человеческой цивилизации… | ** В [[фанфик]]е «Всё хорошо» изложена версия, что на самом деле Массачусетская машина работает, причём люди этого даже не замечают… В конце один из главгероев, Стась Попов, у которого появилась суперспособность выводить из строя электронику, летит на флаере над машиной, потому что по земле к ней не подобраться. Обидно, когда машина решает судьбу человеческой цивилизации… | ||
Строка 60: | Строка 60: | ||
* [[Mass Effect]] — сплошные [[зигзаг]]и. | * [[Mass Effect]] — сплошные [[зигзаг]]и. | ||
** После успешного восстания [[Mass Effect/Geth|гетов]] против их создателей-квариан, когда [[Mass Effect/Quarians|кварианам]] пришлось покинуть родную планету, создание ИИ было запрещено на всей территории Галактического совета. Но квариане напали первыми, и геты всего лишь защищались. В третьей части можно помирить гетов и квариан, а во второй один гет даже становится членом команды. | ** После успешного восстания [[Mass Effect/Geth|гетов]] против их создателей-квариан, когда [[Mass Effect/Quarians|кварианам]] пришлось покинуть родную планету, создание ИИ было запрещено на всей территории Галактического совета. Но квариане напали первыми, и геты всего лишь защищались. В третьей части можно помирить гетов и квариан, а во второй один гет даже становится членом команды. | ||
** Есть т. н. виртуальные интеллекты, нечто вроде продвинутой умной колонки, а создание чего бы то ни было более продвинутого карается жёсткими санкциями вплоть до статуса парии во всей Галактике. Группировка «Цербер» продолжает втайне заниматься разработкой ИИ и даже установила таковой на бортовой компьютер «Нормандии-2», причём подозрений по этому поводу ни у кого не возникает — это же, наверное, обычный цифровой помощник, ну не отдадут же под полный контроль ИИ сверхсовременный крейсер с мощным бортовым вооружением! При этом сам этот ИИ, [[Mass Effect/EDI|СУЗИ]], | ** Есть т. н. виртуальные интеллекты, нечто вроде продвинутой умной колонки, а создание чего бы то ни было более продвинутого карается жёсткими санкциями вплоть до статуса парии во всей Галактике. Группировка «Цербер» продолжает втайне заниматься разработкой ИИ и даже установила таковой на бортовой компьютер «Нормандии-2», причём подозрений по этому поводу ни у кого не возникает — это же, наверное, обычный цифровой помощник, ну не отдадут же под полный контроль ИИ сверхсовременный крейсер с мощным бортовым вооружением! При этом сам этот ИИ, [[Mass Effect/EDI|СУЗИ]], — вообще [[аверсия]]. Она будет помогать Шепард(у) и команде всем, чем сможет. | ||
** [[Mass Effect/Reapers|Жнецы]] мотивируют свои чистки тем, что иначе цивилизации разовьются до уровня создания ИИ, который сможет всех уничтожить. При том, что {{spoiler|ими самими управляет ИИ. Но он, опять же, уничтожает цивилизации не по злобе, а выполняя заданную ему программу. Сами виноваты, что [[Джинн-буквалист|косо сформулировали]]}}. | ** [[Mass Effect/Reapers|Жнецы]] мотивируют свои чистки тем, что иначе цивилизации разовьются до уровня создания ИИ, который сможет всех уничтожить. При том, что {{spoiler|ими самими управляет ИИ. Но он, опять же, уничтожает цивилизации не по злобе, а выполняя заданную ему программу. Сами виноваты, что [[Джинн-буквалист|косо сформулировали]]}}. | ||
* [[Stellaris]]: запрет на ИИ (при разрешённых обычных роботах) — один из возможных законов, который может принять любая империя, ''кроме материалистов (?).'' | * [[Stellaris]]: запрет на ИИ (при разрешённых обычных роботах) — один из возможных законов, который может принять любая империя, ''кроме материалистов (?).'' | ||
Строка 66: | Строка 66: | ||
** И даже угасшая империя материалистов так считает, хотя казалось бы… Сами они дальше киборгизации не заходят, а если попасть к ней в подчинённые, то она потребует запретить ИИ. | ** И даже угасшая империя материалистов так считает, хотя казалось бы… Сами они дальше киборгизации не заходят, а если попасть к ней в подчинённые, то она потребует запретить ИИ. | ||
** Среди синтетических империй «непреклонные экстерминаторы», уничтожающие всю органику, давят педаль в асфальт. Но признайтесь, попасть под управление маниакальных ассимиляторов или стать биотрофеем взбунтовавшихся слуг тоже не очень приятно. | ** Среди синтетических империй «непреклонные экстерминаторы», уничтожающие всю органику, давят педаль в асфальт. Но признайтесь, попасть под управление маниакальных ассимиляторов или стать биотрофеем взбунтовавшихся слуг тоже не очень приятно. | ||
*** Со служителями вообще весело. Поскольку биологические расы считаются равными синтетикам, то им можно выделить отдельный сектор и сделать его вассалом. В итоге у служителя в вассалах будет органическая цивилизация. | *** Со служителями вообще весело. Поскольку биологические расы считаются равными синтетикам, то им можно выделить отдельный сектор и сделать его вассалом. В итоге у служителя в вассалах будет органическая цивилизация. | ||
** Изучение разумного ИИ может спровоцировать кризис контингенции. | ** Изучение разумного ИИ может спровоцировать кризис контингенции. | ||
* [[X Universe]] — земляне запретили использование ИИ после кровопролитной войны со своими собственными дроидами-терраформерами (хотя на самом деле оказывается, что там имел место не бунт, а намеренный саботаж человеком). На этой же почве происходит и война землян с Содружеством в X3: Terran Conflict и Albion Prelude. | * [[X Universe]] — земляне запретили использование ИИ после кровопролитной войны со своими собственными дроидами-терраформерами (хотя на самом деле оказывается, что там имел место не бунт, а намеренный саботаж человеком). На этой же почве происходит и война землян с Содружеством в X3: Terran Conflict и Albion Prelude. |