Редактирование: Шкала опасности ИИ

Перейти к навигации Перейти к поиску

Внимание: Вы не вошли в систему. Ваш IP-адрес будет общедоступен, если вы запишете какие-либо изменения. Если вы войдёте или создадите учётную запись, её имя будет использоваться вместо IP-адреса, наряду с другими преимуществами.

Правка может быть отменена. Пожалуйста, просмотрите сравнение версий ниже, чтобы убедиться, что это нужная вам правка, и запишите страницу ниже, чтобы отменить правку.

Текущая версия Ваш текст
Строка 940: Строка 940:
* 3 — уже есть множество приложений и сервисов, использующих нейросети, но пока что ещё ничего серьёзного. А ещё он вызвал увольнения немалого количества программистов и дизайнеров.
* 3 — уже есть множество приложений и сервисов, использующих нейросети, но пока что ещё ничего серьёзного. А ещё он вызвал увольнения немалого количества программистов и дизайнеров.
* 4 — к счастью, пока что современный ИИ можно остановить одним нажатием кнопки. И не похоже, что в ближайшем будущем это изменится.
* 4 — к счастью, пока что современный ИИ можно остановить одним нажатием кнопки. И не похоже, что в ближайшем будущем это изменится.
[[Василиск]] Роко — мысленный эксперимент, которым был затроллен сам [[HPMoR|Элиэзер Юдковский]]. Чуть меньше ~0,6, согласно условиям задачи.
* 0 — условия задачи не говорят о разумности как таковой, но вычислительные и производственные мощности Василиска буквально богоподобны. И он явно отличает желание с ним сотрудничать от нежелания, каким бы мимолётным оно ни было и как бы ни поменялось в дальнейшем.
* 0 — вариант «он всё знает и так». Откуда знает, в условиях задачи не сказано.
* 1 — не похоже, чтобы у Василиска вообще была программа. Впрочем, даже если его деятельность не свободна, лучше от этого никому не станет.
* 3 — тех, кто последовательно и неуклонно способствовал его появлению (хотя бы радовался ему), Василиск не трогает. Тех же, кто ему противился (пусть даже мысленно, хоть на секунду), он пытает, а если они умерли до его появления — воссоздаёт и всё равно пытает.
* 0 — натуральный [[бог-император]] [[бог во плоти|во пло...]] кхм... в микросхемах.
* 2,5 — нет, теоретически, человек может так мыслить — но каков же это должен быть психопат!
* 0 — Василиск только что в [[программный код мироздания]] не вписан.
* 0 — а может, и вписан...
* 0 — как минимум, в рамках условия задачи.
* 0 — очень легко представить себе развитие событий, при котором Василиск будет пытать вообще всё человечество.
* 0 — по условию задачи остановить Василиска невозможно. Или добровольно и с песней сотрудничаешь, или мучишься от нестерпимой боли. Tertium non datur.




Пожалуйста, учтите, что любой ваш вклад в проект «Posmotreli» может быть отредактирован или удалён другими участниками. Если вы не хотите, чтобы кто-либо изменял ваши тексты, не помещайте их сюда.
Вы также подтверждаете, что являетесь автором вносимых дополнений, или скопировали их из источника, допускающего свободное распространение и изменение своего содержимого (см. Posmotreli:Авторские права). НЕ РАЗМЕЩАЙТЕ БЕЗ РАЗРЕШЕНИЯ ОХРАНЯЕМЫЕ АВТОРСКИМ ПРАВОМ МАТЕРИАЛЫ!