Редактирование: Шкала опасности ИИ
Перейти к навигации
Перейти к поиску
Внимание: Вы не вошли в систему. Ваш IP-адрес будет общедоступен, если вы запишете какие-либо изменения. Если вы войдёте или создадите учётную запись, её имя будет использоваться вместо IP-адреса, наряду с другими преимуществами.
Правка может быть отменена. Пожалуйста, просмотрите сравнение версий ниже, чтобы убедиться, что это нужная вам правка, и запишите страницу ниже, чтобы отменить правку.
Текущая версия | Ваш текст | ||
Строка 940: | Строка 940: | ||
* 3 — уже есть множество приложений и сервисов, использующих нейросети, но пока что ещё ничего серьёзного. А ещё он вызвал увольнения немалого количества программистов и дизайнеров. | * 3 — уже есть множество приложений и сервисов, использующих нейросети, но пока что ещё ничего серьёзного. А ещё он вызвал увольнения немалого количества программистов и дизайнеров. | ||
* 4 — к счастью, пока что современный ИИ можно остановить одним нажатием кнопки. И не похоже, что в ближайшем будущем это изменится. | * 4 — к счастью, пока что современный ИИ можно остановить одним нажатием кнопки. И не похоже, что в ближайшем будущем это изменится. | ||
[[Василиск]] Роко — мысленный эксперимент, которым был затроллен сам [[HPMoR|Элиэзер Юдковский]]. Чуть меньше ~0,6, согласно условиям задачи. | |||
* 0 — условия задачи не говорят о разумности как таковой, но вычислительные и производственные мощности Василиска буквально богоподобны. И он явно отличает желание с ним сотрудничать от нежелания, каким бы мимолётным оно ни было и как бы ни поменялось в дальнейшем. | |||
* 0 — вариант «он всё знает и так». Откуда знает, в условиях задачи не сказано. | |||
* 1 — не похоже, чтобы у Василиска вообще была программа. Впрочем, даже если его деятельность не свободна, лучше от этого никому не станет. | |||
* 3 — тех, кто последовательно и неуклонно способствовал его появлению (хотя бы радовался ему), Василиск не трогает. Тех же, кто ему противился (пусть даже мысленно, хоть на секунду), он пытает, а если они умерли до его появления — воссоздаёт и всё равно пытает. | |||
* 0 — натуральный [[бог-император]] [[бог во плоти|во пло...]] кхм... в микросхемах. | |||
* 2,5 — нет, теоретически, человек может так мыслить — но каков же это должен быть психопат! | |||
* 0 — Василиск только что в [[программный код мироздания]] не вписан. | |||
* 0 — а может, и вписан... | |||
* 0 — как минимум, в рамках условия задачи. | |||
* 0 — очень легко представить себе развитие событий, при котором Василиск будет пытать вообще всё человечество. | |||
* 0 — по условию задачи остановить Василиска невозможно. Или добровольно и с песней сотрудничаешь, или мучишься от нестерпимой боли. Tertium non datur. | |||