Осторожная наука

Как-то так

Это — мир будущего. Он куда более развит, чем наш с вами, и перед тамошними учёными открываются невиданные перспективы. Они обладают колоссальным запасом теоретических знаний, и перед ними стоит богатый выбор из прикладных отраслей науки, которые можно развивать.

Но в каждом НИИ сидит специальный дядечка, работа которого — проверять, насколько опасны исследования. Секрет бессмертия? Не-а, говорит дядечка, эта технология вредна, она ведёт к остановке развития человечества. Другой молодой лаборант подбегает и предлагает способ совершенствования человеческого тела и мозга. «И этого нам не надо» — говорит дядечка. — «Чёрт знает ведь, во что превратимся». Прибегает третий лаборант и подносит проект сверхразумного искусственного интеллекта. «Нафиг, нафиг!» — возмущается дядечка. — «Если он будет умнее нас, то он же нас обманет!». Все три разработки дядечка забирает в свой портфель и увозит в тайный архив на вечное хранение.

Впрочем, возможно, что дядечки и нет, а его роль выполняют какие-нибудь старые косные академики. Но факт остаётся фактом: эта цивилизация очень хочет не допустить большой ошибки и потому избегает исследований в областях, которые существуют, но объявлены опасными.

Примеры

Литература

• Иван Ефремов любил этот троп:
  • «Лезвие бритвы» — один из главных героев, Гирин, довольно жестко критикует разработку «сыворотки боли»: «Живем мы еще в далеко не устроенном мире, еще сильна всяческая дрянь, и ваша болевая сыворотка преотличнейшим образом может быть использована для неслыханных пыток. (…) Есть вещи, которыми нельзя заниматься, пока не будет лучше устроено общество на всей нашей планете, и ученым следует думать об этом».
  • «Час Быка»: «Тогда же придумали методы создания биологических чудовищ — вроде мозгов, живущих в растворах отдельно от тела, или соединения частей человека с машинами. В общем, тот же самый путь к созданию нелюдей, у которых из всех чувств осталось бы лишь стремление к безграничной садистской власти над настоящим человеком, неизбежно вызванное их огромной неполноценностью. К счастью, мы вовремя пресекли эти безумные намерения новоявленных сатанистов».
  • Туманность Андромеды — Дар Ветер отказывает в поддержке экспериментам Мвена Маса именно по этой причине.
  • «Таис Афинская» — некий изобретатель предлагает Александру Македонскому средство против атак вражеской конницы: утыканные медными гвоздями доски. Александр не только отвергает предложение («Есть вещи, которых не позволено переступать ни смертному, ни даже богам. Истинная судьба решается в честном бою лучших с лучшими»), но и велит убить изобретателя, чтобы он еще кому-нибудь не разболтал о своей задумке.
• Александр Казанцев, «Клокочущая пустота»: «— Видишь ли, гость Солярии, — переводил Тристан, — они просят объяснить тебе, что наше общество здесь может существовать лишь на основе одного из первых законов, ставших непререкаемой традицией — это самоограничение. Никто не позволит себе потребить больше того, что необходимо для поддержания его жизнеспособности. Ты понял? Вери найс! Но эта традиция с веками распространялась на некоторые знания. Знатоки его намеренно ограничивали себя, не позволяя проникать в области, признанные запретными. Так, в тайны строения вещества наши знатоки проникать не желают. Клиэ? Ясно? Эти опасные знания поставили когда-то нашу планету на край всеобщей гибели. Тогда и бежали с нее желавшие уцелеть и одичавшие потом на вашей Земле первые звездные переселенцы. Подобная опасность всеобщей гибели будет грозить в грядущих столетиях и вашей Земле, если не позаботиться об ее отвращении заранее. Иначе вери бед, будет очень скверно! Наши знатоки, пришедшие к тебе, в равной степени хотят убедить тебя, что не меньшая опасность заключена в попытке воздействовать на наследственность не воспитанием, условиями жизни, примером, а вмешательством в механизм наследования, хотя это сулило бы на первый взгляд такие выгоды, как исправление врожденных пороков или улучшение рода. Однако, владея подобными тайнами, возможно искусственно вырастить неполноценных соляриев (или людей), которых легко угнетать, удалив из их сознания все то, что возвышает разумное существо над всем остальным миром. „Амен!“ — как сказали бы по-латыни земные попы».
• Братья Стругацкие, Мир Полудня. «Как поступать с открытием, когда оно уже реализовано? Держать его последствия под контролем. А если мы не предвидим всех последствий? А если мы переоцениваем одни последствия и недооцениваем другие? Если совершенно ясно, что мы просто не в состоянии держать под контролем даже самые очевидные и неприятные последствия? Если для этого требуются совершенно невообразимые энергетические ресурсы и моральное напряжение? Прекратить исследование! — приказывает обычно в таких случаях Всемирный совет».
  • «Ионафан Перейра по собственной инициативе прекратил свою работу в области теоретической евгеники. Консервируя всю эту область, Всемирный совет следовал, по сути, именно его рекомендациям».
  • «Древнее опасение: машина стала умнее человека и подмяла его под себя… Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое… И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Она начала вести себя. Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: „Леонид, это было страшно“. Ее могут включить снова. Правда, она под запретом Совета, но почему бы не снять запрет?» («Далёкая Радуга», Горбовский). «На глазах у ошеломленных исследователей зародилась и стала набирать силу новая, нечеловеческая цивилизация Земли» («Жук в муравейнике», Каммерер).
  • Педаль в пол вбили тагоряне — цивилизация гипертрофированной предусмотрительности. Три четверти всех мощностей направлено у них на изучение вредных последствий, каковые могут проистечь из открытия, изобретения, нового технологического процесса и так далее. В результате транспорт у них только общественный, авиации никакой, зато прекрасно развита проводная связь.
  • Принципы тщательного контроля за наукой соблюдались ими неукоснительно с незапамятных времен Первой Промышленной Революции.
    • Когда тагоряне обнаружили заложенный Странниками садок, содержащий 203 личинки тагорян в латентном состоянии, и личинки начали спонтанно развиваться — они немедленно уничтожили это устройство со всем его содержимым. Узнав, что земляне поступили по-другому, они быстренько прервали контакты с неосторожными, по их мнению, партнёрами.
• «Дюна»: после войны с ИскИнами, известной, как «Батлерианский джихад», под запрет попали даже самые обыкновенные компьютеры. Их функции выполняют специально обученные люди — ментаты. Правда, представления о компьютерах находятся на уровне 50-х, что ставит такие вопросы, как кто обеспечивает работу всех систем кораблей, а не только навигацию, что управляет генераторами силовых полей и многое другое…
• Головачёв, цикл романов «Смутное время»: в мире Солювелл-3 (альтернативного будущего XXIV века) существует организация СЭКОН — Социально-этический контроль за опасными направлениями исследований. К сожалению, эта организация совсем мышей не ловила, кучка исследователей путешествий во времени привлекла внимание чужеродных чудовищ «хронохирургов», и всё завертелось…
• Гарри Тертлдав, цикл «Мировая война» — пришельцы-вторженцы крайне осторожно относятся к новшествам в науке и не только. Последствия любых открытий перепроверяются годами. Инопланетян неслабо колбасит с неограниченного любопытства людишек, из-за чего те считаются жуткими отморозками. Как пример: человек может построить консервную банку с дюзами и назвать это космическим кораблём тогда как представитель Расы будет столетиями отшлифовывать устройство, пока оно не станет 100 % безопасным. А идеи, однажды признанные ложными, уже никогда не будут пересмотрены. Это случилось со сверхсветовым движением, что повергло Расу в шок, когда на орбите их планеты появился новейший человеческий звездолёт, улетевший с Земли всего месяц назад.
  • Что-то подобное существует в цикле Дэвида Вебера «Out of the Dark». Галактическое сообщество в основном состоит из травоядных, которые по своей натуре осторожны и не стремятся к новизне. Да, кроме них есть и мясоеды и всеядные, однако они попадают под влияние травоядных. По-сути, это сообщество достигло своего плато около сотни тысячелетий назад. Когда в руки земным инженерам попадают планы их антиграва, то они ужасаются огромному количеству избыточности. Подобное устройство гарантировано будет работать бесперебойно около 400 лет. Если же убрать большую часть избыточности, то можно уменьшить размер антиграва на 80 %, и тогда гарантия работает «всего лишь» на 80 лет. В общем, многие эти расу живут столетиями и обладают бездефицитной экономикой. То есть особой потребности в новой модели «айфона» каждый год у них нет. А под конец книги, земляне умудряются многократно усовершенствовать гипердвигатель галактов.
• Айзек Азимов:
  • «Конец Вечности»: деконструкция. Организация Вечность в целом, если не считать интриг её начальства, имеет вполне благородные цели: «притормозить» новые открытия, чтобы минимизировать вред от них, пока общество не будет к ним готово. Вот только побочным эффектом всего этого оказалось очень сильное торможение технического развития — и в результате, когда земляне наконец-то «безопасно» вышли в далёкий космос, оказалось, что он уже занят и поделён другими разумными расами.
    • А вышли всё же не «безопасно», а заблокировавшись от безопасников.
  • «Мёртвое прошлое» — исследования в области нейтриники не покрываются грантами и вообще не поощряются… Оказывается, слегка копнув, молодой учёный способен создать машинку для заглядывания в прошлое. Вот только предусмотреть последствия распространения такой технологии учёный оказывается неспособен — в отличие от гэбэшника.
• Дмитрий Биленкин, «Запрет»: «Утверждают, что Роджер Бэкон, открыв порох, засекретил своё открытие от всех, ибо предвидел, чем оно обернётся. Благородный, но бесполезный жест. Полвека назад физики добровольно ввели самоцензуру, чтобы информация о их работах по расщеплению ядра не попала к нацистам. Поступив так, они тут же отдали свои знания Америке. Кончилось это Хиросимой. Но даже если бы они заперли свои лаборатории, то нашлись бы другие, которые все равно сделали бы бомбу. Не обязательно из чувства патриотизма, вполне достаточно чистой любознательности. Обдумав уроки прошлого, я решил поступить иначе, когда открыл левоспиральный фотон. Я объявил его несуществующим. Я сказал мировой науке, что искать его бессмысленно. Доказательством были результаты экспериментов — фальсифицированные результаты. И мой авторитет. Я положил его, как колоду поперёк тропинки. О, я не обольщался! Я знал, что когда-нибудь где-нибудь появится такой юнец, как вы, которого не устрашит мой запрет. Но мне важно было выиграть время. К счастью, опыты по обнаружению левоспирального фотона требуют денег. И немалых… Оттянуть открытие во что бы то ни стало! Ведь ещё полвека… нет, меньше! — и в мире разительно все переменится. Тогда люди станут заглядывать в будущее лишь затем, чтобы предвидеть стихийные бедствия, лечить болезни до их возникновения. В это я верю. Я нарушил законы науки. Но не добра! И не вам меня судить».
• Star Carrier — инопланетяне-ш’даары требуют, чтобы их расы-вассалы отказались от любых исследований в области так-называемых GRIN-технологиях: генетике, роботехнике, информатике и нанотехнологии. По какой-то причине, они опасаются технологической сингулярности. Именно из-за этого они и воюют с землянами, которые отказались откатиться к технологиям прошлого века.
• «Анархономика» Копенгагенского института исследований будущего. Catch phrase книги: «в будущем анархономика выберется за пределы интернета и радикально изменит экономику физического мира. Всё, что может быть оцифровано, будет оцифровано, а цена цифровых товаров стремится к нулю. Как может существовать экономика в таких условиях?» Дядечка с портфелем затрагивает проблему развития 3D-печати, что может полностью обрушить капиталистическую экономику. Зачем что-то покупать или создавать, когда можно напечатать? Да еще и чертёж не каждый купит, скорее всего потребитель просто скачает его с торрента. А уж если станет реальностью наноассемблер… Готово ли человечество к реальному коммунизму?

Кино

• «Звёздные войны»: исследования в области искусственного интеллекта постоянно прижимают, а существующие ИскИны намеренно приваривают намертво к телам роботов (т. н. дроидов) и ограничивают системой «степеней дроидов», регулирующей, какой машине дозволено иметь какой уровень искусственного интеллекта. Ещё есть очень серьёзные ограничения на наниты и техномагию (как у Раката).

Мультсериалы

• Arcane — за теорию интеграции магии в технологию Джейса, едва не изгнав из города, исключили из Академии, а его исследования планировали уничтожить.

Видеоигры

• В игре Civilization: Beyond Earth именно таков один из путей развития человечества — «Чистота». Адепты этого пути избегают как киборгизации, так и симбиоза с инопланетными формами жизни, а все усилия учёных тратятся на изобретение новых видов боевых машин, силовой брони и пушек.
  • В дополнении «Rising Tide» появляется возможность смешать пути развития. Например, помесь Чистоты и Гармонии позволяет некоторое изменения генома человека, однако только с целью улучшения человечества в строго определённых рамках. Помесь Чистоты и Превосходства строится не на поголовной киборгизации, а на создании расы машин-слуг.
• Fallout — по сути, это «модус операнди» Братства Стали: прятать у себя в бункерах опасные военные технологии, чтобы население бывших Штатов, скатившееся в Средневековье, не натворило с бед похуже.
  • На этой же почве в четвёртой части Восточное Братство и развязало войну с Институтом: заигрывания неэтичных учёных с синтами третьего поколения до добра вряд ли доведут.
• Stellaris — пробуждённые империи материалистов намереваются во что бы то ни стало сделать все окружающие их империи своими сателлитами, что предполагает контроль над научными исследованиями в этих государствах — всё именно ради предмета статьи.

Настольные игры

• Traveller: в Империи запрещены исследования в области телепатических способностей человека, а обнаруженные подпольные институты закрывают силой. Для сравнения, в соседнем человеческом государстве Жодани эта область знаний развита настолько, что с помощью телепатов там построено общество тотальной слежки.
• Emperor of the Fading Suns: именно за этим следит Инквизиция, и за нарушение может нехило прилететь — в смысле прилетит нехилый отряд громить лаборатории.
• Warhammer 40000 — даже в лучшие годы до Ереси Хоруса исследования ИИ были под строжайшим запертом. Под занавес Тёмной Эры Технологий человечество очень сильно пострадало от восстания машин (т. н. Железных Людей) и теперь ожидаемо не хочет его повторения. Также находятся под строжайшим контролем все технологии, использующие Варп в своей работе.

Реальная жизнь

• Генная инженерия. Уж на что в СССР клеймили генетику как продажную девку капитализма, так и в наши дни продолжают гнобить прикладные применения этой науки по всему миру, причем и леваки («Богачи намодифицируют себе сверхдетей, а бедные будут влачить жалкое существование прислуги!»), и святоши («Не смейте трогать Божье творение!»). Хотите улучшения человеческой породы, клонирования гениев, воскрешения вымерших зверей, излечения хронических болезней, новый сорт морозоустойчивой кукурузы? Грешно, неэтично, запрещено законодательно. Из-за этики по большей части и тормозится развитие ГМО и стволовых клеток, хотя человеческая ДНК по химическому составу давно расшифрована. Из-за этого также тормозится развитие других перспективных направлений: синтеза космической колбасы и создание крайне необходимых в космосе биорециклеров углекислого газа.
  • К слову, в Союзе генетику до открытия ДНК клеймили отчасти за дело — многие реакционеры вплоть до откровенных фашистов уцепились за генетику в попытках оправдания «расового превосходства» и «неполноценности» трудящихся, плюс генетику часто мешали с мистикой откровенно антинаучного толка. Напомню, что нацисты называли материалистическую науку «упадочным» явлением, генетику же они сами наукой не считали, толкуя ее в крайне мракобесном духе. Соответственно, после открытия ДНК (то бишь материального носителя генной информации) в 1953 году нападки прекратились, а позже генетику и официально реабилитировали. Что же до «святош», то для них важен не столько сам факт наличия/отсутствия генов или чего бы то еще ни было, а скорее «недопустимость вмешательства в божий промысел». С позиции марксизма управление геномом само по себе не предосудительно — важно, кто руководит процессом и с какими целями.
    • Не только реакционеры уцепились, но и выдающиеся учёные, писавшие в серьёзных научных журналах о том, как иммигранты понижают интеллектуальный уровень нации. Вот только не в СССР и не среди генетиков, с СССР связанных. Какое-то количество глупостей (по большей части в духе преобразования природы), как обычно, могло говориться, но до практической черепомерки не доходило. Даже Кольцов, человек отнюдь не просоветских взглядов, но выдающийся учёный, писал, например, о том, что интеллигенция в себе не размножается и требует притока свежих талантов для нормального функционирования. Сочувствовавший СССР Герман Мёллер и другие генетики социалистических взглядов были авторами «Манифеста генетиков» 1939 года (рекомендую погуглить, не ограничиваясь названием и вступлением). Как евгеническую меру Мёллер форсил добровольное искусственное оплодотворение, которое применяется по сю пору и антигуманным мало кем считается. Тогдашние руководители полагали, конечно, что эта область науки идеологически значимая, но только вот они не запретами действовали. Заниматься генетикой посылали для укрепления идейных позиций коммунистов, и — сюрпрайз — и С. Г. Левит, и И. И. Агол, и другие оказались не тупыми выдвиженцами, а талантливыми учёными. К сожалению, побочным результатом было то, что часть направлений исследований прервалась не в печально известном 1948 г., а ещё в 1937 г. Но так или иначе у нас в этой области была своя наука мирового уровня и при этом (если ориентироваться не на триггерные сейчас слова вроде «расы» и «евгеники», а на смысл) достаточно гуманная. Передовая медицинская генетика, например. И Германия нам была не указ. А что касается того, как всё восстанавливалось — долго, трудно и даже открытие ДНК отнюдь не стало окончательным аргументом. Например, студенческий кружок на биолого-почвенном факультете МГУ, где занимались изучением генетики, преследовали по комсомольской и партийной линии уже в 1955 году. Очень долго всё восстанавливалось в преподавании, медицине и сельском хозяйстве.
• Ядерная энергетика. После аварии на Чернобыле всех мировых интеллектуалов в очередной раз пронял глубоко засевший в поджилках страх ядерной зимы, и они ополчились уже не только на бомбы, но и на всю атомную промышленность. Между прочим, при правильной эксплуатации АЭС экологичнее популярных ТЭС и не требуют жертвовать сухопутными территориями как те же ГЭС, но теперь отношение к атомным станциям как к машинам судного дня уже не изменится, пока моторы наконец-то не сожгут всю нефть лет через двести: всякие конвенции о запрещении вывода ядерного оружия в космос сильно так тормозят конструирование ядерных ракетных двигателей, без которых даже Солнечную систему человечество никогда не освоит (на самом деле именно отказ от «легкого» пути привел к разработке целой плеяды электроракетных двигателей, которые проблему решают, в беспилотном варианте, правда). Освоению Солнечной системы же препятствует не отсутствие ядерного двигателя, а общая неготовность науки к решению вопроса длительного пребывания человека в космосе без снабжения с Земли (см. генная инженерия).
  • Авария на АЭС Фукусимы тоже как-то не улучшила имидж атомной энергетики в глазах мирового сообщества. Уж если у старательных япошек ломается, что же будет с распространением этого шайтан-теха по всяким Вакандам?
    • «Старательные япошки» — это такой же утрированно-собирательный образ, как «поголовно пьяные русские» или «толерантные европейцы». Ошибки в проектировании и всплывшая впоследствии совсем уж дичь вроде треснувшего фундамента, который заклеивали бумагой с текстурой бетона(!), чтобы избежать нагоняя от проверяющих вместо непосредственно признания и устранения проблем тому пример. Положились на обычно приписываемый русским «авось», да плюс характерная для японцев черта заметать под ковер до такой степени, пока там не начнет хлюпать. Вообще, есть мнение, что эти шишки человечеству в целом так или иначе придется набить. Да, кто-то умрет. Да, для читающего это махрового гуманиста это прозвучит людоедски. Но так было с освоением любой новой сферы, несущей в себе опасность; вспомнить ту же авиацию, в которой, как известно, большая часть правил написана кровью. Пока не будет четкого понимания, чем именно может обернуться весьма конкретное раздолбайство в обращении с мирным атомом, его будут «просто бояться потому что страшно и непонятно чего ждать», а это тупик. Можно ещё посчитать, сколько жертв каждый год уносят взрывы бытового газа и различные несчастные случаи, связанные со всей цепочкой получения энергии из ископаемого топлива, а затем сравнить с количеством жертв от аварий на реакторах и хранилищах отходов. Это как машины и самолеты в итоге: машины бьются постоянно, но почему-то в них мало кто боится ездить, даже в ржавых рыдванах и с сомнительными водителями. Самолеты падают ощутимо реже и жизней уносят меньше, но при этом летать боится чуть ли не каждый третий.
• Психофармакология. Из-за начавшейся в 1930-х всемирной войны с наркотиками под запрет попали и продолжают попадать галлюциногены, психостимуляторы, транквилизаторы. На изучение какого-нибудь ЛСД теперь получить исследование почти невозможно, а ведь его можно применить, например, в экспериментальном лечении шизофрении или для успокоения пациентов, которых в скором времени ждёт летальный исход. Модафинил и риталин трансгуманисты и нерадивые студенты также применяли с пользой — для повышения работоспособности, но и их запретили в России, потому что традициям употребления психоактивных веществ у нас соответствует только водка алкоголь. Послабления в данной отрасли есть только в некоторых местах вроде Калифорнии и Канады, где, например, прописывают траву раковым больным для облегчения страданий.
• Субверсия: в эпоху зари космического века «осторожную науку» представляли медики. По отзывам космонавтов, ничто так не раздражало и не бесило, как разговоры с медиками. По общему мнению, реально делом там занималась всего пара человек, а остальные маячили в белых халатах и, делая серьёзный вид, выслуживались, задалбывая экипаж тупорылыми вопросами и указаниями. Тем не менее, наука в те времена реально была осторожнее сапёра на минном поле — отчасти поэтому удалось многое узнать о влиянии космоса на человека и не потерять никого из подопытных в процессе.

См. также

• Запрет на трансгуманизм
• Запрет на ГМО
• Большая ошибка
• Наука — это круто
• Наука — это плохо
• Искусственный интеллект — это плохо