Фильм “Оппенгеймер” недавно вышедший на экраны Кристофера Нолана показывает волнение некоторых ученых Мангеттенского проекта относительно того, что первое испытание атомной бомбы подожжет атмосферу Земли.
Впервые озвучил такую возможность в 1942 году Эдвардом Теллером. Насколько серьезно это тогда восприняли – остается вопросом, но это побудило ученых сделать соответствующие подсчеты, после чего они пришли к выводу, что такое жертвоприношение нашей планеты было маловероятным.
Однако такие пиротехнические опасения возникли за несколько десятилетий до того, как начались серьезные попытки создать ядерную бомбу, еще когда расщепление атомов казалось многим научной фантастикой.
И хотя аналогии между ядерным оружием и искусственным интеллектом могут показаться притянутыми за уши, тогдашние беспокойства могут научить нас нескольким урокам по поводу тех страхов, что бушуют вокруг новых технологий.
Давным-давно римский естествоиспытатель Плиний старший заметил, что, учитывая количество всего горючего вещества на планете, это настоящее чудо, что земной шар до сих пор не горит. Но долго все считали, что несмотря на то, что предметы могут гореть, атомы, из которых они состоят, стабильны, крепки и неистребимы. Когда в начале 1900-х Мария Кюри открыла миру радиоактивность, это внезапно изменилось.
Открытие Кюри неожиданно продемонстрировало огромный запас энергетических источников, запертых в материи. Когда радиоактивные элементы распадаются, они высвобождают это внутреннее достояние.
Предполагая, что земная материя – даже подземная руда – полна такой скрытой энергии, ученые пришли к мнению, что наша планета больше похожа на хранилище динамита, чем на нормальное жилье.
В начале 1903 года Фредерик Содди, один из основателей ядерной физики, писал, что все, что нужно, – это искусный ученый, который найдет “подходящий детонатор” и подожжет это хранилище путем цепной реакции.
Предположения о том, что планеты могут взорваться, уходят в эпоху Просвещения, когда астрономы начали искать объяснение аномально большой пропасти между Марсом и Юпитером, заполненной космическими обломками. Тем не менее, ни одна известная сила не могла разорвать планетарное тело. Радиоактивность, предположила Содди в 1903 году, может это изменить.
Вскоре после комментариев Содди его партнер по исследованию Эрнест Резерфорд высказал подобное мнение, которое подхватили известные газеты. Любой “дурак”, говорил Резерфорд, “в лаборатории может неожиданно взорвать Вселенную”.
Это происходило в период крайней незрелости ядерной физики. Этой науке было чуть больше года. Так что такие комментарии были безосновательными предположениями: больше риторическим возгласом, чем серьезной гипотезой. Это почти выглядело так, будто Содди и Резерфорд хвастались, пытаясь внушить чувство благоговения к своей новой отрасли и привлечь к ней внимание.
Действительно, казалось, что другие исследователи соревновались в выдвижении все более удивительных утверждений, сравнивая одну гранулу урана по скрытой мощности с безграничным количеством тонн тротила.
Это было похоже на научное представление: попытка вызвать страх и напугать общественность по поводу мощи и опасностей их “прометеевой” профессии. Содди и Резерфорд не боялись использовать для этого ужасающие, шокирующие обиды.
В конце концов, такие мысли начали свою собственную жизнь. В конце 1903 года газеты уже сообщали о “повороте ключа”, который может “взорвать всю Землю” с помощью цепной реакции. Подобные заявления просочились и распространились как в научном сообществе, так и в прессе. Газеты писали об “огромном пожаре” и “взрыве пламени”, что уничтожат Землю.
В 1909 году ирландский геолог Джон Джоли добавил к этому мифообразованию новый ингредиент. Он предположил, что этим можно объяснить новые звезды, время от времени вспыхивающие на ночном небе. Другие предполагали, что, возможно, это далекие планеты, терпящие катастрофы, вызванные атомами. Считали, что “вспышки, наблюдаемые на звездах, могут быть результатом “космокластических взрывов”, вызванных научными исследованиями инопланетных цивилизаций.
Шли годы, и серьезные ученые продолжали развивать эту гипотезу. Химик Уолтер Нернст в 1921 году сравнил человечество с колонией существ, живущих на пороховой бочке, которая исчезнет в тот момент, когда “Прометей передаст им факел”.
Масла к огню также подливали шарлатаны. В 1924 году один инженер Шеффилдского университета бравировал тем, что собирается успешно расщепить атомы. (Он разбирался в саморекламе: раньше он писал в газетах о изобретении “луча смерти”).
Местные журналисты сделали из этого сенсацию и написали, что его эксперименты могут “испарить” не только Шеффилд, но и всю Вселенную. Инженер получил испуганные письма с просьбами не продолжать.
“Возможно, если бы вы были замужем и имели детей, – говорилось в одном письме, – вы бы так упорно не восхищались уничтожением человеческой расы”.
Такие ужасные предположения приобрели другой оттенок в последующие десятилетия, поскольку ядерное оружие постепенно переросло в реальную вещь и, наконец, в трагическую реальность.
Стало моветоном шутить о том, как сжигание Земли может порадовать “отдыхающих на пляжах Марса”. Однако различные интеллектуалы, включая Карла Юнга, продолжали ссылаться на теорию о том, что новые звезды – это далекие атомные испытания, потерпевшие неудачу.
Журнал Science даже опубликовал статью по этому вопросу в июне 1946 года, в преддверии послевоенных испытаний США на атолле Бикини. В ней говорилось, что не только “неученые” “обеспокоены перспективой” возгорания планеты.
О чем нам это говорит? В первую очередь, о том, что страхи Теллера и его коллег из Мангеттенского проекта не возникли на пустом месте.
Вполне возможно, что они пришли бы к этому мнению, даже если бы никто никогда раньше не предрек подобных катастроф. Возможно также, что их внимание привлекло то, что мотив “детонации” глубоко проник в культурное сознание. Но вполне вероятно, что свое влияние на это оказали также высказывания Содди четыре десятилетия назад. Тогда у них не было никакой серьезной подоплеки. Он хотел привлечь внимание к своей новой сфере деятельности с помощью тактики шока.
Возможно, если бы он этого не сделал или если бы Резерфорд не подхватил эту идею, она бы так крепко не укоренилась – и впоследствии не привлекла бы внимание Оппенгеймера.
Наши ужасы не всегда являются продуктом рациональности. Они также коренятся в прошлом, где некоторые идеи подхватили, а другие проигнорировали – в зависимости от капризы и случая. Идея может зафиксироваться в нашем сознании сама собой задолго до того, как будет проведено хоть какое-нибудь серьезное исследование, чтобы ее подтвердить.
Нынешние тревоги также формируются таким образом – из-за идеи, которые мы унаследовали, поскольку они были популярны раньше, часто по абсолютно нерациональным причинам.
Это повод для тщательного изучения современных гипотез об уничтожении человечества искусственным интеллектом. В конце концов, случай с ядерными страхами демонстрирует, как ничем не подкрепленные фантазии могут превратиться в реальность гораздо быстрее, чем многие ожидают.
В 1929 году, например, лауреат Нобелевской премии Роберт Милликен писал, что энергии, полученной в результате расщепления атомов, может хватить только для работы простых механизмов, но не более. Многие другие говорили, что такой энергии вообще никогда не будет.
Поэтому мы должны оставаться бдительными по поводу того, как культурные вкусы могут исказить наши прогнозы и опасения. Яркие картины глобального пожара легко распространились среди публики, но никто четко не предусмотрел более приземленных опасностей, которые имел ядерный взрыв на практике – радиоактивных осадков или пепла, от которых некоторые люди страдают до сих пор.
Возможно, урок для наших взаимоотношений с искусственным интеллектом состоит в том, что наше внимание должны привлекать не только масштабные риски, но и менее заметные – но не менее реальные. Особенно учитывая, что на карту может быть поставлен наш мир.
Спасибо!
Теперь редакторы в курсе.