Экзистенция человечества в долгосрочной перспективе

Я предлагаю этот мысленный эксперимент, потому что мораль, по своей сути, заключается в том, чтобы поставить себя на место других и относиться к их интересам так же, как к своим собственным. Когда мы делаем это в полном масштабе человеческой истории, на передний план выходит будущее, в котором живут почти все и где заложен почти весь потенциал для радости и страдания.

Если бы вы знали, что вам предстоит прожить все эти будущие жизни, на что бы вы надеялись, что мы будем делать в настоящем? Сколько углекислого газа вы хотите, чтобы мы выбрасывали в атмосферу? Насколько осторожными вы хотите, чтобы мы были с новыми технологиями, которые могут разрушить или навсегда подорвать ваше будущее? Сколько внимания вы хотели бы, чтобы мы уделили влиянию сегодняшних действий на долгосрочную перспективу?

Вот некоторые из вопросов, которые мотивируют лонгтермизм: идея о том, что позитивное влияние на долгосрочное будущее является ключевым моральным приоритетом нашего времени.

Идея о том, что будущие люди имеют значение, является здравым смыслом. Предположим, что я уронил стеклянную бутылку во время прогулки. Если я не уберу его, ребенок может порезаться об осколки. Какая разница, когда ребенок порежется — через неделю, через десять лет или через столетие? Нет. Вред есть вред, когда бы он ни происходил.

Будущие люди, в конце концов, люди. Они будут существовать. У них будут надежды и радости, боли и сожаления, как и у всех нас. Их просто еще нет.

Но общество склонно пренебрегать будущим в пользу настоящего. Будущие люди совершенно бесправны. Они не могут голосовать, лоббировать или баллотироваться на государственные должности, поэтому у политиков мало стимулов думать о них. Они не могут твитить, писать статьи или маршировать по улицам. Это истинное молчаливое большинство. И хотя мы не можем дать политическую власть будущим людям, мы можем, по крайней мере, относиться к ним справедливо. Мы можем отказаться от тирании настоящего над будущим и действовать как доверенные лица всего человечества, помогая создавать процветающий мир для грядущих поколений.

Сегодня мы сталкиваемся с огромными проблемами, и мир полон ненужных страданий, но в некоторых отношениях мы добились значительного прогресса за последние несколько сотен лет. Триста лет назад средняя продолжительность жизни была меньше 40 лет ; сегодня больше 70. Более 80 процентов населения мира жили в условиях крайней нищеты; теперь только около 10 процентов. Женщины по большей части не могли посещать университеты, а феминистского движения не существовало. Никто не жил в условиях демократии; теперь более половины мира делает. Мы прошли долгий путь.

У нас есть возможность поощрять эти позитивные тенденции. И мы также можем обратить вспять негативные тенденции, такие как увеличение выбросов углерода и промышленное сельское хозяйство. У нас есть потенциал для построения мира, в котором все сегодня живут как самые счастливые люди в самых благополучных странах.

И мы могли бы сделать еще лучше — намного лучше. Большую часть прогресса, которого мы достигли с 1700 года, людям было бы очень трудно предвидеть в то время. И это с разрывом всего в три века. Теоретически человечество может просуществовать миллионы веков только на Земле. Если мы привяжем наше ощущение человеческого потенциала к фиксированной версии нашего нынешнего мира, мы рискуем резко недооценить, насколько хорошей может быть жизнь в будущем.

Когда я впервые задумался о долгосрочности, моя самая большая оговорка была практической. Даже если будущие поколения имеют значение, что мы можем сделать для них? Но по мере того, как я узнавал больше о событиях, которые могут повлиять на историю, которые могут произойти в ближайшем будущем, я понял, что вскоре мы можем приблизиться к критическому моменту в человеческой истории. Развитие технологий создает новые угрозы и возможности, ставя на карту жизни будущих людей. Получим ли мы прекрасное и справедливое будущее, или порочное и антиутопическое, или цивилизация закончится, и у нас не будет будущего вообще — это в значительной степени зависит от того, что мы делаем сегодня.

Некоторые из способов, которыми мы влияем на долгосрочное будущее, знакомы. Мы ведем. Мы летим. Мы выделяем парниковые газы, которые могут оставаться в атмосфере и воздействовать на окружающую среду сотни тысяч лет.

Но сокращение использования ископаемого топлива — не единственный способ улучшить ситуацию в долгосрочной перспективе. Другие проблемы не менее важны, но часто более игнорируются.

Главным из них является развитие передового искусственного интеллекта. Согласно ведущим экономическим моделям, продвинутый ИИ может значительно ускорить экономический рост и технологический прогресс. Но, оснащенные возможностями искусственного интеллекта, плохие политические деятели потенциально могут увеличить и укрепить свою власть. Наше будущее может стать вечной тоталитарной антиутопией.

Или мы можем потерять контроль над созданными нами системами ИИ. Как только искусственный интеллект намного превзойдет человеческий, мы окажемся с такой же малой властью над своим будущим, как шимпанзе над своим. Цивилизация может управляться целями и задачами ИИ, которые могут быть совершенно чуждыми и бесполезными с нашей точки зрения.

И мы можем даже не дойти до разработки передового ИИ. Мы все еще живем в тени 9000 ядерных боеголовок, каждая из которых намного мощнее, чем бомбы, сброшенные на Хиросиму и Нагасаки. Некоторые эксперты оценивают вероятность третьей мировой войны к 2070 году более чем в 20 процентов. Тотальная ядерная война может привести к краху цивилизации, и мы никогда не сможем восстановиться.

Достижения в области биотехнологии могут создать оружие еще большей разрушительной силы. Созданные вирусы могут быть гораздо более смертоносными, чем естественные болезни, потому что теоретически их можно модифицировать, чтобы они приобрели новые опасные свойства: летальность лихорадки Эбола и заразность кори. В наихудшем сценарии выпуск искусственного биологического оружия может убить миллиарды людей, возможно, даже после того, как человечество сможет восстановиться. Наше будущее будет навсегда уничтожено.

Это непростые задачи. В своей книге «Обрыв» мой коллега Тоби Орд оценивает вероятность экзистенциальной катастрофы в следующем столетии как один к шести, что примерно равносильно игре в русскую рулетку. Это неприемлемый уровень риска.

Мы не беспомощны перед лицом этих проблем. Долгосрочный подход может вдохновить на конкретные действия здесь и сейчас. Постоянный мониторинг сточных вод может гарантировать, что мы реагируем на любые новые вирусы, как только они появляются. Разработка и распространение передовых средств индивидуальной защиты защитит основных работников. Формы дальнего ультрафиолетового освещения могут безопасно стерилизовать комнату; если будет доказано, что он безопасен и широко распространен, это может предотвратить пандемии, передающиеся воздушно-капельным путем, и устранить все респираторные заболевания на этом пути.

По риску ИИ тоже есть над чем поработать. Нам нужны самые яркие технические умы, чтобы выяснить, что происходит под капотом все более непостижимых систем искусственного интеллекта, и убедиться, что они полезны, безвредны и честны. Нам нужны ученые и политики для разработки новых систем управления, чтобы обеспечить развитие ИИ на благо всего человечества. И нам нужны смелые лидеры, чтобы не допустить новых гонок вооружений и катастрофических войн между великими державами.

Если мы будем осторожны и дальновидны, у нас есть сила помочь построить лучшее будущее для наших правнуков и, в свою очередь, для их правнуков — через сотни поколений. Но положительные изменения не являются неизбежными. Это результат долгой и упорной работы мыслителей и активистов. Никакая внешняя сила не помешает цивилизации скатиться в антиутопию или забвение. Это на нас.

Подразумевает ли долгосрочность, что мы должны принести настоящее на алтарь потомства? Нет. Точно так же, как больше заботиться о наших детях не значит игнорировать интересы незнакомцев, больше заботиться о наших современниках не означает игнорировать интересы наших потомков.

На самом деле, когда я узнал больше о долгосрочности, я понял, что существует удивительное совпадение между лучшими способами, которыми мы можем способствовать общему благу для людей, живущих сейчас, и для наших потомков.

Каждый год миллионы людей, особенно в бедных странах, умирают преждевременно из-за того, что сжигание ископаемого топлива загрязняет воздух твердыми частицами, которые вызывают рак легких, болезни сердца и респираторные инфекции. Отказ от углерода — это беспроигрышный вариант как в краткосрочной, так и в долгосрочной перспективе. То же самое касается предотвращения пандемий, контроля над искусственным интеллектом и снижения риска ядерной войны.

Идея о том, что мы можем повлиять на долгосрочное будущее и что на карту может быть поставлено так много, может показаться слишком дикой, чтобы быть правдой. Так мне представлялись вещи изначально. Но я думаю, что эта дикость исходит не от моральных предпосылок, лежащих в основе лонгтермизма, а от того, что мы живем в столь необычное время.

Наша эпоха претерпевает беспрецедентное количество изменений. В настоящее время мировая экономика удваивается примерно каждые 19 лет. Но до промышленной революции потребовались сотни лет, чтобы мировая экономика удвоилась; а за сотни тысяч лет до этого темпы роста были близки к нулю. Более того, текущие темпы роста не могут продолжаться вечно; Всего через 10 000 лет на каждый достижимый атом будет произведено триллион цивилизаций.

Все это указывает на то, что мы переживаем уникальную и опасную главу в истории человечества. Из сотен тысяч лет в прошлом человечества — и потенциально миллиардов лет в его будущем — мы живем сейчас, во время необычайных перемен.

Время, отмеченное тысячами ядерных боеголовок, готовых к пуску. Время, когда мы быстро сжигаем ископаемое топливо, вызывая загрязнение, которое может сохраняться сотни тысяч лет. Время, когда мы можем видеть на горизонте катастрофы — от сконструированных вирусов до тоталитаризма с поддержкой ИИ — и можем действовать, чтобы предотвратить их.

Жить в такое время — это и исключительная возможность, и огромная ответственность: мы можем сыграть решающую роль в том, чтобы направить будущее по лучшей траектории. Нет лучшего времени для того, чтобы движение выступило не только за наше поколение или даже за поколение наших детей, но и за все грядущие поколения.

Уильям Макаскилл — профессор философии Оксфордского университета и автор будущей книги «Чем мы обязаны будущему», из которой взято это эссе.