— На заседании клуба вы говорили о молчании Вселенной и о потенциальных угрозах существованию человечества. Почему об этом так важно говорить именно сегодня?
— Никитский клуб — частная инициатива ученых и предпринимателей, обеспокоенных судьбой российского общества и государства. В мире, где каждый день наполнен борьбой за существование, личными испытаниями и заботами, легко забыть о том, что мы являемся частью чего-то гораздо более великого. Наша повседневная жизнь, со всеми ее тревогами и радостями, происходит на фоне бескрайней Вселенной. Вопрос о единственности нашей цивилизации, или единственности разума во Вселенной, является одним из самых захватывающих, уходит корнями в древнюю философию и астрономию, но не теряет своей актуальности и сегодня, привлекая внимание как ученых, так и простых людей. Почему же Вселенная молчит? Этот вопрос становится все более острым на фоне последних научных открытий и технологических прорывов.
Первой из причин, вызывавших обостренный интерес к этому вопросу, является массовое открытие экзопланет. С появлением мощных телескопов и совершенствованием методов наблюдения астрономы обнаружили тысячи планет за пределами нашей солнечной системы, многие из которых находятся в так называемой обитаемой зоне, или «зоне Златовласки», своих звезд.
На конец прошлого года открыто более 5560, из них 182 планеты с атмосферой и 13 в зоне параметров обитаемости. Обитаемость оценивается по органической жизни, ибо никакой другой мы не знаем. И при этом исследовано только 0,01% звезд нашей Галактики.
Вторая причина — в стремительном развитии искусственного интеллекта (ИИ). Прогресс в этой области не только революционизирует нашу повседневную жизнь, но и предлагает новые методы поиска и анализа сигналов внеземного разума. ИИ может помочь нам расшифровать потенциальные сообщения от других цивилизаций и обеспечить автоматизированный поиск таких сигналов среди космического шума. При этом нельзя забывать, что ИИ, во многом определяя сегодня научный и технологический прогресс, может и сам обладать разрушительным цивилизационным потенциалом.
Третья причина связана с нарастанием глобальных угроз в условиях геополитического противостояния. В эпоху, когда человечество сталкивается с такими вызовами, как изменение климата, ядерное распространение и пандемии, размышления о внеземной жизни могут предложить новую перспективу, новый фокус оценки земных проблем. Пусть это не прозвучит как фантастика, но мысли о том, что мы можем быть не одни, способны побудить к более ответственному отношению к земным ресурсам и миру друг с другом. Высокомерно считать себя единственным разумом во Вселенной.
— Вселенной более 13 млрд лет. Первые галактики появились в ней через несколько сотен миллионов лет. Почему до сих пор мы не обнаружили в ней присутствия иного разума?
— Попробую ответить на этот вопрос с точки зрения науки.
Первая гипотеза предполагает, что внеземные цивилизации действительно существуют и оставляют после себя следы, однако наша технологическая оснащенность пока не позволяет их обнаружить. Напомню, что человечество начало активно открывать экзопланеты только 30 лет назад. Можно предположить, что для обнаружения следов инопланетного разума необходимо дальнейшее усовершенствование аппаратуры и методик.
Вторая гипотеза утверждает, что если внеземной разум существует, то он может быть настолько развит, что способен скрывать свое присутствие от нас. Это может быть стратегией самозащиты или желанием непринужденно наблюдать за менее развитыми цивилизациями, подобно нашей. Такая цивилизация могла бы использовать высокотехнологичные средства для предотвращения обнаружения ее активности или присутствия, что объяснило бы отсутствие явных контактов.
Третья гипотеза указывает на возможную кратковременность существования разумных цивилизаций в космосе. Согласно этой теории, многие цивилизации могут не успеть выйти за пределы своих планет и звездных систем из-за внутренних или внешних угроз, приводящих к их гибели. Примером таких угроз могут служить технологические катастрофы, ядерные войны, изменение климата и другие факторы. Растущая технологическая мощь цивилизации несет в себе потенциал как для создания, так и для уничтожения, что делает эту гипотезу особенно актуальной и для нас.
— Что может оказаться смертельным для нашей цивилизации?
— Давайте посмотрим, какие основные угрозы существованию человека имелись до середины XX века? Были голод, мор, войны, резкие климатически изменения и космические катастрофы, подобные падению Тунгусского метеорита. Могли ли они погубить род людской? Нет, полное истребление человечества было весьма маловероятно. Ключевым фактором, снижающим вероятность полного истребления человечества до середины XX века, была низкая плотность населения и отсутствие глобальных связей, делавшие любую угрозу локальной.
В первом веке нашей эры население Земли составляло всего около 200 миллионов человек. К наступлению первого тысячелетия население выросло, но все еще оставалось относительно небольшим и распределенным неравномерно. К 1900 году население мира достигло 1,65 миллиарда человек. Несмотря на рост, плотность оставалась достаточно низкой, чтобы исключить возможность полного истребления из-за катастроф или эпидемий. К тому же большинство угроз до середины XX века имели локальный характер. Даже такие значимые события, как войны и эпидемии, редко выходили за пределы отдельных континентов или регионов. Например, чума XIV века, хотя и унесла миллионы жизней в Европе, не затронула многие другие части мира. Аналогично, войны, даже называемые «мировыми», не охватывали всю территорию планеты и не могли привести к полному уничтожению человечества.
Но все изменилось 16 июля 1945 года. Испытание первой атомной бомбы в США мощностью 20 килотонн привело к осознанию страшной разрушительной силы, оказавшейся в руках человечества. Символична судьба руководителя проекта Роберта Оппенгеймера, который после бомбардировок Хиросимы и Нагасаки выступил против применения атомного оружия, яростно сражался против разработки термоядерного оружия, подвергся преследованиям со стороны властей, его даже пытались обвинить в государственной измене.
Неотвратимость ответного ядерного удара сохраняет глобальный мир почти 75 лет. Но запущена гонка вооружений: сделали бомбу и системы доставки, нужна система противоракетной обороны (ПРО), сделали ПРО, стали делать систему преодоления ПРО, появилось гиперзвуковое оружие и т.д. И каждый следующий виток многократно усиливает опасность неконтролируемого развития событий. Ядерная — первая из глобальных рукотворных угроз, ставших результатом величайших научных открытий человечества в XX веке — квантовой механики и ядерной физики. Мы всегда искали и будем искать все более мощные источники энергии, познавая все глубже устройство нашего мира. И это будет усиливать наш созидательный и разрушительный потенциал.
— Мы совсем недавно пережили пандемию, что еще может нам угрожать?
— Серьезная угроза — биологическое оружие. Сегодня это и рукотворная биологическая опасность. Ее истоки в великих научных достижениях, связанных с генетическими открытиями. Влияние генетических открытий на человечество уже очень велико.
В США в конце 2023 года впервые разрешили использование препарата на основе технологии генного редактирования CRISPR для лечения пациентов с серповидноклеточной анемией — генетическим заболеванием, когда белок в крови — гемоглобин приобретает аномальную серповидную форму. Препарат позволяет модифицировать стволовые клетки пациентов — их извлекают из костного мозга, редактируют в лаборатории, после чего пересаживают назад и увеличивают выработку «правильного» гемоглобина, который отвечает за нормальную доставку кислорода.
В сельском хозяйстве 95% производимой в мире сои — генно-модифицированная. Несмотря на широко распространившееся мнение о вредности ГМО-продуктов, они вряд ли несут опасность для цивилизации, ведь в этой области сильно законодательное регулирование. Реальная опасность — в синтетической биологии, базирующейся на генной инженерии, которая от перемещения нескольких генов между организмами переходит к созданию искусственного генома. Мы боимся ядерного терроризма и биотерроризма. Но случайно разбитая пробирка в биологической лаборатории, как и дрогнувшая рука оператора в подземном бункере управления стратегическими наступательными вооружениями, может привести к концу нашей цивилизации.
Еще одной из глобальных рукотворных угроз считается экологическая. Наряду с накоплением CO2 в атмосфере важны опасные обратные связи в эволюции климата. Земля умеет справляться с медленными изменениями параметров в масштабе десятков тысячелетий, а мы возмутили ее «климатическую траекторию» быстрым подогревом на 0,5 градуса, а можем еще на пару градусов за несколько десятилетий. Сможет ли планета адаптироваться к такому быстрому возмущению, или собственно природные явления и положительные обратные связи приведут к развитию климатической неустойчивости? Пример такой положительной обратной связи — уменьшение рассеяния падающего на поверхность Земли света за счет сокращения снежного покрова и увеличение поглощения за счет роста водной поверхности, например, в Арктике. Не пройдена ли уже точка невозврата? Хотя и ранее изменения климата приводили к вымиранию части животного мира, но за последние несколько десятков тысяч лет резких изменений климата не было, поэтому мы не знаем, как они могут повлиять на нас. Антропоцен — есть предложение так назвать текущую рукотворную геологическую эпоху.
Кроме парниковых газов, на передний фронт глобальной экологической угрозы вышел микропластик (частицы размером менее 5 мкм). Его повсеместное распространение в биосфере вызывает все большую обеспокоенность по поводу последствий для здоровья человека. Люди постоянно вдыхают и принимают с пищей микропластики, однако вопрос, представляют ли эти загрязняющие вещества значительный риск для здоровья, еще далек от понимания. Начиная с 1950 г. до конца 2015-го в мире произведено 8,3 млрд тонн полимеров, в основном синтетических. В использовании сейчас остается 2,5 млрд тонн, утилизировано 0,8 млрд тонн, рециклировано 0,6 млрд тонн. Следовательно, полимерного мусора в окружающей среде около 4,9 млрд тонн. Государства-члены ООН в настоящее время ведут переговоры по юридически обязательному международному соглашению к 2025 году по пластмассам, которое будет охватывать весь жизненный цикл пластмасс, от проектирования до производства и утилизации. Надеемся, что экологическую угрозу мы возьмем под контроль.
— Все эти угрозы человечеству хорошо известны и понятны. Совсем новых бед человечество пока еще не знает?
— Сегодня на повестке дня новые угрозы, о которых мы и не подозревали 50 лет назад. Позволю себе вспомнить визионерство академика Сахарова, изложенное в статье «Мир через полвека». Кстати, через несколько недель, в мае 2024 года, как раз наступит 50 лет с момента публикации и интересно посмотреть, что сбылось. Не будем обсуждать социально-политические гипотезы, хотя надо признать, что они в значительной степени подтвердились, а посмотрим на технологические прогнозы. В разделе «Гипотезы о техническом облике будущего» он говорит о том, что особенную роль будет играть прогресс в области связи и информационной службы, и предполагает появление на планете всемирной информационной системы, которая сделает доступным для каждого в любую минуту содержание любой книги, когда-либо и где-либо опубликованной, содержание любой статьи, получение любой справки. Эта система, по мнению великого ученого, окажет глубокое воздействие на жизнь каждого человека, и прежде всего потому, что окончательно исчезнут все барьеры обмена информацией между странами и людьми. Сахаров сразу же указывает и на опасность такой системы — она приведет к обесцениванию информации и даже произведений искусства.
Фактически академик Сахаров предсказал появление интернета, но только с огромным положительным импактом. И он же в этом очерке говорил о том, с чего мы начали нашу с вами беседу, — о предстоящем расширении попыток установления связи с инопланетными цивилизациями.
Сегодня заглядывать на 50 лет вперед кажется совершенно бессмысленным, слишком быстро мир меняется технологически и политически он слишком турбулентен. Но давайте возьмем «квант времени» поменьше, 25 лет, и попробуем им отмерить технологические скачки и опасности. Начнем с ретроспективы. 25 лет назад была создана компания Google, ставшая крупнейшим в мире интегратором поиска и в конечном счете владельцем и распорядителем этой информации. Мы сегодня принимаем решения на основе рекомендаций Google и других поисковиков, хотя Google обслуживает 90% мировых запросов. Мы считаем эти рекомендации априори самыми объективными, составленными коллективным человеческим разумом, потребительскими запросами и т.п., независимо от того, что мы покупаем: автомобиль, подарок женщине ко дню Святого Валентина или вооружаем себя информацией для дебатов или доклада в Никитском клубе. И в этом потенциально огромная опасность манипулирования всем человечеством со стороны тех, в чьих руках находится глобальный поисковик, вооруженный до зубов искусственным интеллектом. Мы традиционно считаем XX век веком физики, а XXI веком биологии. Не становится ли наше столетие уже веком информационных технологий?
Информация превращается в главное богатство посредством управления ею поисковиками и ИИ. Принятие решений уже сегодня осуществляется ИИ — биржевые торги, выдача кредитов банками, потребители принимают решения по совету Google. Это удобно и бизнесу, и потребителям, в том числе высокообразованным. Ясно, что в будущем все большая часть решений будет передаваться ИИ. Человечество на это согласится, если будет все больше доверять ИИ.
Интересно, что в подавляющем большинстве случаев сегодняшний ИИ — это алгоритмы, основанные на обучении и применении искусственных нейронных сетей. Ключевым математическим аппаратом при использовании искусственных нейронных сетей является алгебра матриц. Она стала также важнейшим математическим аппаратом при создании квантовой механики, описании ядерных процессов, в том числе ядерных реакций и взаимодействия между ядрами. Удивительные переплетения истории — создателем матричной квантовой механики в 20-ые годы прошлого века был Вернер Гейзенберг, один из руководителей немецкого атомного проекта. Надо отметить, что перемножение больших матриц — очень трудоемкая процедура, и нужны суперкомпьютеры для их применения в системах ИИ. Необходимость ускорения в перемножении матриц привела к буму в разработке вычислителей, альтернативных классическим ЭВМ с универсальными процессорами, например фотонных вычислительных устройств. А это открывает огромные возможности в работе с большими данными, создании цифровых двойников всего и вся, в моделировании и сопровождении полного жизненного цикла любого объекта. А в перспективе и субъекта. Огромные, но потенциально опасные возможности для человеческого общества.
— Каким вы видите человеческое общество, к примеру, через четверть века?
— Многие, в том числе и я, опасаются, что в течение предстоящих 25 лет развитие ИИ приведет к появлению совершенно другого общества, в котором решения за людей будут принимать алгоритмы, и подавляющее большинство людей будут воспринимать такую жизнь как максимально удобную и комфортную, при этом интеллектуально не развиваясь и, возможно, даже деградируя. Но над алгоритмами будет стоять новая тонкая прослойка элиты — представителей транснациональных информационных компаний, инкорпорированных в политическую власть и владеющих самой дорогой к этому времени собственностью на Земле — информацией. Эта элита будет контролировать работу ИИ, интеллектуально развиваясь вместе с ним. Я думаю, что если нам не нравится такое будущее, надо приложить все усилия к тому, чтобы неизбежное развитие ИИ сопровождалось развитием естественного интеллекта большинства человечества, а не только тонкой прослойки жаждущих информационной власти над миром.
