В современном обществе мы нередко сталкиваемся с историями и теориями, в которых акцент делается на очень малую вероятность наступления каких-то событий, но с потенциально огромными последствиями. Такой подход к принятию решений основан на идее, что даже если вероятность случившегося очень мала, потенциальная выгода или ущерб настолько велики, что оправдывают вложение ресурсов и усилий в подготовку или борьбу с ними. Однако именно в этой логике кроется одна из основных ошибок мышления и принятия решений, получившая название «обман Паскаля» в честь знаменитой философской ставки Блеза Паскаля. Сегодня эта концепция приобретает особое значение и заслуживает детального анализа, чтобы лучше понимать, почему подобные гипотетические сценарии зачастую ведут к нежелательным результатам и отвлекают от реальных задач и рисков. Концепция «обмана Паскаля» выходит из исходной идеи, которую предложил французский философ XVII века, рассматривая вероятность существования Бога и вечной жизни.
Паскаль говорил о том, что рационально «ставить» на веру в Бога, поскольку даже если вероятность этого мала, потенциальная награда — бесконечное блаженство — огромна и, следовательно, оправдывает веру и связанные с ней действия. В современной интерпретации, однако, подобные рассуждения часто применяются к связанным с нашей жизнью вопросам, начиная от технологических революций и заканчивая экзистенциальными угрозами человечеству. Именно здесь и возникает опасность: рациональное с точки зрения классической теории вероятности и ожидаемой стоимости поведение может привести к истощению ресурсов на изучение и подготовку к событиям с крайне низкой достоверностью и большим спектром возможных исходов. Основная проблема заключается в том, что подобные низкопроверенные сценарии редко базируются на строгой количественной оценке риска с подлинными статистическими данными. Скорее всего, исходная оценка вероятности — результат недостаточной информации или слабых данных, что приводит к крайне ненадёжным вероятностям.
Это явление называют «низкоемкостными вероятностями», когда малая база свидетельств делает вычисленные шансы подверженными сильным колебаниям при появлении новой информации. Таким образом, если сегодня вероятность физической реализации какого-то технологического прорыва (примером может служить создание сверхинтеллекта) оценивается в 0,1%, то завтра, после появления новой информации, она может легко измениться в ту или иную сторону в несколько раз, а исходные расчёты могут оказаться чрезмерно оптимистичными или пессимистичными. Ещё одним значимым фактором является непредсказуемость не только вероятности события, но и широты потенциальных последствий. При недостатке данных и большого спектра неопределённостей очень легко недооценить негативные эффекты или переоценить позитивные. Действия, предпринятые для того, чтобы избежать гипотетической угрозы или добиться возможного блага, могут обернуться противоположным результатом и усугубить положение.
Такая ситуация особенно характерна для вмешательств в сложные социальные, технологические или биологические системы, где неполное понимание сетевых эффектов и взаимодействий ведёт к неожиданным и нежелательным последствиям. Критической для «обмана Паскаля» является и невозможность проверить, опровергнуть или уточнить гипотезу экспериментальным путём или эмпирическими наблюдениями в обозримом будущем. Это называется проблемой невозможности фальсификации и характеризует семьи идей, которые не могут быть опровергнуты либо слишком дорогостоящи для проверки. Без такой возможности оценки остаются умозрительными и предоставляют воспитателям и проповедникам подобных идей возможность бесконечно утверждать их правильность, манипулируя страхами или надеждами аудитории без ответственности за результат. В итоге общество либо тратит огромное количество времени и ресурсов на попытки подготовиться к неясным и, возможно, никогда не наступающим сценариям, либо сталкивается с параличом действий из-за «паралича анализа» из-за бесконечных вариантов и гипотез.
Стоит отметить, что некоторые низкопроцентные угрозы, особенно те, которые имеют прогностическую базу и являются «лотерейными» в классическом смысле — с чётко измеряемыми вероятностями и последствиями — заслуживают внимания и подготовки. Примером служит угроза столкновения с астероидом, где астрономические наблюдения позволяют выявить траектории, оценить риски и проводить реальные эксперименты по уменьшению угрозы. Такой риск отличается от тематик «обмана Паскаля», поскольку имеет твёрдые данные, возможность проверки и высокую степень предсказуемости. Часто на основе идеи «обмана Паскаля» формируются различные движения и предложения, направленные на решение фантастических или спекулятивных проблем. Очень часто они сопровождаются жёсткой риторикой неопровержимости, призывами к максимальной мобилизации и отводом критиков как отрицателей истины.
В таких случаях лучше подходить с осторожностью, задавая вопросы о природе и качестве данных, логике доводов, возможных экспериментальных проверках и, самое главное, о разнообразии взглядов в научном и экспертном сообществе. Среди современных примеров подобных ожиданий и страхов можно отметить опасения по поводу создания «общего искусственного интеллекта» с потенциально катастрофическими последствиями, надежды на технологии бессмертия через криоконсервацию мозга или загрузку сознания, а также разнообразные прогнозы насчёт глобальных гипотетических катастроф, порождающих страх параноидального масштаба. Во всех этих случаях как в научной литературе, так и в популярных дискуссиях, нередко наблюдается отсутствие чёткой методологии и невозможность подтвердить или опровергнуть утверждения. Понимание «обмана Паскаля» требует также переосмысления роли вероятностных оценок и статистики. Классические формулы ожидаемой ценности могут вводить в заблуждение, если основаны на неопределённых и непроверяемых предположениях.
Их механистическое применение без учёта качества информации и ограничений может создать иллюзию объективности и научности, тогда как на деле речь идёт о выражении субъективных и слабо обоснованных фантазий. Поэтому важно дополнять количественный анализ качественным, применять логику, критическое мышление и правовые нормы, которые проверены веками практики взаимодействия между людьми и общества в условиях неопределённости. Для практического выбора направлений исследований, инвестиций и политики в сфере долгосрочных рисков по принципу «обмана Паскаля» крайне желательно требовать не просто приблизительных чисел, а чётких критериев, способов эмпирической проверки и ясных аргументов в пользу вмешательства. Без этого риск не только бессмысленных трат, но и отвлечения от реально значимых проблем, которым можно реально помочь, становится слишком велик. Кроме того, личная и общественная интеллектуальная борьба с «паскальскими мошенничествами» заключается в умении идентифицировать, когда потенциал результата используется для создания псевдоаргумента вместо серьёзного анализа, а также в культивировании осторожного и скептического отношения к сенсационным, апокалиптическим и утопическим прогнозам без твёрдой основы.
