Проклятие Паскалевского вымогательства — одна из тех философских задумок, которые заставляют пересмотреть не только теорию принятия решений, но и наши представления о рациональности. Если вкратце, этот парадокс иллюстрирует ситуацию, в которой агент должен сделать выбор, учитывая ожидаемую пользу, но при этом вероятность некоторых событий становится настолько низкой, а полагаемая выгода — настолько огромной, что традиционные модели рационального выбора дают крайне необычные результаты. Суть этого феномена и его влияния на философию, этику, а также современные технологии заслуживает внимательного анализа. Название парадокса происходит от вольного обращения к классической Паскалевской ставке. Однако, в отличие от знаменитой философской дилеммы, здесь речь не идет об ожидании бесконечной награды.
Вместо этого, идея сводится к тому, что даже конечные, но безудержно растущие значения вознаграждения способны привести к абсурдным рациональным решениям. Если представить ситуацию, когда человек сталкивается с очень маловероятным, но чрезвычайно ценным событием, логика максимизации ожидаемой полезности подсказывает, что стоит принять риск ради огромной потенциальной выгоды. В одном из известных описаний, предложенных философом Ником Бостромом, приводится метафорический случай: Паскаля останавливает вымогатель, который обещает удвоить сумму, если тот отдаст ему деньги сейчас. Паскаль отказывается, поскольку считает, что вероятность исполнения обещания минимальна. Тогда вымогатель повышает ставки и говорит о невероятных наградах будущей жизни — например, обещая миллиарды счастливых дней.
Если даже вероятность таких событий остается небольшою, стоимость вознаграждения настолько велика, что с точки зрения теории полезности отдавать деньги становится рационально. Эта мыслительная игра получила название «Проклятие Паскалевского вымогательства» именно потому, что жертва вроде бы становится заложником абсурдной логики. Если допускать, что вероятность реализации чрезвычайно маловероятных, но бесконечно значимых последствий всегда выше нуля, то решение о том, стоит ли рисковать, превращается в бесконечный процесс, не позволяющий прийти к однозначному выводу. Это создает серьезные трудности для классических моделей принятия решений, таких как максимизация ожидаемой полезности, потому что любое действие можно якобы обосновать на основе крайне редких и невероятных, но очень ценных исходов. Парадокс имеет дополнительные вариации.
Например, один из гипотетических сценариев на форуме LessWrong подразумевал угрозу уничтожить громадное число существ, если не отдать вымогателю деньги, что усиливало ощущение абсурдности и рискованности принятия решения. Использование числа, такого как 3 в степени 3 в степени 3 и так далее по Кнуту («3↑↑↑↑3»), подчеркивает масштаб предположений, играющих роль в построении парадокса. Важным элементом парадокса является столкновение двух противоположных взглядов на рациональность. С одной стороны, ожидаемая польза от риска, пусть и с очень низкой вероятностью, может быть безграничной и поэтому привлекательной. С другой — тот, кто руководствуется только этим расчетом, становится целью манипуляций и может быть вымогаем без конца.
Это приводит к эффекту «голландской книги» — бесконечному процессу ставок и выплат, длящемуся пока «разум» жертвы не исчерпает все ресурсы. Такой бесконечный процесс расценивается как иррациональный, поскольку приводит к чистому проигрышу. Проклятие Паскалевского вымогательства затрагивает не только теорию принятия решений. Его влияние заметно в области этики, особенно в рамках последовательно-консеквенциалистских подходов, где выгоды одного поступка зависят от того, как много пользы он приносит в целом. Например, в одном из размышлений философ Бредли Монтон изложил ситуацию, где человека просят причинить вред малышу ради предотвращения огромных страданий в отдаленной галактике.
Даже при низкой вероятности успеха такой поступок должен считаться рациональным с позиции классического максимизации ожидаемой полезности — что выглядит крайне спорным с нравственной точки зрения. Ещё одним аспектом понимания этой проблемы является влияние на разработку искусственного интеллекта с сильными когнитивными функциями. Как отметил Ник Бостром, если суперразум оснащен неисправной теорией принятия решений, подобной той, что порождает проклятие Паскалевского вымогательства, последствия могут быть катастрофическими. Программируя ИИ, необходимо предусматривать механизмы, которые будут ограничивать влияние невероятных сценариев с огромной полезностью и маленькой вероятностью, чтобы избежать «пойманности» на подобных парадоксах. Существует несколько предложений по выходу из этой дилеммы.
Одним из них является введение «ограниченных функций полезности», где максимальная ценность вознаграждения не может быть безграничной. Такой подход взросляет ограничение реальности и человеческого восприятия на теоретические модели, не позволяя им скатываться в абсурд. Другой путь — использовани Bayesian-подхода, где вероятность событий корректируется с учетом качества доказательств и исходных гипотез, что позволяет лучше фильтровать невероятные утверждения. В этом случае вероятность крайне ценных, но фантастических исходов стремится к нулю, и рациональное поведение не требует следовать за ними в любом случае. Некоторые философы советуют вводить «штрафы» для гипотез, которые требуют невероятно большой дисбаланс влияния — то есть когда мелкий агент утверждает, что способен повлиять на огромное количество других агентов, которые не могут ответить взаимностью.
Такой подход предохраняет от того, чтобы принимать слишком невероятные утвреждения, даже если они подкрепляются кажущимися вескими доказательствами. Проклятие Паскалевского вымогательства поднимает важные вопросы о том, как именно мы принимаем решения, особенно в условиях неопределенности и огромных масштабов последствий. Оно указывает на границы классической теории рационального выбора и заставляет искать сбалансированные методы, которые смогут сочетать осторожность и эффективность. Особенно актуален этот парадокс в современном мире, где технологии и прогнозы приносят все сложные задачи в сферу искусственного интеллекта, этики и глобального управления рисками. Таким образом, проклятие Паскалевского вымогательства остается живой философской проблемой с широким спектром приложений — от научных моделей принятия решений до этических рассуждений и инженерии ИИ.
Понимание и преодоление этого парадокса позволит сделать шаг вперед в создании более устойчивых и разумных систем, способных адекватно оценивать риски и выгоды даже в самых невероятных сценариях.
