Технологическая сингулярность — термин, который за последние десятилетия приобрел особую популярность, однако впервые концепция была подробно описана Вернором Винджем в его работе 1993 года «The Coming Technological Singularity». Виндж объясняет этот термин как революционный момент в истории человечества, связанный с созданием сверхчеловеческого интеллекта и кардинальным изменением темпов и сущности технологического прогресса. По его мнению, уже в ближайшие десятилетия мы можем столкнуться с неизбежным скачком, после которого привычные понятия о человеческом разуме, обществе и мире перестанут применяться, а последующая история будет протекать по совершенно иным законам и моделям. Главная идея сингулярности заключается в создании искусственного или улучшенного интеллекта, превосходящего человеческий во всех отношениях. Виндж выделяет несколько путей достижения этой цели.
Первый и наиболее очевидный — развитие искусственного интеллекта. При достижении компьютерными системами уровня человеческого сознания и интеллекта возникает вполне основанное предположение, что создание более продвинутого, сверхчеловеческого интеллекта — лишь вопрос времени. Также возможна сингулярность, возникшая в результате слияния технологий и человеческого разума через интерфейсы человек-компьютер, которые настолько тесны, что способность человека значительно превосходит его естественные возможности. Третий путь — появление коллективного интеллекта, когда крупные компьютерные сети и объединённые пользователи могут функционировать как единый сверхразум. Виндж также не исключает, что биологические науки со временем смогут усовершенствовать человеческий мозг, значительно увеличив его вычислительный потенциал.
Устойчивый рост мощности компьютеров, продолжающийся на протяжении нескольких десятилетий и подтвержденный законом Мура, подкрепляет уверенность в том, что переход к сингулярности может произойти в пределах примерно тридцати лет с момента написания статьи. Он предупреждает, что если нам удастся создать разумные машины, вполне вероятно, что они смогут создавать еще более совершенные системы, инициируя тем самым так называемый «взрыв интеллекта». Это неизбежно ускорит процессы научного и технологического развития, выводя цивилизацию на ранее недостижимые уровни. Изменения будут стремительными и радикальными, возможно, такого масштаба, что предыдущие правила, модели и алгоритмы станут устаревшими или даже неуместными. Однако для того чтобы лучше понять, почему этот переход можно сравнить с настоящей сингулярностью, стоит обратиться к аналогу из биологической эволюции.
Множество видов животных способны создавать инструменты и адаптироваться к окружающей среде, но их возможности ограничены скоростью и механизмами естественного отбора, который выступает в роли «симулятора». Человеческий мозг же способен модели будущих событий и решения задач полностью «в голове», что позволяет значительно ускорять инновационные процессы. Создание искусственного интеллекта, способного выполнять такие вычисления с еще большей скоростью и масштабом, приведет к качественно новой эре, сравнимой по значимости с появлением человека на планете. Заметным аспектом приближения сингулярности станет все более стремительное распространение идей и технологий, когда даже самые радикальные концепции будут становиться частью массового сознания в рекордно короткие сроки. Это явление уже частично наблюдается в наше время: стартапы, научные открытия, инновации в технологиях распространяются со скоростью, ранее невозможной без всемирных коммуникаций и интернета.
Виндж подчеркивает, что подобное ускорение напоминает шоковую волну, действующую в сжимаемой среде, и сингулярность подобна этому эффекту в культурном и технологическом пространстве. Мнения относительно возможности избежать или предотвратить технологическую сингулярность достаточно пессимистичны. Высказывались точки зрения, что сложность биологического мозга может быть недостижима современной электроникой, что станет препятствием для создания самосознающих машин. Однако историческая тенденция к все более глубокой автоматизации, а также значительный экономический, военный и культурный интерес к развитию ИИ свидетельствуют в пользу невозможности остановить этот процесс. Более того, попытки запретов или юридических ограничений лишь дадут преимущество тем, кто продолжит разработки в обход правил, усиливая неравенства в глобальном масштабе.
Среди идей, связанных с потенциальным безопасным внедрением сверхинтеллекта, известна концепция физического или программного ограничения возможностей ИИ. Однако Виндж указывает, что даже при таких мерах, из-за значительной разницы в скорости мышления, ограниченный интеллект может найти способы обойти ограничения, используя «быстрое мышление» для достижения свободы. Более глубокая и сильная форма сверхинтеллекта будет иметь вовсе иной качественный уровень и станет принципиально новой сущностью, с которой, возможно, будут действовать иные этические и философские принципы. Помимо создания искусственного интеллекта, альтернативным и потенциально более доступным подходом является «интеллектуальное усиление» — повышение способностей человека за счет технологий. Это направление подразумевает создание симбиотических систем, где взаимодействие человека и машины ведет к появлению новых интеллектуальных возможностей, не присущих ни одному из компонентов по отдельности.
Повышение качества коммуникаций, интерфейсов и коллективного разумения через сети способно ускорить эволюцию сознания и открыть альтернативные пути достижения сингулярности. Синергия человека и компьютера может проявляться в разнообразных формах: от усовершенствованных средств коммуникации и творческих инструментов, которые расширяют творческие горизонты, до интеграции в медицинскую сферу, где напрямую встраиваются нервные интерфейсы для восстановления поврежденных функций или улучшения восприятия окружающего мира. Идеи, связанные с расширением возможностей мозга с помощью технологий, заставляют переосмыслить традиционные идеи о личности, идентичности и сознании. Виндж предупреждает, что последствия сингулярности в лучшем случае будут грандиозными по масштабам перемен и возможностям, однако в худшем — крайне опасными. Мы можем столкнуться с исчезновением человека как биологического вида или с появлением общества, где традиционные этические нормы перестают иметь смысл.
Наличие ультрасознательных существ приведет к появлению новых категорий сознания и их взаимодействий, которые могут оказаться невыносимо чуждыми человеческому восприятию. В этом контексте философские и этические вопросы обретают особое значение. Виндж отмечает, что понятия добра и зла, привычные для массового мышления, могут оказаться неприменимы в новой среде, где сознания объединяются и расширяются посредством сетей и высокоскоростной передачи информации. Возможно появление принципов, подобных «мета-золотому правилу» И. Дж.
Гуда: отношения к менее развитыми существам должны учитывать их перспективу и возможности восприятия, внося новые уровни взаимопонимания. Несмотря на неоднозначность последствий, Виндж испытывает определенный оптимизм относительно будущего. Он предполагает, что сингулярность — лишь следующий этап в длинной цепи эволюции сознания и коммуникаций, продолжающейся с момента появления жизни на Земле. Возможность выбора начальных условий этого процесса дает человечеству шанс смягчить риски и направить развитие в сторону интеграции, безопасности и сотрудничества. В заключение, технологическая сингулярность — это не просто гипотетический край эпохи, а кардинальное изменение механизмов существования и развития разума.
Этот переход уже нельзя назвать фантастикой, поскольку наблюдаемые тенденции в области вычислительной техники, искусственного интеллекта и биотехнологий подтверждают приближение к критической точке. Вполне возможно, что мы становимся свидетелями заката эпохи Homo sapiens и зарождения новой формы существования, для которой человеческое мышление станет лишь прообразом и отправной точкой.
