Профессор Джоузеф Вейценбаум, один из пионеров компьютерных наук и активный общественный деятель, чьи взгляды остаются актуальными по сей день, предлагает глубокий и критический анализ роли компьютеров в современном обществе начиная с 1985 года. Его размышления охватывают не только технические аспекты, но и этические, образовательные и социальные последствия повсеместного внедрения вычислительных технологий. Вейценбаум, создатель первой автоматизированной банковской системы и известный изобретатель программы ELIZA — первого «психиатрического» симулятора общения с компьютером, не просто видит компьютеры как инструмент для решения задач, но также выделяет ущербные предположения, которые зачастую лежат в основе вопросов о применении технологий. В частности, он критикует распространённый подход, в котором начинают рассуждать сразу с позиций техники — поиска проблемы, которую может решить компьютер, вместо того, чтобы сначала определить цели и приоритеты общества или образования, а затем рассматривать, насколько этот инструмент применим. В сфере образования Вейценбаум выделяет главные задачи, которые должна решать школьная система, прежде чем вводить новые технологии.
По его мнению, обучение должно прежде всего обеспечивать формирование у учащихся мастерства владения языком — умения грамотно и чётко выражать свои мысли как устно, так и письменно. Вторая важнейшая задача — дать ученикам возможность активно участвовать в культурной жизни, изучение литературы и истории, формирование идентичности в рамках общества. Третья — подготовка к жизни в научно-техническом мире, что подразумевает владение математикой и базовыми навыками наблюдения за окружающей действительностью. Вейценбаум предостерегает от бездумного внедрения компьютеров в учебный процесс, особенно когда система в целом не справляется с первичными задачами. Он обращает внимание на то, что современные школьные программы по информатике часто либо ошибочны, либо избыточны для обычного образования, и что значительная часть учащихся не преуспевает в базовых навыках, таких как письменная речь.
По его словам, системные проблемы образования зачастую связаны не с отсутствием технологий, а с социальными и экономическими факторами: бедностью, нехваткой поддержки для учеников из неблагополучных слоёв населения, большими классами и недостатком квалифицированных педагогов. Что касается этики, Вейценбаум подчёркивает, что она неразрывно связана с культурным образованием и формированием способности мыслить ясно. Без навыков чёткого выражения мыслей сложно осуществлять глубокий этический анализ. Этика реализуется через изучение истории, литературы и политики, которые показывают, как развивались моральные принципы в обществе. Особое внимание Вейценбаум уделяет связям компьютерных технологий с военным сектором.
Он подчеркивает, что компьютеры изначально создавались для решения военных задач — вычисление баллистических траекторий, дешифровка кодов и разработка военной техники. После Второй мировой войны большинство исследований в области вычислительной техники финансировалось военными организациями, и компьютеры стали сердцем современных вооружений и систем наблюдения. Вейценбаум ярко выражает опасение, что развитие искусственного интеллекта и новых поколений вычислительной техники лишь усилит эту зависимость, делая оружие ещё более смертоносным и автономным. Он также критикует распространённые оправдания участия в военных проектах, которые призваны смягчить нравственную ответственность разработчиков. Эти рационализации включают убеждение в автономии науки и техники, нейтральность инструментов и невозможность предсказать применение технологий в будущем.
Вейценбаум убеждён, что такие взгляды иллюзорны, поскольку технологии создаются в конкретных исторических и социальных условиях, где военные цели часто определяют их использование еще на этапе разработки. В аспекте социальной справедливости он указывает, что компьютеризация зачастую служит сохранению существующих иерархий власти и способствует укреплению технической элиты. На примере банковского дела Вейценбаум поясняет, что появление компьютерных систем помогло избежать необходимости в социальных изменениях, таких как децентрализация, сохранив устаревшие административные структуры и концентрируя влияние. Размышляя о молодом поколении специалистов в области вычислительной техники, Вейценбаум выражает сомнение в их осведомлённости и глубине понимания этических и социальных аспектов своей работы. По его мнению, если бы такое понимание было массовым, развитие технологий могло бы пойти другим путём, более взвешенным и ответственным.
