Пять ключевых убеждений Дэйва Карпа о современной искусственном интеллекте

Интервью с лидерами отрасли Мероприятия

Искусственный интеллект (ИИ) — одна из самых обсуждаемых тем нашего времени. С каждым днем технологические достижения в области генеративного ИИ вызывают все больше вопросов о его возможностях, ограничениях и влиянии на общество. Известный аналитик и исследователь Дэйв Карп предлагает пять важных взглядов на то, каким на самом деле является искусственный интеллект сегодня и как его надо понимать, чтобы правильно оценить его роль в современном мире. Первое важное наблюдение Карпа — генеративный ИИ лучше всего понимать как технологию, работающую на принципе «удовлетворения», или «satisficing». Этот термин был введён экономистом Гербертом Саймоном и описывает процесс, при котором задача решается не за счет достижения идеального результата, а когда качество продукта становится «достаточно хорошим».

По сути, вместо максимизации результата ИИ стремится достичь приемлемого уровня — того, который соответствует минимальным требованиям пользователя или ситуации. Такой подход идеально подходит для большого количества рутинных или объемных задач, где главное — выполнить задачу быстро, без излишних затрат ресурсов. Например, подготовить черновик отчёта, который никто не будет подробно читать, записать протоколы совещаний или создать план поездки — это области, где современные ИИ системы показывают себя наиболее эффективно. Вторым ключевым моментом является то, что многие проблемы, сопровождающие генеративный ИИ, связаны с несовпадением «порогов удовлетворения» в разных сферах. По словам Карпа, порог качества, применяемый крупным капиталом — частными инвестиционными фондами, венчурным капиталом и индустриальными игроками — зачастую существенно отличается от требований, которые предъявляют специалисты: журналисты, врачи, политические деятели.

Владельцы бизнеса заинтересованы в максимизации прибыли и сокращении расходов, и зачастую это приводит к тому, что продукты на базе ИИ разворачиваются с упором на минимальные стандарты, экономя на качестве. Это серьезно снижает потенциальную пользу технологии в таких критических сферах, как медицина или журналистика. Создать действительно полезный и профессиональный ИИ можно, но для этого нужна поддержка и участие профсообщества, а не только экономическая выгода. Третья важная идея касается того, что при обсуждении ИИ необходимо признать две основные модели его «отказа» или неудач. Первая связана с тем, что система может работать, как задумано, но появятся серьезные негативные последствия при ее масштабировании.

Вторая — что сама технология окажется менее эффективной, чем обещали, и начнет давать сбои в самых ответственных сферах. Карп отмечает, что сегодня общественное внимание фокусируется на первой модели — на опасениях, что в скором времени появится суперинтеллект, который преобразит мир или уничтожит человечество. Однако он лично больше обеспокоен второй моделью — ситуацией, когда ИИ будет внедряться в ответственные задачи, например, в оборону или медицину, несмотря на свою ненадежность, и это приведет к серьезным проблемам в результате чрезмерного доверия и завышенных ожиданий. Четвертый вывод Карпа касается того, как сам термин «искусственный интеллект» влияет на восприятие технологии. Он подчеркивает, что это название часто вводит в заблуждение, поднимая слишком высокие ожидания и даже создавая мистические представления, что перед нами «цифровой бог».

Такой подход способствует распространению иррациональных и опасных теорий заговора, когда люди ищут в работе ИИ признаки сверхъестественного или намеренное вмешательство в события. Карп предпочитает термин «машинное обучение», который более технический, менее эмоциональный и лучше отражает реальную суть процесса — алгоритмы, анализирующие большие объемы данных и обучающиеся выявлять в них паттерны, без мифов и гипербол. Наконец, пятым аспектом является убеждение Карпа, что хотя ИИ обладет потенциалом трансформировать определённые сферы, подобно тому, как когда-то это сделали персональные компьютеры и текстовые процессоры, он вряд ли станет универсальной технологией или кардинально изменит наш мир в ближайшем будущем. Карп выражает скептицизм относительно текущего финансового пузыря вокруг ИИ — многомиллиардные инвестиции и раздутые оценки компаний он сравнивает с пузырём эпохи доткомов и жилищного кредитования. Хотя пузырь долго не лопнет, последствия его взрыва могут быть катастрофическими для экономики, а в это время технологии будут продолжать развиваться, но без обещанного скачка в сверхинтеллект.

Подводя итог, взгляды Дэйва Карпа позволяют трезво оценить текущее состояние генеративного ИИ. Это технология с реальными возможностями, но и с заметными ограничениями. Она лучше всего подходит для задач, где достаточно достичь «достаточно хорошего» результата, а не идеального. Часто её внедрение обусловлено экономическими интересами, которые не совпадают с профессиональными стандартами и ответственностью. Вместо гипербол и фантазий о «суперинтеллекте» нужно думать о технологических рисках вторичного порядка — ошибках, сбоях и злоупотреблениях при внедрении.

Тщательный подход к языку и представлению технологий поможет избежать иллюзий и обезопасит людей от опасных последствий необоснованного доверия ИИ. И, наконец, несмотря на хайп и ожидания, генеративный ИИ, как считает Карп, скорее всего, останется полезным инструментом ограниченного применения, а не глобальной революцией. Это понимание поможет лучше подготовиться к будущему, в котором искусственный интеллект станет частью нашей повседневной жизни — не волшебным спасителем, а прагматичным помощником.