Андрzej Карпаты: Как Большие Языковые Модели Меняют Парадигму Разработки ПО в Новую Эру

DeFi

Мир программного обеспечения переживает масштабные изменения, которые уже влияют на наши представления о том, как пишет и работает код. Анджей Карпаты, бывший директор по искусственному интеллекту в Tesla и признанный эксперт в области нейросетей и искусственного интеллекта, подробно рассказал о том, что мы сейчас наблюдаем третью революцию в программной инженерии, напрямую связанную с появлением новых технологий — Больших Языковых Моделей (LLM). Первые две эпохи были эпохой традиционного программирования, когда разработчики писали код вручную, а затем эра обучения нейросетей, где программирование частично передавалось весам и оптимизациям на основе данных. Сегодня пришло время третьей волны, и именно Большие Языковые Модели формируют фундамент будущего программирования. Карпаты вводит понятие программного обеспечения трех поколений.

Первое поколение — это классическое ПО, написанное на языках программирования вроде Python или C++. Это код, который мы понимали и контролировали на каждом шагу, он построен на четких правилах и алгоритмах, созданных человеком. Второе поколение связано с появлением нейронных сетей, которые научились «программировать» себя через работу с большими массивами данных и обучением на них. Здесь код чаще всего скрыт под слоями абстракции и зависит от настроек параметров модели, а не детально прописанных инструкций. Третье поколение — это программирование при помощи естественного языка, где взаимодействие с ИИ происходит через текстовые запросы и подсказки, позволяющие задавать задачи без традиционного написания кода.

По мнению Карпаты, этот сдвиг настолько глубок, что его следует воспринимать как смену самой парадигмы разработки программного обеспечения. Такое понимание событий подчеркивает и то, как новые модели начинают буквально «поглощать» старые программные системы. Опыт Tesla демонстрирует, как первые нейросети постепенно вытеснили огромное количество написанного вручную кода, заменив традиционные алгоритмы интеллектуальными моделями. Аналогично сегодня Большие Языковые Модели начинают подменять классические сервисы и системы, становясь новым «операционным системом» в области софта. При этом Карпаты указывает, что LLM нельзя рассматривать просто как новую утилиту — скорее это новая платформа развёртывания и взаимодействия с цифровыми сервисами.

Интересна и параллель с историей вычислительной техники 1960-х годов, когда ресурсы компьютера были центрально расположены в больших мейнфреймах, а пользователи получали доступ к ним по времени. Такой подход хорошо ложится в нынешнюю модель распространения LLM, которые работают в облаке и обслуживают множество клиентов через единую инфраструктуру. В этом контексте LLM выступают как центральный процессор нового поколения, а их контекстная память — своего рода оперативной памятью, ограниченной в размерах и влияющей на качество и объем задач. Кроме того, рынок современных моделей начал формироваться по схеме с несколькими крупными игроками, подобно тому, как в мире операционных систем доминировали Windows и macOS. Однако существует также открытая экосистема, представленная такими проектами, как LLaMA, играющая роль Linux и стимулирующая открытость и инновации.

Карпаты обращает внимание на уникальную траекторию проникновения LLM в общество. Ранее технологические инновации типично распространялись сверху вниз — от правительств, корпораций к конечным пользователям. В случае с Большими Языковыми Моделями наблюдается обратный эффект: они сначала получили огромную популярность у миллионов пользователей через приложения наподобие ChatGPT, а только потом постепенно внедряются в бизнес и государственные структуры. Такой «нисходящий» подход неожиданно ускорил и демократизировал доступ к технологиям, позволяя любому человеку попробовать возможности искусственного интеллекта. Однако у современных LLM есть и свои особенности, которые важно учитывать.

Карпаты сравнивает такие модели с «духами людей», «стохастическими симуляциями», способными имитировать человеческую речь и мышление, но при этом владеющими уникальными «суперспособностями». Они обладают обширными знаниями из разных областей и запоминают информацию с точностью, недоступной обычному человеку. Тем не менее этот интеллект имеет значительные когнитивные ограничения — модели склонны выдумывать факты (галлюцинации), демонстрируют «рваный» интеллект, то есть выдающееся поведение в одной задаче, но совершая элементарные ошибки в другой. Кроме того, ИИ не накапливает знания за пределами конкретной сессии, что обусловлено ограничениями его памяти, и подвержен атакам по типу внедрения вредоносных подсказок (prompt injection). С учетом таких особенностей Карпаты выделяет два ключевых направления, которые сегодня открывают рынок и позволяют создавать полезные приложения.

Первая идея — это концепция «частичной автономии», при которой ИИ не пытается полностью заменить человека, а становится его мощным помощником и расширением возможностей. Примеры таких приложений — помощники в программировании вроде Cursor, или интеллектуальные поисковики типа Perplexity. Общее для них — умение самостоятельно управлять контекстом, уменьшать когнитивную нагрузку пользователя, осуществлять координацию нескольких внутренних моделей и давать человеку удобный визуальный интерфейс для проверки и редактирования результата. Важный элемент — наличие «ползунка автономии», который позволяет пользователю регулировать уровень вмешательства искусственного интеллекта в исходный процесс. Эффективная совместная работа человека и ИИ базируется на скоростной обратной связи: генерация идей и вариантов ИИ с максимально быстрым их подтверждением или правкой человеком.

Для этого необходимы продвинутые графические интерфейсы, которые позволяют аудитору быстро визуально оценивать изменения и корректировать работу модели, а не погружаться в долгие тексты. Карпаты также предупреждает о рисках, связанных с предоставлением ИИ слишком большой свободы: без четких ограничений, инструкций и разбивки задач на мелкие части модель может генерировать чрезмерно объёмный и сложный для проверки материал, что снижает общую продуктивность взаимодействия. Важным аспектом, на который обращает внимание спикер, является то, что эпоха самостоятельных, полностью автономных агентов еще не наступила. Несмотря на многочисленные объявления о том, что «2025 год — это год агентов», он утверждает, что развитие подобных решений займет долгие годы. Вспоминая опыт автономных автомобилей, которые после первых впечатляющих демо в 2013 году все еще далеки от массового внедрения, Карпаты говорит о «десятилетии агентов», требующем постоянного участия человека и упорной работы над доведением технологий до масштабируемого уровня.

Программирование в эпоху LLM перестает быть уделом только профессионалов. Благодаря тому, что для взаимодействия с моделями достаточно формулировать задачи на естественном языке, появляется возможность «вибрировать код» — создавать простые приложения, исходя из идей и описаний, без глубокого технического погружения. Тем не менее, уровень необходимой инфраструктуры для полного запуска приложения, включая управление доменами, аутентификацию и платежи, остается серьезным препятствием для новичков. Наконец, Карпаты подчеркивает, что с появлением современных ИИ-агентов меняется и цифровая инфраструктура. Эти агенты — новые «потребители» информации, и традиционный способ документирования и взаимодействия с сайтами и сервисами требует переосмысления.

Чтобы упростить работу ИИ с информацией, необходимо создавать машинно-читаемую документацию, форматы вроде llm.txt или Markdown-документы с описанием API, которые четко рассказывают, как устроен сервис и как им пользоваться. Вместо привычных для человека инструкций типа «нажмите кнопку» нужны команды, которые можно выполнять автоматически, например curl-запросы. Необходимо создавать инструменты, конвертирующие традиционные веб-интерфейсы в единую текстовую структуру, удобную для обработки ИИ. Таким образом возникает «средний путь» между нынешними методами работы и миром будущего, в котором агенты станут универсальными посредниками и помощниками.

Итогом размышлений Карпаты является понимание того, что третья парадигма программного обеспечения радикально меняет основы инженерии и открывает новые горизонты взаимодействия людей и машин. Большие Языковые Модели не просто упрощают разработку — они выстраивают фундамент для нового поколения приложений и рабочих процессов, где интеллект и творческая инициатива человека соединяются с мощью и универсальностью искусственного интеллекта. Вызовы и ограничения, связанные с когнитивными особенностями ИИ, требуют от разработчиков создания умных, надежных и контролируемых систем, что уже формирует будущее индустрии на долгие годы вперед.