Развитие искусственного интеллекта стремительно меняет ландшафт программной инженерии, особенно в сфере DevOps, где скорость разработки и автоматизация играют ключевую роль. Однако внедрение ИИ-технологий в процессы написания кода порождает новые вопросы, связанные с качеством, прозрачностью и ответственностью. Именно об этом рассказал Ану Дж Капур, генеральный директор компании CloudBees, в недавнем интервью, сделав акцент на том, что клиенты начинают замедлять темп использования «черного ящика» — кода, полностью сгенерированного ИИ без полного понимания или контроля человеком. CloudBees, известная своими решениями в области автоматизации и интеграции в DevOps, долгое время оставалась на передовой цифровизации разработки. С момента своего основания в 2010 году компания активно развивала инструменты автоматизации, в частности Jenkins, добившись значительного влияния на отрасль.
С приходом Ану Дж Капура во главе компании в 2022 году, а затем и с началом эры генеративного ИИ, CloudBees начала адаптироваться под новые тенденции, выпуская решения для интеграции ИИ в процесс разработки на корпоративном уровне. Капур отметил, что несмотря на высокий энтузиазм клиентов по поводу потенциального роста производительности, многие из них стали проявлять осторожность в использовании машинно-сгенерированного кода. Этот код зачастую относится к категории «черного ящика» — программного обеспечения, создаваемого через ИИ-модели, в котором отсутствует ясное понимание внутренних процессов и решений, что затрудняет отладку и поддержку. Такой подход может резко повысить скорость разработки, но одновременно увеличить риск возникновения дефектов и уязвимостей, которые сложно диагностировать и исправлять. Обеспечение качества становится важнейшим аспектом при растущем потоке автоматизированно создаваемого кода.
Капур подчеркнул, что тестовое покрытие и механизмы восстановления ошибок пока остаются недостаточными для контроля за качеством массового ИИ-кода. Когда количество создаваемого программного продукта увеличивается в десять раз, традиционные методы проверки становятся неэффективными, а результаты могут иметь непредсказуемые последствия. Генеральный директор CloudBees предупреждает о необходимости внимательного отношения к выбору темпа внедрения технологий ИИ, и особенно к разработке комплексных систем контроля и тестирования, способных отслеживать возникающие ошибки. Он призывает индустрию сосредоточиться не только на очевидных преимуществах ИИ, таких как скорость и масштабируемость, но и на вторичных эффектах — качестве, безопасности и прозрачности создаваемого кода. Еще одна важная тема, затронутая в интервью, связана с психологией заказчиков.
В начале эры ИИ многие компании испытывали давление из-за страха упустить возможности и отстать от конкурентов. Это явление, известное как FOMO (fear of missing out), заставляло организации слепо внедрять ИИ-технологии, не уделяя должного внимания рискам и последствиям. По словам Капура, этот страх постепенно снижается. Компании становятся более осознанными, подходя к вопросам внедрения ИИ с большей осторожностью и структурированностью. Они начинают выстраивать защитные механизмы и усваивают уроки прошлых циклов интенсивных технологических изменений.
Особенно осторожны в этом плане клиенты, работающие в регулируемых отраслях или имеющие сильную репутационную ответственность. Для них вопрос надежности и безопасности программного обеспечения выходит на первый план, и поспешное использование машинного кода без надежных проверок может привести к серьезным последствиям. В результате, как отмечает Капур, такие клиенты предпочитают медленнее, но увереннее двигаться вперед, взвешивая каждое технологическое новшество. CloudBees подчеркивает необходимость баланса между инновациями и ответственностью. На примере компании видно, что несмотря на мощные инструменты и возможности AI, разработка ПО — это область, требующая тщательного контроля и человеческого опыта.
Создание платформ, которые способствуют интеграции ИИ, но одновременно обеспечивают прозрачность, управлямость и возможность анализа кода, становится одним из главных направлений развития в индустрии. Интересно отметить, что подобные озабоченности касаются не только внутреннего качества кода, но и более широких вопросов безопасности. Без адекватных проверок уязвимости могут проникать в конечный продукт, что чревато эксплуатацией и кибератаками. С учетом стремительного роста использования ИИ в бизнесе, эти риски приобретают национальное и международное значение, требуя новых стандартов и практик контроля. Перспективы развития DevOps в эпоху ИИ видятся многогранными.
