В последние годы датацентры и крупные облачные провайдеры активно искали способы повысить эффективность сетевых процессов, освободить ресурсы серверов и добиться большей производительности и безопасности. Одним из перспективных решений стали SmartNIC — умные сетевые карты с интегрированными процессорами, способные выполнять функции обработки данных, защиты и управления трафиком без постоянного участия центрального процессора. Несмотря на многообещающие перспективы, этот подход так и не получил массового распространения за пределами крупных гипермасштабируемых облачных провайдеров. Однако последнее развитие индустрии искусственного интеллекта может кардинально изменить ситуацию.Создание и внедрение SmartNIC началось в 2013 году, когда Amazon Web Services анонсировал тип серверов C3 с «улучшенной сетью», основанной на виртуальной функции Intel.
Эта технология подразумевала использование более производительных сетевых карт с собственной вычислительной мощностью, способных выполнять сетевые функции, такие как межсетевые экраны и балансировщики нагрузки, одновременно обеспечивая передачу данных. Для AWS это означало освобождение серверных ресурсов и повышение скорости сетевого взаимодействия, а также улучшение безопасности благодаря изолированному исполнению сетевых задач.Опыт AWS вдохновил и других технологических гигантов — появлялись аналоги SmartNIC или DPUs (Data Processing Units). Mellanox, в 2017 году, выпустил продукт BlueField, акцентируя внимание на ускорении передачи данных в системах хранения с флэш-памятью. Развитие SmartNIC продолжилось, когда VMware начала адаптировать свои гипервизоры для работы на этих устройствах, создавая возможность выносить сетевые функции на сами карты.
Приобретение Mellanox компанией Nvidia в 2019 году усилено активностью Intel и AMD, последняя из которых приобрела производителя DPU — Pensando. В 2022 году VMware запустила продукт Distributed Services Engine, способный управлять SmartNIC и запускать на них распределённые межсетевые экраны — знак того, что SmartNIC получили поддержку лидеров индустрии.Однако, несмотря на этот корпоративный интерес и технологическую базу, массовый рынок, за исключением крупных облачных провайдеров, так и не принял SmartNIC. Причин этому несколько. Во-первых, для многих организаций сложность интеграции и управления дополнительными устройствами в инфраструктуре оказалась слишком высокой.
Во-вторых, экономический эффект от их использования не всегда оправдывал вложения именно в периферийные узлы, учитывая быстрое развитие других компонентов инфраструктуры, включая CPU и GPU. Аналитическая компания Crehan подтвердила, что основные клиенты SmartNIC остаются сервис-провайдерами, арендаторами серверных мощностей, и технологии пока не вышли за рамки этих ниш.Компании, такие как Cisco, продвигают DPU в своих решениях для усовершенствованной безопасности и сетевой обработки, например в умных коммутаторах серии N9300 с концепцией Hypershield. Но это больше говорит о полезности и нишевом применении DPUs, нежели о массовом внедрении. Прогнозы по объёмам продаж остаются сдержанными, поскольку распространение технологии завязано на более широких инновациях и новых сценариях применения.
Потребители пока осторожно смотрят на SmartNIC в силу их относительной новизны и отсутствия единых стандартов внедрения.Но сейчас на горизонте появилась новая волна интереса — искусственный интеллект и машинное обучение. Эти области ставят новые задачи перед датацентрами и сетевой инфраструктурой — необходимость высокой скорости обработки и малых задержек при выполнении сложных вычислительных задач, а также управления большими объёмами данных. Аналитическая компания Gartner опубликовала архитектурные рекомендации для построения ИИ-решений на периферии сети и на Kubernetes, где DPUs занимает значимую роль. Nvidia в своих архитектурных подходах для облаков с ИИ также рекомендует отделять обработку сетевых функций и аналитики на отдельные процессоры, включая SmartNIC.
Инициативы в области программного обеспечения подкрепляют оборудование. Компания Red Hat представила технологический предварительный просмотр оператора OpenShift для DPUs в версии 4.19 своей платформы. Это позволит более гибко запускать виртуальные коммутаторы, балансировщики и межсетевые экраны непосредственно на SmartNIC без излишней нагрузки на центральные процессоры. Представитель Red Hat отметила потенциал DPUs для оптимизации баз данных и аналитических нагрузок через прямое управление NVMe-устройствами, что особенно актуально в условиях растущей потребности в быстрой обработке данных и интеграции ИИ.
Кроме того, Ju Lim из Red Hat выразил мнение, что DPUs могут эффективно выполнять задачи инференса ИИ — например, работа алгоритмов рекомендаций прямо на SmartNIC. Это позволит наиболее эффективно распределить ресурсы: выделять хост-процессоры для постоянного переобучения моделей, а SmartNIC использовать для оперативных вычислений. Такой подход обеспечивает максимальную производительность и оптимальное использование оборудования.В целом, развитие ИИ способно вдохнуть новую жизнь в технологии SmartNIC и DPU, превращая их из перспективных, но не получивших распространения решений в драйверы будущей сетевой и вычислительной инфраструктуры. Появляются новые сценарии и модели использования, которые помогают оправдать вложения и обеспечивают реальную выгоду для бизнеса.
