В современном мире искусственного интеллекта и генеративных моделей (GenAI) производительность хранения данных становится критически важным аспектом для высокоэффективной обработки информации. Появление новых решений, способных значительно повысить скорость передачи и чтения данных, открывает двери для революционных изменений в сфере вычислений. В этом ключевом контексте сотрудничество японской компании Kioxia и американского технологического гиганта Nvidia привлекло внимание индустрии: они совместно работают над разработкой сверхскоростного SSD с ошеломляющей производительностью в 100 миллионов операций ввода-вывода в секунду (IOPS). Предполагается, что устройства будут доступны уже к 2027 году и смогут частично заменить высокопроизводительную память HBM (High Bandwidth Memory), применяемую в современных графических процессорах Nvidia для задач ИИ. Основы и значение технологии SSD с 100 миллионами IOPS IOPS (Input/Output Operations Per Second) - ключевой показатель быстродействия накопителей, определяющий количество операций ввода-вывода, которые устройство способно выполнять за одну секунду.
Текущие модели SSD, даже ультрапродвинутые, редко нацелены на показатели выше нескольких миллионов IOPS. Поэтому анонс Kioxia и Nvidia о намерении создать накопитель с производительностью, превышающей 100 миллионов IOPS, знаменует собой прорыв, способный поменять подходы к обработке данных в системах ИИ. Накопители с подобной скоростью позволят значительно снизить задержки в обработке данных, что критично для моделей искусственного интеллекта, требующих обработки огромных массивов информации в реальном времени. В частности, технология будет полезна при работе с контекстной памятью и обработке токенов в генеративных моделях, где задержка доступа к данным напрямую влияет на качество и скорость вывода информации. Технические аспекты разработки Проект основан на использовании новейших технологий флэш-памяти Kioxia, включая их линейку XL-Flash.
Данная технология относится к классу хранения с высокими характеристиками производительности, комбинируя преимущества однобитной памяти (SLC) и многоуровневой (MLC). XL-Flash реализован на базе 3D NAND памяти четвертого и пятого поколений, которые отличаются высокой плотностью, низкой задержкой, а также возможностью одновременной работы большого количества планов (planes), что значительно повышает параллелизм операций. Для коммуникации с GPU применяется стандарт PCIe с поддержкой седьмой генерации (PCIe 7.0). Этот интерфейс обеспечивает вплоть до четырехкратного прироста пропускной способности по сравнению с PCIe 5.
0, что имеет решающее значение для обхода узких мест ввода-вывода и достижения заявленных объемов IOPS. При условии использования PCIe Gen 7, Kioxia планирует реализовать SSD, способный выдавать порядка 14 миллионов операций случайного чтения и около 2,8 миллионов операций записи на одно устройство в режиме XL-Flash Gen 2. Подключение двух таких SSD напрямую к графическому процессору Nvidia теоретически позволит достичь суммарных 200 миллионов IOPS. Еще один интересный аспект - использование технологии высокоскоростной флэш-памяти с TSV (through-silicon vias) и интеграция нескольких слоев памяти, которые соединены на уровне кристаллов. Это позволит создавать многослойные пакеты памяти с максимально эффективным обменом данными, что близко по архитектуре к высокопроизводительной памяти HBM, но с куда меньшими затратами и большей емкостью.
Роль HBF и конкуренция с HBM Kioxia и их партнёр Sandisk разрабатывают технологию High Bandwidth Flash (HBF), которая обещает значительное увеличение ёмкости памяти при стоимости, намного меньшей, чем у HBM. HBF базируется на многостековых структурах NAND, объединённых при помощи TSV, что позволяет достигать пропускных способностей, сравнимых с HBM, но при многократном увеличении емкости. Эта технология поможет эффективно разместить в памяти большие объёмы контекстных данных, например, токенов генеративного ИИ, таким образом снижая необходимость повторных вычислений и экономя ресурсы GPU. Обеспечение согласованности и прямое подключение к GPU Важной особенностью разрабатываемого решения является его прямое подключение к графическим процессорам Nvidia. Такие соединения могут использовать межкристальные интерпозеры, которые обеспечивают минимальную задержку, высокую пропускную способность и когерентный доступ к памяти.
Это означает, что SSD станет не просто периферийным накопителем, а элементом расширенной памяти с высокой пропускной способностью и минимальными задержками. Кроме того, в некоторых вариантах рассматривается использование протокола CXL (Compute Express Link), который представляет собой технологию, позволяющую подключать память и устройства хранения в единую когерентную систему. Хотя именно для SSD с 100 млн IOPS CXL, возможно, не будет главным интерфейсом, данная технология показывает направление развития памяти с высокой пропускной способностью, расширяющей возможности архитектур современных серверов и ускорителей. Перспективы и влияние на индустрию ИТ Разработка Kioxia в сотрудничестве с Nvidia является важной вехой в эволюции технологий хранения данных для искусственного интеллекта. Увеличение скорости работы SSD при сохранении низкой задержки откроет новые возможности для создания более масштабных, эффективных и быстрых систем генеративного ИИ, а также других задач, требующих интенсивных вычислений и обработки больших данных в реальном времени.
Традиционные серверные архитектуры, основанные на разделении памяти и вычислений, испытывают ограничения из-за скорости и задержек между компонентами. Интеграция крайне быстрых SSD, функционально приближенных к расширенной памяти, позволит значительно снизить эти ограничения, повысить общую производительность систем и снизить стоимость владения аппаратурой. Появление таких решений также будет важным фактором для развития edge-компьютинга, где ресурсы ограничены, но требуется высокая эффективность в обработке ИИ-задач. Высокоскоростные AI SSD смогут не только ускорить локальную работу, но и уменьшить необходимость передачи больших объемов данных в облако, что важно для конфиденциальности и устойчивости систем. Заключение Сотрудничество Kioxia и Nvidia в разработке SSD с производительностью 100 миллионов IOPS демонстрирует стремительный прогресс в технологиях хранения и обработки данных для искусственного интеллекта.
Новейшие разработки во флэш-памяти, интеграция с GPU через современные интерфейсы и использование инновационных архитектур памяти обещают существенно изменить ландшафт вычислительной техники. Появление таких накопителей в 2027 году станет важным шагом для ускорения работы генеративного и другого искусственного интеллекта, расширения возможностей систем глубокого обучения и оптимизации использования оборудования. Это сотрудничество открывает перспективы для появления новых продуктов и инновационных решений в индустрии высокопроизводительных вычислений и хранения данных, которые будут формировать будущее технологий и бизнеса. .