Компании SK hynix и SanDisk сообщили о запуске в рамках программы Open Compute Project проекта по глобальной стандартизации высокоскоростной флеш-памяти High Bandwidth Flash (HBF).
Источник изображений: SanDisk
Компании описывают HBF как новый уровень памяти, располагающийся между сверхбыстрой памятью HBM и SSD. Технология HBF может заполнить пробел между высокой скоростью HBM и большой ёмкостью SSD, обеспечивая как расширение ёмкости, так и энергоэффективность, необходимые для выполнения задач искусственного интеллекта. В то время как HBM обеспечивает высокую пропускную способность, HBF выступает вспомогательным уровнем в архитектуре.
SanDisk опубликовала информацию о том, как, по её мнению, будет выглядеть этот уровень HBF в составе аппаратного стека. Компания позиционирует HBF как память на основе NAND и утверждает, что она может обеспечить в 8–16 раз большую ёмкость, чем HBM, при аналогичной пропускной способности и сопоставимой стоимости в предполагаемой системной конфигурации.
Для аппаратных решений первого поколения HBF SanDisk заявляет пропускную способность чтения до 1,6 Тбайт/с, 256 Гбит/с на кристалл и до 512 Гбайт общей ёмкости в рамках 16-кристального стека. Компания также утверждает, что стек разработан таким образом, чтобы максимально соответствовать HBM4 по физическим размерам, энергопотреблению и высоте, что подразумевает модель интеграции, аналогичную современным стекам HBM на ускорителях ИИ.
SanDisk заявляет, что HBF обеспечивает производительность, отличающуюся всего на 2,2 % от «HBM с неограниченной ёмкостью» в ходе внутренних тестов и моделирования с использованием модели рабочей нагрузки для вывода данных, основанной на предварительно обученной 8-битной конфигурации параметров Llama 3.1 405B. В сноске к презентации отмечается, что сравнение предполагает неограниченную ёмкость HBM в целях моделирования, поэтому оно не измеряет преимущество в ёмкости напрямую.
На фундаментальном технологическом уровне SanDisk связывает HBF со своей дорожной картой чипов BiCS NAND и технологией CBA (CMOS Direct Bonded to Array), а также с запатентованной технологией 3D-стекирования, предназначенной для 16-кристальных стеков с уменьшенной деформацией и лучшей теплопроводностью. В информационном листке также подчёркивается энергонезависимый характер HBF — она не требует питания для обновления данных, в отличие от памяти на основе DRAM.
В дорожной карте SanDisk также указаны предварительные целевые показатели пропускной способности чтения HBF второго (Gen2) и третьего (Gen3) поколений — свыше 2 Тбайт/с и 3,2 Тбайт/с соответственно — с ёмкостью стека до 1 Тбайт и 1,5 Тбайт, а также более низкие целевые показатели энергопотребления по сравнению с Gen1 — 0,8× и 0,64×. SK hynix и SanDisk не сообщили о графике внедрения HBF, но уже обозначили стандартизацию как следующий шаг в рамках программы Open Compute Project.
Источник: