High Bandwidth Memory (HBM) - новый тип памяти должен был стать огромным шагом вперед по сравнению с применяющейся GDDR-памятью, и среди главных преимуществ HBM значились серьезное увеличение пропускной способности и увеличение энергетической эффективности (снижение потребления вместе с ростом производительности).
В стандарте HBM и аналогичных ему, вместо массива очень быстрых чипов памяти (7 ГГц и выше), соединенных с графическим процессором по сравнительно узкой шине от 128 до 512 бит, применяются очень медленные чипы памяти (порядка 1 ГГц эффективной частоты), но ширина шины памяти при этом получается шире в несколько раз.
Как и в случае с GDDR5, ширина шины для различных GPU будет разной и она зависит как от поколения стандарта HBM (первого или второго на данный момент), так и конкретного воплощения.
Компания AMD начала с применения четырех стеков (stacks, стопок или пачек) чипов памяти, каждый из которых состоит из четырех микросхем и дает 1024-битный интерфейс стопок памяти и (1024x4 = 4096-битный интерфейс памяти).
То есть в итоге на GPU получается просто широченная по меркам GDDR5-памяти шина в 4096 бит. Естественно, что при этом чипам памяти не обязательно работать на таких высоких частотах, как в случае GDDR5 — даже низких частот будет достаточно, чтобы по полосе пропускания памяти заметно обойти привычные доселе интерфейсы. Такие типы памяти, как HMC и HBM, открыли гибридным процессорам совершенно новые возможности, и производительность встроенного графического ядра значительно возросла.
В январе 2016г. HBM2-память была стандартизирована как JESD235a. HBM2 позволяет разместить до 8 схем на штабеле, что удваивает пропускную способность. Пиковая скорость передачи данных (пропускная способность) памяти современных видеокарт достигает 480 ГБ/с для типа памяти GDDR5X (например, у NVIDIA TITAN X Pascal) и 512 ГБ/c для типа памяти HBM (например, у AMD Radeon R9 FURY X).
Память HBM обеспечивает более высокую пропускную способность при меньшем расходе энергии и существенно меньших размерах по сравнению с GDDR4 или GDDR5. Это достигается путём объединения в стек до восьми интегральных схем DRAM (включая опциональную базовую схему с контроллером памяти), которые соединены между собой с помощью сквозных кремниевых межсоединений (англ. Through-silicon via) и микроконтактных выводов (англ. microbumps).
Рассмотрим НВМ-стек из четырёх кристаллов. Шина НВМ-памяти обладает существенно большей шириной по сравнению с памятью DRAM, в частности, НВМ-стек из четырёх кристаллов DRAM (4-Hi), каждый кристалл имеет по два 128-битных канала на кристалл (рис. 1) — в общей сложности 8 каналов и ширину шины в 1024 бита (128 х 8 = 1024).

Рис. 1.
А чип с четырьмя 4-Hi-НВМ-стеками (рис. 2) будет иметь ширину канала памяти в 4096 бита (1024x4= 4096), притом ширина шины GDDR-памяти — 64 бита на один канал). В январе 2016г. HBM2-память была стандартизирована как JESD235a. HBM2 позволяет разместить до 8 схем на штабеле, что удваивает пропускную способность.
Рис. 2.