В этом видео мы разбираем NVIDIA H100. Легендарный GPU PCI-E для инференса и обучения ИИ со стоимостью около 30 000 долларов. Рассматриваем видеокарту вживую и показываем, что находится внутри.
Вы увидите монструозный чип GH100 с HBM памятью и узнаете, как развивался NVIDIA H100 на протяжении своего жизненного цикла. Переход на новый техпроцесс, рост количества транзисторов и увеличение объема VRAM от 80GB до 94GB и 96GB привели к смене типов памяти от HBM2e к HBM3.
Также разбираем, насколько NVIDIA H100 превосходит по производительности предыдущие поколения, включая A100, и кратко затрагиваем NVL версии ускорителей.
Ролик носит практический характер. С помощью отвертки мы снимаем радиатор ускорителя и добираемся до чипа GH100-885K-A4, чтобы показать реальное устройство этого GPU без маркетинга и презентаций.
Телега -
https://t.me/serverflowofficialБлог ServerFlow -
https://serverflow.ru/blog/00:00 Введение
01:14 Прочему это не видеокарта
01:55 О архитектуре Hooper
03:10 Формат FP8 (E4M3 и E5M2)
04:02 Жизненный цикл H100
04:42 Смена техпроцесса
06:34 Попытка вскрытия
07:28 12vhpwr не впаян
09:20 Раскручиваем радиатор
10:54 Сняли радиатор!
11:47 Плата без термопасты
12:20 Сравниваем H100 и H100 NVL
13:00 О SXM4 и SXM5 версиях
14:10 Сравнение GH100 с RX580
15:32 Почему Н100 дорогая
17:10 Выводы
Royalty Free Music: Bensound.com/royalty-free-music
License code: 0KJ5VB9KQ3JCIWRX
Artist: : Yunior Arronte