Nvidia представила B200 — самый мощный ИИ-чип

Nvidia представила флагманский ИИ-чип B200, основанный на новой архитектуре Blackwell. Его размер достигает 208 млрд транзисторов, а цена составит от $30 до $40 тыс.
Главное нововведение Blackwell — поддержка FP4-операций, которые работают вдвое быстрее FP8, но обеспечивают вдвое меньшую точность. Nvidia считает, что низкая точность применима для нейросетевого инференса.
Скорость B200 оценивается в 20 Пфлопс на FP4-операциях и 10 Пфлопс на FP8-операциях. Для сравнения, производительность H100 на FP8-операциях составляет 4 Пфлопс.
Ускорители B200 снабжаются 192 Гбайт HBM3E-памяти в восьми стеках. Ширина шины памяти достигает 8192 бит, а пропускная способность — 8 Тбайт/с.
Ещё один плюс архитектуры Blackwell — энергоэффективность. Например, для обучения модели с 1,8 трлн параметров требуется 8 тыс. чипов H100, которые израсходуют 15 МВт электроэнергии. С B200 число чипов можно уменьшить до 2 тыс., а потребление — до 4 МВт.
B200 производится на мощностях TSMC по техпроцессу 4NP. Чип состоит из двух кристаллов-чиплетов. На разработку B200 было потрачено около $10 млрд.
Также Nvidia представила «суперчип» GB200, который объединяет в одной упаковке два B200 и процессор общего назначения Grace.
Nvidia планирует продавать Blackwell сразу серверными шкафами. Представлен шкаф GB200 NVL72 мощностью 1,4 Эфлопс. Он объединяет 36 чипов GB200, СЖО, коммутаторы NVLink и кабельное хозяйство. Одного шкафа хватит на тренировку модели с 27 трлн параметров.
Интерес к B200 проявили как ведущие провайдеры облачных услуг (Amazon, Microsoft, Alphabet, Oracle), так и разработчики ИИ (OpenAI и Tesla). Поставки ускорителей и систем Blackwell компания Nvidia начнёт позже в этом году.