Модели ИИ становятся больше и сложнее, так как предназначены для таких задач, как совершенствование рекомендательных систем на базе алгоритмов глубокого обучения на основе десятков терабайтов данных, улучшение разговорного ИИ с помощью сотен миллиардов параметров, а также для совершения новых научных открытий. Масштабирование этих крупномасштабных моделей требует новых архитектур с быстрым доступом к большому пулу памяти и тесной связью процессора и графического процессора. Процессор NVIDIA Grace™ обеспечивает высокую производительность, энергоэффективность и высокоскоростную связь в различных конфигурациях в соответствии с различными потребностями дата-центров.
Повышение точности рекомендательной системы с помощью суперчипа NVIDIA Grace Hopper.
Конференция и обучение: 19–22 сентября | Основной доклад: 20 сентября
Присоединяйтесь к нам в сентябре этого года на конференции GTC и получите вдохновение для следующего грандиозного проекта. Не упустите уникальную возможность узнать от экспертов и лидеров в своих областях о том, как ИИ меняет отрасли и в значительной степени влияет на весь мир. Конференция пройдет онлайн 19–22 сентября.
В этом докладе будет представлен обзор серверной системы-на-чипе NVIDIA Grace™.
По мере распространения вычислительных решений на основе Arm® Neoverse на рынках облачных вычислений, 5G, высокопроизводительных вычислений и периферийных устройств растет и доступность программного обеспечения, оптимизированного для экосистемы Arm. Мы рассмотрим текущее состояние библиотек и инструментов для разработчиков Arm, предназначенных для оптимизации высокопроизводительных вычислений, искусственного интеллекта и других инфраструктурных задач для работы на Arm.
Узнайте о последних разработках программного обеспечения NVIDIA для высокопроизводительных вычислений, в том числе о новых моделях программирования, компиляторах, библиотеках и инструментах. Мы рассмотрим темы, представляющие интерес для разработчиков в области высокопроизводительных вычислений, в том числе традиционное моделирование высокопроизводительных вычислений, сочетание HPC и искусственного интеллекта, научную визуализацию и квантовые вычисления.
Суперчип NVIDIA Grace Hopper™ сочетает в себе архитектуры Grace и Hopper с использованием NVIDIA® NVLink®-C2C, чтобы обеспечить общую модель когерентной памяти для центрального и графического процессоров и тем самым ускорить работу приложений ИИ и высокопроизводительных вычислений (HPC).
Процессорный суперчип NVIDIA Grace использует технологию NVLink-C2C для обеспечения работы 144 ядер Arm® Neoverse V2 и пропускной способности памяти в 1 ТБ/с.
Системная архитектура для цифровых двойников, искусственного интеллекта и высокопроизводительных вычислений.
для цифровых двойников и NVIDIA Omniverse™.
Процессорный суперчип NVIDIA Grace
Графические процессоры NVIDIA
NVIDIA BlueField®-3
для HPC.
Процессорный суперчип NVIDIA Grace
NVIDIA BlueField-3
Определяемый OEM ввод-вывод
для обучения модели ИИ, инференса и высокопроизводительных вычислений
Суперчип NVIDIA Grace Hopper
NVIDIA BlueField-3
Определяемый OEM ввод-вывод/NVLink четвертого поколения
Выполнение самых сложных задач ИИ и высокопроизводительных вычислений требует большой мощности и памяти с высокой пропускной способностью (HBM). Технология NVIDIA NVLink-C2C четвертого поколения обеспечивает пропускную способность канала обмена данными между процессором NVIDIA Grace и графическими процессорами NVIDIA на уровне 900 ГБ/с. Соединение гарантирует когерентную унифицированную память, объединяющую системную и HBM-память для упрощенной программируемости. Такое когерентное высокоскоростное соединение между процессором и графическими процессорами является ключом к ускорению решения самых сложных перспективных задач.
NVIDIA Grace — это первый серверный процессор, который использует память LPDDR5x с надежностью серверного класса, возможной благодаря таким механизмам, как поддержка кода исправления ошибок (ECC). Это позволяет соответствовать требованиям современного дата-центра и обеспечить в 2 раза большую пропускную способность памяти и до 10 раз более высокую энергоэффективность по сравнению с современными технологиями серверной памяти. Решение NVIDIA Grace LPDDR5X в сочетании с большой высокопроизводительной кэш-памятью последнего уровня обеспечивает пропускную способность, необходимую для работы с большими моделями, и снижает энергопотребление для максимальной производительности в задачах нового поколения.
Поскольку возможности параллельных вычислений на графических процессорах продолжают развиваться, рабочие нагрузки все еще можно выполнять с помощью последовательных задач на центральном процессоре. Быстрый и эффективный процессор является важным компонентом системы, позволяющим обеспечить максимальное ускорение задач. Процессор NVIDIA Grace интегрирует ядра Arm Neoverse V2 для обеспечения высокой производительности в энергоэффективной конструкции, упрощая работу ученых и исследователей.
Повышение точности рекомендательной системы с помощью суперчипа NVIDIA Grace Hopper.