NVIDIA представляет графический процессор A100 80 ГБ для суперкомпьютеров AI | Журнал "Вольт"
Ср. Дек 2nd, 2020


Сегодня NVIDIA представила графический процессор NVIDIA A100 80 ГБ – последнее новшество, на котором основана супервычислительная платформа NVIDIA HGX AI – с вдвое большим объемом памяти по сравнению с предшественником, предоставляя исследователям и инженерам беспрецедентную скорость и производительность, открывая новую волну AI и научных открытий. Новый A100 с технологией HBM2E удваивает объем памяти с высокой пропускной способностью графического процессора A100 40 ГБ до 80 ГБ и обеспечивает пропускную способность памяти более 2 терабайт в секунду. Это позволяет быстро передавать данные на A100, самый быстрый в мире графический процессор для центров обработки данных, что позволяет исследователям еще быстрее ускорять свои приложения и использовать еще более крупные модели и наборы данных.

«Достижение самых современных результатов в исследованиях высокопроизводительных вычислений и искусственного интеллекта требует создания самых больших моделей, но они требуют большей емкости памяти и пропускной способности, чем когда-либо прежде», – сказал Брайан Катандзаро, вице-президент по прикладным исследованиям глубокого обучения в NVIDIA. «Графический процессор A100 80 ГБ обеспечивает вдвое больший объем памяти, чем его предшественник, который был представлен всего шесть месяцев назад, и преодолевает барьер в 2 ТБ в секунду, позволяя исследователям решать самые важные в мире научные проблемы и проблемы с большими данными».

Графический процессор NVIDIA A100 80 ГБ доступен в системах NVIDIA DGX A100 и NVIDIA DGX Station A100, которые также анонсированы сегодня и, как ожидается, поступят в продажу в этом квартале.

Ожидается, что ведущие поставщики систем Atos, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Inspur, Lenovo, Quanta и Supermicro начнут предлагать системы, построенные с использованием интегрированных базовых плат HGX A100 в конфигурациях с четырьмя или восемью графическими процессорами с A100 80 ГБ в первом половина 2021 года.

Подпитка ресурсоемких рабочих нагрузок
Версия на 80 ГБ, основанная на разнообразных возможностях A100 40 ГБ, идеально подходит для широкого спектра приложений с огромными требованиями к памяти данных.

Для обучения ИИ в моделях рекомендательных систем, таких как DLRM, есть огромные таблицы, представляющие миллиарды пользователей и миллиарды продуктов. A100 80 ГБ обеспечивает до 3-х кратное ускорение, поэтому компании могут быстро переобучить эти модели для предоставления высокоточных рекомендаций.

A100 80 ГБ также позволяет обучать самые большие модели с большим количеством параметров, подходящих для одного сервера на базе HGX, такого как GPT-2, модель обработки естественного языка со сверхчеловеческой функцией генерации текста. Это устраняет необходимость в параллельных архитектурах данных или моделей, реализация которых может занять много времени и замедлить работу на нескольких узлах.

Благодаря технологии многоэкземплярного графического процессора (MIG) A100 можно разделить на до семи экземпляров графического процессора, каждый из которых имеет 10 ГБ памяти. Это обеспечивает безопасную аппаратную изоляцию и максимально увеличивает использование графического процессора для множества небольших рабочих нагрузок. Для ИИ-логического вывода моделей автоматического распознавания речи, таких как RNN-T, один экземпляр MIG A100 80 ГБ может обслуживать партии гораздо большего размера, обеспечивая в 1,25 раза более высокую пропускную способность логического вывода на производстве.

В тесте аналитики больших данных для розничной торговли размером в терабайт A100 80 GB повышает производительность до 2 раз, что делает его идеальной платформой для быстрого получения аналитических данных по самым большим наборам данных. Компании могут принимать ключевые решения в режиме реального времени, поскольку данные обновляются динамически.

Для научных приложений, таких как прогнозирование погоды и квантовая химия, A100 80 GB может обеспечить огромное ускорение. Quantum Espresso, имитация материалов, увеличила пропускную способность почти в 2 раза с одним узлом A100 80 ГБ.

«Быстрая и достаточная пропускная способность и емкость памяти жизненно важны для достижения высокой производительности в суперкомпьютерных приложениях, – сказал Сатоши Мацуока, директор Центра вычислительных наук RIKEN. «NVIDIA A100 с 80 ГБ памяти HBM2E GPU, обеспечивающая самую быструю в мире пропускную способность 2 ТБ в секунду, поможет значительно повысить производительность приложений».

Основные характеристики A100 80 ГБ
A100 80 ГБ включает в себя множество новаторских функций архитектуры NVIDIA Ampere:

  • Тензорные ядра третьего поколения: обеспечивают до 20x пропускной способности AI по сравнению с предыдущим поколением Volta с новым форматом TF32, а также 2,5x FP64 для HPC, 20x INT8 для вывода AI и поддержку формата данных BF16.
  • Более крупная и быстрая память графического процессора HBM2E: удваивает объем памяти и является первой в отрасли, предлагающей более 2 ТБ в секунду пропускной способности памяти.
  • Технология MIG: удваивает объем памяти для каждого изолированного экземпляра, обеспечивая до семи MIG по 10 ГБ каждый.
  • Структурная разреженность: обеспечивает двукратное ускорение вывода разреженных моделей.
  • NVLink третьего поколения и NVSwitch: обеспечивают вдвое большую пропускную способность между графическими процессорами по сравнению с технологией межсоединений предыдущего поколения, ускоряя передачу данных на графический процессор для рабочих нагрузок с большим объемом данных до 600 гигабайт в секунду.

Супервычислительная платформа NVIDIA HGX AI

Графический процессор A100 80 ГБ – ключевой элемент суперкомпьютерной платформы NVIDIA HGX AI, которая объединяет всю мощь графических процессоров NVIDIA, NVIDIA NVLink, сеть NVIDIA InfiniBand и полностью оптимизированный программный стек NVIDIA AI и HPC для обеспечения высочайшей производительности приложений. Он позволяет исследователям и ученым сочетать высокопроизводительные вычисления, аналитику данных и методы глубокого обучения для продвижения научного прогресса.



Source link

от btarunr

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *