MLPerf Training 4.1: первое появление NVIDIA B200 и Google Trillium в обучении ИИ

MLPerf Training 4.1: первое появление NVIDIA B200 и Google Trillium в обучении ИИ

Сегодня MLCommons представила актуальные результаты тренировки, которые впервые включают ускорители NVIDIA B200 и Google TPUv6p Trillium. И B200, и TPUv6e дебютировали в тестах Inference 4.1 . Однако к инференсу предъявляют другие требования, чем к обучению. NVIDIA изначально разрабатывала GPU Blackwell с основным фокусом на инференсе. Но, конечно, с тренировкой он тоже должен справляться. В то время как для инференса в версии 4.1 мы впервые увидели результаты Instinct MI300X, они отсутствуют в результатах обучения. Здесь в бенчмарках доминируют NVIDIA и Google, которые используют огромные кластеры для обучения. Например, для TPUv5 это 1.024 узла (Pod) с общим числом 4.096 ускорителей. У NVIDIA речь идёт даже о суперкомпьютере EOS с 1.452 узлами и 11.616 ускорителями H100. Для предварительной версии TPUv6p, также известного как Trillium, Google пошла настолько далеко, что здесь работают вместе 768 узлов ......
19.11.2024 - 00:19
Источник: www.hardwareluxx.ru  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

MLPerf Training 5.0: NVIDIA масштабируется и ставит новые рекордыMLPerf Training 5.0: NVIDIA масштабируется и ставит новые рекорды Вчера консорциум MLCommons опубликовал результаты очередного раунда бенчмарка MLPerf Training. Как и ожидалось, в гонке за лидерство по абсолютной пр ...

Первые в отрасли системы NVIDIA HGX B200 от Supermicro демонстрируют лидерство по производительности для ИИ согласно результатам MLPerf Inference v5.Первые в отрасли системы NVIDIA HGX B200 от Supermicro демонстрируют лидерство по производительности для ИИ согласно результатам MLPerf Inference v5.0 Компания Super Micro Computer, Inc. (SMCI), поставщик комплексных ИТ-решений для ИИ/машинного... Сообщение Первые в отрасли системы NVIDIA HGX B ...

MLPerf Inference 4.1: первые бенчмарки Granite Rapids, B200, TPU v6e, Instinct MI300X и TurinMLPerf Inference 4.1: первые бенчмарки Granite Rapids, B200, TPU v6e, Instinct MI300X и Turin MLCommons опубликовали новую порцию бенчмарков из сектора инференса. MLCommons – консорциум различных производителей, целью которого является предост ...

Supermicro наращивает полное производство стоечных решений NVIDIA Blackwell на базе NVIDIA HGX B200Supermicro наращивает полное производство стоечных решений NVIDIA Blackwell на базе NVIDIA HGX B200 Supermicro, поставщик комплексных ИТ-решений для AI/ML, HPC, облака, хранилищ и... Сообщение Supermicro наращивает полное производство стоечных решен ...

Фицо в первое появление на публике после покушения поддержал визит Орбана в РФФицо в первое появление на публике после покушения поддержал визит Орбана в РФ Премьер Словакии Роберт Фицо заявил, что хотел бы присоединиться к премьеру Венгрии Виктору Орбану во время его визита в Киев и Москву. Он сказал об ...

Компания Google установила новую OC Fuchsia на первое потребительское устройствоКомпания Google установила новую OC Fuchsia на первое потребительское устройство Речь идет о системе с открытым кодом, которую в Google разрабатывают уже несколько лет. 25 мая новую ОС начали устанавливать на домашние экраны Nest ...

Training Solo - новые варианты атаки Spectre-v2, затрагивающие CPU IntelTraining Solo - новые варианты атаки Spectre-v2, затрагивающие CPU Intel Группа исследователей из Амстердамского свободного университета выявила несколько новых уязвимостей класса Spectre-v2, опубликованных под кодовым име ...

TPU-чипы Google могут составить серьезную конкуренцию NVIDIATPU-чипы Google могут составить серьезную конкуренцию NVIDIA NVIDIA уже несколько лет остается безусловным лидером в сфере ИИ-чипов, однако на горизонте может появиться серьезный конкурент. ...

Nvidia, Google и Билл Гейтс вложили $863 млн в стартап термоядерной энергетикиNvidia, Google и Билл Гейтс вложили $863 млн в стартап термоядерной энергетики Стартап CFS из Массачусетса привлёк $863 млн на термоядерный реактор. Среди инвесторов — Nvidia, Google и фонд Билла Гейтса Breakthrough Energy Ventu ...

Apple, Google и возможно даже Nvidia начали присматриваться к Intel как к альтернативе TSMCApple, Google и возможно даже Nvidia начали присматриваться к Intel как к альтернативе TSMC Крупнейшие технологические компании, включая Apple, Google и Broadcom, проявили интерес к услугам Intel по производству и упаковке чипов, сообщает PC ...

Курские школьники начнут использовать мессенджер MAX в обученииКурские школьники начнут использовать мессенджер MAX в обучении В Курском институте развития образования в преддверии Августовского педагогического форума состоялась дискуссия о внедрении цифровых технологий в шко ...

VR может помочь в обучении сотрудников работе с роботамиVR может помочь в обучении сотрудников работе с роботами Работа с роботами становится все более распространенной в отрасли переработки, помогая автоматизировать задачи и упрощая сложную работу. Но обучение ...