В облаке Oracle можно объединить до 16 тыс. ускорителей AMD Instinct MI300X

В облаке Oracle можно объединить до 16 тыс. ускорителей AMD Instinct MI300X

Облачная платформа Oracle Cloud Infrastructure (OCI) задействовала ускорители AMD Instinct MI300X и открытый программный стек AMD ROCm в составе новейших инстансов BM.GPU.MI300X.8. Они предназначены для ресурсоёмких ИИ-нагрузок, включая обработку больших языковых моделей (LLM), насчитывающих сотни миллиардов параметров. Инстансы BM.GPU.MI300X.8 типа Bare Metal объединяют восемь ускорителей Instinct MI300X, каждый из которых несёт на борту 192 Гбайт памяти HBM3 с пропускной способностью 5,3 Тбайт/с. Утверждается, что модель Hugging Face OPT с 66 млрд параметров может быть запущена на одном Instinct MI300X....
27.09.2024 - 18:19
Источник: 3dnews.ru  
Рубрика: «Hardware»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Низкопробный софт AMD не даёт раскрыть потенциал ИИ-ускорителей Instinct MI300X и обойти Nvidia, выяснили экспертыНизкопробный софт AMD не даёт раскрыть потенциал ИИ-ускорителей Instinct MI300X и обойти Nvidia, выяснили эксперты Пятимесячное расследование компании SemiAnalysis показало, что специализированные ИИ-ускорители серии AMD MI300X не раскрывают свой потенциал из-за с ...

MLPerf Inference 4.1: первые бенчмарки Granite Rapids, B200, TPU v6e, Instinct MI300X и TurinMLPerf Inference 4.1: первые бенчмарки Granite Rapids, B200, TPU v6e, Instinct MI300X и Turin MLCommons опубликовали новую порцию бенчмарков из сектора инференса. MLCommons – консорциум различных производителей, целью которого является предост ...

Производительность ускорителей Instinct: основные проблемы AMD связаны с программным обеспечениемПроизводительность ускорителей Instinct: основные проблемы AMD связаны с программным обеспечением Анализ производительности ускорителей NVIDIA Hopper с графическими процессорами H100 и H200 и AMD Instinct MI300X выявил главные слабости программной ...

Oracle купит ИИ-ускорителей Nvidia на $40 млрд для нового ЦОД OpenAI в СШАOracle купит ИИ-ускорителей Nvidia на $40 млрд для нового ЦОД OpenAI в США Компания Oracle потратит около $40 млрд на высокопроизводительные ИИ-ускорители Nvidia для нового гигантского центра обработки данных OpenAI в Абилин ...

Как объединить контакты на телефонеКак объединить контакты на телефоне? Смартфон может синхронизироваться с несколькими сервисами для добавления списка контактов, например, с SIM-картой, памятью телефона, мессенджерами ил ...

ЕГЭ по физике и информатике могут объединитьЕГЭ по физике и информатике могут объединить Рособрнадзор готов проработать такой формат Единого государственного экзамена. Правда, на объединение ЕГЭ по информатике и физике потребуется несколь ...

Депутаты захотели объединить два подмосковных городаДепутаты захотели объединить два подмосковных города Совет депутатов подмосковного города Люберцы решил объединиться с Дзержинским. Соответствующий документ опубликован на официальном сайте городской ад ...

Google планирует объединить Android и Chrome OSGoogle планирует объединить Android и Chrome OS Google, как сообщается, работает над крупным проектом по слиянию Android и Chrome OS с целью усилить конкуренцию с iPad от Apple. Согласно новому отч ...

Депутат Антропенко предложил объединить майские праздникиДепутат Антропенко предложил объединить майские праздники Депутат Госдумы Антропенко предложил сделать рабочие дни между майскими праздниками выходными и продлить россиянам отдых, устроив каникулы больше чем ...

ТАСС: Softline планирует объединить три компании в субхолдингТАСС: Softline планирует объединить три компании в субхолдинг Группа IT-компаний Softline планирует вывести на биржу три свои дочерние компании, объединив их в субхолдинг, сообщает ТАСС со ссылкой на источник. П ...

Разработчики Tails и Tor Project решили объединить усилияРазработчики Tails и Tor Project решили объединить усилия Некоммерческая организация Tor Project и разработчики Tails сообщили, что объединяют усилия. Организации стремятся объединить ресурсы, снизить наклад ...

Кузмак поиздевался над Родниной: А еще можно мычать, можно думать громко: Россия!, можно хитро подмигиватьКузмак поиздевался над Родниной: «А еще можно мычать, можно думать громко: «Россия!», можно хитро подмигивать» РИА НовостиСпортивный комментатор и журналист Александр Кузмак поиздевался над советской фигуристкой, трехкратной олимпийской чемпионкой в парном кат ...

☰