Qualcomm представила AI200 и AI250 — новые решения для центров обработки данных, оптимизированные под генеративный ИИ
Компания Qualcomm анонсировала новое поколение решений для центров обработки данных, оптимизированных под ИИ-инференс: ускорительные карты и стойки на базе чипов Qualcomm AI200 и AI250. Эти продукты, основанные на передовой NPU-технологии компании, обеспечивают масштабируемую производительность, высокую энергоэффективность и оптимальное соотношение мощности и стоимости, открывая путь к более эффективному развертыванию генеративного искусственного интеллекта в различных отраслях. Решение Qualcomm AI200 представляет собой специально разработанную стойку для ИИ-инференса, ориентированную на низкую общую стоимость владения (TCO) и высокую производительность при работе с крупными языковыми и мультимодальными моделями (LLM, LMM), а также другими ИИ-задачами. Каждая карта поддерживает до 768 ГБ LPDDR-памяти, что обеспечивает большую емкость и гибкость при работе с масштабными моделями. Qualcomm AI250 использует новую архитектуру памяти с вычислениями рядом с памятью (near-memory computing), что обеспечивает десятикратное увеличение эффективной пропускной способности и значительное снижение энергопотребления по сравнению с предыдущими поколениями. Такое решение позволяет эффективно распределять вычислительные ресурсы, обеспечивая баланс между производительностью и стоимостью для клиентов. Обе стойки оснащены системой прямого жидкостного охлаждения для эффективного отвода тепла, поддерживают PCIe для масштабирования «вверх» и Ethernet для масштабирования «в...
Как повлияет регулирование центров обработки данных на развитие отрасли В июле в Госдуме был принят закон о регулировании центров обработки данных (ЦОД) и запрете майнинга в дата-центрах. В новом законе дается определение ...
Microsoft отказывается от большего количества проектов центров обработки данных По словам аналитиков, компания отказалась от проектов, которые должны были потреблять 2 ГВт электроэнергии. По словам аналитиков TD Cowen, компания M ...