Nvidia подробно рассказала о следующем поколении специализированного AI Vera CPU, заявив, что его скорость более чем в два раза превышает скорость других CPU.
Согласно сообщению Jinse Finance, 22 июля компания NVIDIA опубликовала материал, в котором говорится, что согласно результатам тестирования DeepInfra, процессор NVIDIA Vera CPU более чем в два раза быстрее других процессоров и способен поддерживать большее количество одновременных AI-агентов. Облачная платформа DeepInfra является одним из первых участников открытой AI-экосистемы NVIDIA, самостоятельно разработала и провела тесты на базе своей инфраструктуры производственных AI-агентов. DeepInfra обрабатывает почти 5 триллионов токенов в неделю, примерно 30% из которых обрабатываются агентской системой. Облачная платформа специально создана для высокопроизводительных AI-инференций. Тесты показали, что при том же уровне качества обслуживания поддерживается до 1,6 раза больше одновременных AI-агентов, совокупная скорость выше до 2,2 раза, а также увеличивается использование инфраструктуры и эффективность затрат. Эти результаты демонстрируют, что процессор NVIDIA Vera CPU способен обеспечить необходимое для производственных агентских AI рентабельность, низкую задержку и пропускную способность. По мере того, как AI-агенты берут на себя более сложные задачи по выводу, планированию, использованию инструментов и обработке данных, производительность процессора становится всё более важной для координации задач вокруг каждого запроса к модели. В рамках стратегии NVIDIA по комплексному проектированию AI-фабрик процессор Vera CPU специально разработан для работы с агентскими нагрузками. Тесты DeepInfra подчеркивают, как NVIDIA Vera CPU помогает облачным провайдерам повышать загрузку инфраструктуры, улучшать эффективность затрат и поддерживать больше одновременных AI-агентов при том же уровне сервиса.
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
CoreWeave упал более чем на 5%! Рыночная допэмиссия 35 миллионов акций и выпуск конвертируемых облигаций на 3 миллиарда долларов продолжают гонку расходов на AI-вооружение.
CoreWeave в четверг объявила о намерении выпустить конвертируемые облигации на 3 миллиарда долларов и одновременно реализовать план по рыночной продаже до 35 миллионов акций (ATM). Конвертируемые облигации также имеют опцию дополнительной покупки на 500 миллионов долларов, и в случае полного использования общий объем финансирования может достигнуть 3.5 миллиарда долларов. На фоне этих новостей акции CoreWeave в течение дня снизились на 5,3%.
Позиции на 939,74 SP500 в шорт по адресу на сумму 7,19 миллиона долларов были полностью ликвидированы
Производительность в Великобритании была "недооценена"! С момента финансового кризиса темпы роста пересмотрены до 1,3%, почти в два раза выше предыдущих показателей.
Британское национальное статистическое управление (ONS) в четверг объявило о новом методе расчета, который показал, что производительность в Великобритании после глобального финансового кризиса была выше, чем предполагалось ранее, поскольку специалисты обнаружили, что раньше переоценивали количество рабочих часов населения.
Цены на крипто
Далее
