В среду Google Cloud отпраздновал дебют виртуальных машин, использующих новейшую графическую технологию Blackwell от Nvidia, и заявил, что является первым облачным провайдером, предложившим это конкретное предложение.Нирав Мехта, вице-президент Google Cloud Compute Platform, и Рой Ким, директор Google Cloud AI Infrastructure, рассказали, что скоро появятся виртуальные машины G4 на базе Nvidia RTX PRO 6000 Blackwell Server Edition.
«Виртуальная машина G4 может выполнять различные рабочие нагрузки, от экономичного логического вывода до продвинутого физического ИИ, моделирования робототехники, создания контента с поддержкой генеративного ИИ и рендеринга игр следующего поколения», — заявили Мехта и Ким в своем блоге.
Виртуализированная версия Google Cloud включает в себя восемь графических процессоров Nvidia RTX PRO 6000, два процессора AMD Turin и разгрузочные процессоры Google Titanium.
Серверная версия RTX Pro 6000 на базе PCIe, анонсированная на выставке Nvidia GTC этой весной, является преемницей устаревающих моделей Nvidia L40 и L40S и предназначена для сочетания функций вывода с помощью искусственного интеллекта, точной настройки модели и визуализации данных, что делает их похожими на цифровых близнецов.Каждый ускоритель способен выполнять 3753 тераФЛОПС разреженных вычислений в формате FP4 и оснащен 96 ГБ GDDR7 с пропускной способностью 1,6 ТБ/с памяти. В совокупности виртуальные машины G4 имеют 768 ГБ оперативной памяти GDDR7 и 384 виртуальных процессора с 12-гигабайтным локальным твердотельным накопителем Titanium, который может быть расширен до 512-гигабайтного сетевого хранилища Hyperdisk. Это в 4 раза больше вычислительных ресурсов и памяти и в 6 раз больше пропускной способности памяти, чем у виртуальных машин G2.
Для задач логического вывода с использованием искусственного интеллекта больше памяти означает, что вы можете запускать модели с большим количеством параметров, в то время как более высокая пропускная способность напрямую влияет на более высокую пропускную способность.Представленные ранее в этом году виртуальные машины серий A4 и A4X также основаны на графических процессорах Blackwell, но лучше подходят для обучения ИИ и логического вывода, поскольку в них отсутствуют графические конвейеры, необходимые для визуализации или рендеринга рабочих нагрузок. Таким образом, виртуальные машины Google G4 — это своего рода швейцарский армейский нож, способный выполнять широкий спектр функций, ускоряемых графическим процессором.
Винай Кола, старший менеджер по разработке программного обеспечения в Snap, обратился к Google Cloud за комментарием. «Наши первоначальные тесты виртуальной машины G4 показали большой потенциал, особенно для самостоятельных сценариев использования логического вывода LLM», — сказал он в своем заявлении. «Мы рады, что в будущем сможем протестировать виртуальную машину G4 для различных других задач ранжирования».
Независимые аналитики рассматривают этот шаг как гибкий подход и свидетельство приоритетов Google в области облачных технологий.»Здесь, безусловно, есть некоторые основания для хвастовства», — сказал Кроуфорд Дель Прете, президент IDC, в электронном письме в адрес The Register. «Тем не менее, это также говорит о том, что Google уделяет приоритетное внимание удовлетворению потребностей широкого спектра клиентских рабочих нагрузок в GCP в масштабе и с требуемой производительностью. Виртуальные машины G4 с сервером Nvidia RTX PRO 6000 Blackwell заинтересуют заказчиков, которым нужна гибкость при работе с процессором (AI), быстродействующим хранилищем и интенсивно использующими память рабочими нагрузками в облаке.“Для некоторых клиентов такой подход будет привлекательным, поскольку Google интегрирует многие из своих сервисов в «гиперкомпьютер искусственного интеллекта», систему, в которой они могут предложить высокопроизводительное облачное решение для клиентов, которым требуются рабочие нагрузки, ориентированные на производительность. Это привлекает клиентов, готовых платить за такую производительность”.
Однако клиентам Google Cloud, возможно, придется немного умерить свой энтузиазм, поскольку виртуальные машины G4 в настоящее время доступны в предварительном просмотре, а это означает, что могут потребоваться некоторые переговоры с торговым представителем Google Cloud, чтобы на самом деле пользуюсь одним из них. Глобальная доступность ожидается к концу года. ®
