印度Yotta Data Services大量订购英伟达H100 AI芯片

全球君 • 2023-12-08 10:58 • 美通企业日报 • 阅读 216

（全球TMT2023年12月8日讯）Yotta Data Services宣布，携手NVIDIA，将先进的GPU计算基础设施和平台引入到其Shakti Cloud平台中。通过此次合作，印度的众多组织、企业、AI 研究人员和初创企业将受益于最先进的AI性能。Yotta的客户可借助此项服务实施大型语言模型 (LLM) 和其他AI工作负载的训练。

Yotta已大量订购NVIDIA H100 Tensor Core GPU（专为支持AI和HPC工作负载而设计的强劲GPU）。其预计到2024年1月将有4096个 GPU投入使用，到2024年6月将有16,384个GPU投入使用。Yotta计划到2025年底将GPU数量大幅稳定增加至32,768个。这将充分满足研究实验室、企业和初创公司在高性能计算(HPC)和AI工作负载领域对高性能GPU的庞大需求。

借助此次合作，Yotta将成为NVIDIA合作伙伴网络在印度的首家Nvidia云合作伙伴(NCP)，并作为精英合作伙伴，被纳入全球NCP 名单。除此之外，Yotta正部署一种由NVIDIA提供支持的参考架构，其采用NVIDIA InfiniBand网络，以实现GPU集群在大规模的AI训练和推理工作负载以及HPC工作负载中的出色性能。