2024-12-07 20:23:16 技术 81998阅读
在 Techday 2024 技术活动上,FPT 刚刚展示了使用 8 个 Nvidia H100 GPU 的紧凑版 AI 超级计算机。
每颗H100芯片的售价约为30,000 - 36,000美元,这意味着仅上述AI超级计算机中集成的8个GPU就价值6 - 70亿越南盾。
Nvidia GPU H100是数据处理、算法训练和构建智能AI解决方案的力量的源泉。
GPU H100于2023年3月21日上市,采用4nm工艺制造。
该 GPU 旨在安全地加速各种工作负载,从企业应用程序到具有数万亿参数的高性能计算 (HPC) 和人工智能项目。
H100不仅仅是一款拥有全球领先算力的“超级GPU”,还配备了高达80GB的海量HBM3显存。
这个令人印象深刻的数字与3.35 TB/s的极高内存带宽速度相结合,帮助H100成为高速数据处理领域真正的“怪物”。池塘.
此前,菲亚特动力科技宣布与英伟达达成全面战略合作,共同推动人工智能研究,为越南及全球客户提供服务和解决方案。
双方计划共建人工智能工厂(AI Factory),培养高素质人力资源,并成为NVIDIA合作伙伴网络中的服务开发合作伙伴(Service Delivery Partner)。
根据当时的谅解备忘录,菲亚特动力科技将投资2亿美元建设AI Factory,为越南的人工智能研发和主权提供云计算平台。
该工厂包括运行NVIDIA新技术的超级计算机系统,包括NVIDIA AI Enterprise开发技术框架和应用套件以及H100 Tensor Core GPU图形芯片。
当然,H100的“巨大”性能需要优化的冷却系统来保证系统的持续运行。
据了解,以上仅为展示用的微缩版。目前,菲亚特动力科技拥有近千颗H100芯片来训练和运行AI任务的超级计算机系统。
H100 AI芯片主要由专门开发大型语言模型的云服务公司采购。尤其是菲亚特动力科技(FPT)作为越南的科技“巨头”,正在AI领域走向世界。在 Techday 2024 上,FPT 集团董事长 Truong Gia Binh 透露,人工智能是 FPT 刚刚赢得价值 2.5 亿美元合同的关键。