ConoHa VPS现已提供配备了 NVIDIA 最新 “NVIDIA H100 / NVIDIA L4” GPU 的服务器

据GMO Internet Group, Inc. 消息,GMO Internet Group旗下的超高速VPS“ConoHa VPS”的云服务商已从 2023 年 11 月 15 日星期三开始正式提供配备了 NVIDIA 最新 “NVIDIA H100 / NVIDIA L4” GPU 的服务器(网址: https://www.conoha.jp/vps/gpu/),服务器按小时计费,没有开机费,官方称只需最少的设置即可配置好 AI 开发和图像生成环境。

图片[1] - ConoHa VPS现已提供配备了 NVIDIA 最新 “NVIDIA H100 / NVIDIA L4” GPU 的服务器 - EVLIT

据了解,自2023年8月起,GMO互联网集团已向日本境内约40家AI相关的创业公司和个体经营者提供了试用版,以探索适合大规模语言模型(LLM)和图像生成的GPU资源服务提供形式。试用版的用户反馈均表示,这款服务对于缩短图像生成应用的开发周期、进行LLM的训练、以及使用生成式AI对提高公司内部工作效率等方面都大有裨益。

在收到了来自试用版用户的大量反馈后,GMO互联网集团将ConoHa VPS的正式版定位为具有以下特点的服务:

  1. 搭载了NVIDIA最新的超高速GPU,提供超快速的AI云环境。这家公司是国内第一家在生成AI等学习和推断任务中采用NVIDIA最新GPU的企业,这两款GPU分别是”NVIDIA H100″和”NVIDIA L4″。其中,”NVIDIA H100″非常适合LLM的学习和微调,而”NVIDIA L4″则非常适合图像生成AI等推断AI工作负载。这两款最新的超高速GPU可以大大缩短学习和推断的时间,为业务加速提供支持。此外,他们还免费提供了可以以传统速度的10倍连接到VPS的”1Gbps”互联网和内部网络线路,以提高网络的稳定性和吞吐量,同时也减轻了用户的基础设施成本。
  2. 根据生成AI的需求制定了灵活的计费体系。由于生成AI主要在生成时才需要临时使用GPU资源,因此,他们的服务采用了无初期费用,且可以按小时计费的方案。此外,还可以根据业务需求增减服务器数量。为了减轻AI生成过程中的压力,他们还提供了实现快速数据处理的高性能SSD和大容量存储。
  3. 提供最少的设置,就可以进行AI开发和图像生成环境。为了让用户专注于生成AI的开发,他们提供了一种环境,将繁琐的软件设置工作减少到最低。这个环境包括用于AI开发的NVIDIA公司的”NVIDIA Container Toolkit”,以及在流行的图像生成AI”Stable Diffusion”中使用的”Automatic1111″等,都可以很容易地进行设置。

■价格/规格

基本规格
GPU卡
L4
H100
开机费
免费
报价
[按小时计费]
(含税)
169日元/小时
1,398日元/小时
GPU卡数量
1
1
GPU 显存
24GB
80GB
虚拟CPU
20vCPU
22vCPU
记忆
128GB
228GB
操作系统
Ubuntu 22.04LTS
块存储
100GB(※1)
root权限
提供
互联网带宽
1Gbps
私有网络
1Gbps
数据中心
日本
日本
计算性能
单精度计算性能[FP32]
30.3 万亿次浮点运算
51 万亿次浮点运算
[Tensor性能]
120 万亿次浮点运算
756 万亿次浮点运算

(*1) 提供额外容量可选服务

■最新型号“NVIDIA® H100”与过去型号的规格和性能比较

图形处理器
H100
A100
V100
架构代号
Hopper
Ampere
Volta
GPU显存
80GB
80GB
32GB
CUDA® 核心数量
14,592 个核心
6,912 个核心
5,120 个核心
峰值单精度性能[FP32]
51 万亿次浮点运算
19.5 万亿次浮点运算
14 万亿次浮点运算
峰值Tensor性能[FP16]
1513 万亿次浮点运算
624 万亿次浮点运算
112 万亿次浮点运算

*存在稀疏性。规格减半而不稀疏。

■最新型号“NVIDIA L4”与上一代型号的规格和性能比较

图形处理器
L4
T4
架构代号
Ada Lovelace
Turing
GPU显存
24GB
16 GB
CUDA® 核心数量
7,424 个核心
2,560 个核心
峰值单精度性能[FP32]
30.3 万亿次浮点运算
8.1 万亿次浮点运算
峰值Tensor计算性能[FP16]
242 万亿次浮点运算
65 万亿次浮点运算

*存在稀疏性。规格减半而不稀疏。

消息来源:NVIDIA社最新GPU「NVIDIA H100 / NVIDIA L4」搭載の
GPUサーバーを『ConoHa VPS』で国内初提供開始

© 版权声明
THE END
喜欢就支持一下吧
点赞11 分享
最近更新
评论 抢沙发
头像
说说你的看法!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容