tencent cloud

GPU 云服务器

GPU 云服务器(Cloud GPU Service)是提供 GPU 算力的弹性计算服务,具有超强的并行计算能力,作为 IaaS 层的尖兵利器,服务于深度学习训练、科学计算、图形图像处理、视频编解码等场景。腾讯云随时提供触手可得的算力,有效缓解您的计算压力,提升业务效率与竞争力。

产品优势
极致并行计算能力

GPU 云服务器具有超强的并行计算能力,服务于AI训练/推理、科学计算、图形图像处理、视频编解码等场景。提供触手可得的算力,提升业务效率与竞争力。

基础环境一键部署

支持GPU驱动、CUDA 及 cuDNN的自动安装,并提供部分操作系统预装驱动镜像,帮助您一键部署环境,快速接入业务。

原生加速引擎支持

提供腾讯云自研 IaaS计算加速引擎TACO Kit,为用户提供开箱即用的加速工具,用于分场景支持高性能分布式训练及推理。

规格推荐
竞价实例
GPU计算型GN7
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
8核
内存
32GB
GPU
1颗
网络收发包能力
60万PPS
$0.204
/小时
立即购买
GPU计算型GN7
竞价实例
$0.204
/小时
立即购买
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
8核
内存
32GB
GPU
1颗
网络收发包能力
60万PPS
按量付费
GPU计算型GN10Xp
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla® V100 NVLink 32GB
CPU
80核
内存
320GB
GPU
8颗
网络收发包能力
490万PPS
$23.54
/小时
立即购买
GPU计算型GN10Xp
按量付费
$23.54
/小时
立即购买
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla® V100 NVLink 32GB
CPU
80核
内存
320GB
GPU
8颗
网络收发包能力
490万PPS
按量计费
GPU计算型GN10Xp
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla® V100 NVLink 32GB
CPU
80核
内存
320GB
GPU
8颗
网络收发包能力
490万PPS
$23.54
/小时
立即购买
GPU计算型GN10Xp
按量计费
$23.54
/小时
立即购买
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla® V100 NVLink 32GB
CPU
80核
内存
320GB
GPU
8颗
网络收发包能力
490万PPS
竞价实例
GPU计算型GN7
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
8核
内存
32GB
GPU
1颗
网络收发包能力
60万PPS
$0.204
/小时
立即购买
GPU计算型GN7
竞价实例
$0.204
/小时
立即购买
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
8核
内存
32GB
GPU
1颗
网络收发包能力
60万PPS
竞价实例
GPU渲染型GN7vw
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
16核
内存
64GB
GPU
1颗
网络收发包能力
150万PPS
$0.242
/小时
立即购买
GPU渲染型GN7vw
竞价实例
$0.242
/小时
立即购买
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
16核
内存
64GB
GPU
1颗
网络收发包能力
150万PPS
竞价实例
GPU计算型GN7
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
8核
内存
32GB
GPU
1颗
网络收发包能力
60万PPS
$0.204
/小时
立即购买
GPU计算型GN7
竞价实例
$0.204
/小时
立即购买
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
8核
内存
32GB
GPU
1颗
网络收发包能力
60万PPS
按量付费
GPU计算型GN10Xp
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla® V100 NVLink 32GB
CPU
80核
内存
320GB
GPU
8颗
网络收发包能力
490万PPS
$23.54
/小时
立即购买
GPU计算型GN10Xp
按量付费
$23.54
/小时
立即购买
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla® V100 NVLink 32GB
CPU
80核
内存
320GB
GPU
8颗
网络收发包能力
490万PPS
按量计费
GPU计算型GN10Xp
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla® V100 NVLink 32GB
CPU
80核
内存
320GB
GPU
8颗
网络收发包能力
490万PPS
$23.54
/小时
立即购买
GPU计算型GN10Xp
按量计费
$23.54
/小时
立即购买
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla® V100 NVLink 32GB
CPU
80核
内存
320GB
GPU
8颗
网络收发包能力
490万PPS
竞价实例
GPU计算型GN7
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
8核
内存
32GB
GPU
1颗
网络收发包能力
60万PPS
$0.204
/小时
立即购买
GPU计算型GN7
竞价实例
$0.204
/小时
立即购买
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
8核
内存
32GB
GPU
1颗
网络收发包能力
60万PPS
竞价实例
GPU渲染型GN7vw
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
16核
内存
64GB
GPU
1颗
网络收发包能力
150万PPS
$0.242
/小时
立即购买
GPU渲染型GN7vw
竞价实例
$0.242
/小时
立即购买
Intel Xeon Cascade Lake 8255C(2.5 GHz) + NVIDIA® Tesla T4
CPU
16核
内存
64GB
GPU
1颗
网络收发包能力
150万PPS
解决方案

全真互联解决方案

渲染/游戏/虚拟人/数字藏品, 精选热门方案

渲染解决方案 

简单易用配置,自动执行全程可监控

游戏直播平台AI审核解决方案

根据业务快速动态扩容

自动驾驶解决方案

支持大体量业务,成本最优

全真互联解决方案

全真互联解决方案

客户痛点:

为了提供良好的沉浸式和逼真体验,虚拟世界业务需要依赖强大的渲染等计算支持。用户的手机或其他终端设备不具备强大的硬件性能支撑,难以承载所有的渲染压力,而且在集成了渲染引擎和各种素材资料之后,软件安装包的体积单位也将以GB来计算,占据庞大的存储空间,体验并不友好。

解决方案:

通过云端强大的企业级渲染GPU算力支持,qGPU容器级资源切分技术与虚拟化技术、视频编解码技术及云端串流解决方案等,将对渲染算力需求大的计算都放在云端进行,用户只用接入网络即可,充分应对全真互联网时代下的云端串流业务需求做到终端设备的轻量化,为用户提供流畅的云边一体化体验。

云上收益:

基于云原生解决方案实现了业务灰度发布和快速上线,调度海量资源的弹性扩缩容,应对业务峰谷。结合具备GPU算力、显存隔离的qGPU虚拟化共享共享技术,可以大幅提高GPU使用率、降低企业级成本。

新代次GPU 云服务器提供高密度编码算力和更高网络性能,并联合 NVIDIA率先在国内提供一站式 CloudXR 解决方案,降低虚拟现实应用的端侧算力需求,保障业务的稳定和用户体验流畅。

相关云产品

渲染解决方案 

渲染解决方案 

客户痛点:

在影视、广告、建筑规划等视觉创作行业中,内容制作者和后期制作公司需要使用到海量机器来完成影视特效、三维动画、特效图等相关渲染工作。

传统 IDC 资源难以满足偶发性高峰期渲染需求,低谷期资源折旧,从而导致一次性投入费用过高、资金流转速度慢,制约企业业务规模的扩大。

解决方案:

腾讯提供多种专业 GPU 渲染实例,搭配批量计算 Batch 为用户提供了自动化内容渲染工作流水线的能力,用户可以构建自己的渲染依赖流程,利用海量 GPU算力资源和批量计算的作业调度能力来高效的完成视觉创作工作。

云上收益:

支持快速创建并管理集群,指定任意类型、数量,完全匹配渲染业务体量集群

作业可配置,简单可复用,按照渲染逻辑场景在云端搭建符合流程的作业流

作业和资源多维度监控体系,用户无需关心 IaaS 层运维

相关云产品

游戏直播平台AI审核解决方案

客户痛点:

业务处于增长阶段,自建集群扩容周期长,难以满足持续增长的视频审核量。

自建集群硬件设备老旧,计算、存储、网络性能难以满足业务的高并发和低响应时延需求。


解决方案:

大规模 GPU 推理集群支持海量的数据样本,可快速动态扩容,灵活应对高并发需求,无需担心业务阻塞。

高性能训练集群搭配Turbo高吞吐存储,快速训练迭代模型,更新视频审核准确性,提高审核成功率。


云上收益:

GPU 云服务器支持弹性扩容,可根据业务快速调整规模,按需购买算力,快速接入使用,控制投入成本。

相关云产品

自动驾驶解决方案

自动驾驶解决方案

客户痛点:

自动驾驶通过车载传感器及摄像头进行数据收集,每天将产生数TB数据,海量数据需要快速地分析处理及持久化存储。需要大规模计算集群,高IOPS 的高性能存储和高带宽的网络基础设施,充分满足标注、训练、仿真等环节的计算、存储需求。


解决方案:

提供裸金属高性能计算集群,配备V100、A100高算力GPU,支持业务高性能计算需求。

高性能计算集群实例间支持100G RDMA网络互联,搭配GooseFS数据加速服务,提高大规模分布式集群训练效率。

数据存储于腾讯云对象存储COS中,数据跨多架构、多设备冗余存储,提供异地容灾和资源隔离,保证数据持久性和安全性。


云上收益:

提供大规模并行仿真调度、高弹性且低成本存储方案的应用,为自动驾驶技术研发提供全链路服务,以支持行业更高效地开展自动驾驶研发和运营,助力车企突破成本和效率的障碍,加速技术的研发进程。

相关云产品
解决方案
全真互联解决方案

客户痛点:

为了提供良好的沉浸式和逼真体验,虚拟世界业务需要依赖强大的渲染等计算支持。用户的手机或其他终端设备不具备强大的硬件性能支撑,难以承载所有的渲染压力,而且在集成了渲染引擎和各种素材资料之后,软件安装包的体积单位也将以GB来计算,占据庞大的存储空间,体验并不友好。

解决方案:

通过云端强大的企业级渲染GPU算力支持,qGPU容器级资源切分技术与虚拟化技术、视频编解码技术及云端串流解决方案等,将对渲染算力需求大的计算都放在云端进行,用户只用接入网络即可,充分应对全真互联网时代下的云端串流业务需求做到终端设备的轻量化,为用户提供流畅的云边一体化体验。

云上收益:

基于云原生解决方案实现了业务灰度发布和快速上线,调度海量资源的弹性扩缩容,应对业务峰谷。结合具备GPU算力、显存隔离的qGPU虚拟化共享共享技术,可以大幅提高GPU使用率、降低企业级成本。

新代次GPU 云服务器提供高密度编码算力和更高网络性能,并联合 NVIDIA率先在国内提供一站式 CloudXR 解决方案,降低虚拟现实应用的端侧算力需求,保障业务的稳定和用户体验流畅。

相关云产品
渲染解决方案 

客户痛点:

在影视、广告、建筑规划等视觉创作行业中,内容制作者和后期制作公司需要使用到海量机器来完成影视特效、三维动画、特效图等相关渲染工作。

传统 IDC 资源难以满足偶发性高峰期渲染需求,低谷期资源折旧,从而导致一次性投入费用过高、资金流转速度慢,制约企业业务规模的扩大。

解决方案:

腾讯提供多种专业 GPU 渲染实例,搭配批量计算 Batch 为用户提供了自动化内容渲染工作流水线的能力,用户可以构建自己的渲染依赖流程,利用海量 GPU算力资源和批量计算的作业调度能力来高效的完成视觉创作工作。

云上收益:

支持快速创建并管理集群,指定任意类型、数量,完全匹配渲染业务体量集群

作业可配置,简单可复用,按照渲染逻辑场景在云端搭建符合流程的作业流

作业和资源多维度监控体系,用户无需关心 IaaS 层运维

相关云产品

客户痛点:

业务处于增长阶段,自建集群扩容周期长,难以满足持续增长的视频审核量。

自建集群硬件设备老旧,计算、存储、网络性能难以满足业务的高并发和低响应时延需求。


解决方案:

大规模 GPU 推理集群支持海量的数据样本,可快速动态扩容,灵活应对高并发需求,无需担心业务阻塞。

高性能训练集群搭配Turbo高吞吐存储,快速训练迭代模型,更新视频审核准确性,提高审核成功率。


云上收益:

GPU 云服务器支持弹性扩容,可根据业务快速调整规模,按需购买算力,快速接入使用,控制投入成本。

相关云产品
自动驾驶解决方案

客户痛点:

自动驾驶通过车载传感器及摄像头进行数据收集,每天将产生数TB数据,海量数据需要快速地分析处理及持久化存储。需要大规模计算集群,高IOPS 的高性能存储和高带宽的网络基础设施,充分满足标注、训练、仿真等环节的计算、存储需求。


解决方案:

提供裸金属高性能计算集群,配备V100、A100高算力GPU,支持业务高性能计算需求。

高性能计算集群实例间支持100G RDMA网络互联,搭配GooseFS数据加速服务,提高大规模分布式集群训练效率。

数据存储于腾讯云对象存储COS中,数据跨多架构、多设备冗余存储,提供异地容灾和资源隔离,保证数据持久性和安全性。


云上收益:

提供大规模并行仿真调度、高弹性且低成本存储方案的应用,为自动驾驶技术研发提供全链路服务,以支持行业更高效地开展自动驾驶研发和运营,助力车企突破成本和效率的障碍,加速技术的研发进程。

相关云产品
客户案例

腾讯云GPU 云服务器(Cloud GPU Service,GPU)是提供丰富的GPU算力的弹性计算服务,超强的并行计算能力,随时触手可得的算力,有效缓解您的计算压力,提升业务效率与竞争力,助力客户成功。

Ubitus
优必达
优必达的云游戏服务采用分布式服务导向架构,加速大量运算任务,需要在云端执行多媒体转换,游戏画面压缩等多种密集运算工作。腾讯云提供多种GPU虚拟机实例规格和存储资源,适应我们的业务负载达到比较高的使用率,实现低成本的营运目标。
WeBank
微众银行
微众银行的人脸识别核身技术依托腾讯云GPU 云服务器,通过大规模推理集群的部署实时相应核验需求,解决了金融服务业务效率的最大卡点。
WeChat
微信
微信庞大的数据量使得计算资源消耗及训练时间不断增长,原先的CPU集群数小时的训练时间消耗严重影响业务快速迭代,通过使用多机多卡GPU分布式训练,将原来耗时数小时的训练任务缩短到分钟级别。
常见问题
什么情况下应选择GPU实例?

GPU比CPU拥有更多的逻辑运算单元(ALU),支持多线程大规模并行计算,适用于如下客户场景:

  • AI计算:深度学习推理、深度学习训练
  • 图形图像处理:云游戏、云手机、云桌面、CloudXR
  • 高性能计算:流体动力学、分子建模、气象工程、地震分析、基因组学等
如何进行GPU实例选型?

您需要根据场景选择实例类型:

  • AI训练:GN10Xp、GN10X、GT4、GN8、GN6/GN6S
  • AI推理:GN7、GN10Xp、GN10X、PNV4、GI3X、GN6/GN6S
  • 图形图像处理:GN7vw、GNV4、GNV4v、GI1
  • 科学计算:GN10Xp、GN10X、GT4、GI3X
  • 更多信息可以参考 计算型实例选型推荐渲染型实例选型推荐。
如何根据不同实例类型和场景选择驱动?

NVIDIA GPU 实例的类型包括物理直通卡实例(整卡 GPU)和 vGPU 实例(非单颗 GPU,例如1/4GPU)。

物理直通的 GPU 可以使用 Tesla 驱动,也可以使用 GRID 驱动(少数卡型不支持 GRID 驱动)来实现不同场景的计算加速。

vGPU 只能使用特定版本的 GRID 驱动来实现计算加速。

NVIDIA GPU 相关实例的驱动安装步骤请参见 安装 NVIDIA Tesla 驱动

GPU 云服务器是否支持调整实例配置?

GPU 云服务器 PNV4、GT4、GN10X/GN10Xp、GN6/GN6S、GN7、GN8、GNV4v、GNV4、GN7vw、GI1 支持同实例族下调整实例配置。 GI3X 暂时不支持调整实例配置。

购买实例时,资源已经售罄怎么办?

如果在创建实例时遇到资源售罄的情况,建议采取以下措施:

  • 更换地域
  • 更换可用区
  • 更换资源配置

如果调整需求后仍然没有资源,可 联系我们 咨询。

GPU 云服务器如何计费?

目前GPU 云服务器支持包年包月计费模式和按量计费模式。包年包月计费模式需要您提前按单月或数月支付 GPU 云服务器的费用,适用于设备需求量长期稳定的成熟业务。按量计费模式是按秒计费,按小时结算,随时购买随时释放,适用于电商抢购等设备需求量瞬间大幅波动的场景。具体内容请参阅 价格总览

价格是如何计算的?

选购云服务器时,腾讯云为您提供 价格计算器 。您可以在计算器中进行价格计算,并可加入预算清单进行不同类型的云产品间比较。

云服务器的内网IP和外网IP有什么区别?

内网IP :又称私有IP地址,为来源 IP 为私网的客户端提供服务的连接地址。外网 IP :又称公有 IP 地址,为来源 IP 为公网的客户端进行公网通信的连接地址。它们可通过网络地址转换直接相互映射。同一地域内服务器,可以经过内网通信;不同地域间服务器,只能通过公网通信。

什么是弹性IP?

弹性公网IP地址是专为动态云计算设计的静态IP地址。它是某地域下一个固定不变的公网 IP 地址。借助弹性公网 IP 地址,您可以快速将地址重新映射到账户中的另一个 CVM 实例(或 NAT 网关实例),从而屏蔽实例故障。详见 弹性公网 IP

GPU 云服务器有哪些存储选择?

腾讯云为GPU 云服务器实例提供了不同类型的灵活、经济且易于使用的数据存储设备。分别为云硬盘、本地盘、对象存储COS、块存储设备映射的存储方案。不同的存储设备具有不同的性能和价格,适用于不同的使用场景。详见 存储概述

GPU裸金属服务器有哪些存储选择?

GPU 裸金属实例部分机型提供本地存储,您可以根据需要搭配远端存储使用。

1、本地存储

部分裸金属实例提供读写性能优越的 Nvme SSD 磁盘,为云实例常规选型的三倍以上,保障高性能计算作业稳定性。

2、远端存储

文件存储:可以选择 Turbo CFS 通过智能网卡技术挂载,存储容量灵活扩容并保障三副本强一致性。

对象存储:搭配 GooseFS 分布式集群架构,提高数据本地性,利用高速缓存功能解决存储性能问题,提高写入对象存储 COS 的带宽。

GPU 云服务器如何进行数据备份?

1、当您的GPU 云服务器为云硬盘主机时,您可以通过创建系统盘自定义镜像以及数据盘快照的方式来备份您的业务数据。

如需创建自定义镜像,请参考 创建自定义镜像

如需创建快照,请参考 创建快照

2、当您的GPU 云服务器为本地盘主机时,您的系统盘可以通过创建自定义镜像的方式来实现备份。但您的数据盘中的业务数据仍需要您自行定制备份策略。通常可以采用 FTP 方式来将服务器中的数据备份至其他处,具体 FTP 部署方式您可以参考:

Windows操作系统:Windows 实例搭建FTP服务

Linux 操作系统:Linux实例搭建FTP服务

3、另外,若您对数据安全性要求较高,您也可以付费购买更加专业第三方定制备份服务。

什么是地域(Region)?

腾讯云不同地域之间完全隔离,可保证不同地域间最大程度的稳定性和容错性。我们将逐步增加区域供应以满足更多节点的覆盖。建议用户选择最靠近您客户的地域,可降低访问时延、提高下载速度。关于支持的地域的实时信息,请查看 地域和可用区文档

怎么选择适合我的地域?

地域选择原则遵循靠近用户原则和内网通信同地域原则。

  • 靠近用户原则:根据您的用户所在地理位置选择云服务器地域。云服务器越靠近访问客户,越能获得较小的访问时延和较高的访问速度。例如:您的用户大部分位于东南亚附近时,新加坡 泰国地域是较好的选择。
  • 内网通信同地域原则:相同地域下的云服务器可以通过内网相互同信(免费);不同地域之间的云服务器不能通过内网相互通信,需经过公网(收费) 。如需多个云服务器内网通信,则必须选择相同的云服务器地域。
可用区域之间的隔离程度如何?

每个可用区域在其独立的、物理上显著不同的基础设施中运行,并已设计为具备高可靠性。可用区之间不共用像发电机和冷却设备那样的常见故障点。此外,它们在物理上也是相互独立的,即使火灾、龙卷风或洪涝等极为罕见的灾难也只会影响单个可用区域。

在何处可以找到有关安全性的更多信息?

腾讯云提供安全组、加密登录、弹性 IP 等各种网络与安全性服务保障您的实例安全、高效、自由地对内对外提供服务。 如需有关云服务器的安全性更多信息,请参阅 网络与安全性概述

如何防止他人查看我的系统?

您可以完全掌控您的系统的可见性,云服务器允许您将运行的实例放入您选择的任意安全组中。借助 控制台-安全组 的界面,您可以指定组间通信,以及网络上哪些 IP 子网可以与云服务器通信。

出现安全问题如何排查?

如怀疑出现安全隐患或出现不良事件,您可以参考 安全帮助指引 进行排查,同时可参考 主机安全 解决出现的安全问题。

GPU 云服务器是否提供预装 GPU 驱动的镜像?

如果您选择 vGPU 实例或者渲染型实例,购买页的“公共镜像”里即可选择预装 GRID 驱动的镜像。

有哪些镜像类型?

腾讯云提供的镜像包括:公共镜像、服务市场镜像、共享镜像、自定义镜像,详见 镜像类型。请您根据不同的特性选择要合适的镜像。

什么是镜像共享?

共享镜像是将自己已经创建好的自定义镜像共享给其他用户使用的镜像。用户可以方便地从其他用户那里获得共享镜像,并从中获得需要的组件及添加自定义内容。详见 共享自定义镜像 了解更多共享镜像的限制和操作方法。

每个镜像最多可以共享给多少个用户?

每个镜像最多可以共享给50个用户。共享镜像不占用自身镜像名额。

腾讯云GPU极致并行计算能力,专业计算加速服务

我们致力于为您提供个性化的售前购买咨询服务

联系我们

联系我们,为您的业务提供专属服务。

技术支持

如果你想寻求进一步的帮助,通过工单与我们进行联络。我们提供7x24的工单服务。

7x24 电话支持
中国香港
+852 800 906 020 (免费)
美国
+1 844 606 0804 (免费)
英国
+44 808 196 4551 (免费)
加拿大
+1 888 605 7930 (免费)
澳大利亚
+61 1300 986 386 (免费)
EdgeOne 热线
+852 300 80699
更多本地服务热线陆续新增中