英伟达野心很大,GPUDirect Storage想要颠覆英特尔的天下

头条新闻 阅读(1202)

原标题:NVIDIA有雄心壮志,GPUDirect Storage希望颠覆英特尔的世界

8月12日,NVIDIA推出了一种名为GPUDirect Storage的数据传输技术,可以加速存储在各种存储中的数据并传输到GPU内存,从而将带宽提高到2到8倍。它可以将端到端延迟减少3.8倍。

由于人工智能和高性能计算数据集的规模不断扩大,应用程序加载数据需要更长的时间,这反过来会影响应用程序性能,特别是端到端架构,因为计算机的I/O GPU速度慢速度越来越无用。

NVIDIA提到,将数据从内存加载到GPU过去一直是CPU的责任,这将成为硬件性能的瓶颈。

将数据从NVMe磁盘传输到GPU内存的标准路径是在系统内存中使用Bounce Buffer,它是数据的额外副本。 GPUDirect存储技术避免使用反弹缓存来减少额外的数据副本,并使用直接内存访问(DMA)将数据直接放入GPU内存以进行远程或本地存储。例如,NVMe或NVMe over Fabric和GPU内存,建立直接传输数据的路径,这可以有效地减少CPU I/O瓶颈,增加I/O带宽和传输的数据量。

NVIDIA开发GPUDirect存储技术,可显着提高GPU加载大型数据集的速度。 NVIDIA提到GPUDirect存储技术的主要功能是通过这个新系统通过直接内存访问将数据传输到GPU内存。 (新闻来源:NVIDIA)

实际上,早在2011年,NVIDIA熟悉的解决方案架构师Simon See就介绍了CUDA在并行计算方面的改进。当时的CUDA 4.0版本包括新技术,包括GPUDirect 2.0,统一虚拟寻址和推力技术。

GPUDirect 2.0允许多个GPU直接共享数据,而无需通过系统内存。统一虚拟寻址可以在CPU和多个GPU之间创建连续的内存空间。最重要的Thrust技术可以加速并行C ++程序,并使并行应用程序端口连接更加方便。

可以看出,GPUDirect Storage的引入也是一种技术继承,与以前的GPUDirect 2.0有很大的关系。

当然,GPUDirect Storage也是CUDA 5.0版本中的一系列技术。 CUDA 5.0版本比之前的4.0版本更强大。

阿明观察评论:英伟达的雄心壮志是伟大的。新的gpudiDirect存储希望颠覆现有的Intel CPU体系结构,使gpu更强大,赢得新的gpu世界。

心脏有多大胆,土地有多肥沃。从GPU的不断创新,我仍然钦佩Nvidia Nvidia。

那么,英特尔对此有何反应?值得进一步挖掘。

0×2521个

0×2522个

编辑评论

怎么用?

什么?

参见

欢迎来到留言评论的结尾!资料来源:AMI独立于媒体,版权,侵权必须调查,转载请授权

本文和作者的回答仅代表作者的个人观点,不构成任何投资建议,以返回搜狐。查看更多

责任编辑:

2019年8月15日20×1778 40

来源:0X1778 AMIN手表

原名:英伟达雄心勃勃,gpudiect storage想颠覆英特尔的世界

8月12日,Nvidia推出了一种称为gpudiDirect存储的数据传输技术,它可以加速存储在各种存储中的数据,并将数据传输到gpu内存,从而将带宽增加到2到8倍。它可以减少3.8倍的端到端延迟。

0×251C

由于人工智能和高性能计算数据集的规模不断扩大,应用程序加载数据需要更长的时间,这反过来会影响应用程序性能,特别是端到端架构,因为计算机的I/O GPU速度慢速度越来越无用。

NVIDIA提到,将数据从内存加载到GPU过去一直是CPU的责任,这将成为硬件性能的瓶颈。

将数据从NVMe磁盘传输到GPU内存的标准路径是在系统内存中使用Bounce Buffer,它是数据的额外副本。 GPUDirect存储技术避免使用反弹缓存来减少额外的数据副本,并使用直接内存访问(DMA)将数据直接放入GPU内存以进行远程或本地存储。例如,NVMe或NVMe over Fabric和GPU内存,建立直接传输数据的路径,这可以有效地减少CPU I/O瓶颈,增加I/O带宽和传输的数据量。

NVIDIA开发GPUDirect存储技术,可显着提高GPU加载大型数据集的速度。 NVIDIA提到GPUDirect存储技术的主要功能是通过这个新系统通过直接内存访问将数据传输到GPU内存。 (新闻来源:NVIDIA)

实际上,早在2011年,NVIDIA熟悉的解决方案架构师Simon See就介绍了CUDA在并行计算方面的改进。当时的CUDA 4.0版本包括新技术,包括GPUDirect 2.0,统一虚拟寻址和推力技术。

GPUDirect 2.0允许多个GPU直接共享数据,而无需通过系统内存。统一虚拟寻址可以在CPU和多个GPU之间创建连续的内存空间。最重要的Thrust技术可以加速并行C ++程序,并使并行应用程序端口连接更加方便。

可以看出,GPUDirect Storage的引入也是一种技术继承,与以前的GPUDirect 2.0有很大的关系。

当然,GPUDirect Storage也是CUDA 5.0版本中的一系列技术。 CUDA 5.0版本比之前的4.0版本更强大。

Amin Watch Review:NVIDIA的雄心壮志。新的GPUDirect存储想要推翻现有的英特尔CPU架构,这可以使GPU更强大并赢得新的GPU世界。

内心多么大胆,土地的生产力如何。从GPU的不断创新,我仍然欣赏NVIDIA NVIDIA。

那么,英特尔如何应对这一点?值得进一步挖掘。

Aming Editor的评论

怎么样?

什么?

参见

欢迎收到留言评论的结尾!来源:Amin独立于媒体,版权,侵权必须进行调查,转载请授权

本文和作者的回复仅代表作者的个人意见,并不构成任何返回搜狐的投资建议。查看更多

负责编辑:

免责声明:本文仅代表作者本人,搜狐是信息发布平台,而搜狐只提供信息存储空间服务。

Nvidia的

阿明

数据

英特尔

技术

阅读()

——