找回密码
 立即注册
  • QQ空间
  • 回复
  • 收藏

英伟达最新GPUDirect储存技术,提升内存吞吐速度整整快了8.8倍 ...

admin| 2019-8-13 10:02 阅读 36 评论 0

  Nvidia发展GPUDirect储存技术,大幅提升GPU加载大型资料集的速度,使用GPUDirect储存技术,GPU加载资料集的工作不再完全需要仰赖CPU,因而解除了资料I/O的瓶颈。

  

  Nvidia发展了名为GPUDirect储存(GPUDirect Storage)的资料传输技术,加快位在各种储存的资料,传输到GPU内存的速度,可以将频宽增加至原本的2到8倍,而且还能降低端到端的延迟达3.8倍。

  由于人工智能以及高效能运算的资料集规模不断的增加,应用程序加载资料花费的时间越来越长,进而影响了应用程序的效能,而且特别是端到端架构,会因为缓慢的I/O使得运算速度日益提升的GPU无用武之地。Nvidia提到,将资料从储存器加载到GPU,过去都是由CPU负责,而这将会成为硬件效能的瓶颈。

  资料从NVMe磁盘传输到GPU内存的标准路径,是使用系统内存中的反弹缓冲区(Bounce Buffer),而GPUDirect储存技术避免使用反弹缓冲区,以减少额外的资料副本,并使用直接内存存取引擎(Direct Memory Access,DMA)将资料直接放到GPU内存中,为远端或是本地储存,诸如NVMe或NVMe over Fabric,和GPU内存之间,建立一个直接传输资料的路径,而这能有效减轻CPU I/O的瓶颈,提升I/O频宽和传输资料的量。

  Nvidia提到,GPUDirect储存技术的主要功能,就是透过这个新的档案系统,以直接内存存取的方式,将资料传输至GPU内存上。无论资源原本存放在什么位置,都能使用GPUDirect储存技术,这些储存可能位在机箱内、机架上甚至通过网络连接都可以。

  Nvidia在GPU资料科学平台RAPIDS中的GPU资料影格(GPU DataFrame,GDF)函式库cuDF上进行实验,发现使用GPUDirect存储技术,比起原始cuDF CSV读取程序,将资料传输到GPU内存的吞吐速度快了8.8倍。cuDF是让使用者在GPU上,用来加载、过滤、排序和探索资料集的函式库。

  Nvidia表示,应用这项新技术,远端储存、本机端储存以及CPU内存到GPU内存的频宽,可以在互相组合后加乘,以人工智能超级计算机DGX-2为例,从CPU系统内存到GPU内存的频宽限制为50 GB/s,但综合从系统内存、本机端硬盘以及NIC(Network Interface Card)的资料,最高频宽甚至可以达215 GB/s。

    原厂正品,超值硬盘全网品牌集中营
    文章点评
    相关文章
    2019-08-19 14:47
    IT新闻 思科推出企业级服务平台,融合自身软件定义网络与超融合基础架构 ...
      因应用程序的部署与管理需求,思科也基于开放原始码软件Kubernetes,融合自家发展的软件定义网络与超融合基础架构 <详情>
    2019-08-16 11:16
    IT新闻 El Capitan横空出世,比现有最快的超级计算机快10倍。
      十次方消息,美国能源部(DOE)和国家核安全局近日宣布,超算制造商Cray的Shasta超级计算平台将成为El Capitan的支 <详情>
    2019-08-13 10:02
    IT新闻 英伟达最新GPUDirect储存技术,提升内存吞吐速度整整快了8.8倍 ...
    Nvidia发展GPUDirect储存技术,大幅提升GPU加载大型资料集的速度,使用GPUDirect储存技术,GPU加载资料集的工作不再完 <详情>
    2019-08-09 11:07
    IT新闻 AMD64核二代EPYC服务器处理器上市 效能翻倍,能耗减倍
    AMD即日推出拥有高达64核心全新EPYC处理器,不只采取Zen2新架构,打造超多核心设计架构,更首度以先进7奈米制作生产, <详情>
    2019-08-07 15:39
    IT新闻 爆雷!英特尔CPU漏洞再現推测执行漏洞,微软也未能幸免
    Bitdefender揭露英特尔CPU的推测执行漏洞,为Spectre的变种,允许黑客存取存储中的机密信息,英特尔、微软与红帽对此 <详情>
    2019-08-06 15:17
    IT新闻 英特尔发布新的可编程加速卡,速度是可编程逻辑的三倍
       英特尔今天宣布推出基于Stratix 10 FPGA的D5005可编程加速卡。它现在在HPE ProLiant DL3809 Gen10服务器中发 <详情>
    2019-08-06 14:17
    IT新闻 5G NB要来了!全球大品牌竞相角逐,其中联想跑的最快
         5G NB设计与之前NB最大不同处在于5G因应频段增加,产品所需搭载的天线数量也将大增。   5G NB要来了!全 <详情>
    2019-08-02 09:49
    IT新闻 666!大脑即时语言解码器来了,以后我们就靠脑电波交流吧
    加州大学旧金山分校的科学家正进行一项研究,能够即时自脑波活动译码出人们所要表达的文字或句子的一部份,并把它们展 <详情>
    2019-07-31 16:10
    IT新闻 还在纠结稳定性和纠错能力?服务器的内存技术你都用对了嘛 ... ...
      服务器内存也是内存,在外观和结构上,服务器内存和普通内存并没有什么差别,只是由于服务器需要更高的稳定性和纠 <详情>
    2019-07-29 14:49
    IT新闻 阿里巴巴发布RISC-V处理器玄铁910,正式进军高端芯片领域
      7月25日,阿里巴巴旗下半导体公司平头哥正式发布RISC-V处理器玄铁910(XuanTie910)。据阿里官方介绍,玄铁910可以 <详情>
    所有设备成色崭新、性能良好、保养得当,全部是DELL、HP、华为、浪潮等国际知名品牌厂商直接出厂。
    关闭

    官方推荐 上一条 /1 下一条