找回密码
 立即注册
  • QQ空间
  • 回复
  • 收藏

英伟达推出边缘运算平台EGX,未来将提供企业AI模型参考框架

admin| 2019-5-30 11:36 阅读 144 评论 0

Nvidia在2019台湾电子展会期间,展示了新推出的边缘运算平台EGX在不同场景中的应用,包括监测路况的即时影像分析与对话式AI客服等。EGX平台也能与Azure、AWS的云端运算服务兼容,企业可先在云端AI模型,再部署到本地端来应用。

现场展示的对话式AI客服,是在顾客说话提问后,透过语音辨识(Automatic Speech Recognition,ASR)将语言转化为文字,再经由自然语言处理(Natural Language Processing,NLP)到文本内容中寻找答案,最后运用文字转语音(Text To Speech,TTS)的技术回答顾客问题。而这整个流程,都是透过边缘运算完成。

Nvidia表示,Chatbot常用三种AI技术中,训练ASR模型和TTS模型,适合在本地端,前者不用上载大量声音档案,后者则可避免网络的延迟性导致声音断断续续、或发音不完整,不过,要训练NLP模型则因运算量较大,可先在云端训练。

Nvidia也示范用只一篇新闻稿来展示用EGX平台训练这三种Chatbot所需模型的情况,首先让NLP模型来分析新闻稿文字。

示范人员实际提问:Who is Bob Pette?

这个示范系统会将从NLP模型找出来的答案,透过TTS模型生成语音来回答顾客;若无法在资料文本中找到答案,则会提供制式回答「Empty、No answer。」

Nvidia表示,未来提供企业的EGX平台,会包括执行边缘运算的硬件以及AI模型的参考框架。硬件的部分,EGX平台有强大的扩充性,可以支援体积极小、运算可达5 TOPS的Nvidia Jetson Nano,同时也能支援一整柜的Nvidia T4服务器,提供超过10,000 TOPS的效能。

除了硬件之外,Nvidia也会释出的AI模型的参考框架,如应用案例中的NLP模型,是用目前最新、准确率最高、由google开源释出的NLP模型BERT来做,未来释出参考框架(Example model)后,可以让客户在平台上用自家数据来训练,也可以直接将训练好的模型替换到平台上。但参考框架会如何做、EGX平台未来会支援哪些深度学习框架,Nvidia并无透露。

EGX平台的软件架构(Nvidia Edge Stack)与AWS、Azure的IoT云端服务相连,让企业能自行在云端建立AI模型,再部署到平台来应用,而在平台上建立的模型也能连结到云端使用,Nvidia产品行销部经理Paresh Kharya也表示,企业可以透过AWS IoT Greengrass和微软Azure IoT Edge来管理这些服务。

    原厂正品,超值硬盘全网品牌集中营
    文章点评
    相关文章
    2019-09-17 10:22
    IT新闻 IBM新一代大型主机Z15系统一天可执行最高1兆次网页运算
      IBM新一代大型主机z15新增多云环境资料安全防护,因应混合云及多云环境,Z15加入可端对端加密的TDO技术,并加入Op <详情>
    2019-09-17 09:50
    IT新闻 wifi20周岁了,最新一代标准届时速度将有重大突破
      1999年诞生的Wi-Fi标准,发表至今已届20个年头,目前最新一代标准为802.11ax(Wi-Fi 6),最晚将在2020年定案出炉, <详情>
    2019-09-12 10:58
    IT新闻 此消彼长的新兴高阶储存系统,谁将一直傲视群雄?
      在主流高阶储存大厂之外,还有数个新兴参与者也积极拓展高阶储存应用,但面对激烈竞争,个别厂商的发展情况有很大 <详情>
    2019-08-30 10:54
    IT新闻 Dell EMC新款GPU服务器上场,为顶级运算效能工作负载而生
      以PCIe挑战NVLink架构,Dell EMC新款GPU服务器上场,同为4U尺寸的GPU服务器,DSS 8440以搭配10张PCIe接口卡的方式 <详情>
    2019-08-29 16:55
    IT新闻 AMD一颗CPU如何放进64核心?只因这两大关键技术!
      以往非主流的MCM多芯片封装技术,现在却成了新一代处理器加大核心的关键技术,不只AMD有用,就连原本主张原生多核 <详情>
    2019-08-27 09:51
    IT新闻 新一代64核CPU面世,10个知识点看完你就是半个专家了
      64核心CPU多核心技术,和常见多核CPU有何不同? 采用64核处理器有哪些好处?超多核心CPU的服务器的出现,对于企业虚 <详情>
    2019-08-26 09:53
    IT新闻 英特尔发布第十代Intel Core处理器Comet Lake,专供笔记本电脑使用 ...
    英特尔(Intel)于本周发表了8款代号为Comet Lake的行动计算机处理器,这是基于14奈米制程的第十代Intel Core处理器,专 <详情>
    2019-08-26 09:42
    IT新闻 老牌FPGA厂商赛灵思发表全球最大FPGA产品Virtex UltraScale+ VU19P
    老牌FPGA厂商赛灵思发表全球最大FPGA产品Virtex UltraScale+ VU19P,由台积电16奈米制程打造,内含350亿个电晶体、900 <详情>
    2019-08-19 14:47
    IT新闻 思科推出企业级服务平台,融合自身软件定义网络与超融合基础架构 ...
      因应用程序的部署与管理需求,思科也基于开放原始码软件Kubernetes,融合自家发展的软件定义网络与超融合基础架构 <详情>
    2019-08-16 11:16
    IT新闻 El Capitan横空出世,比现有最快的超级计算机快10倍。
      十次方消息,美国能源部(DOE)和国家核安全局近日宣布,超算制造商Cray的Shasta超级计算平台将成为El Capitan的支 <详情>
    所有设备成色崭新、性能良好、保养得当,全部是DELL、HP、华为、浪潮等国际知名品牌厂商直接出厂。
    关闭

    官方推荐 上一条 /1 下一条