找回密码
 立即注册
  • QQ空间
  • 回复
  • 收藏

英伟达推出边缘运算平台EGX,未来将提供企业AI模型参考框架

admin| 2019-5-30 11:36 阅读 228 评论 0

Nvidia在2019台湾电子展会期间,展示了新推出的边缘运算平台EGX在不同场景中的应用,包括监测路况的即时影像分析与对话式AI客服等。EGX平台也能与Azure、AWS的云端运算服务兼容,企业可先在云端AI模型,再部署到本地端来应用。

现场展示的对话式AI客服,是在顾客说话提问后,透过语音辨识(Automatic Speech Recognition,ASR)将语言转化为文字,再经由自然语言处理(Natural Language Processing,NLP)到文本内容中寻找答案,最后运用文字转语音(Text To Speech,TTS)的技术回答顾客问题。而这整个流程,都是透过边缘运算完成。

Nvidia表示,Chatbot常用三种AI技术中,训练ASR模型和TTS模型,适合在本地端,前者不用上载大量声音档案,后者则可避免网络的延迟性导致声音断断续续、或发音不完整,不过,要训练NLP模型则因运算量较大,可先在云端训练。

Nvidia也示范用只一篇新闻稿来展示用EGX平台训练这三种Chatbot所需模型的情况,首先让NLP模型来分析新闻稿文字。

示范人员实际提问:Who is Bob Pette?

这个示范系统会将从NLP模型找出来的答案,透过TTS模型生成语音来回答顾客;若无法在资料文本中找到答案,则会提供制式回答「Empty、No answer。」

Nvidia表示,未来提供企业的EGX平台,会包括执行边缘运算的硬件以及AI模型的参考框架。硬件的部分,EGX平台有强大的扩充性,可以支援体积极小、运算可达5 TOPS的Nvidia Jetson Nano,同时也能支援一整柜的Nvidia T4服务器,提供超过10,000 TOPS的效能。

除了硬件之外,Nvidia也会释出的AI模型的参考框架,如应用案例中的NLP模型,是用目前最新、准确率最高、由google开源释出的NLP模型BERT来做,未来释出参考框架(Example model)后,可以让客户在平台上用自家数据来训练,也可以直接将训练好的模型替换到平台上。但参考框架会如何做、EGX平台未来会支援哪些深度学习框架,Nvidia并无透露。

EGX平台的软件架构(Nvidia Edge Stack)与AWS、Azure的IoT云端服务相连,让企业能自行在云端建立AI模型,再部署到平台来应用,而在平台上建立的模型也能连结到云端使用,Nvidia产品行销部经理Paresh Kharya也表示,企业可以透过AWS IoT Greengrass和微软Azure IoT Edge来管理这些服务。

    文章点评
    相关文章
    2019-11-08 10:27
    IT新闻 思科重磅推出400GbE交换机,存取延迟最低可到450奈秒,超低耗电量 ... ...
      十次方消息:去年10月,思科推出支援400GbE连线规格的交换机,其中一款设备就是本文所要介绍的Nexus 93600CD-GX。 <详情>
    2019-11-07 10:16
    IT新闻 戴尔发布最新一代机型Unity XT 效能提升2倍,磁盘容量提升到1500台 ...
      Unity XT是Unity储存阵列家族最新一代机型,透过升级硬件核心与系统软件平台,效能提升2倍,最大容量也从1000台磁 <详情>
    2019-10-24 14:34
    IT新闻 “量子霸权”的角逐中,谁是赢家?
    量子霸权是指量子计算拥有的超越所有经典计算机的计算能力。在物理实验上,迄今还没有任何一台量子装置在实际实验中展 <详情>
    2019-10-23 18:52
    IT新闻 2019超融合主流厂商有哪些?Gartner最新报告给出客观点评
      近日,Garnter又公布了《Competitive Landscape: Hyperconverged Infrastructure, China》报告。该报告对中国超融 <详情>
    2019-10-23 16:08
    IT新闻 浪潮首款四路Olympus服务器NF8380M5通过OCP认证
    日前,Open Compute Project(OCP)基金会宣布浪潮的NF8380M5服务器通过了OCP Inspired™认证,并正式在OCP官方网站发布。 <详情>
    2019-10-21 15:46
    IT新闻 超过2亿日活的快手,在业内如何率先完成计算架构的全新升级? ...
      据移动应用数据分析平台 App Annie 在 7 月 10 日发布的 2019 年第二季度最新移动应用市场报告显示,快手在 2019 <详情>
    2019-10-16 10:40
    IT新闻 如何支撑上亿用户尖峰流量?微博服务架构超高可用性的秘密 ...
    如今随着互联网的快速发展,各大社交媒体也占据了,网友们主要生活之一,而要说到目前国内最经常用的,就不得不说微博 <详情>
    2019-10-14 14:41
    硬件知识堂 如何给女朋友解释什么是服务器?
    女人是个特别奇怪的生物,因为某天她会变得特别的好学。有天她擦拭着她那刚洗完的头发,突然抬起头问“服务器是什么? <详情>
    2019-10-11 12:11
    硬件评测 为互联网而生的二手浪潮服务器SA5112M4,值不值得入手?
    基于能够承载其业务处理器和成本的考虑,二手服务器以其亲民的价格,极高的性价比和出色的性能等特性,越来越受中小企 <详情>
    2019-10-10 14:24
    IT新闻 谷歌拥有90万台服务器,且看数据中心5大发展趋势!
    据谷歌最新提供的电量消耗数据推算,谷歌在全球13个数据中心拥有约90万台服务器,使用的电力足够为20万户家庭供电。阿 <详情>
    十次方服务器实体机租赁
    关闭

    官方推荐 上一条 /1 下一条