Khronos 发布训练好的神经网络优化部署标准NNEF 1.0

Khronos 会员标准采用不断增长,开源工具生态系统不断扩展

SIGGRAPH, 温哥华– 2018813– 6:00 AM PT–  The KhronosGroup,一个由领先硬件和软件公司组成的、致力于创建高级加速标准的开放组织,今天宣布公开发布NNEF™1.0 (神经网络交换格式)规范。经过搜集来自业界对预测版规范的反馈建议,Khronos发布了NNEF 1.0,为硬件制造商带了一个稳定、灵活可扩展的开放标准,以部署优化加速神经网络推论到各种高端设备上。随同该标准的发布,现在工具生态系统也在GitHub上发布,包括从Tensorflow 和Caffe的NNEF解析器和转换器。受欢迎的推论环境导入器,包括安卓的神经网络API (NNAPI)和Khronos的OpenVX™,都已完成开发。

NNEF的创建是为了通过促进训练框架和推论引擎之间神经网络的交换,提高开发者混合和匹配推论和训练解决方案的自由度,最终减少业界分裂。这个开放、免版税标准,是Khronos NNEF工作组的业界领先会员单位的共同合作成果,为硬件和软件公司在确保响应machine learning产业迅速发展的灵活性的同时,可以拥有坚实基础,完成产品部署发展。

NNEF可用于各种使用案例和网络类型。其基础格式是针对人类可读和简化编写和优化设计的,包括操作器精准度和复杂操作的灵活表示方法,以完成到各种加速器架构的最佳匹配。NNEF扩展实现了大型网络的人类编辑和具体问题的处理,例如为经训练的网络值定制数据格式。

“Khronos意识到了公司在部署训练好的神经网络到高端设备过程中不断发展的格式僵局。我们开始建立首个开放标准解决方案,为工程师们带来各种推理引擎的优化和部署训练好的网络。核心NNEF 1.0将实现当今的高端解决方案并灵活地融入到其扩展机制中”,Khronos NNEF工作组主席Peter McGuinness讲到。“2017年12月,我们发布了开发者预览版NNEF规范并公开征集业界反馈。社群积极响应,表明了对这个标准的强烈需求并帮助我们完成了NNEF 1.0规范”。

一个完整的工作流,从优化到部署,都可以使用NNEF作为一个标准化传输格式。自标准发布之时,即将由两个开源Tensorflow转换器支持,既可用于基于protobuf和python代码的网络描述,也可用于Caffe的转换器。Au-Zone Technologies正在开发一个Caffe 2 开源导入/导出器,即将在2018年第三季度推出。各种来自会员公司的工具,例如Almotive和AMD,都在开发过程中,包括台湾国立清华大学的安卓NNAPI导入器。

NNEF工作组致力于实现并鼓励在高速发展的训练框架之间的可靠的交互转换,包括Torch、Chainer、Theano、PyTorch和带有开源导入器和导出器的MXNet。另外还有其他开源工具,包括NNEF语法分析器和验证器,现已在市场推出,简化了定制、移动和嵌入式高端推论环境的导入器的开发,例如Apple的Core ML和Khronos 的用于视觉和推论runtime加速的OpenVX标准。

NNEF 1.0 规范和文件可在Khronos网站上免费获取,NNEF开源工具和项目可以在Khronos NNEF 工具库获取。Khronos文件格式采用者项目现已推出,完全免费,实现NNEF用户拥有一个正式许可以使用NNEF商标并受到Khronos知识产权框架保护的愿望。

业界支持

“最近几个月,我们的一些汽车和其他领域的合作伙伴就他们对全新的神经网络加速硬件平台所带来的挑战和工作表示担心。我们多次公开表示NNEF绝对是这些挑战的解决方案。作为NNEF工作组发起成员之一,我们很高兴看到这个标准的完成,并已经有很多主要厂商采用。作为首个神经网络硬件IP供应商之一,带来了完全支持NNEF的SDK,我们坚信NNEF将在全球神经网络生态系统中不断受到广泛采用,成为神经网络交换的值得信赖的国际标准,”AImotive 公司硬件工程部负责人Marton Feher

“Imagination恭祝NNEF的发布。多年来PowerVR一直是Khronos标准的采用者,并在我们的PowerVR GPU和我们的PowerVR NNA硬件上支持神经网络,交互操作一直都是我们客户关心的问题。NNEF标准的推出将实现更好的神经网络在不同业界的交互转换,”Imagination公司市场部副总裁David Harold

关于The Khronos Group

The Khronos Group是一个开源组织,致力于创建开放标准,以实现并行计算、图形、视觉和神经网络在各种平台和设备上的编写和加速。Khronos标准包括Vulkan®, OpenGL®, OpenGL® ES, OpenGL® SC, WebGL™, SPIR-V™, OpenCL™, SYCL™, OpenVX™, NNEF™, COLLADA™, OpenXR™ 和glTF™。Khronos会员可以为Khronos规范的开发做出贡献,在标准公开部署之前的不同阶段拥有投票权,并通过提前获取规范草本和一致性测试加速其高端加速平台和应用的推出。更多关于The Khronos Group的信息,请浏览:Khronos.org

###

Khronos, EGL, glTF, NNEF, OpenVG, OpenVX, OpenXR, SPIR, SPIR-V, SYCL, Vulkan 和WebGL是The Khronos Group Inc.的商标或注册商标。OpenCL是Apple Inc.的商标,OpenGL是注册商标,OpenGL ES 和OpenGL SC 标识是Hewlett Packard Enterprise的商标,由Khronos在许可下使用。全部其他产品名称、商标和/或公司名称仅用于识别并归属于各自所有者。

Khronos Group 在SIGGRAPH发布新规范、标准更新、活动信息及现场展示

Khronos 展示在StarVR和微软的VR头盔上的便携式OpenXR应用;发布用于神经网络交换的NNEF 1.0规范;推出新glTF扩展和生态系统工具;Khronos启动教育论坛以支持教授Khronos标准的学术项目

SIGGRAPH,温哥华–  2018813– 6:00 AM PT–The Khronos™ Group, 一个由领先硬件和软件公司组成、致力于创建高级加速标准的开放组织,今天在SIGGRAPH宣布重要标准更新并启动Khronos 教育论坛。在本周,Khronos将举办一系列活动,包括全天BOF演讲及每年一度的社交晚宴,Khronos不断加速开放标准生态系统的开发并为SIGGRAPH互动图形专业人士社群给予支持。在SIGGRAPH,Khronos将介绍一下标准的开发和工作进展:

  • 首次公开展示用于便携ARVROpenXR标准

在SIGGRAPH 2018, 我们非常期待首次通过两个我们在公开发布最终规范之前用于练习测试的样板执行公开展示OpenXR™。Epic的‘Showdown’ VR展示通过在一个Unreal 引擎4 插件使用OpenXR API,在StarVR HMD和微软Windows混合现实头盔之间便携运行。应用无需做任何改变即可在各种不同设备上运行,这验证并现场展示了OpenXR的便携性。更多关于OpenXR规范开发的信息,请浏览今天发布的OpenXR博客

  • NNEF 1.0 规范发布
    Khronos 即将宣布NNEF™0 (神经网络交换格式)完成开发并公开发布。继广泛搜集业界对预测版规范的反馈建议之后,Khronos即将发布NNEF 1.0,为硬件制造商带来一个稳定、灵活可扩展的开放标准,实现优化的、加速神经网络推论在各种高端设备上的可靠部署。伴随这一发布,Khronos还将在Khronos NNEF 工具库推出工具生态系统,包括Tensorflow和Caffe的NNEF解析器和转换器。受欢迎的推论环境导入器,包括安卓的神经网络API (NNAPI)和Khronos的OpenVX™,都已完成开发。在Khronos网站上即可免费获取NNEF 1.0 规范和文件,更多信息请关注今天的NNEF 1.0 新闻稿
  • glTF生态系统的成长;发布新扩展
    通过业界领先企业的支持,glTF™作为开放标准3D传输格式不断在业界获取成功,包括微软、谷歌、Facebook、Adobe、Epic、Unity和一个迅速发展的草根开源社群。除了最近的通过缩小文件尺寸并unlit素材以实现更好的移动性能和图片使用案例的谷歌Draco 网格压缩扩展,glTF工作组还刚刚发布了纹理转换扩展以支持纹理地图集。glTF工作组目前正在开发一个重要的纹理转换扩展,通过使用可以传送的超级可压缩纹理格式,高质量、高效地转换代码到一系列GPU加速纹理格式。我们欢迎业界通过GitHub对纹理传输格式提出反馈和建议。
  • 征集参与 教育论坛启动,公开征集参与
    今天发布的Khronos 教育论坛带来了一个完全公开的平台,在这里可以开放地分享、沟通并合作完成Khronos标准的教育课程素材。Khronos将管理开源教育资源库,让所有教育者都可以上传素材以获取教育社群和Khronos工作组的反馈和建议。全部教育论坛内的课程素材将免费供全球的教育者在其关于Khronos规范的课程中使用。

本周Khronos Group将在SIGGRAPH举办技术演讲和社交活动,包括全天的来自不同会员单位和开发者的BOF演讲。

  • Khronos BOF 演讲:glTF, WebGL, OpenXR, VulkanOpenGL:在8月15日周三,早上9点开始,Khronos将带来全天演讲,介绍Khronos标准和生态系统更新。BOF演讲将在离会议现场步行距离的Marriott Pinnacle酒店举办。
  • Khronos 社交晚宴:欢迎所有参加SIGGRAPH的人参加Khronos的社交晚宴,享用简单食品并与业界同仁沟通,活动赞助商包括Khronos会员NVIDIA, LunarG, Cesium和AMD。很多Khronos BOF的演讲人和会员届时也会参加晚宴,和大家探讨Khronos标准、执行、工具和未来发展趋势!
  • glTF 生态系统论坛见面会:在SIGGRAPH期间,8月16日周四,Khronos还将举办一场glTF生态系统论坛见面会。如果希望参加该活动,请通过邮件[email protected]发送您的姓名、公司和对glTF的具体兴趣已获取活动邀请函- 活动名额有限。

更多信息请浏览Khronos SIGGRAPH 活动完整日程

关于the Khronos Group

The Khronos Group 是一个开放行业组织,由超过140家领先硬件和软件公司组成,致力于为3D图形、增强和虚拟现实、视觉和machine learning创建高级、免版税加速标准。Khronos标准包括Vulkan®, OpenGL®, OpenGL® ES, OpenGL® SC, WebGL™, SPIR-V™, OpenCL™, SYCL™, OpenVX™, NNEF™, COLLADA™,  OpenXR™ 和glTF™。Khronos会员可以为Khronos规范的开发做贡献,在规范公开部署之前的不同阶段拥有投票权,并可以通过提前获得规范和一致性测试加速其高端加速平台和应用产品的推出。

###

Khronos, EGL, glTF, NNEF, OpenVG, OpenVX, OpenXR, SPIR, SPIR-V, SYCL, Vulkan 和WebGL是The Khronos Group Inc.的商标或注册商标。OpenCL是Apple Inc.的商标,OpenGL是注册商标,OpenGL ES 和OpenGL SC logo是Hewlett Packard Enterprise的商标并由Khronos在许可下使用。全部其他产品名称、商标、和/或公司名称仅用于识别并归属于各自所有者。