Khronos 发起双神经网络标准(Dual Neural Network Standard)

呼吁业界参与到新神经网络交换格式工作组
视觉处理标准OpenVX发布神经网络扩展

2016年10月3日 – 加州,旧金山 – Khronos™ Group, 一个由领先硬件和软件公司组成的开源组织,今天宣布发起两个标准,以满足对神经网络加速技术的不断增长的行业需求。首先,Khronos已经建立了一个新工作组,为深度学习培训系统和界面引擎之间的数据交换创建一个API独立标准文件格式。我们正在开发为神经网络交换格式(Neural Network Exchange Format (NNEF™))生成要求和具体设计提议,欢迎对参与该项开发感兴趣的公司加入Khronos,发表自己的意见并参与到开发过程中的投票。其次,OpenVX™工作组还发布了扩展,以实现卷积神经网络技术可以OpenVX的图形方式呈现,并与传统视觉功能相融合。

近来,神经网络技术在计算机视觉中解决模式与工作任务匹配方面有着显著成效,例如目标识别、面部识别、图片搜索以及图片至文本,同时在实现驱动协助和自动驾驶系统方面也起到了重要作用。卷积神经网络(CNN)是计算密集型,很多公司都在积极开发移动和嵌入式处理器架构以加速以神经网络为基础的高速低能耗界面。这些迅速的开发,为嵌入式神经网络处理市场带来了碎片问题的危险,阻碍了开发者们寻求跨平台配置和加速界面引擎。

关于神经网络交换格式Neural Network Exchange Format (NNEF)
如今,大多数的神经网络工具套装和界面引擎都是使用自有格式描述训练网络参数,如果想要训练网络实现跨界面引擎执行,使其成为很多自有输入器和输出器的必需部分。Khronos神经网络交换格式(NNEF)是为简化使用工具创建网络过程而设计的,并在其他工具套装或者界面引擎上运行该训练网络。这可以降低部署摩擦并鼓励更丰富的跨平台深度学习工具、引擎和应用的开发。

NNEF标准囊括了神经网络架构、数据格式、通用操作(例如卷积、池化、标准化等)以及正式网络语义。这实现了训练网络完成可靠的跨工具和引擎的输出输入的必要条件。NNEF是一个纯粹的数据交换格式,不会特意描述一个导出网络是如何被训练的,或者一个导入网络是如何被执行的。这确保了数据格式不会阻碍这个迅速发展的领域的创新和竞争。更多关于NNEF的信息,请浏览NNEF首页

关于OpenVX 神经网络扩展
OpenVX 神经网络扩展具体阐述了一个用于在OpenVX图形中执行CNN为基础的界面的架构。该扩展定义了一个多维张量目标数据结构,可以被用于连接神经网络层,表示为OpenVX节点,创建灵活的CNN技术。OpenVX神经网络层类别包括卷积、池化、完整连接、标准化、soft-max和激活 – 包括9种不同的激活功能。该扩展实现了神经网络界面与传统视觉处理操作的在同一个OpenVX图形中的融合。

今天,OpenVX还发布了导入/导出扩展,以通过定义一个API导入导出OpenVX目标,补充神经网络扩展,例如传统计算机视觉节点,一个图形或者部分图形的数据目标,CNN目标包括网络重量和斜纹或完整网络。

OpenVX的高水平抽象化使执行可以完成跨各种硬件和软件加速平台的加速视觉功能的数据流图形。OpenVX中神经网络所包含的推理功能实现了相同的可编程、处理器独立表示法的功能,为其带来在如果推理和实际完成加速方面的重要的自由和灵活度。OpenVX神经网络扩展是以预测版发布的,使广大开发者和执行者可以在最终稿推出前提供反馈意见,我们也欢迎业界到 OpenVX论坛 上发表建议。更多关于OpenVX和新扩展的信息,请浏览OpenVX主页

Khronos正在筹备神经网络工作,预计NNEF文件将可以表示OpenVX神经网络图形的各方面,一旦NEFF格式定义完成,OpenVX将可以实现网络技术通过NNEF文件以及导入/导出扩展完成导入。

业界支持
“AdasWorks发起了NNEF工作组的建立,因为我们看到了对于平台独立神经网络基础的软件解决方案在自动驾驶领域的不断增长的需求。我们和芯片公司紧密合作,以帮助他们建立低能耗、高性能的神经网络硬件,同时我们坚信跨各种平台的行业标准将对整个市场有益。我们非常高兴看到有这么多的公司参与进来”,AdasWorks 公司发起人兼CEO Laszlo Kishonti讲到。

“AMD完全支持开放标准的开发,目前也是为一家支持OpenVX开源版本的公司。我们支持OpenVX扩展和与神经网络相关的数据格式的开发,包括计算机视觉中的CNN及相关应用”,AMD Radeon技术组corporate fellow兼CTO Mike Mantor讲到。

“Cadence一直在OpenVX和CNN编程方面大力投入,以加速我们市场领先的Tensilica版本DSP的采用,” Cadence公司IP组产品市场副总裁Dino Bekis讲到。“Khronos致力于将通用CNN描述交换格式标准化的工作将加速通用工具的普及,将训练的CNN转化为推理域名。OpenVX图形描述的扩展将实现成像和视觉算法的深入嵌入设备的更好的无缝部署”。

“因为CNN成为视觉处理的关键,Imagination非常高兴地参与到Khronos的神经网络工作中。我们的PowerVR GPU从一开始就支持了OpenVX,我们也已经展示了CNN在PowerVR GPU上的运行效果。OpenVX扩展支持CNN,将带来一个框架,让我们的客户更容易地通过在新的和现有的PowerVR的芯片上使用CNN部署视觉应用,” Imagination Technologies公司PowerVR 产品和技术市场高级总监Chris Longstaff讲到。

“我们越来越多地看到,真实生活中的很多问题通过神经网络技术解决,” Itseez3D, Inc.公司CEO兼OpenVX工作组主席Victor Erukhimov讲到。“神经网络推理在嵌入式设备上的高效执行将实现移动电话、AR/VR和驾驶安全方面的各种应用”。

“作为工作组中积极参与的会员公司,以及OpenVX最初的采用者这一,VeriSilicon非常高兴看到Khronos将其支持扩展到深度学习和神经网络领域,” VeriSilicon视觉和图片产品开发副总裁Shanghung Lin讲到,“视觉功能和神经网络扩展方面可编程性和内部可操作性的扩展,使OpenVX成为VeriSilicon’s VIP8000超低能耗可伸缩视觉处理器解决方案的完美编程界面,结合了神经网络引擎,OpenVX优化了渲染器编程引擎,和一个叫作张量处理构造的特殊交换链接逻辑,以用于视觉和神经网络技术的联合计算。VeriSilicon非常期待参与到Khronos的NEFF工作组,将深度学习框架和工具套装链接。一个简单的标准化神经网络格式必将让用户选择他们最喜欢的训练工具并部署训练网络到不同的推理引擎到不同的应用中”。

关于 Khronos Group
Khronos Group是一个行业组织,创建开放标准以实现并行计算、图形、视觉、传感处理和动态媒体在各种平台和设备上的编写和加速。Khronos标准包括Vulkan™、OpenGL®、OpenGL® ES、OpenGL® SC ,WebGL™、OpenCL™、SPIR™、SPIR-V™、SYCL™、WebCL™、OpenVX™、EGL™、COLLADA™和glTF™。全部Khronos会员可以为Khronos规范的开发做出贡献,并在规范公开发布之前的各阶段拥有投票权,同时通过提前获取规范草本和一致性测试,会员企业可以加速其高端媒体平台和应用的开发。更多信息请浏览www.khronos.org’。