机器之心报导

编写：陈萍、泽南

几秒扫后编码，比练习一遍再找快多了。

张量形状不配对是深度神经网络人工神经网络全过程中会产生的关键错误之一。因为神经元网络练习成本费较高且用时，在执行编码以前运作静态数据剖析，要比执行随后发觉错误跟得上许多。

因为静态数据剖析是在没有运行代码的条件下实现的，因而可以协助系统开发者、品质保证工作人员搜索编码中具有的结构型错误、网络安全问题等问题，进而确保手机软件的总体品质。

对比于程序流程动态变化，静态数据剖析具备不具体执行程序流程；执行速度更快、高效率高的优点而备受学者亲睐，现阶段，已经有很多分析工具可供科学研究应用，如斯坦福学校开发设计的 Meta-Compilation（Coverity）、利物浦大学开发的 LDRA Testbed 等。

近日，来源于韩国首尔大学的学者们提到了另一种静态数据分析器 PyTea，它可以自动识别 PyTorch 新项目中的张量形状错误。在对包含 PyTorch 储存库文件的新项目及其 StackOverflow 中具有的张量错误编码开展检测。结果显示，PyTea 可以顺利的检查到这种编码中的张量形状错误，几秒就能进行。

毕业论文详细地址：https://arxiv.org/pdf/2112.09037.pdf

新项目详细地址：https://github.com/ropas/pytea

几秒就能搜索张量形状错误的 PyTea

PyTea 专用工具可以静态数据地扫描仪 PyTorch 程序流程并检验很有可能的形状错误。PyTea 根据附加的数据处理方法和一些库（例如 Torchvision、NumPy、PIL）的混和应用来剖析真实的世界 Python/PyTorch 应用软件的详细练习和评定途径。

PyTea 的基本工作原理是如此的：给出键入的 PyTorch 源，PyTea 静态数据追踪每一个很有可能的执行途径，搜集途径张量实际操作编码序列需要的张量形状约束，并决策约束达到是否（因而很有可能产生形状错误）。

从总体上：如下图所示， PyTea 最先将初始 Python 代码翻译成一种核心语言表达，即 PyTea 内部结构表明（PyTea IR）。随后，它追踪变换后的 IR 的每一个很有可能执行途径，并搜集相关张量形状的约束，这种约束要求了编码在沒有形状错误的情形下运转的标准。 PyTea 将采集到的约束集给予给 SMT（Satisfiability Modulo Theories）求得器 Z3，以分辨这种约束针对每一个很有可能的键入形状全是可达到的。依据求得器的結果，PyTea 会得出以下结论：，哪一条途径包括形状错误。假如 Z3 的约束求得耗费很多時间，PyTea 会终止并传出「don’t know」提醒。

PyTea 的总体构造。

PyTea 由2个分析器构成，线上分析器：node.js (TypeScript / JavaScript)；无网分析器：Z3 / Python。

线上分析器：搜索根据标值范畴的形状不配对和 API 主要参数的乱用。假如 PyTea 在剖析编码时发觉一切错误，它将停在该部位并将错误和违背约束通告客户；

无网分析器：转化成的约束传送给 Z3 。Z3 将求得每一个途径的约束集并打印第一个违背的约束（假如存有）。

大家先来说下結果展现，线上分析器发觉错误：

无网分析器发觉错误：

为了更好地更快的了解 PyTea 执行静态数据剖析全过程，下边大家介绍一下具体的关键技术，包含 PyTorch 程序结构、张量形状错误、PyTea IR 等，便于阅读者更强的了解执行全过程。

最先是 PyTorch 程序结构，PyTorch、TensorFlow 和 Keras 等当代人工神经网络架构必须应用 Python API 来搭建神经元网络。应用该类架构练习神经元网络大多数遵循如下所示四个环节的规范程序流程。

在 PyTorch 中，基本神经元网络练习编码的构造。

练习实体模型必须先界定网络架构，图 2 为一个简单化的图像分类编码，源自官方网的 PyTorch MNIST 归类实例：

在这儿，以上编码最先界定一系列神经系统链路层，并使他们变成单一的神经系统网络模块。为了更好地恰当拼装层，前一层的回到张量务必达到下一层的导入规定。互联网应用超参数的复位主要参数开展创建对象，例如掩藏层的总数。下面，对键入数据开展归一化处理并依据网上的标准开展调节。从该环节逐渐，每一个数据都被切割成较小的同样尺寸的块（minibatch）。最终，主循环系统逐渐，minibatch 按序键入互联网。一个 epoch 就是指将全部数据传送到网上的单独循环系统，而且 epoch 的总数通常在于神经元网络的目标和构造。除开在于数据尺寸的主练习循环系统以外，包含 epoch 数以内，练习编码中的梯度下降法频次在大部分情形下被确认为参量。

在搭建实体模型时，链路层中间键入、輸出张量形状的不相匹配便是张量形状错误。通常形状错误难以手动式搜索，只有根据应用具体键入运作程序流程来检验。下面的图便是非常典型的张量形状错误（对图 2 的简易改动），如果不细心查询，你压根发觉不了错误：

针对张量形状错误（如下图所示的错误种类），PyTea 将初始 Python 代码翻译成 PyTea IR 开展搜索，如下图是 PyTea IR 实例：

上边提及，PyTea 会追踪变换后的 IR 的每一个很有可能执行途径，并搜集相关张量形状约束。实际上约束是 PyTorch 应用软件所需求的标准，便于在没有张量形状偏差的情形下执行它。例如，一个矩阵乘法计算的2个操作数务必共享资源同样的维数。下面的图展示了约束的抽象化英语的语法：

约束的抽象化英语的语法一部分截屏

怎么使用 PyTea

最先，安裝条件规定：node.js >= 12.x，python >= 3.8，z3-solver >= 4.8。

安裝和应用可参照下列编码：

# install node.jssudo apt-get install nodejs# install python z3-solverpip install z3-solver# download pyteawget https://github.com/ropas/pytea/releases/download/v0.1.0/pytea.zipunzip pytea.zip# run pyteapython bin/pytea.py path/to/source.py# run example filepython bin/pytea.py packages/pytea/pytest/basics/scratch.py

编译程序编码：

# install dependenciesnpm run install:allpip install z3-solver# buildnpm run build

网民反响强烈：这一专用工具一定是必不可少的！

应用 NVIDIA Riva 迅速搭建私有云 ASR 语音识别技术小助手

NVIDIA Riva 是一个应用 GPU 加快，能用以迅速布署性能卓越会话式 AI 服务项目的 SDK，可用以快速开发视频语音 AI 的应用软件。Riva 的设计方案致力于协助开发人员轻轻松松、迅速地浏览对话 AI 作用，拆箱即用，根据一些简易的指令和 API 实际操作就可以迅速搭建高級其他语音识别技术服务项目。该服务可以解决数百人至千余声频流做为键入，并以最少延迟时间回到文字。

12月29日19:30-21:00，此次网上共享关键详细介绍：

全自动语音识别技术介绍

NVIDIA Riva详细介绍与特点

迅速布署NVIDIA Riva

运行NVIDIA Riva手机客户端迅速完成视频语音到文本的转录

应用Python迅速架设根据NVIDIA Riva全自动语音识别技术服务项目运用

点一下阅读，报考懂球直播。

转截请联络本微信公众号得到受权

文章投稿或寻找报导：[email protected]

上一篇：广汽埃安和广汽集团关系，埃安能给广汽集团带来什么

下一篇：捷达vs7车质网口碑，捷达vs7整备质量轻