使用 NGC 集合构建和部署口罩检测软件

应用于 NGC 构筑和侦察眼镜侦测API

AI 实习流程很复杂。构筑一个 AI API不是一项恰当的军事训练任务，因为它须要要各种带有应用专业知识的各种利益具体者来大规模开发计划和侦察API。信息研究者和开发计划人员须要要方便地采访应用程序构筑块，例如建模和试管，它们不仅安全、新前代，而且带有构筑其 AI 建模所须要的应用服务。

在构筑完API之后，DevOps 和 IT 管理人员须要要一些工具，这些工具可以帮助他们在各种设备之间无缝地侦察和管理这些API，有数本地设备、云设备或边缘设备。

NVIDIA 构筑了 NGC 目录，通过提供者易于采访的 GPU 优化应用程序，例如试管、预先军事训练的建模、应用框架和构筑 AI API所须要的 Helm 粗略，来简便和减慢 AI 实习流程。

在这一本书里，我们将演示如何应用于 NGC 目录和它的核心表层特性，例如交集、NGC 所有者注册表和 AI 构筑块来构筑和侦察一个眼镜侦测API，作为一个示例，该示例演示了 development-to-deployment 管道。

简便服务器旅行

随着 NGC 的上架，NVIDIA 简便了整个服务器感官，并将所须要的具体试管、建模、代码和 Helm 粗略集里在一个偏远地区，而无须要在目录里定位和协调各种独立国家的构筑块。

您可以找出针对特定军事训练任务的实习接地的 NGC 交集，如备用音韵识别或图片归纳，以及行业 SDK，例如 NVIDIA Clara 或迁移学习 (TLT)。如果您期望构筑一个用于单纯侦测的API，那么在目录里搜索该交集，您将在一个偏远地区找出所有具体资产。

应用于 NVIDIA TF32 Tensor Cores 减慢 AI 军事训练

NVIDIA Ampere GPU 虚拟化替换成了第三代 Tensor Cores，以及最初TensorFloat32 (TF32) 模式减慢 FP32 差分和乘积减法。TF32 模式是AmpereGPU 虚拟化上 32 位参数的 AI 军事训练的可选可选。它为单精度DL实习接地带来了 Tensor Core 减慢，而不须要要对建模原作者进行任何更改。

应用于本机16 位格式 (FP16/BF16) 的混合精度军事训练始终是最快的选取，只须要要建模原作者里的几行代码。表1标示出了与 FP32 CUDA 核相比，A100Tensor Cores 的数学运输量。值得提到的是，对于单精度军事训练，A100 提供者的数学运输量比上前代军事训练GPU V100 很低 10 倍。

之外构造

TF32 是 GPU 虚拟化 Ampere 前代 Tensor Core 里新增的一种最初算出模式。点积算出，它构成了乘积减法和差分的构筑块，将 FP32 的读取轮化到 TF32，在不损失精度的但会算出产品，然后将这些产品积累到 FP32 输出里。

TF32 只是作为 Tensor Core 操作模式公开，而不是一个子类。内存里的所有打印和其他操作完全延续在 FP32 里，只有差分和乘积减法在减法之后将它们的读取类比为 TF32。相反，16位子类提供者打印、各种数算符等等。