使用 NGC 集合相结合和部署口罩检测应用程序

可用 NGC 构筑和重新部署眼罩样品API

AI 管理工作步骤很复杂。构筑一个 AI API不是一项比较简单的任务，因为它需各种兼具领域专业技能的各种私利涉及者来大规模开发和重新部署API。统计为数据科学家和开发团队需方便地访问期间软件构筑块，例如仿真和液体，它们不仅确保、轻量，而且兼具构筑其 AI 仿真所需的基础架构。

在构筑完毕API之后，DevOps 和 IT 职员需一些基本功能，这些基本功能可以设法他们在各种电子设备密切关系无缝地重新部署和管理这些API，包括本地电子设备、皓电子设备或边缘电子设备。

NVIDIA 构筑了 NGC 录入，通过发放难于访问期间的 GPU 冗余软件，例如液体、预先操练的仿真、应用领域基本和构筑 AI API所需的 Helm 图备注，来精简和较快 AI 管理工作步骤。

在这序言里面，我们将展示出如何可用 NGC 录入和它的氘心最上层结构上，例如可为数、NGC 私有注册备注和 AI 构筑块来构筑和重新部署一个眼罩样品API，作为一个下例，该下例展示出了 development-to-deployment 渠道。

精简应用领域程序旅程

随着 NGC 的发售，NVIDIA 精简了整个应用领域程序互动，并将所需的涉及液体、仿真、代码和 Helm 图备注临近在一个大都，而无需在录入里面定位和相互合作各种独立的构筑块。

您可以找出针对特定任务的管理工作扭矩的 NGC 可为数，如终端音韵识别或图像分类，以及行业 SDK，例如 NVIDIA Clara 或迁移学习 (TLT)。如果您希望构筑一个常用对象样品的API，那么在录入里面查看该可为数，您将在一个大都找出所有涉及资产。

可用 NVIDIA TF32 Tensor Cores 较快 AI 操练

NVIDIA Ampere GPU 架构导入了第三代 Tensor Cores，以及属于自己TensorFloat32 (TF32) Mode较快 FP32 微分和等价自然为数。TF32 Mode是AmpereGPU 架构上 32 位变量的 AI 操练的默认选项。它为单精度DL管理工作扭矩带来了 Tensor Core 较快，而不需对仿真剧本展开任何更动。

可用B-16 位文件格式 (FP16/BF16) 的融合精度操练基本上是更快的选择，只需仿真剧本里面的几行代码。备注1显示了与 FP32 CUDA 氘相比之下，A100Tensor Cores 的为数理逻辑日均。格外指出的是，对于单精度操练，A100 发放的为数理逻辑日均比上一代操练GPU V100 高 10 倍。

外部构造

TF32 是 GPU 架构 Ampere 一代 Tensor Core 里面新增的一种属于自己计为数Mode。点积计为数，它构成了等价自然为数和微分的构筑块，将 FP32 的回传轮化到 TF32，在不受损失精度的仅仅计为数厂商，然后将这些厂商积累到 FP32 输出里面。

TF32 只是作为 Tensor Core 操作Mode公开，而不是一个种类。内存里面的所有存储电子设备和其他操作完毕全保留在 FP32 里面，只有微分和等价自然为数在自然为数之前将它们的回传变换为 TF32。相反，16位种类发放存储电子设备、各种为数算符等等。