> ## Documentation Index
> Fetch the complete documentation index at: https://dragonwingdocs-staging.qualcomm.com/llms.txt
> Use this file to discover all available pages before exploring further.

# 使用 Qualcomm AI Runtime SDK 优化 AI 模型

> 使用 Qualcomm AI Runtime(QAIRT)SDK 转换、量化和运行 AI 模型。

Qualcomm AI Runtime SDK 是一款一体化 SDK,用于移植 ML 模型
以便在 Qualcomm 硬件加速器上运行。该 SDK 包含
Qualcomm Neural Processing Engine(也称为 SNPE)和
AI Engine Direct(也称为 QNN),它们提供了转换和量化
在 PyTorch 和 TensorFlow 中训练的模型的工具,以及
在 CPU、GPU 和 HTP 上运行这些模型的运行时。了解有关
[SNPE](https://docs.qualcomm.com/doc/80-63442-10/topic/index_SNPE.html)
和
[QNN](https://docs.qualcomm.com/doc/80-63442-10/topic/index_QNN.html) 的更多信息。

<img src="https://mintcdn.com/qualcomm-staging/uWQLnBcS9sxlZhgB/Key-Documents/AI-Developer-Workflow/_images/optimize-compile-snpe.png?fit=max&auto=format&n=uWQLnBcS9sxlZhgB&q=85&s=be53a1108bf7c1bcb19626f98b0a4c57" alt="QAIRT 工作流" width="961" height="950" data-path="Key-Documents/AI-Developer-Workflow/_images/optimize-compile-snpe.png" />

## 设置

<CardGroup cols={2}>
  <Card title="下载 SDK" icon="download" href="../topic/qairt-install">
    下载并安装 Qualcomm AI Runtime SDK。
  </Card>

  <Card title="设置 SDK" icon="gear" href="../topic/qairt-setup">
    配置用于模型优化的 SDK 环境。
  </Card>
</CardGroup>

## 转换和量化模型

<CardGroup cols={2}>
  <Card title="转换和量化模型" icon="arrows-spin" href="../topic/port-models">
    转换来自 PyTorch、TensorFlow、ONNX 或 LiteRT 的模型,并使用 SNPE 或 QNN 对其进行量化以便部署。
  </Card>
</CardGroup>

## 运行推理

<CardGroup cols={2}>
  <Card title="运行模型" icon="play" href="../topic/run-models">
    使用 SNPE 或 QNN 在 CPU、GPU 或 HTP 上对转换后的模型运行推理。
  </Card>
</CardGroup>

## API 参考

<CardGroup cols={2}>
  <Card title="Qualcomm Neural Processing Engine C/C++" icon="file-code" href="https://docs.qualcomm.com/doc/80-63442-10/topic/SNPE_general_api.html">
    SNPE C/C++ API 参考文档。
  </Card>

  <Card title="Qualcomm AI Engine Direct C/C++" icon="file-code" href="https://docs.qualcomm.com/doc/80-63442-10/topic/general_api.html">
    QNN C/C++ API 参考文档。
  </Card>
</CardGroup>