> ## Documentation Index
> Fetch the complete documentation index at: https://dragonwingdocs-staging.qualcomm.com/llms.txt
> Use this file to discover all available pages before exploring further.

# 运行推理

> 在 Qualcomm Dragonwing 物联网平台上运行已准备好的 AI 模型。选择运行时或集成路径: LiteRT、QAIRT SDK C++ API 或 Qualcomm IM SDK。

这是[选择您的旅程](../topic/ai-ml-developer-workflow)流程中的**运行推理**步骤。在您的模型[准备好](../map/compile-and-optimize-model)之后,选择如何在设备上执行它。正确的路径取决于您使用的语言、模型格式,以及您是否要构建完整的摄像头/视频管线。所有运行时都可以面向 Qualcomm Kryo CPU、Adreno GPU 和 Hexagon NPU (HTP)。

请选择与您的应用程序相匹配的运行时。

<CardGroup cols={2}>
  <Card title="LiteRT" icon="layer-group" href="../topic/litert-overview">
    使用 Qualcomm AI Engine Direct delegate,通过 Python 或 C++ 实现高性能设备端推理。最适合快速、对 Python 友好的工作流。
  </Card>

  <Card title="QAIRT SDK C++ API" icon="code" href="../topic/develop-your-own-application-qairt-cpp">
    对模型执行和推理后端 (QNN 或 SNPE) 进行底层 C++ 控制。
  </Card>

  <Card title="Qualcomm IM SDK" icon="video" href="../topic/develop-your-own-application-im-sdk">
    使用 GStreamer 构建实时摄像头、视频和视觉管线: 零拷贝缓冲区以及 GPU 前/后处理。可用于任何 AI 媒体管线。
  </Card>
</CardGroup>

<Note>
  正在构建机器人应用程序?[Qualcomm Intelligent Robotics (QIR) SDK](https://www.thundercomm.com/rubik-pi-3/en/docs/rubik-pi-3-user-manual/1.0.0-u/Application%20Development%20and%20Execution%20Guide/Robotics-Sample-Applications/Robotics%20Sample%20Applications/) 在这些运行时之上添加了基于 ROS 的模块和硬件加速节点。
</Note>