Skip to main content
本页帮助您选择将自定义 AI 模型集成到应用中的正确 SDK 路径。当您的模型适用于受支持的多媒体用例,并且可以通过标准的预处理、推理和后处理管线运行时,请从 Qualcomm IM SDK (QIM SDK) 开始。仅当您需要更底层的运行时控制、自定义张量处理,或超出 QIM SDK 路径的应用工作流时,才使用 Qualcomm AI Runtime SDK (QAIRT)。
应用开发工作流的步骤 2a。 在实施之前,将本页作为决策点。它会告诉您是否可以直接继续使用 QIM SDK、是否需要先在步骤 3a 中添加自定义后处理,或者模型是否应转向 QAIRT 路径。

决策概览

使用以下决策流程确定最适合您的模型和应用的集成路径。按顺序完成每个决策点,从模型就绪情况开始,到推荐的实施方法结束。
如何使用此流程图:按顺序回答每个问题(Q1–Q3)。如果您的用例受 QIM SDK 支持,请检查现有的 qtimlpostprocess 模块是否支持您的模型输出。如果支持,请继续执行步骤 4,构建应用。否则,请完成步骤 3a,添加自定义后处理模块,然后继续执行步骤 4。仅当 QIM SDK 工作流无法满足您的需求时,才使用 QAIRT。下表更详细地解释了每个决策。

选择合适的集成路径

选择以下集成路径之一。我们建议从 QIM SDK 路径开始,因为它支持大多数多媒体 AI 用例,并可利用现有组件和参考管线实现快速开发。仅当您的模型或应用需求不受 QIM SDK 支持,并且需要自定义实现或更底层的运行时控制时,才选择 Qualcomm AI Runtime SDK (QAIRT) 路径。

QIM SDK(推荐)

QIM SDK 是大多数多媒体 AI 应用的推荐集成路径。当您的用例受 QIM SDK 支持,并且您的模型可以集成到标准的预处理、推理和后处理管线中时,请使用此路径。 按照以下决策点确定是否需要额外的自定义。 要确定现有后处理模块是否支持您的模型输出,请运行:
将支持的输出张量格式与模型的输出张量进行比较。如果有兼容的模块,您可以直接使用。否则,您必须在构建应用之前实现自定义后处理模块——这项后处理检查是决定您的模型能否开箱即用的关键决策。

Qualcomm AI Runtime SDK

**仅在 QIM SDK 不适用时使用。**当用例不受 QIM SDK 支持、应用需要直接的运行时级控制,或模型需要在标准 QIM SDK 管线之外进行自定义张量处理时,请选择 Qualcomm AI Runtime SDK。此路径通常需要更多的设计、集成和验证工作。
使用下表将常见集成场景映射到推荐的 SDK 路径和预期工作量。

集成前检查清单

在集成模型之前,请收集影响集成路径和管线配置的关键信息。这些细节有助于确定模型是否可以使用现有的 QIM SDK 组件、是否需要自定义后处理,或者是否更适合使用 Qualcomm AI Runtime SDK (QAIRT) 进行自定义实现。
在继续之前,请确保您了解模型的输入和输出规格、预处理要求、目标运行时和预期输出格式。选择正确的集成路径和管线组件需要这些信息。

后续步骤

根据后处理检查的结果选择下一步。如果现有模块支持模型输出,请继续构建。如果没有模块支持该输出,请先添加自定义后处理模块。如果用例超出 QIM SDK 的范围,请使用 QAIRT 路径。

支持后处理——构建应用

步骤 4——现有后处理模块支持您的模型。使用正确的模块选项构建应用。

不支持——添加后处理

步骤 3a——没有后处理模块接受您的输出。编写并部署自定义模块,然后继续执行步骤 4。

超出 QIM SDK 范围——使用 QAIRT

高级——用例不受支持或需要运行时级控制。请改用 Qualcomm AI Runtime SDK。

相关信息