Skip to main content
要准备在 Qualcomm® Dragonwing™ IQ 系列 评估套件上运行的 GenAI 模型,可使用 Qualcomm AI Hub 从具有预计算编码的模型导出模型二进制文件,或使用 Qualcomm Jupyter Notebook 从预训练模型生成模型二进制文件。
有关更多 Jupyter Notebook 示例,请访问 Qualcomm Package Manager, 选择 Tools,然后搜索 Generative AI Tutorials。
下图展示了这两种方案的准备流程和基本系统要求。 AI Hub 和 Jupyter Notebook 方案的 GenAI 模型准备流程及系统要求 Qualcomm AI Model Efficiency Toolkit(AIMET)支持高级量化技术。 根据所使用的模型,您可能需要选择不同的量化技术 以获得更好的准确性。 下表总结了 GenAI 模型准备的各种方法。