Skip to main content
使用 Qualcomm 提供的 Jupyter Notebook,在交互式、 分步引导的环境中在 Qualcomm 平台上准备、优化和部署 大语言模型(LLM)。Jupyter Notebook 在模型准备和执行过程中 提供完全的透明性和可定制性。 下图描绘了整个工作流中常用的三个主要步骤及其对应的 Jupyter Notebook: 模型准备、模型转换和模型执行。 三阶段 Jupyter Notebook 工作流:模型准备、模型转换和模型执行 下表总结了 GenAI 模型的 Jupyter Notebook 工作流。 此工作流适用于多种类别的 GenAI 模型,包括 LLM 和视觉模型。
用于模型导出的 Jupyter Notebook 可在 Qualcomm Package Manager 中获取。导航到 Tools 并搜索 Generative AI Tutorials 以查看可用的 Notebook。Jupyter Notebook 工作流:Notebook