Skip to main content
AIMET 是一款用于量化和压缩已训练 ML 模型的软件工具包。它可以提升深度学习模型的运行时性能,并降低其计算负载和内存占用,以便在边缘设备上部署。 AIMET 量化与压缩工作流 AIMET 支持训练后量化和微调技术,可最大限度地减少量化和压缩过程中的精度损失。它支持来自 ONNX 和 PyTorch 框架的模型。 有关使用 AIMET 提升模型精度的详细信息,请参阅 AIMET 文档。