.. _xinference_images: =================== Xinference 镜像使用 =================== 本文档介绍了如何使用Xinference的各种镜像版本,包括Nvidia系列、MindIE系列和海光系列。 .. contents:: 目录 :local: :depth: 1 概述 ==== Xinference提供了针对不同硬件平台优化的镜像版本: * **Nvidia系列**:适用于CUDA环境的GPU加速推理 * **MindIE系列**:适用于华为昇腾NPU环境 * **海光系列**:适用于海光DCU环境 每个系列都提供了完整的部署和使用指南。 快速导航 ======== 硬件平台 -------- .. toctree:: :maxdepth: 2 nvidia mindie hygon 管理和配置 ---------- .. toctree:: :maxdepth: 2 license performance multi_deployment kubernetes langfuse troubleshooting 选择指南 ======== 根据你的硬件环境选择合适的镜像: +------------------+------------------+------------------+ | 硬件平台 | 推荐镜像 | 适用场景 | +==================+==================+==================+ | NVIDIA GPU | :doc:`nvidia` | CUDA环境, | | | | 高性能GPU推理 | +------------------+------------------+------------------+ | 华为昇腾NPU | :doc:`mindie` | 昇腾310/910系列 | | | | NPU推理 | +------------------+------------------+------------------+ | 海光DCU | :doc:`hygon` | 海光DCU环境 | +------------------+------------------+------------------+ 常见任务 ======== * **首次部署**:选择对应硬件平台的镜像文档,按照步骤进行部署 * **证书管理**:参考 :doc:`license` 进行证书更新 * **性能测试**:使用 :doc:`performance` 中的工具进行性能评估 * **多机部署**:参考 :doc:`multi_deployment` 进行集群部署 * **链路监控**:参考 :doc:`langfuse` 配置调用链路追踪 * **生产部署**:参考 :doc:`kubernetes` 进行K8s环境部署 * **故障排除**:参考 :doc:`troubleshooting` 解决常见问题 支持与帮助 ========== 如果在使用过程中遇到问题,请: 1. 首先查看对应硬件平台的文档 2. 参考 :doc:`troubleshooting` 查找解决方案 3. 检查证书是否正确配置 4. 运行性能测试验证环境配置 5. 联系技术支持获取帮助