# 核心依赖(华为升腾版) # 注意:华为升腾服务器需要使用 torch-npu 替代标准 torch # 请参考华为官方文档安装对应版本的 torch-npu torch>=2.4.0 torch-npu>=2.4.0 transformers>=5.4.0 # datasets 需要单独安装 pip install "datasets>=2.14.0" "pyarrow==20.0.0" --only-binary :all: -i https://pypi.tuna.tsinghua.edu.cn/simple accelerate>=0.25.0 peft>=0.7.0 # 注意:bitsandbytes 不支持华为升腾 NPU,已移除 # 训练相关 trl>=0.7.0 sentencepiece>=0.1.99 protobuf>=4.0.0 # Web 服务 fastapi>=0.104.0 uvicorn>=0.24.0 pydantic>=2.0.0 # 数据处理 pandas>=2.0.0 numpy>=1.24.0 tqdm>=4.65.0 # 量化工具 (可选,仅支持 NVIDIA GPU) # 注意:以下量化工具不支持华为升腾 NPU # autoawq>=0.2.0 # AWQ 量化 # auto-gptq>=0.5.0 # GPTQ 量化 # llama-cpp-python # GGUF 量化 # 工具 # wandb>=0.16.0 matplotlib>=3.7.0