| 1234567891011121314151617181920212223242526272829303132333435 |
- # 核心依赖(华为升腾版)
- # 注意:华为升腾服务器需要使用 torch-npu 替代标准 torch
- # 请参考华为官方文档安装对应版本的 torch-npu
- torch>=2.4.0
- torch-npu>=2.4.0
- transformers>=5.4.0
- # datasets 需要单独安装 pip install "datasets>=2.14.0" "pyarrow==20.0.0" --only-binary :all: -i https://pypi.tuna.tsinghua.edu.cn/simple
- accelerate>=0.25.0
- peft>=0.7.0
- # 注意:bitsandbytes 不支持华为升腾 NPU,已移除
- # 训练相关
- trl>=0.7.0
- sentencepiece>=0.1.99
- protobuf>=4.0.0
- # Web 服务
- fastapi>=0.104.0
- uvicorn>=0.24.0
- pydantic>=2.0.0
- # 数据处理
- pandas>=2.0.0
- numpy>=1.24.0
- tqdm>=4.65.0
- # 量化工具 (可选,仅支持 NVIDIA GPU)
- # 注意:以下量化工具不支持华为升腾 NPU
- # autoawq>=0.2.0 # AWQ 量化
- # auto-gptq>=0.5.0 # GPTQ 量化
- # llama-cpp-python # GGUF 量化
- # 工具
- # wandb>=0.16.0
- matplotlib>=3.7.0
|