requirements.txt 896 B

1234567891011121314151617181920212223242526272829303132333435
  1. # 核心依赖(华为升腾版)
  2. # 注意:华为升腾服务器需要使用 torch-npu 替代标准 torch
  3. # 请参考华为官方文档安装对应版本的 torch-npu
  4. torch>=2.4.0
  5. torch-npu>=2.4.0
  6. transformers>=5.4.0
  7. # datasets 需要单独安装 pip install "datasets>=2.14.0" "pyarrow==20.0.0" --only-binary :all: -i https://pypi.tuna.tsinghua.edu.cn/simple
  8. accelerate>=0.25.0
  9. peft>=0.7.0
  10. # 注意:bitsandbytes 不支持华为升腾 NPU,已移除
  11. # 训练相关
  12. trl>=0.7.0
  13. sentencepiece>=0.1.99
  14. protobuf>=4.0.0
  15. # Web 服务
  16. fastapi>=0.104.0
  17. uvicorn>=0.24.0
  18. pydantic>=2.0.0
  19. # 数据处理
  20. pandas>=2.0.0
  21. numpy>=1.24.0
  22. tqdm>=4.65.0
  23. # 量化工具 (可选,仅支持 NVIDIA GPU)
  24. # 注意:以下量化工具不支持华为升腾 NPU
  25. # autoawq>=0.2.0 # AWQ 量化
  26. # auto-gptq>=0.5.0 # GPTQ 量化
  27. # llama-cpp-python # GGUF 量化
  28. # 工具
  29. # wandb>=0.16.0
  30. matplotlib>=3.7.0