request_qwq_32b.py 6.1 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130
  1. #coding:utf8
  2. # API 端点
  3. import json
  4. import requests
  5. url = "http://120.132.118.205:21000/api/generate"
  6. models = {
  7. "qwq:32b": "qwq:32b",
  8. "deepseek-r1:7b": "deepseek-r1:7b",
  9. "deepseek-r1:1.5b": "deepseek-r1:1.5b",
  10. }
  11. def request_llm(prompt, model="deepseek-r1:1.5b"):
  12. # 请求数据
  13. data = {
  14. "model": model,
  15. "prompt": prompt,
  16. "stream": False,
  17. 'temperature': 0.6,
  18. 'top_p': 0.95,
  19. 'min_p': 0,
  20. "options": {
  21. "num_ctx": 4096
  22. }
  23. }
  24. # 发送 POST 请求
  25. response = requests.post(url, json=data)
  26. # 检查响应状态码
  27. if response.status_code == 200:
  28. result = response.json()
  29. return_text = result["response"]
  30. return_text = json.dumps(return_text, ensure_ascii=False)
  31. return_text = json.loads(return_text)
  32. token_count = result["eval_count"]
  33. cost_time = result["eval_duration"]
  34. cost_time = round(cost_time / 1e9, 2)
  35. speed = token_count / cost_time
  36. print(f'回答tokens数{token_count}, 耗时{cost_time} s, 速度{speed} tokens/s')
  37. else:
  38. print(f"请求失败,状态码: {response.status_code},错误信息: {response.text}")
  39. return_text = response.text
  40. return response.status_code, return_text
  41. if __name__ == '__main__':
  42. a = '''
  43. 一、 *采购人名称:桐城市东关小学
  44. 二、 *履约供应商名称:桐城市博瑞电脑器材销售有限公司
  45. 三、 *采购项目编号:2971451000000741040
  46. 四、 *合同编号:30974996
  47. 五、 *验收单位:桐城市东关小学
  48. 六、 *验收日期:2025年3月26日
  49. 七、 *验收结果:
  50. 序号 服务内容 验收数量 验收金额(元) 验收标准\规格型号\技术标准 验收结果 备注
  51. 1 得力 卡纸 卡纸 2 90.0 得力/deli\卡纸 验收通过
  52. 2 斯伯丁 83-218Y 篮球 2 530.0 斯伯丁/Spalding\83-218Y 验收通过
  53. 3 得力 24830 奖状/证书 600 1200.0 得力/deli\24830 验收通过
  54. 4 得力 党员徽章 铭牌 32 160.0 得力/deli\党员徽章 验收通过
  55. 5 梅花 挂锁 挂锁 20 120.0 梅花\挂锁 验收通过
  56. 6 梅花 挂锁 挂锁 10 120.0 梅花\挂锁 验收通过
  57. 7 威露士 健康抑菌洗手液 洗手液 24 360.0 威露士/Walch\健康抑菌洗手液 验收通过
  58. 8 得力 名片盒/本/夹/册 10 480.0 得力/deli\A5皮面记事本 验收通过
  59. 9 得力 名片盒/本/夹/册 80 1600.0 得力/deli\16K皮面记事本 验收通过
  60. 10 得力 名片盒/本/夹/册 150 1200.0 得力/deli\备课笔记本 验收通过
  61. 11 得力 名片盒/本/夹/册 150 1050.0 得力/deli\听课笔记 验收通过
  62. 12 晨光 名片盒/本/夹/册 20 120.0 晨光/M&G\会议记录本 验收通过
  63. 13 航天 六角粉笔 粉笔 2 300.0 航天\六角粉笔 验收通过
  64. 14 航天 六角粉笔 粉笔 4 400.0 航天\六角粉笔 验收通过
  65. 15 妙洁 背心式垃圾袋大号 垃圾袋 1 750.0 妙洁/magic\背心式垃圾袋大号 验收通过
  66. 16 妙洁 背心式垃圾袋大号 垃圾袋 1 500.0 妙洁/magic\背心式垃圾袋大号 验收通过
  67. 17 得力 A3打印纸 打印/复印纸 4 1032.0 得力/deli\A3打印纸 验收通过
  68. 18 得力 莱茵河 80g A4 打印/复印纸 7 1806.0 得力/deli\莱茵河 80g A4 验收通过
  69. 19 柯尼卡美能达 TN119 粉盒 2 336.0 柯尼卡美能达/KONICA MINOLTA\TN119 验收通过
  70. 20 得力 33415 档案袋 20 160.0 得力/deli\33415 验收通过
  71. 21 得力 5910 档案袋 20 120.0 得力/deli\5910 验收通过
  72. 22 得力 7103 胶水 84 252.0 得力/deli\7103 验收通过
  73. 23 南孚 5号2粒(2代) 普通干电池 50 250.0 南孚/NANFU\5号2粒(2代) 验收通过
  74. 24 公牛 GN-604-3米 多功能插座 5 340.0 公牛/BULL\GN-604-3米 验收通过
  75. 25 公牛 GN-218 5m 多功能插座 3 234.0 公牛/BULL\GN-218 5m 验收通过
  76. 26 上汇 0051 票夹/长尾夹 10 220.0 上汇\0051 验收通过
  77. 27 南孚+7号5粒(4代)电池 普通干电池 100 250.0 南孚/NANFU\南孚+7号5粒(4代)电池 验收通过
  78. 28 晨光 黑板擦 48 384.0 晨光/M&G\ASC99364 验收通过
  79. 29 晨光 MG2160 白板笔 20 50.0 晨光/M&G\MG2160 验收通过
  80. 30 晨光 APYVG608 复写纸 4 880.0 晨光/M&G\APYVG608 验收通过
  81. 31 齐心 D4032 复写纸(粉色) 2 720.0 齐心/Comix\D4032 验收通过
  82. 32 得力 9378 复写纸(大红色) 1 360.0 得力\9378 验收通过
  83. 33 心相印 DT15100 抽纸 24 528.0 心相印/Mind Act Upon Mind\DT15100 验收通过
  84. 34 晨光 8001A 中性笔芯 84 2100.0 晨光/M&G\8001A 验收通过
  85. 35 晨光 8001A 中性笔芯 84 2100.0 晨光/M&G\8001A 验收通过
  86. 36 舒肤佳 纯白清香型108g 香皂 30 180.0 舒肤佳/safeguard\纯白清香型108g 验收通过
  87. 37 洁丽雅 7416 毛巾/面巾/方巾 30 600.0 洁丽雅/grace\7416 验收通过
  88. 38 得力 S856 中性笔 12 432.0 得力/deli\S856 验收通过
  89. 39 得力 硬面抄 60 240.0 得力/deli\T3272 验收通过
  90. 40 得力 8591F 票夹/长尾夹 10 240.0 得力/deli\8591F 验收通过
  91. 41 得力 33425 票夹/长尾夹 10 150.0 得力/deli\33425 验收通过
  92. 42 齐心 AP-117 档案袋 200 200.0 齐心/Comix\AP-117 验收通过
  93. 43 奔图 PD-206 硒鼓 4 580.0 奔图/Pantum\PD-206 验收通过
  94. 44 得力 7304 胶水 24 144.0 得力/deli\7304 验收通过
  95. 45 公牛 GN-609 1.8米 电源插座 5 225.0 公牛/BULL\GN-609 1.8米 验收通过
  96. 46 晨光 ADM92990 档案盒 12 216.0 晨光/M&G\ADM92990 验收通过
  97. 47 得力 1529 电子计算器 2 110.0 得力/deli\1529 验收通过
  98. 48 得力 0037 回形针座/盒 20 50.0 得力/deli\0037 验收通过
  99. 49 得力 0027 订书钉 20 40.0 得力/deli\0027 验收通过
  100. 50 得力 0466 订书机 2 70.0 得力/deli\0466 验收通过
  101. 51 得力 S128 中性笔签字笔 60 300.0 得力/deli\S128 验收通过
  102. 52 得力 S128 中性笔签字笔 24 648.0 得力/deli\S128 验收通过
  103. 53 齐心 A1457 档案盒 24 312.0 齐心/Comix\A1457 验收通过
  104. 54 齐心 A1285 档案盒 24 360.0 齐心/Comix\A1285 验收通过
  105. 55 金晨鸣 70g A4 打印/复印纸 12 2640.0 金晨鸣\70g A4 验收通过
  106. 56 【运费】 1 0.0 验收通过
  107. 验收报告:
  108. 验收人员名单: ah0881036011
  109. 提取出以上内容的中标人和中标金额
  110. '''
  111. code, answer = request_llm(a,model="deepseek-r1:14b")
  112. print(answer)