|
|
@@ -58,35 +58,10 @@ url_docker_chat = "http://192.168.2.103:11436/api/chat"
|
|
|
|
|
|
|
|
|
def infer_ollama_api(prompt, answer_prefix, model_name=None, temperature=0.05):
|
|
|
- # 构造 Prompt，直接把前缀放在最后
|
|
|
- # instruction = '提取以上招投标文档的关键信息，只输出有值的，其中中标人等放在多标段信息中形成数组，' \
|
|
|
- # '产品参数等放在产品信息中形成数组' \
|
|
|
- # '金额均以元为单位，时间格式为YYYY-MM-DD HH:MM:SS，无多余内容' \
|
|
|
- # '直接得到要素提取Json:'
|
|
|
- #
|
|
|
- # answer_prefix = '{"项目名称":'
|
|
|
- #
|
|
|
- # _text = "树村220千伏变电站110千伏送出工程-拆改工程（设计）中标候选人公示 招标项目名称： 树村220千伏变电站110千伏送出工程-拆改工程（设计） 招标编号： 91110108777085234D 招标项目编号： Z1101000311004312001 所属行业： 其他 所属地区： 北京市-海淀区 开始时间： 2026-03-06 结束时间： 2026-03-10 招标单位： 北京海融达投资建设有限公司 招标代理： 天行健项目管理咨询（北京）有限公司 发布时间： 2026-03-06 17:17:12.0 公示内容 公告文件.pdf"
|
|
|
- #
|
|
|
- # prompt = f"<|im_start|>user\n{_text}\n{instruction}<|im_end|>\n<|im_start|>assistant\n{answer_prefix}"
|
|
|
- #
|
|
|
-
|
|
|
- # if random.choice([0, 1]):
|
|
|
- # model_name = "bidding-qwen-0.8B-lora-16k:latest"
|
|
|
- # else:
|
|
|
- # model_name = "bidding-qwen-0.8B-lora-16k-2:latest"
|
|
|
- # print('infer_ollama_api random choice model_name', model_name)
|
|
|
-
|
|
|
- # if random.choice([0, 1]):
|
|
|
- # now_url = url
|
|
|
- # else:
|
|
|
- # now_url = url2
|
|
|
- # print('infer_ollama_api random choice now_url', now_url)
|
|
|
-
|
|
|
now_url = url_docker
|
|
|
|
|
|
if model_name is None:
|
|
|
- model_name = "bidding-qwen-0.8B-lora-16k:latest"
|
|
|
+ model_name = "bidding-qwen-0.8B-lora:latest"
|
|
|
# model_name = 'deepseek-r1:1.5b'
|
|
|
print('infer_ollama_api', now_url, model_name)
|
|
|
|
fangjiasheng