luojiehua a833766409 重建milvus集合,通过名称md5进行去重,解决匹配不了大小写等不完整匹配问题和提升匹配效率 hai 1 ano
..
comment 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
common a833766409 重建milvus集合,通过名称md5进行去重,解决匹配不了大小写等不完整匹配问题和提升匹配效率 hai 1 ano
dataMonitor be9e008e99 参数接口表逻辑修正 hai 1 ano
dataSource 9b19920cad 修复redis连接问题,修复判定品牌规则,匹配规则 hai 1 ano
interface 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
java 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
maintenance a833766409 重建milvus集合,通过名称md5进行去重,解决匹配不了大小写等不完整匹配问题和提升匹配效率 hai 1 ano
maxcompute d598e2aacf 产品数据处理流增加别名映射支持 hai 1 ano
model a833766409 重建milvus集合,通过名称md5进行去重,解决匹配不了大小写等不完整匹配问题和提升匹配效率 hai 1 ano
primarykey a8a8e88bc8 地址改为linux下使用内网,修改启动间隔和错误日志打印 %!s(int64=4) %!d(string=hai) anos
readme 59be57dc38 启动脚本 %!s(int64=2) %!d(string=hai) anos
services 5d9340b7b8 产品数据流版本 hai 1 ano
test 5d9340b7b8 产品数据流版本 hai 1 ano
__init__.py dc7a24c325 附件处理和上传第一版 %!s(int64=4) %!d(string=hai) anos
app.json 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
fixDoc_to_queue_extract.py cf2a71ef1b 数据流优化(数据遗漏,过长数据丢弃),增加数据遗漏检查 %!s(int64=3) %!d(string=hai) anos
monitor.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
readme.md 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_dataflow_attach_monitor.py 95d42ef0ea 拟在建入库改造,完善follow生成,联系人生成 %!s(int64=2) %!d(string=hai) anos
start_dataflow_attachment.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_dataflow_dumplicate.py 3fa7504cbc 调整监控报警,特殊情况增加@所有人 %!s(int64=2) %!d(string=hai) anos
start_dataflow_extract.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_dataflow_init.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_dataflow_merge.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_dataflow_monitor.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_drop_preproject_dump.py cf2a71ef1b 数据流优化(数据遗漏,过长数据丢弃),增加数据遗漏检查 %!s(int64=3) %!d(string=hai) anos
start_extract.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
start_fille_preproject.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
start_main.py 5d9340b7b8 产品数据流版本 hai 1 ano
start_product.py c2881d53fa 优化产品处理流匹配规则 hai 1 ano
start_rollback_services.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_sychro_attachFix.py 1053b8e26d 更改数据修复逻辑 %!s(int64=2) %!d(string=hai) anos
start_sychro_attachProcess.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
start_sychro_attachRec.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
start_sychro_attachUpload.py dc7a24c325 附件处理和上传第一版 %!s(int64=4) %!d(string=hai) anos
start_sychro_docFix.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
start_sychro_handInput.py 7b9d284cd0 地址改为linux下使用VPC %!s(int64=4) %!d(string=hai) anos
start_sychro_proposedBuilding.py 5d1cc0f663 初始提交 %!s(int64=4) %!d(string=hai) anos
start_sychro_unionMajor.py 5210e6dd0a 同步时mysql连接重置策略,重点项目、实时公告合并 %!s(int64=2) %!d(string=hai) anos
test.py 5d9340b7b8 产品数据流版本 hai 1 ano
test_convert_interface.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos

readme.md

将执行环节ENV放在BaseDataMaintenance同级路径下如/home/python

1.执行cd /home/python 2.执行 ./ENV/bin/python ./BaseDataMaintenance/start_*.py

start_dataflow_attachment 启动数据流中的附件识别

start_dataflow_dumplicate 启动数据流中的去重

start_dataflow_extract 启动数据流中的要素提取

start_dataflow_merge 启动数据流中的合并

start_dataflow_remove 启动数据流中的清除临时表