luojiehua f01faccc36 公告去重优化,调整时间和产品校验,增加附件及全金额判断 hai 1 ano
..
comment 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
common e6c93af49a 修复附件数据处理异常Failed to establish a new connection hai 1 ano
dataMonitor 4c33fb0c9e 完善去重规则以及项目合并数据监控 hai 1 ano
dataSource 1777e9d8d3 修复附件数据处理异常问题,修复合并时掺杂拟在建和审批项目的问题 hai 1 ano
interface 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
java 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
maintenance f01faccc36 公告去重优化,调整时间和产品校验,增加附件及全金额判断 hai 1 ano
maxcompute f01faccc36 公告去重优化,调整时间和产品校验,增加附件及全金额判断 hai 1 ano
model c907fb5599 拟在建字段更新 hai 1 ano
primarykey a8a8e88bc8 地址改为linux下使用内网,修改启动间隔和错误日志打印 %!s(int64=4) %!d(string=hai) anos
readme 59be57dc38 启动脚本 %!s(int64=2) %!d(string=hai) anos
services 5d9340b7b8 产品数据流版本 hai 1 ano
test 5d9340b7b8 产品数据流版本 hai 1 ano
__init__.py dc7a24c325 附件处理和上传第一版 %!s(int64=4) %!d(string=hai) anos
app.json 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
embedding_services.py dd72c9a29a 优化产品配置提取,完善缺失和冗余问题,预估提取率和准确率能达到80%以上 hai 1 ano
monitor.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
readme.md 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_dataflow_attach_monitor.py 95d42ef0ea 拟在建入库改造,完善follow生成,联系人生成 %!s(int64=2) %!d(string=hai) anos
start_dataflow_attachment.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_dataflow_dumplicate.py 3fa7504cbc 调整监控报警,特殊情况增加@所有人 %!s(int64=2) %!d(string=hai) anos
start_dataflow_extract.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_dataflow_init.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_dataflow_merge.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_dataflow_monitor.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_drop_preproject_dump.py cf2a71ef1b 数据流优化(数据遗漏,过长数据丢弃),增加数据遗漏检查 %!s(int64=3) %!d(string=hai) anos
start_enterprise2Redis.py 0dd18a789f 新增 合法实体添加到Redis定时流程 hai 1 ano
start_extract.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
start_fille_preproject.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
start_main.py 5d9340b7b8 产品数据流版本 hai 1 ano
start_product.py f7e579cf7e 提高配置提取的效率,修复因重启接口导致的附件未识别问题 hai 1 ano
start_rollback_services.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos
start_sychro_attachFix.py 1053b8e26d 更改数据修复逻辑 %!s(int64=2) %!d(string=hai) anos
start_sychro_attachProcess.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
start_sychro_attachRec.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
start_sychro_attachUpload.py dc7a24c325 附件处理和上传第一版 %!s(int64=4) %!d(string=hai) anos
start_sychro_docFix.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 %!s(int64=3) %!d(string=hai) anos
start_sychro_handInput.py 7b9d284cd0 地址改为linux下使用VPC %!s(int64=4) %!d(string=hai) anos
start_sychro_proposedBuilding.py 5d1cc0f663 初始提交 %!s(int64=4) %!d(string=hai) anos
start_sychro_unionMajor.py 5210e6dd0a 同步时mysql连接重置策略,重点项目、实时公告合并 %!s(int64=2) %!d(string=hai) anos
test.py 5d9340b7b8 产品数据流版本 hai 1 ano
test_convert_interface.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 %!s(int64=3) %!d(string=hai) anos

readme.md

将执行环节ENV放在BaseDataMaintenance同级路径下如/home/python

1.执行cd /home/python 2.执行 ./ENV/bin/python ./BaseDataMaintenance/start_*.py

start_dataflow_attachment 启动数据流中的附件识别

start_dataflow_dumplicate 启动数据流中的去重

start_dataflow_extract 启动数据流中的要素提取

start_dataflow_merge 启动数据流中的合并

start_dataflow_remove 启动数据流中的清除临时表