luojiehua f01faccc36 公告去重优化,调整时间和产品校验,增加附件及全金额判断 1 éve
..
comment 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 3 éve
common e6c93af49a 修复附件数据处理异常Failed to establish a new connection 1 éve
dataMonitor 4c33fb0c9e 完善去重规则以及项目合并数据监控 1 éve
dataSource 1777e9d8d3 修复附件数据处理异常问题,修复合并时掺杂拟在建和审批项目的问题 1 éve
interface 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 3 éve
java 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 3 éve
maintenance f01faccc36 公告去重优化,调整时间和产品校验,增加附件及全金额判断 1 éve
maxcompute f01faccc36 公告去重优化,调整时间和产品校验,增加附件及全金额判断 1 éve
model c907fb5599 拟在建字段更新 1 éve
primarykey a8a8e88bc8 地址改为linux下使用内网,修改启动间隔和错误日志打印 4 éve
readme 59be57dc38 启动脚本 2 éve
services 5d9340b7b8 产品数据流版本 1 éve
test 5d9340b7b8 产品数据流版本 1 éve
__init__.py dc7a24c325 附件处理和上传第一版 4 éve
app.json 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 3 éve
embedding_services.py dd72c9a29a 优化产品配置提取,完善缺失和冗余问题,预估提取率和准确率能达到80%以上 1 éve
monitor.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 3 éve
readme.md 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 3 éve
start_dataflow_attach_monitor.py 95d42ef0ea 拟在建入库改造,完善follow生成,联系人生成 2 éve
start_dataflow_attachment.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 3 éve
start_dataflow_dumplicate.py 3fa7504cbc 调整监控报警,特殊情况增加@所有人 2 éve
start_dataflow_extract.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 3 éve
start_dataflow_init.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 3 éve
start_dataflow_merge.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 3 éve
start_dataflow_monitor.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 3 éve
start_drop_preproject_dump.py cf2a71ef1b 数据流优化(数据遗漏,过长数据丢弃),增加数据遗漏检查 3 éve
start_enterprise2Redis.py 0dd18a789f 新增 合法实体添加到Redis定时流程 1 éve
start_extract.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 3 éve
start_fille_preproject.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 3 éve
start_main.py 5d9340b7b8 产品数据流版本 1 éve
start_product.py f7e579cf7e 提高配置提取的效率,修复因重启接口导致的附件未识别问题 1 éve
start_rollback_services.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 3 éve
start_sychro_attachFix.py 1053b8e26d 更改数据修复逻辑 2 éve
start_sychro_attachProcess.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 3 éve
start_sychro_attachRec.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 3 éve
start_sychro_attachUpload.py dc7a24c325 附件处理和上传第一版 4 éve
start_sychro_docFix.py 4c6dbfe709 附件处理和上传第2版,新增关系型数据支持,附近下载上传入库优化,要素提取eas接口等 3 éve
start_sychro_handInput.py 7b9d284cd0 地址改为linux下使用VPC 4 éve
start_sychro_proposedBuilding.py 5d1cc0f663 初始提交 4 éve
start_sychro_unionMajor.py 5210e6dd0a 同步时mysql连接重置策略,重点项目、实时公告合并 2 éve
test.py 5d9340b7b8 产品数据流版本 1 éve
test_convert_interface.py 2617fce7d5 数据处理效率优化,附件2000/10min,要素10000/10min,数据监控 3 éve

readme.md

将执行环节ENV放在BaseDataMaintenance同级路径下如/home/python

1.执行cd /home/python 2.执行 ./ENV/bin/python ./BaseDataMaintenance/start_*.py

start_dataflow_attachment 启动数据流中的附件识别

start_dataflow_dumplicate 启动数据流中的去重

start_dataflow_extract 启动数据流中的要素提取

start_dataflow_merge 启动数据流中的合并

start_dataflow_remove 启动数据流中的清除临时表