| 注册
home doc ppt pdf
请输入搜索内容

热门搜索

年终总结个人简历事迹材料租赁合同演讲稿项目管理职场社交

日志和文件接入规范

h***y

贡献于2020-07-21

字数:1573

数接入规范日志文件
修订历史
日期
修改说明
部门
修改









数接入需求
基数采集需求初步判断数接入源否日志文件进行获取联系技术研发部事请求数源接入位置参数通配置化方式定期读取服务器指定位置日志文件通程序清洗日志分割成字段装载数仓库贴源层
数接入流程
1 数中心分析组接TAPD数接入需求分析接入数属数接口列表系统应系统标题添加模板参APPapp_login_log
需求发起进行沟通确定提供数方式(数库文件接口等)需求发起补充详细数口径补充需求求里面指定数仓库组台组进行转发
2 数仓库组台组根需求描述数源提供方(需求发起方技术研发部门)沟通补充模板里位置参数
3 数源提供方根模板求提供位置配置参数
4 数仓库组台组接入数整理数格式编写日志清洗转换脚补充装载目标表信息
5 数中心分析组终接入数进行验收通知需求发起获接入数
数源接入模板
需求求(分析组补充)
tapd需求单号:1002513
提起:xxx(Richardchen)
需求单号容:
???
提供数方式:
数库文件接口
详细数口径:???
位置配置参数(技术研发部补充)
配置参数
参数取值
服务器址
19216811
端口类型
ftp
端口号
22
系统户名
user
密码
pwd
日志路径
日志文件通配符
xxxyyyymmddAppLog
app_login_log_[yyyymmdd]json
日志容分割规
文字描述

接入模型字段(仓库组补充)
字段名
注释
字段类型
必填
必填
必填
必填
必填
必填

抽取参数(仓库组补充)
配置参数
参数取值
抽数周期

抽数时间
700
文件名匹配条件
1:全量匹配抽取(匹配通配符抽取)
2:日期匹配抽取(仅抽取通配符日期字段匹配数日期条件文件)
数日期格式
Yyyymmdd
Yyyymmdd
数日期条件
1:天日期
2:前时间日期
3:前时间属周周日
4:前时间属月号

日志清洗转换脚(仓库组补填)
补充脚位置t8tbidsc\logapp\logapppy

装载目标表(仓库组补填)
配置参数
参数取值
stg层表名称
必填
stg层表描述
必填
ods层表名称
必填
ods层表描述
必填

数接口列表
PC
H5
APP
app_login_log
l 需求单号(分析组补充)
tapd需求单号:xxxxxxx
提起:xxx(Richardchen)

l 位置配置参数(技术研发部补充)
配置参数
参数取值
服务器址
19216811
端口类型
ftp
端口号
22
系统户名
user
密码
pwd
日志路径
日志文件通配符
xxxyyyymmddAppLog
app_login_log_[yyyymmdd]json
日志容分割规
文字描述

l 接入模型字段(仓库组补充)
字段名
注释
字段类型
必填
必填
必填
必填
必填
必填

l 抽取参数(仓库组补充)
配置参数
参数取值
抽数周期

抽数时间
700
文件名匹配条件
1:全量匹配抽取(匹配通配符抽取)
2:日期匹配抽取(仅抽取通配符日期字段匹配数日期条件文件)
数日期格式
Yyyymmdd
Yyyymmdd
数日期条件
1:天日期
2:前时间日期
3:前时间属周周日
4:前时间属月号

l 日志清洗转换脚(仓库组补填)
补充脚位置t8tbidsc\logapp\logapppy

l 装载目标表(仓库组补填)
配置参数
参数取值
stg层表名称
必填
stg层表描述
必填
ods层表名称
必填
ods层表描述
必填

app_diary_log
程序
文档香网(httpswwwxiangdangnet)户传

《香当网》用户分享的内容,不代表《香当网》观点或立场,请自行判断内容的真实性和可靠性!
该内容是文档的文本内容,更好的格式请下载文档

下载文档,方便阅读与编辑

文档的实际排版效果,会与网站的显示效果略有不同!!

需要 5 香币 [ 分享文档获得香币 ]

购买文档

相关文档

数据库接入规范

数据接入规范-数据库修订历史日期修改说明部门修改人数据接入需求基于数据采集需求,初步判断数据的接入源是否从业务数据库中获取。联系技术研发部同事,请求数据源接入的位置参数,通过配置化方式达到将数据从业务系统拉取、装载到数据仓库贴源层的目的。数据接入流程1. 数据中心分析组接到TAPD数据接入需求之后,分析接入数据属于数据接口列表的哪个系统,在对应的系统标题下添

h***y 4年前 上传781   0

爬虫接入规范

爬虫接入规范修订历史日期修改说明部门修改人2018.06.12大数据中心李永波数据接入需求基于数据采集需求,初步判断数据的接入源是否从业务数据库中获取。联系技术研发部同事,请求数据源接入的位置参数,通过配置化方式达到将数据从业务系统拉取、装载到数据仓库贴源层的目的。数据接入流程1. 与爬虫组和平台组进行沟通,确定提供数据的方式(数据库、文件、接口等),让需求

h***y 4年前 上传598   0

沈阳东东系统集成有限公司质量管理规范文件(表)——安装和维护工作日志

安装和维护工作日志 记录编号:QP格式QP-kkxxxxxx-nn其中kk为00,xxxxxx为项目号,nn为流水号- 用户名称:日期:合同编号:项目名称:备注:执行内容及执行情况描述

路***里 11年前 上传375   0

接入网规范篇测试试卷

接入类●规范篇测试 分公司:             部门:              姓名:               分数:             一、填空题(每空1.5分,共计57分) 1、 中国电信面向客户需求的服务保障与响应体系中,     、       、      、和业务提供构成其四大支柱。 2 、中国电信运维业务电路的开通时限平均为         天,电路开通

z***h 11年前 上传10094   0

“国培”日志和感悟

“国培”日志和感悟  今天我在县教委领导的信任下,怀着兴奋的心情,来到位于哈市南岗区珠江路19号的金三角招待所,准备参加维时15天的“国培”计划(xx)---黑龙江省农村骨干教师薄弱学科培训项目黑龙江省教育学院初中美术教师培训的学习活动。到了那里,首先我办理了入住手续,接下来在工作人员的接待下,到美术教研办公室,接受美术学科班主任马泰田老师关于上课的作息时间,日常生活以及课程安排的指导。由此

后***者 12年前 上传473   0

电子文件文档归档与管理规范操作

电子文件文档归档与管理规范操作 一、概述     根据项目部以往电子文件文档管理存在的问题,如:电子文件文档命名含糊不清、人员调动电子文件的相互交接不清、同一文件多个版本共存、最终电子版的存储位置不清楚、建立电子文档所用软件的版本高低不同,导致原本有电子版的文件,由于查找不到等原因,给我们的工作中带来了相当大的重复性、前后不一致、加大了我们的日常工作量。总结了以往经验,根据项目实际情况对电子

l***p 14年前 上传16677   0

规范性文件转送函

规范性文件转送函  ____________[ ]号  ________________(接受转送机关):  ______(申请人)不服______________________(被申请人的具体行政行为)提出的行政复议申请,我们依法已予受理。我们认为,被申请人作出具体行政行为的依据______________(不合法的具体情况),根据《中华人民共和国行政复议法》第二十七条和其他有关

r***6 9年前 上传756   0

关于加强规范性文件管理的通知

关于加强规范性文件管理的通知为认真贯彻落实《湖北省人民政府关于加强市县政府依法行政的实施意见》(鄂政发〔2008〕59号)和《省政府办公厅关于加强规范性文件管理的通知》(鄂政办发〔2008〕85号)精神,切实加强我县规范性文件管理,现就有关事项通知如下   一、规范性文件,是指依法行使行政管理权的行政机关和法律法规授权的组织,为有效实施行政管理,依照法定职权和程序制定的,涉及公民、法

w***y 12年前 上传927   0

行政规范性文件管理规定

行政规范性文件管理规定第一条为加强行政规范性文件管理,维护法制统一,根据有关法律、法规,结合本市实际,制定本规定。第二条本规定适用于本市行政规范性文件的起草、审查、公布、备案和解释。第三条本规定所称行政规范性文件,是指政府及其工作部门、直属机构根据法律、法规、规章和上级政府的命令、决定,依据法定职权和程序制定公布的,涉及公民、法人和其他组织权利、义务,在一定时期内反复适用,在所管辖区域内具

z***a 2年前 上传760   0

规范性文件转送函(一)

规范性文件转送函(一)  ____________[ ]号 ________________(接受转送机关):   ______(申请人)不服______________________(被申请人的具体行政行为)提出行政复议申请时,一并提出对______________(规范性文件)的审查申请。   根据《中华人民共和国行政复议法》第二十六条和其他有关规定,现将有关材料转去,请予审查

西***米 10年前 上传812   0

为什么要写日志和怎么写

为什么要写日志和怎么写为什么要写日志和怎么写志就是史,写史的目的是记得失功过,明兴衰之理。日志就是个人的史,记录发展,总结规律,把握自己的兴衰。国史有本纪、世家和列传,日志有计划、问题和学习。计划:做事没有计划是很多人的通病,所以定期制定计划并每天核定一下计划执行情况,是对自己负责的行为,不要浑浑噩噩过日子。我们的事情不都是别人安排的吗?为什么要制定计划?一直是别

梅***兰 11年前 上传536   0

参加国培研修日志和感悟

参加国培研修日志和感悟  教师培训日志1   xx-11-11    星期四  晴  今天是我们在学院的第一天培训,感觉受益匪浅。虽然课上时间紧,任务重,但是我觉得很快乐。  老师为我们讲了开展这次培训的目的和意义,还给我们做了现代教育技术与课程整合方面的培训。下面结合我平时的工作,谈几点自己在这方面的体会。教育技术与各学科课程整合,是教育、教学的大趋势,它将彻底改变传统教学的过程和

l***2 11年前 上传523   0

关于废止和修改部分招标投标规章和规范性文件的决定

  关于废止和修改部分招标投标规章和规范性文件的决定 为落实《国务院办公厅转发发展改革委法制办监察部关于做好招标投标法实施条例贯彻实施工作意见的通知》(国办发[2012]21号)关于全面清理与招投标有关规定的要求,国家发展改革委会同有关部门,根据《招标投标法实施条例》,在广泛征求意见的基础上,对《招标投标法》实施以来国家发展改革委牵头制定的规章和规范性文件进行了全面清理。经过清理,决定:

x***2 10年前 上传7820   0

华彩9001程序文件-3级文件-公司各部门岗位规范-员工岗位规范(单据输入员)

 宁波华彩电器公司文件发布 2006-12-31实施 2007-01-01修改 2006-12-31文件名称:员工岗位规范(单据输入员)编 制:文件编号:QB/HC3001-59 版本:A/01审 核:主控部门:行政部批 准:岗位规范岗位名称单据输入员所属部门财务部直接上级财务部长直接下级任职资格1. 最低学历中专2.

天***猩 1个月前 上传89   0

华彩9001程序文件-3级文件-公司各部门岗位规范-恒立分厂岗位规范

 宁波华彩电器公司文件发布 2006-12-31实施 2007-01-01修改 2006-12-31文件名称:员工岗位规范(厂长助理)编 制:文件编号:QB/HC3001-01 版本:A/01审 核:主控部门:行政部批 准:岗位规范岗位名称厂长助理所属部门恒立分厂直接上级恒立分厂厂长直接下级仓库主任任职资格1. 最低学历

天***猩 1个月前 上传86   0

门诊日志管理制度(规范)

门诊日志管理制度1、门诊部各科室要建立门诊日志,详细登记接诊病人。2、门诊日志要按照日志规定的项目填写详细、齐全,内容要保证真实可靠。3、对门诊日志上登记需上报的传染病要做出明显标志,疫情上报后,医院疫情管理人员要加盖“疫情已报”章,或有明显的标志记号。4、对疑似传染病和确诊的传染病病例,要登记其具体内容(如:姓名、性别、年龄、发病日期、诊断日期、工作单位、家庭详细住址等),14岁以下

雅***韵 3年前 上传1472   0

沈阳东东系统集成有限公司质量管理规范文件——文件编号规程

操作规程R-05001总页数3正文3附件0文件控制部门:项目管理部文件编号规程 批准人刘岩审核人张秀邦拟制人崔戈批准日期1999.5.12生效日期1999.5.12关联文件规程管理规程R-

w***t 12年前 上传556   0

沈阳东东系统集成有限公司质量管理规范文件——文件保管规程

操作规程R-05002总页数3正文2附件1文件控制部门:项目管理部文件保管规程 批准人刘岩审核人张秀邦拟制人崔戈批准日期1999.5.12生效日期1999.5.12关联文件沈阳

s***6 11年前 上传447   0

沈阳东东系统集成有限公司质量管理规范文件——文件管理规程

业务规程R-05000总页数4正文3附件1文件控制部门:项目管理部文件管理规程 批准人刘岩审核人张秀邦拟制人崔戈批准日期1999.5.12生效日期1999.5.12关联文件审查、批准规程(R-

北***号 8年前 上传457   0

浙江省用水和用气报装接入服务导则(2019)

浙江省用水和用气报装接入服务导则(试行)浙江省住房和城乡建设厅2019年12月前 言为全面落实党中央、国务院和省委省政府深化“放管服”改革和优化营商环境部署,纵深推进“最多跑一次”改革,提高全省用水、用气报装市政公用服务质量和效率,持续提升用户用水、用气报装的便利性、满意度和获得感。导则编制组经广泛调查研究,认真总结实践经验,

雅***韵 4年前 上传1175   0

互联网接入和使用管理工作自查情况汇报

Xxxxxx互联网接入和使用管理工作自查情况汇报    根据xxxxx《xxxxxxx》的文电要求,为加强互联网接入终端的安全性,做好重要资料、文件失泄的预防工作,近日我局对县委机关的所有互联网终端进行了检查,现将自查情况汇报如下: 一、密码部门及信息化管理部门互联网使用管理情况 我局及信息化管理部门互联网接入终端均放置在综合办公区域,与涉密网络、设备实行物理隔离,综合办公区域内共有互联网

c***y 11年前 上传11648   0

小区市话配套和宽带接入系统

小区市话配套和宽带接入系统 21.1电话通信系统 21.1.1电话通信系统设计方案 21.2.1 小区宽带网络建设的必要性 41.2.2宽带接入设计思想 51.2.3 设计范围及要求 81.2.4 设计依据 81.3 宽频网络设计方案 91.3.1宽频网络提供的功能 91.3.2 宽频网络规划 101.3.3 宽频网络结构 111.4 宽频网络布线方案

w***n 9年前 上传403   0

学院文件和内部资料阅文管理规定

学院文件和内部资料阅文管理规定学院文件和内部资料阅文管理规定为了进一步加强学院文件和内部资料的管理,消除文件和内部资料传阅管理工作中的隐患,提高办事效率,确保文件和内部资料的精神或工作要求得到贯彻落实,同时确保党和国家秘密不泄露,使收文传阅迅速,批处及时,责任明确,执行有力,特制定本规定:一、严格控制传阅范围。传阅的范围要合理,要宽严适度,对于涉密的文件或有明确传阅范围规定的文件,

s***o 2年前 上传494   0

品质-质量文件编制、标识和印章管理流程

1. 目的 规定质量管理体系文件编写及格式通用要求,为质量管理体系文件的识别和有效控制提供准则。 2. 适用范围 适用于对公司质量管理体系文件的编制和修改以及公司质量体系文件印章的管理。 3. 相关文件 文件管理程序 TF/COP-01 4. 文件标识 文件的标识一般有以下5部分组成: 1. 公司标识,只在文件左上贴公司Logo --- 。 2. 文件名及编号,对应使用,应是

h***n 10年前 上传22033   0

安全生产文件与资料识别和制度

第一章总则第一条为加强我公司化系统文件与资料的识别、控制和,并根据生产的变化,及时给予修订或废除,依据生产的需求及时建立、更新化文件与资料,确保各项规章的产生、使用、评审、修订和控制各个环节的及时性和有效性,和防止使用失效或作废文件与资料,特制定本。

文艺范书香满屋 3年前 上传698   0