大数据模板(通用15篇)
大数据模板(1)
职责:
负责金融银行大数据系统相关模块的数据架构及研发实施工作
依据业务场景、分析需求提供技术解决方案并加以实现;
与客户业务部门对接,解决数据建模、报表和报告在系统开发遇到的问题;
任职资格:
具备3年以上DW系统建设经验,了解BI系统,有数据管理经验,有维度建模相关经验,了解数据仓库建设过程中的挑战与问题
精通多系统数据融合、清洗、转换、整合,具备海量数据加工处理相关经验
熟悉业界数据仓库建模方法、元数据管理、数据质量体系管理
掌握大型数据库开发技术(ORACLE/DB2等),有丰富的数据库模型设计和优化经验
熟练掌握Unix/Linux常规命令、工具及Shell编程
掌握一门或多门编程语言优先,如Java、Python、scala等
熟悉Hadoop、spark、kafka等大数据生态相关技术,有相关实践经验着优先良好的语言沟通与表达能力和自我驱动动力具备银行项目设计、开发、优化等经验者加分
大数据模板(2)
职责:
1、 参与ODS系统或Hadoop 系统数据库相关开发,包括数据仓库的数据模型设计(ODS层设计、基础数据层设计、汇总层设计等);
2、 参与ETL Mapping设计及开发工作;
3、 参与客户/用户画像、经营管理、产品画像、营销活动等主题域建设工作。
资质要求:
计算机相关专业本科及以上学历,优秀者放宽至大专;
有大型数据库(ORALCE/MSSQL SERVER等)开发经验,有Sybase IQ\HIVE\Spark SQL开发经验者优先;
3、有较强的SQL编程能力,熟练编写存储过程,能设计各种复杂的业务处理、统计分析语句,精通sql性能优化;
4、具有数据仓库、ods、BI商务智能项目经验者优先,具有金融行业项目背景者优先;
5、较好的沟通理解能力,态度踏实,积极上进。
大数据模板(3)
职责
1、负责公司大数据平台建设工作,完成Hdaoop/Spark搭建部署,根据业务需要进行开发;
2、开发实现网络爬虫并爬取所需数据,有效存储到大数据平台;
3、对平台数据做预处理,满足数据展现及后续机器学习等系统使用;
4、根据业务需要,应用大数据实时分析技术、可视化技术等,并对平台发展规划进行设计。
任职资格
1、本科及以上学历,计算机相关专业;
2、熟悉数据仓库和数据建模相关技术细节,有编程经验,熟悉SQL/Hadoop/Hive/Hbase/Spark等大数据工具;
3、具备海量数据处理经验,或有互联网行业数据挖掘工作经验;
4、1年以上岗位经验优先,本科应届有意向的,可优先培养。
大数据模板(4)
职责:
1、负责公司大数据集群的构建,任务调度、监控预警,持续完善大数据平台,保证稳定性、安全性;
2、负责集群容量规划、扩容、集群性能优化及日常巡检和应急值守,参与大数据基础环境的架构设计与改进;
3、深入研究大数据业务相关自动化运维技术,持续优化集群服务架构,探索新的大数据运维技术及发展方向;
任职要求:
1、熟悉Linux系统及基础命令操作,能够独立编写Shell或Python脚本,开展日常服务器的运维工作;
2、熟悉并不限于大数据生态圈Hadoop、Strom、Spark、HDFS、Kafka、Zookeeper、Hbase、Redis、ElasticSearch、fastdfs
等相关基础组件的框架知识和运行原理;
3、熟悉软硬件设备,网络原理,有丰富的大数据平台(CDH、HDP)部署、集群运维和性能优化等经验;
4、具备一定的系统自动化运维理论体系和实际经验,能够利用各种开源监控工具、运维工具,HA、负载均衡软件完成工作任务;
5、具备较强的学习能力、抗压能力、动手能力和分析解决问题的能力;
6、熟悉JVM虚拟机调优;
7、熟悉jenkins持续集成;
8、有一定的文档编写能力;
9、能适应短期出差,有公安视频图像侦查业务方向经验者优先;
大数据模板(5)
职责:
负责公司大数据业务集群的运维工作、集群容量规划、扩容及性能优化;
设计实现大规模分布式集群的运维、监控和管理平台;
参与业务架构设计,在设计阶段给出可运维性改进建议;
深入研究大数据业务相关运维技术,持续优化集群服务架构,探索新的大数据运维技及发展方向;
负责公司大数据平台的应用监控、容量管理,应急响应等;
领导安排的其他工作。
任职要求:
1、本科及以上学历,软件工程、计算机等相关专业;
2、熟悉计算机原理、网络原理等知识;至少2年以上运维或开发工作经验;
3、搭建,管理及调优Hadoop/HBase/Hive/Flink/Spark/Kafka/Elasticsearch/Flume等开源项目优先;
4、至少掌握java/python/go中的一种语言;
5、熟悉HBase/Flink/mysql/redis运维优先;
6、熟悉zabbix/graphit/grafana加分;
7、具有很强的分析和解决问题的能力;
8、具有攻克难题的强烈兴趣,以及提升技术能力的意愿;
9、善于主动学习,责任心强,能够承受较大的工作压力。
大数据模板(6)
职责:
负责公司大数据业务集群的运维工作(Hadoop/Hbase/Hive/Presto/Yarn/Spark/Storm/Kafka/Elasticsearch/Flume等)确保高可用;
负责大数据平台的日常部署、升级、扩容、迁移;
设计实现大规模分布式集群的运维、监控和管理平台;
参与业务架构设计,在设计阶段给出可运维性改进建议;
深入研究大数据业务相关运维技术,持续优化集群服务架构,探索新的大数据运维技及发展方向;
兼顾应用系统的运维工作。
任职要求:
要求掌握java、shell语言,有Spring Cloud微服务架构开发经验的优先;
了解Docker,可以做简单应用;
熟悉Hadoop/Hbase/Hive/Storm/Spark/Kafka/Elasticsearch/Flume等开源项目优先;
熟悉Linux操作系统的配置、管理及优化,能够独立排查及解决操作系统层面的问题;
掌握puppet、kerberos应用的优先;
良好的客户服务意识,强烈的责任心和使命感,执行力强,富有团队合作精神;
对大数据方向运维有很高的热情和兴趣,能主动学习了解相关知识;
大数据模板(7)
职责:
负责公司大数据业务集群的运维工作、集群容量规划、扩容及性能优化;
设计实现大规模分布式集群的运维、监控和管理平台;
参与业务架构设计,在设计阶段给出可运维性改进建议;
深入研究大数据业务相关运维技术,持续优化集群服务架构,探索新的大数据运维技及发展方向;
负责公司大数据平台的应用监控、容量管理,应急响应等;
领导安排的其他工作。
任职要求:
1、本科及以上学历,软件工程、计算机等相关专业;
2、熟悉计算机原理、网络原理等知识;至少2年以上运维或开发工作经验;
3、搭建,管理及调优Hadoop/HBase/Hive/Flink/Spark/Kafka/Elasticsearch/Flume等开源项目优先;
4、至少掌握java/python/go中的一种语言;
5、熟悉HBase/Flink/mysql/redis运维优先;
6、熟悉zabbix/graphit/grafana加分;
7、具有很强的分析和解决问题的能力;
8、具有攻克难题的强烈兴趣,以及提升技术能力的意愿;
9、善于主动学习,责任心强,能够承受较大的工作压力。
大数据模板(8)
职责:
负责公司大数据业务集群的运维工作(Hadoop/Hbase/Hive/Presto/Yarn/Spark/Storm/Kafka/Elasticsearch/Flume等)确保高可用;
负责大数据平台的日常部署、升级、扩容、迁移;
设计实现大规模分布式集群的运维、监控和管理平台;
参与业务架构设计,在设计阶段给出可运维性改进建议;
深入研究大数据业务相关运维技术,持续优化集群服务架构,探索新的大数据运维技及发展方向;
兼顾应用系统的运维工作。
任职要求:
要求掌握java、shell语言,有Spring Cloud微服务架构开发经验的优先;
了解Docker,可以做简单应用;
熟悉Hadoop/Hbase/Hive/Storm/Spark/Kafka/Elasticsearch/Flume等开源项目优先;
熟悉Linux操作系统的配置、管理及优化,能够独立排查及解决操作系统层面的问题;
掌握puppet、kerberos应用的优先;
良好的客户服务意识,强烈的责任心和使命感,执行力强,富有团队合作精神;
对大数据方向运维有很高的热情和兴趣,能主动学习了解相关知识;
大数据模板(9)
职责:
1、负责公司服务器日常的维护,包括巡检、故障排除、数据备份等业务,保证服务器高质量、高效率运行状态;
2、负责公司大数据产品的现场实施,制定可靠的实施方案;
3、负责公司大数据环境(hadoop生态)集群环境安装、维护、部署、优化;
【任职资格】
1、至少2年服务器、大数据集群运维经验;
2、精通linux运维命令,熟悉Linux的维护和管理,熟悉Shell脚本开发,能看懂Python/Scala优先;
3、熟悉大数据项目实施:包括不限于hadoop、hive、kafka、hbase、spark、Kudu、Impala等大数据生态的平台搭建,监控,运维,调优、生产环境;
4、熟悉docker技术优先;
5、熟练使用git版本控制,jenkins持续集成工具优先;
6、具备强烈的进取心、自我学习能力,良好的沟通能力和团队合作意识。
大数据模板(10)
职责:
负责公司大数据平台的运维保障;
负责大数据平台的架构审核、业务监控、持续交付、应急响应、容量规划等;
为线上服务高效稳定运行负责,支撑业务和数据量的快速扩张;
负责生产及测试集群诸如故障定位恢复、系统安全、性能优化等;
任职要求:
计算机相关专业本科及以上学历,3年以上相关工作经验
精通Hadoop大数据生态圈,熟悉Hadoop各组件的原理,并有实际部署维护经验;包括但不限于HDFS、YARN、Kafka、Spark、HBase、Kerberos、Hive、Kudu、Zookeeper等;
具备很强故障排查能力,有很好的技术敏感度和风险识别能力,良好的服务意识,善于团队协作,项目管理,主动思考,自我驱动力强;
有相关动态编排容器技术和虚拟化技术工作经验者优先;
深入理解Hadoop各组件的原理和实现,有阅读源码能力者优先;
具备很强的ownership,故障排查能力,有很好的技术敏感度和风险识别能力。
大数据模板(11)
1、负责建设大数据平台的规划、架构设计和技术选型;
2、开发和使用Hadoop大数据自动化运维与监控工具;
3、基于大数据应用需求,负责优化平台的性能,消除性能瓶颈,解决业务的疑难问题;
4、熟悉Hadoop、Hive、Hbase、Storm、Spark等技术框架; 熟悉java、scala、sqllite等相关技术;具备软件设计、编码开发测试、文档编写的能力;
5、积极了解业界发展、互联网相关新技术及趋势,参与规划公司大数据产品未来技术架构方向;
6、负责大数据平台内部所涉及到的各类数据库、数据存储的搭建、备份、日常维护、性能调优;以及大数据平台系统运维、监控和故障分析与处理;
7、能够很好的和其它团队的同事沟通协作;
8、负责文档的书写和完善,保证文档的及时更新;
9、有大型开源系统维护经验优先。
大数据模板(12)
职责:
1、独立负责工作小组,并对下级成员进行监督;
2、具备资源整合以及对软件项目全局把控的能力;
3、负责软件项目的系统设计和需求分析;
4、制定软件项目开发计划,并按时完成功能模块的设计、开发以及编程任务;
5、积极配合并完成主管下达的任务,并能够对软件部门的发展规划提出意见;
任职条件
1、大数据相关开发经验3年以上,至少具备2年以上java开发经验;
2、有基于hadoop的数据抽取、转换、加载的开发相关经验;
3、熟练掌握hadoop生态的相关知识,如hive,hbase,,storm,spark,mapreduce等;
4、熟悉Linux操作系统。熟悉linux各项基本操作,至少掌握一门脚本语言;
5、熟练数据仓库,对多维数据建模有深入理解;
6、有BI数据平台、数据仓库、日志采集、多维数据仓库设计、开发、架构经验者优先;
7、思维敏捷,有较强的钻研学习能力,较好的沟通能力、团队合作;
大数据模板(13)
1、负责数据仓库和大数据处理模块的架构设计和开发;
2、负责实现基于Spark框架的分布式计算框架的设计和开发工作;
3、负责Spark技术研究和通用数据平台的性能调优;
4、负责大数据项目中,基于kafka、flume、spark streaming、Spark SQL等相关技术的海量数据的处理、分析、统计、挖掘工作。
5、熟悉Scala/Java语言,对Scala/Java原理、底层技术有深入研究者优先;
6、有过海量数据系统开发经验者优先;
7、熟悉Hadoop/Spark生态系统组件的使用,至少有2年以上的Spark开发经验;
8、写过推荐系统的优先考虑
大数据模板(14)
职责
1、负责公司大数据平台建设工作,完成Hdaoop/Spark搭建部署,根据业务需要进行开发;
2、开发实现网络爬虫并爬取所需数据,有效存储到大数据平台;
3、对平台数据做预处理,满足数据展现及后续机器学习等系统使用;
4、根据业务需要,应用大数据实时分析技术、可视化技术等,并对平台发展规划进行设计。
任职资格
1、本科及以上学历,计算机相关专业;
2、熟悉数据仓库和数据建模相关技术细节,有编程经验,熟悉SQL/Hadoop/Hive/Hbase/Spark等大数据工具;
3、具备海量数据处理经验,或有互联网行业数据挖掘工作经验;
4、1年以上岗位经验优先,本科应届有意向的,可优先培养。
大数据模板(15)
职责:
1、 参与ODS系统或Hadoop 系统数据库相关开发,包括数据仓库的数据模型设计(ODS层设计、基础数据层设计、汇总层设计等);
2、 参与ETL Mapping设计及开发工作;
3、 参与客户/用户画像、经营管理、产品画像、营销活动等主题域建设工作。
资质要求:
计算机相关专业本科及以上学历,优秀者放宽至大专;
有大型数据库(ORALCE/MSSQL SERVER等)开发经验,有Sybase IQ\HIVE\Spark SQL开发经验者优先;
3、有较强的SQL编程能力,熟练编写存储过程,能设计各种复杂的业务处理、统计分析语句,精通sql性能优化;
4、具有数据仓库、ods、BI商务智能项目经验者优先,具有金融行业项目背景者优先;
5、较好的沟通理解能力,态度踏实,积极上进。