大数据架构师岗位主职责
大数据架构师需要熟悉整个大数据处理流程,包括数据采集、清洗、预处理、存储、数据分析、机器学习、数据可视化等。今天小编在这给大家整理了一些大数据架构师岗位主职责,我们一起来看看吧!
大数据架构师岗位主职责(篇1)
职责:
1.负责过多个大数据项目的架构;
2.精通Hadoop、Spark, HBase等主流的大数据平台、精通各组件优化设计原理;
3.精通大数据实时流式处理的设计和应用;
3.熟悉大数据平台调优,具备大数据生产平台调优经验;
4.金融行业,运营商行业大数据架构经验更优;
5.研究大数据技术的最新发展,并引入到公司技术架构;
6.指导大数据工程师的日常工作,并培养技术骨干。
任职资格:
1.计算机相关专业本科或以上学历;
2.具有5年以上大数据相关开发经验;
3.具有2年以上带团队经验
4.对Hadoop/Hive/Spark/HBase/ES等等大数据常用技术有深刻理解,能够带领团队进行技术攻坚,完成中间件的实施、改造、调优;
5.精通海量数据和实时数据的分析处理,能对线上的数据处理性能问题做调优;
6.精通数据仓库以及维度建模原理,有大型数据仓库建设经验;
7.精通关系型数据库和NoSQL数据库的使用,熟悉相关理论;
8.沟通顺畅,重点突出,高效。
大数据架构师岗位主职责(篇2)
1.负责大数据平台的开发,管理;
2.负责ETL批量数据集成作业设计开发工作;
3.负责数据批处理作业调度工具的使用操作;
4.设计数据建模方案,对业务数据进行分析和建模;
5、负责平台故障处理及性能优化;
6、负责项目团队技术培训、指导;
大数据架构师岗位主职责(篇3)
1.负责企业数据中心建设,设计数据逻辑模型和物理模型,并完成相关开发
2.梳理公司各业务线常用的指标和维度,统一指标定义口径
3.根据数据应用开发和数据分析需求,设计数据仓库信息层模型,提高数据开发的效率
4.负责数据模型的运营和优化,及时响应业务逻辑变更,保证模型的数据质量和稳定性
5.负责公司数据标签体系的建设,并推动标签体系在实际业务场景中落地
大数据架构师岗位主职责(篇4)
职责:
1.负责公司新业务方向平台大数据基础架构的搭建及后期数据处理体系的升级和优化,不断提升系统的稳定性和效率。为公司未来方向性产品提供大数据底层平台的支持和保证。
2.负责制定大数据平台调用约束和规范;
3.负责大数据方向技术难题的解决,以及代码质量的把控;
4.作为大数据开发团队的leader,负责大数据系统平台开发团队建设与人才梯队培养,分享技术经验,撰写相关技术文档指导和培训工程师。
任职要求:
1.热衷于大数据技术,并能平衡大数据性能、稳定性、扩展性多重要素进行设计和优化;
2.熟悉服务器基本知识,能够评估系统硬件性能瓶颈;
3.掌握Linux操作系统的配置,管理及优化,能够独立排查及解决操作系统层的各类问题,并能提供解决问题的理论依据;
4.精通Java服务器编程,熟悉JVM原理,对数据结构和算法设计有较为深刻的理解;
5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底层架构,熟悉原理、源码、集群部署,包括参数优化、Bug修复,贡献过代码或提交过bug者优先
6.具备数据中心资源管理、监控、调度等系统研发经验者优先,具备分布式系统研发经验者优先;
7.具有应用大数据技术处理的项目开发、维护超过两年的经验者优先;
8.具有良好的文档编写能力,可进行方案设计、架构设计。
大数据架构师岗位主职责(篇5)
1、负责数据中台和数据产品的规划和建设,并为战略决策和业务决策提供决策依据;
2、制定数据质量、数据模型、数据安全等大数据领域相关标准,并推动落地;
3、负责与业务团队协同规划数据中台体系架构设计,数据领域模型建设,并推动落地;
4、负责大数据应用规划、为数据挖掘、业务团队提供指导;
5、负责在数据平台、大规模分布式系统等领域开展前沿技术研究和落地;
大数据架构师岗位主职责(篇6)
1、领导负责大数据技术团队建设及管理,并根据业务需求,制定大数据(包括数据存储,数据模型,数据应用架构)的整体技术栈、业务应用框架和系统架构技术路线;
2、参与规划从数据源到数据应用的整体流程,并参与相关产品的决策;
3、负责规划大数据产品的架构设计,包含数据集成、数据存储、数据应用,并完成相关架构设计文档的撰写;
4、负责系统功能模块分解,接口设计,技术文档规范,统筹技术全局,具备随时为各模块工作补位能力;
5、跟踪、研究和应用大数据相关前沿技术,持续对大数据应用系统进行性能优化、功能改善以及稳定性提升;
6、通过参与大数据相关的业务线全过程,提供技术决策。
大数据架构师岗位主职责(篇7)
1、大数据平台的搭建与维护、优化。含存储、数据处理和分析系统的开发和维护。
2、机器学习、智能算法、实时数据处理程序和算法开发,针对业务场景提供核心算法解决方案。
3、负责公司核心产品数据层架构设计,牵头重大项目方案设计,组织重点项目技术文档的撰写、维护和更新,协助做好信息系统建设中的技术把关;
4、负责数据层代码框架与核心模块开发,承担重点、难点的技术攻坚,提高团队技术能力,对团队的整体质量负责,review具体技术方案和代码实现;
5、研究大数据技术发展动态,研究新型计算框架,并能够提出优化解决方案;
大数据架构师岗位主职责(篇8)
职责:
负责公司大数据产品架构的设计与实现;
配合大数据产品经理完成产品的快速研发与交付;
负责大数据产品架构的持续优化设计;
负责大数据产品核心组件设计;
负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;
为应用开发团队提供技术支撑。
及时向上级反馈工作进度、遇到的问题或者对现有工作的建议等;
完成上级领导交办的其它各项工作。
大数据架构师岗位主职责(篇9)
1、大数据平台的规划、设计、实施,并优化数据库;
2、对数据库进行管理,负责数据库应用系统的运营及监控;
3、对数据库性能分析与调优,排错,保证数据正确率;
4、配合其他部门进行的数据处理、查询,统计和分析工作;
5、完成公司下达的项目开发任务。
大数据架构师岗位主职责(篇10)
1、深入理解业务需求,负责数据中台的架构设计、关键技术实现,并指导团队理解架构、完成数据中台产品系统的开发;
2、负责解决开发过程中存在的技术问题,优化中台架构和设计,保障系统性能与可靠性、安全性;
3、参与整体平台技术规划、方案等相关支持工作;