《大数据架构师的岗位职责.docx》由会员分享,可在线阅读,更多相关《大数据架构师的岗位职责.docx(33页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、大数据架构师的岗位职责大数据架构师的岗位职责(精选19篇) 大数据架构师的岗位职责 篇1 职责:1、负责公司大数据产品的架构设计,包含数据收集、数据存储、数据应用,并完成相关架构设计文档的撰写;2、参加规划从数据源到数据应用的整体流程,并参加相关产品的决策;3、负责解决核心技术问题,对技术方案进行决策;4、负责大数据研发团队建设、人才梯队培育和技术团队管理;5、主动了解业界发展,探讨与跟踪大数据新技术发展方向。任职要求:1、精通GoldenGate For BigData相关理论,具备大型数据利用的生产实战阅历;2、精通数据驱动的理论,设计并生产上线相关数据驱动的产品;3、精通常用消息中间件的
2、运用,例如kafka/RocketMQ/Apache Pulsar,有解读相关源码者优先;4、驾驭hadoop、spark生态体系相关产品的运用,驾驭MapReduce编程或Spark编程;5、了解传统数据仓库理论及相关ETL工具,例如kettle/datastage;6、熟识Oracle、Mongodb、Mysql数据库的运用;7、扎实的Java语言基础,熟识Java开发工具和调试工具的运用;8、良好的团队协作精神,有实力对团队在软件设计、实现和测试方面进行指导;9、良好的逻辑分析实力和沟通实力,执行力强、对待工作仔细严谨、责任心强、具备精彩的学习实力和团队合作精神,有肯定的推动实力;10、
3、计算机科学、信息技术或相关领域本科以上学历,具有5年以上数据平台项目开发阅历,3年以上的架构设计阅历,具有大数据平台应用大型项目架构设计阅历优先; 大数据架构师的岗位职责 篇2 职责:1.负责公司大数据底层框架的整体架构设计,结合公司实际业务状况进行技术选型及大数据战略规划;2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发,不断提升系统的稳定性和效率;3.负责架构优化及系统关键模块的设计开发,帮助团队解决开发过程中的技术难题;4.建立良好的公司内外的业界技术影响力;有效辅导团队,提升数据研发实力;任职要求:1.从事大数据项目相关开发和设计2年以上阅历;有作为技术负责人系统化解决问
4、题的胜利案例;有海量数据实践阅历优先;2.拥有肯定的算法和数据结构基础;有很强的数据设计抽象实力,擅长从困难的数据问题中找到关键路径;3.熟识目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于:hadoop、storm、spark、等;4. 良好的逻辑思维实力,良好的业务解读实力,懂电力或通信业务优先;5.具有钻研精神,乐于接受挑战; 大数据架构师的岗位职责 篇3 职责:1、负责大数据开发团队建设;2、负责行业大数据产品架构设计与研发;3、负责带领团队进行行业大数据产品关键技术攻关。任职要求:1、有三年以上大数据应用、开发阅历;具备海量数据加工处理(ETL)相关阅历,对数据挖掘及机
5、器学习有较为深刻的理解;2、熟识Hadoop相关技术,对HDFS、MapReduce、Hive、HBase有肯定的运用和开发阅历;3、熟识Linux,娴熟运用Shell或Python,进行脚本编写;4、对数据结构和数据统计分析算法有较为深刻理解;5、驾驭至少一种主流关系数据库开发技术:Oracle、SQL Server、MySQL等;6、驾驭实时流计算技术,有Spark、Storm开发阅历者优先;7、须要具备2年以上研发团队管理阅历。 大数据架构师的岗位职责 篇4 职责:1)负责公司软件产品整体架构的设计和关键功能实现2)负责公司架构长期看护以及优化;3)负责软件部门各模组间的协调协作;4)提
6、高巩固软件代码质量;5)负责大数据流式框架的设计、优化及部署;6)规划研发部门员工的技术发展路途并供应必要的帮助和指导任职资格:1)本科及以上学历,计算机相关专业,5年以上工作阅历;2)频繁换工作,比如一年一个公司,请绕路;3)3年以上产品架构阅历,主导过产品的胜利上线;4)对底层设备通讯协议,B/S系统,手机APP开发等都有肯定的了解;5)对各种主流语言C#JavaPathon有肯定的了解5)精通各种大数据架构,并深化探讨过其中一种,有stormkafka等流式实时处理阅历为佳6)能够担当较强的工作压力,有良好的自我驱动实力和责任感;7)具备优秀的逻辑思维实力、表达实力、沟通协调实力。 大数
7、据架构师的岗位职责 篇5 职责:1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构;2、探讨大数据领域前沿数据挖掘技术,并引入相应技术在数据中心的运用;3、进行大数据系统框架设计、模型算法开发;4、负责大型数据挖掘项目方案制定、项目实施落地及优化等 ;5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作;任职资格:1、本科以上学历(持有学士学位)(985,211优先),计算机相关专业,五年工作阅历;2、二年以上数据挖掘项目阅历,完整参加过数据挖掘大数据平台的架构开发过程,具备互联网行业背景优先;3、精通分布式计算框架(hadoop、spark、Sto
8、rm等)及相关阅历,娴熟驾驭Hive/SQL,Python,熟识Python、R相关数值科学计算库(NumPy,SciPy等);4、了解传统的BI/DW 理论,能结合传统BI实践设计大数据平台;5、熟识常用机器学习算法(如分类、回来、聚类、关联规则等)及其原理,具备应用场景阅历,如用户画像、商品关联度分析、舆情分析;6、熟识主数据、元数据、数据质量、和数据建模等数据治理相关的体系和方法;7、具备较强的逻辑思维实力、数据敏感度,擅于利用数据发觉问题及解决问题; 大数据架构师的岗位职责 篇6 职责:1、负责大数据平台的架构设计、核心代码开发等任务;依据项目要求编写相关技术文档;2、负责大数据平台的
9、架构评审,代码评审,上线评审;参加数据应用需求、设计、审核和评审;3、负责核心模块研发,负责大数据平台的搭建,完成系统调试、集成与实施;4、负责建立和维护大数据平台技术标准规范,指导开发人员编写代码;任职要求:1、本科及以上计算机相关专业毕业;2、精通离线和实时数据处理流程,驾驭离线数据处理框架hive、impala、spark-sql等,驾驭实时数据处理常用技术工具,包括Storm、SparkStreaming等;3、熟识大数据技术生态圈,精通大数据技术架构,有大数据平台构建阅历;4、驾驭常见数据流接入工具,包括Flume、kafka等;5、娴熟驾驭基本的Linux操作系统和某种脚本语言编程
10、(如Shell等);6、驾驭一种或以上实时处理语言,如JAVA、SCALA、PYTHON等,有SCALA阅历者优先;7、有实际大规模数据(TB级以上)处理阅历优先; 大数据架构师的岗位职责 篇7 职责:负责公司大数据产品架构的设计与实现;协作大数据产品经理完成产品的快速研发与交付;负责大数据产品架构的持续优化设计;负责大数据产品核心组件设计;负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;为应用开发团队供应技术支撑。任职要求:本科及以上学历,3年以上的大数据开发阅历、2年以上大数据架构设计阅历;丰富的JAVA研发阅历,精通JAVA,熟识Python Scala等编程语言
11、;具备深厚的分布式系统或数据库系统的理论基础,熟识分布式计算系统的工作机制,具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计阅历;熟识整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化);精通各种大数据相关技术体系:Hadoop、Spark、Storm、ElasticSearch、Kafka;有数据挖掘、机器学习相关应用或探讨背景;沟通实力较好,主动主动意识较强,责任心较强。 大数据架构师的岗位职责 篇8 职责:1. 深刻理解政府行业业务模式,构建政府行业的数据模型,制定公司大数据技术发展路途;2. 对接业务探讨和技术部门,主动搜集和转化需求,
12、组织数据中心业务开发,进行数据相关产品需求分析和设计;3. 搭建数据仓库,研发数据库管理系统,搜集、提取、处理业务积累的海量数据,开展数据分析和挖掘;4. 依据公司战略和发展须要,规划数据中心重点工作和任务;落实部门人员、事务管理,开展跨部门、跨地区协作,帮助对外沟通与合作。职位要求:1. 5年以上相关工作阅历,有团队管理和项目管理阅历者优先;2.了解政府运作机制,驾驭财政行业学问,有电子政务行业阅历者优先;3. 娴熟驾驭运用Java或Python,精通数据库查询语言如SQL,Oracle等,在机器学习模型和算法方向有应用阅历者优先;4. 具备数据中心产品策划整体思维,有大数据处理、分析、挖掘
13、阅历者优先;5. 逻辑思维严密,具备业务抽象、分解和标准化的实力,口头和书面表达优秀;6. 有较强的大局意识和良好的团队合作意识,富有领导力,具备优秀的人际交往和沟通实力。 大数据架构师的岗位职责 篇9 职责:1、负责大数据项目技术架构评估与设计;2、负责关键功能的开发,技术难题的解决,以及输出代码的关键把控;3、负责对运用关键技术的预研和选型,完成PoC;4、指导工程师完成开发工作,并能共享技术阅历。任职要求:1、3年以上相关工作阅历,其中具有1年以上架构设计阅历2、熟识商业智能系统相关技术,如 ETL、数据仓库、OLAP开发;3、精通设计模式,熟识面对服务架构(SOA)以及其它常用软件架构
14、思想,有SOA方案设计、开发实施的实际阅历,要具备实际的服务规划、服务粒度划分阅历;并且要擅长设计可重用组件和可定制化产品。4、相关技术栈:Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;5、有扎实的计算机基础,熟识Java等编程语言; 大数据架构师的岗位职责 篇10 职责:1、负责面对政府信领域的企业(不限于)大数据平台、大数据应用等系统的架构设计、技术规划、技术选型2、跟进业界大数据技术发展动态,匹配行业应用诉求,制定大数据策略,提前识别关键技术并完成技术验证;3、支撑售前完成项目解决方案技术架构的设计及重要客户的沟通;4、负责指
15、导研发完成大数据产品的开发5、带领团队进行产品核心技术的创新和积累岗位要求:1、熟识BI和大数据领域的解决方案,具备该领域全面的技术积累,包括报表平台,OLAP引擎和DB,ETL,数据仓库建模和设计,海量分布式数据处理分析架构;2、在大数据处理和分析领域具有3年或者以上的技术规划、架构设计阅历,并有胜利的项目实践;3、4年以上Hadoop实战阅历,熟识Hadoop底层文件系统及分布式计算框架,具备传统数据仓库、MPP、Hadoop等混搭平台架构的设计实力和数据建模实力,对大规模数据并行计算、传输、处理等有丰富的阅历;4、有实际应用storm、spark、flume、kafka等项目阅历优先;5
16、、卓越的技术领导力,擅长沟通、发觉和解决产品需求阶段、开发阶段和测试阶段的问题,并能供应合理解决方案,有大中型互联网企业工作背景优先。 大数据架构师的岗位职责 篇11 职责:1. 负责大数据平台的基础技术规划,编制相关规范文档。2. 负责大数据平台的数据采集,处理,存储以及挖掘分析的架构实现。3. 负责大数据平台的实际规划建设,包括环境和框架的规划搭建以及部分核心编码工作。4. 负责大数据相关技术发展方向的预研。5. 参加业务需求调研,依据需求及行业特点设计大数据解决方案并跟进详细实施项目。6. 制定大数据平台中数据质量,业务质量监控及管理方法。岗位要求:1. 全日制本科及以上学历,5年以上工
17、作阅历,4年及以上大数据架构设计阅历,熟识大数据解决方案,包括Hadoop平台、Spark、storm、机器学习、深度学习等大数据解决方案。2. 深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践阅历。3. 精通大型数据库Oracle、SqlServer等的开发。4. 精通java,Python中的一种或多种语言。5. 熟识容器、虚拟化、微服务框架等相关技术。6. 对数据敏感,有严谨的工作思路,良好的沟通实力和团队合作精神。7. 熟识R,Python,SAS、SPSS等数据挖掘阅历者优先。8. 高宽展性,高性能,和分布式系统的实践及运维阅历
18、者优先。9. 有大型数据仓库实施、大数据平台数据开发阅历,熟识运营商业务者优先。 大数据架构师的岗位职责 篇12 职责:1、数据分析软件平台架构搭建2、负责深度学习核心框架或高性能后台服务系统的架构设计工作,包括系统总体规划、架构设计、系统分析、软件实现、性能优化;3、指导开发人员开发,并解决系统出现的问题,理解物业需求;4、制定开发安排和限制开发进度,负责指导研发团队开展设计工作;任职要求:1、硕士以上,计算机或先关专业;2、5年左右软件开发阅历,含3年以上系统分析、设计阅历,有大型软件项目大型软件项目;有中大型互联网企业数据库架构设计及管理阅历,3、 具备良好的组件级建模实力,熟识HTTP
19、、TCP等协议4、娴熟运用UML进行软件架构设计,至少精通EA,RATIONAL, VISIO等一种设计工具.5、精通至少一种编程语言,熟识 Linux 相关技术,能独立在上面进行开发、测试和部署6、深化理解数据库、数据仓库、大数据、分布式体系架构和关键技术 大数据架构师的岗位职责 篇13 职责:1、 基于公司大数据基础和数据资产积累,负责大数据应用整体技术架构的设计、优化,建设大数据实力开放平台;负责大数据应用产品的架构设计、技术把控工作。2、 负责制定大数据应用系统的数据平安管控体系和数据运用规范。3、 作为大数据技术方案到产品实现的技术负责人,负责关键技术点攻坚工作,负责内部技术推广、培
20、训及学问转移工作。4、 负责大数据系统研发项目任务规划、整体进度、风险把控,有效协同团队成员并组织跨团队技术协作,保证项目质量与进度。5、 负责提升产品技术团队的技术影响力,针对新人、一般开发人员进行有效辅导,帮助其快速成长。任职资格:1、 计算机、数学或相关专业本科以上学历,5-20xx年工作阅历,具有大型系统的技术架构应用架构数据架构相关的实践工作阅历。2、 有分布式系统分析及架构设计阅历,熟识基于计算集群的软件系统架构和实施阅历。3、 驾驭Hadoop/Spark/Storm生态圈的主流技术及产品,深化了解Hadoop/Spark/Storm生态圈产品的工作原理及应用场景。4、 驾驭My
21、sql/Oracle等常用关系型数据库,能够对SQL进行优化。5、 熟识分布式系统基础设施中常用的技术,如缓存(Varnish、Memcache、Redis)、消息中间件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有实践阅历者优先。6、 熟识Linux,Java基础扎实,至少3-5年以上Java应用开发阅历,熟识常用的设计模式和开源框架。 大数据架构师的岗位职责 篇14 职责:1. 负责大数据基础和应用平台的整体规划和架构设计,参加需求分析,架构设计,具体设计以及技术选型决策2. 参加数据挖掘和建模相关核心算法的代码实现3. 负责大数据算法平台的技术把关,性能调优,限制架
22、构质量,解决项目技术难题;对研发项目和任务需求进行评估和方案设计、拆分任务并指导工程师完成开发4. 带领团队供应并实现大数据算法平台上各项数据接入、数据挖掘分析及数据可视化的架构设计与实力,支持解决方案实施5. 负责数据库设计、应用架构设计、核心技术选型等工作6. 协调解决开发中的技术问题、设计和监控运营指标,保障系统稳定运行7. 培育,指导有实力的员工,指导工程师进行技术验证明现,核心技术攻关,解决开发过程中的技术难题任职要求:1. 熟识大数据和数据仓库的系统架构设计方法2. 娴熟运用并理解HadoopSpark架构及生态。(Hadoop,Hive,Hbase,Elasticsearch,K
23、afka,SparkFlink等)3. 熟识分布式系统架构,有分布式实时、离线和机器学习平台的架构和开发阅历,具备海量数据清洗、分析处理及存储的实践阅历4. 娴熟运用JAVA,具有大规模分布式系统调优阅历5. 熟识AI相关算法,熟识机器学习、深度学习。熟识AI学习开源框架(Tensorflow、PyTorch等)者优先;6. 具备良好的团队合作精神,对工作充溢激情。7. 熟识FusionInsight平台开发阅历者优先 大数据架构师的岗位职责 篇15 职责:依据大数据业务需求,设计大数据方案及架构,实现相关功能;搭建和维护大数据集群,保证集群规模持续、稳定、高效平稳运行;负责大数据业务的设计和
24、指导详细开发工作;负责公司产品研发过程中的数据及存储设计;针对数据分析工作,能够完成和指导负责业务数据建模。职位要求:计算机、自动化或相关专业(如统计学、数学)本科以上学历,3年以上大数据处理相关工作阅历;精通大数据主流框架(如 Hadoop、hive、Spark等);熟识 MySQL、NoSQL(MongoDB、Redis)等主流数据库,以及rabbit MQ等队列技术;熟识hadoop/spark生态的原理、特性且有实战开发阅历;熟识常用的数据挖掘算法优先. 大数据架构师的岗位职责 篇16 职责:1、正确理解业务需求,对需求进行工作量评估;2、参加项目相关的需求、设计、投产手册等文档的编写
25、;3、依据进度安排,完成所担当功能模块的设计、开发、单元测试、联调测试;4、协作测试组修复代码缺陷,确保功能实现与代码质量;5、负责所担当功能模块投产、部署,及上线后的日常维护;6、完成项目经理或者架构师支配的其他工作;任职资格:1、本科以上学历,计算机相关专业,两年以上大数据开发阅历;2、熟识Linux 环境,驾驭shell或python;3、娴熟运用hadoop,hive,HBase,YARN,kafka,spark等大数据开发组件;4、精通 ETL,数据仓库的设计和开发;5、有大数据处理实战阅历,熟识整个大数据的完整处理流程,包括数据的采集、清洗、存储;6、较强的动手实力和学习实力,良好
26、的沟通实力、团队协调实力;7、具有银行、金融行业从业背景者优先。 大数据架构师的岗位职责 篇17 职责:1.负责企业数据中心建设,设计数据逻辑模型和物理模型,并完成相关开发2.梳理公司各业务线常用的指标和维度,统一指标定义口径3.依据数据应用开发和数据分析需求,设计数据仓库信息层模型,提高数据开发的效率4.负责数据模型的运营和优化,刚好响应业务逻辑变更,保证模型的数据质量和稳定性5.负责公司数据标签体系的建设,并推动标签体系在实际业务场景中落地岗位要求:1.5年以上DW/BI数据架构设计、模型设计和性能调优等相关阅历2.有较强的数据分析实力,精通数据仓库架构,熟识Erwin或PowerDesi
27、gner建模工具3.精通一种主流关系数据库(如mysql等),熟识Hive开发4.有电商业务阅历,元数据管理,数据质量管理或标签体系搭建阅历者优先5.优秀的协调沟通与团队协作实力,极强的责任心,能承受肯定的工作压力,认同企业文化和团队价值 大数据架构师的岗位职责 篇18 职责:1)负责大数据平台系统架构设计、核心开发工作(Hadoop&Spark技术方向),基于业务场景设计最优的系统解决方案。2)构架支持大数量级的数据的大数据平台系统,及相关监控,拓展系统设计及实现。3)利用Hadoop、Spark等大数据技术对海量数据进行处理,支持BI和数据科学(建模)的应用实现。4)对现有系统的进
28、行架构深化分析及系统优化,进一步提升系统的性能及数据处理实力。任职资格1)统招本科或以上学历,计算机相关专业, 5年以上软件开发阅历、3年以上大数据项目阅历。2)具备较丰富的大数据平台相关构建,维护及调优阅历,有大数据量级下的大数据集市相关阅历。3)具备较丰富的基于Hadoop或Hive或Spark等大数据处理项目阅历,具备肯定的数据挖掘阅历。4) 具有阿里云的EMR(emapreduce)的阅历者优先考虑。5)具有良好的业务理解、沟通和协作实力,具有较强的学习和总结实力。6)优秀的团队合作精神、诚恳、勤奋、严谨,敢于接受挑战。7)机器学习技术、数据挖掘阅历丰富者优先考虑。 大数据架构师的岗位职责 篇19 1、建设大数据平台,主要技术为k8s, docker;2、跟进开源社区的更新,阅读文档,验证feature;3、阅读容器生态圈各组件的开源项目代码,开发新功能;4、持续提升平台的性能和稳定性。