2022年大数据平台架构师岗位职责描述(十三篇)
在日常的学习、工作、生活中,肯定对各类范文都很熟悉吧。范文怎么写才能发挥它最大的作用呢?这里我整理了一些优秀的范文,希望对大家有所帮助,下面我们就来了解一下吧。
大数据平台架构师岗位职责描述篇一
1、搭建基于hadoop/spark的数据挖掘体系和大数据分析系统架构;
2、研究大数据领域前沿数据挖掘技术,并引入相应技术在数据中心的使用;
3、进行大数据系统框架设计、模型算法开发;
4、负责大型数据挖掘项目方案制定、项目实施落地及优化等 ;
5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作;
任职资格:
1、本科以上学历(持有学士学位)(985,211优先),计算机相关专业,五年工作经验;
2、二年以上数据挖掘项目经验,完整参与过数据挖掘大数据平台的架构开发过程,具备互联网行业背景优先;
3、精通分布式计算框架(hadoop、spark、storm等)及相关经验,熟练掌握hive/sql,python,熟悉python、r相关数值科学计算库(numpy,scipy等);
4、了解传统的bi/dw 理论,能结合传统bi实践设计大数据平台;
5、熟悉常用机器学习算法(如分类、回归、聚类、关联规则等)及其原理,具备应用场景经验,如用户画像、商品关联度分析、舆情分析;
6、熟悉主数据、元数据、数据质量、和数据建模等数据治理相关的体系和方法;
7、具备较强的逻辑思维能力、数据敏感度,擅于利用数据发现问题及解决问题;
大数据平台架构师岗位职责描述篇二
职责:
1、负责dmp技术架构设计与构建,根据业务规划及技术规划制定应用架构方案;
2、负责设计构建dmp数据采集、存储及分析框架,设计数据处理的技术流程和规范;
3、负责核心功能的架构与代码模板编写,开发与维护系统公用核心模块;
4、负责基于大数据技术的海量数据的自动化分析处理和统计工作。
岗位要求:
1、计算机或相关专业本科以上学历,三年以上的开发经验,二年以上大数据相关软件架构的实际经验;
2、精通大数据处理技术,熟悉hadoop/storm技术体系,有hadoop、hive、hbase项目经验;
3、具有较强的架构能力,具有分布式计算、实时计算、数据仓库、数据挖掘系统的架构经历优先;
4、对数据敏感,洞察力强,了解国内外广告发展趋势;
5.、擅长系统分析与设计,精通常用的设计模式,擅长性能调优;
6、熟悉dmp/rtb技术原理,了解用户的行为分析及建模;有rtb/dsp/ssp/exchange/dmp等广告行业从业经历。
大数据平台架构师岗位职责描述篇三
职责:
负责公司大数据产品架构的设计与实现;
配合大数据产品经理完成产品的快速研发与交付;
负责大数据产品架构的持续优化设计;
负责大数据产品核心组件设计;
负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;
为应用开发团队提供技术支撑。
及时向上级反馈工作进度、遇到的问题或者对现有工作的建议等;
完成上级领导交办的其它各项工作。
任职资格:
985/211本科及以上学历,3年以上的大数据开发经验、
2年以上大数据架构设计经验;
丰富的java研发经验,精通java,熟悉python scala等编程语言;具备深厚的分布式系统或数据库系统的理论基础,熟悉分布式计算系统的工作机制,具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;
熟悉整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化);
精通各种大数据相关技术体系:hadoop、spark、storm、elasticsearch、kafka;
有数据挖掘、机器学习相关应用或研究背景;
沟通能力较好,积极主动意识较强,责任心较强。
具备优秀的逻辑思维能力,对解决挑战性问题充满热情,善于解决问题和分析问题;
良好的团队合作精神,较强的沟通能力和学习能力 ;
大数据平台架构师岗位职责描述篇四
职责:
1、对业务需求深入分析,从而进行大数据平台核心应用的架构设计、开发和技术支持;
2、规划业务应用系统和基础平台的技术架构,参与需求分析、建模、架构设计、技术决策以及详细设计;
3、把握复杂系统的设计,确保系统的架构质量,编写核心部分代码;
4、带领团队攻克例如大数据量、高并发、高稳定性等带来的各种挑战及技术难关;
5、在大数据平台建设路线图指导下,进行架构实施和交付物投递,同时确保研发质量和方向的准确性;
6、进行团队技术的培训和梯队建设岗位要求;
任职条件:
1、本科或以上学历,计算机相关专业,8年以上研发经验,3年以上大数据平台相关工作经验;
2、精通java开发技术,熟悉shell、scala语言和python优先;
3、编程基础扎实,熟悉i/o、多线程、集群等基础框架和原理,熟悉分布式、缓存、消息等机制;
4、熟悉常用设计模式,代码评审规则,单元测试,持续集成;
5、熟悉aws云服务或阿里云服务;
6、熟悉容器技术原理、生态系统,熟悉docker、mesos、kubernetes等容器系统、大规模容器资源调度系统、分布式应用生命周期。
大数据平台架构师岗位职责描述篇五
职责:
1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;
2. 负责实时计算平台基础架构设计、部署、监控、优化升级;
3. 制定项目/数据仓库设计及实现规范,指导设计研发和部署;
4. 协助策略和算法团队工作,保障数据挖掘建模和工程化;
5. 深入研究大数据相关技术和产品,跟进业界先进技术。
任职要求:
1. 全日制本科及以上学历,5年以上软件和分布式系统研发经验,3年以上大数据系统架构经验;
2. 精通hadoop/hbase/spark/storm/redis技术及其生态圈;
3. 具备java/c++/scala等开发经验,熟悉数据挖掘和分析的策略与算法;
4. 具备良好的系统分析能力、故障诊断能力;
5. 有大数据策略、算法、可视化经验优先;
6、211/985 重点学校毕业优先。
大数据平台架构师岗位职责描述篇六
职责:
1、负责公司的大数据处理框架的研发设计工作,梳理可实现方案和技术规范;
2、开发、完善公司大数据平台;参与公司离线、实时大数据处理系统的设计、开发、测试及多个业务模块的自动化集成;
3、负责业务平台数据统计分析模块的设计与规划;
4、负责公司产品研发过程中的数据及存储设计;
5、带领和培养团队完成组织分解的目标;
任职要求:
1、统招本科及以上学历,计算机、软件工程相关专业,至少8年以上工作经验,5年以上大数据开发经验;
2、熟悉java、hadoop、hdfs、hive、hbase、spark、storm、flume等相关技术的基础架构
3、熟悉数据仓库,数据算法,分布式计算技术理论,具有大数据整体系统架构设计经验;
4、熟悉linux系统,熟练使用shell/perl/python脚本处理问题;
5、对深度学习框架(tensorflow)和机器学习(svm 随机深林贝叶斯等)有一定了解的优先;
6、能够组织项目开发组协同工作,包括团队沟通、计划、开发环境管理等
大数据平台架构师岗位职责描述篇七
职责:
1、负责spark, hadoop, flink等开发和优化。
2、参与前期需求沟通和分析,以产品化开发的思维,完成需求分解和数据架构设计。
3、与研发和数据科学家合作保证产品定义清晰,按时完成产品上线。
4、能够洞察市场状况,与各部门合作转化为基于大数据挖掘的新策略或方案.
5、主动创造和发掘新的基于大数据挖掘产品商业模式.
任职要求:
1、全日制本科及以上学历,计算机软件相关专业,5年以上开发经验,3年以上架构经验
2、精通hadoop/mapreduce/spark/hbase/flink/hive/r/mahout等分布式数据存储和分布式计算平台原理,流式计算开发,有开源二次开发经验者优先。
3、精通大数据挖掘、机器学习.熟练掌握java/perl/python至少一种编程语言。
4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先;
5、良好的跨部门沟通合作能力,解决不同观点能力并取得结果。具备敏锐的互联网产品理解力,学习能力和逻辑思维能力强;
6、较强的自我驱动力、推动和协调能力,强烈的责任心和团队合作精神;
大数据平台架构师岗位职责描述篇八
职责:
1.负责公司大数据底层框架的整体架构设计,结合公司实际业务情况进行技术选型及大数据战略规划;
2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发,不断提升系统的稳定性和效率;
3.负责架构优化及系统关键模块的设计开发,协助团队解决开发过程中的技术难题;
4.建立良好的公司内外的业界技术影响力;有效辅导团队,提升数据研发能力;
任职要求:
1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;
2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力,善于从复杂的数据问题中找到关键路径;
3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于:hadoop、storm、spark、等;
4. 良好的逻辑思维能力,良好的业务解读能力,懂电力或通信业务优先;
5.具有钻研精神,乐于接受挑战;
大数据平台架构师岗位职责描述篇九
职责:
1.负责过多个大数据项目的架构;
2.精通hadoop、spark, hbase等主流的大数据平台、精通各组件优化设计原理;
3.精通大数据实时流式处理的设计和应用;
3.熟悉大数据平台调优,具备大数据生产平台调优经验;
4.金融行业,运营商行业大数据架构经验更优;
5.研究大数据技术的最新发展,并引入到公司技术架构;
6.指导大数据工程师的日常工作,并培养技术骨干。
任职资格:
1.计算机相关专业本科或以上学历;
2.具有5年以上大数据相关开发经验;
3.具有2年以上带团队经验
4.对hadoop/hive/spark/hbase/es等等大数据常用技术有深刻理解,能够带领团队进行技术攻坚,完成中间件的实施、改造、调优;
5.精通海量数据和实时数据的分析处理,能对线上的数据处理性能问题做调优;
6.精通数据仓库以及维度建模原理,有大型数据仓库建设经验;
7.精通关系型数据库和nosql数据库的使用,熟悉相关理论;
8.沟通顺畅,重点突出,高效。
大数据平台架构师岗位职责描述篇十
职责:
1、负责大数据基础平台的整体规划和架构设计,参与需求分析、技术决策以及详细设计;
2、为现有大数据集群hadoop、hive平台提供性能调优、架构优化重组,解决系统中的关键问题和技术难题;
3、把握基础业务复杂系统的设计,确保系统的架构质量,编写核心部分代码;
4、持续挑战新的技术方向,攻克大数据量,高并发,稳定性等各种技术难点。
任职资格:
1、计算机或相关专业本科及以上学历;
2、5年以上hadoop的应用开发经验,5年以上数据仓库开发实践经验,至少一个企业级数据仓库项目开发经验或者大数据处理项目经验;
3、良好的编程开发能力,精通php及其他开发语言;
4、熟悉mysql等数据库经验,具备优秀的sql编写、调优能力;
5、熟练掌握linux常规命令与工具,精通shell, perl, python等脚本语言至少一种;
6、软件基础理论知识扎实,具有良好的数据结构、算法功底;
7、对新技术敏感,学习能力强,乐于接受挑战,具有良好的团队合作精神;
大数据平台架构师岗位职责描述篇十一
职责:
1. 负责产品级业务系统架构(如业务数据对象识别,数据实体、数据属性分析,数据标准、端到端数据流等)的设计与优化。协助推动跨领域重大数据问题的分析、定位、解决方案设计,从架构设计上保障系统高性能、高可用性、高安全性、高时效性、分布式扩展性,并对系统质量负责。
2.负责云数据平台的架构设计和数据处理体系的优化,推动云数据平台建设和持续升级,并制定云数据平台调用约束和规范。
3. 结合行业应用的需求负责数据流各环节上的方案选型,主导云数据平台建设,参与核心代码编写、审查;数据的统计逻辑回归算法、实时交互分析;数据可视化方案等等的选型、部署、集成融合等等。
4. 对云数据平台的关注业内技术动态,持续推动平台技术架构升级,以满足公司不同阶段的数据需求。
任职要求:
1. 熟悉云计算基础平台,包括 linux(ubuntu/centos)和 kvm、openstack/k8s 等基础环境,熟悉控制、计算、存储和网络;
2. 掌握大型分布式系统的技术栈,如:cdn、负载均衡、服务化/异步化、分布式缓存、nosql、数据库垂直及水平扩容;熟悉大数据应用端到端的相关高性能产品。
3. 精通 java,python,shell 编程语言,精通 sql、nosql 等数据库增删改查的操作优化;
4. pb 级别实战数据平台和生产环境的实施、开发和管理经验;
5. 熟悉 docker 等容器的编排封装,熟悉微服务的开发和日常调度;
6.计算机、软件、电子信息及通信等相关专业本科以上学历,5 年以上软件工程开发经验,2 年以上大数据架构师工作经验。
大数据平台架构师岗位职责描述篇十二
职责:
1、大数据平台架构规划与设计;
2、负责大数据平台技术框架的选型与技术难点攻关;
3、能够独立进行行业大数据应用的整体技术框架、业务框架和系统架构设计和调优等工作,根据系统的业务需求,能够指导开发团队完成实施工作;
4、负责数据基础架构和数据处理体系的升级和优化,不断提升系统的稳定性和效率,为相关的业务提供大数据底层平台的支持和保证;
5、培养和建立大数据团队,对团队进行技术指导。
任职要求:
1、计算机相关专业的背景专业一类院校毕业本科、硕士学位,8年(硕士5年)以上工作经验(至少拥有3年以上大数据项目或产品架构经验);
2、精通java,j2ee 相关技术,精通常见开源框架的架构,精通关系数据库系统(oracle mysql等)和nosql数据存储系统的原理和架构;
3、精通sql和mapreduce、spark处理方法;
4、精通大数据系统架构,熟悉业界数据仓库建模方法及新的建模方法的发展,有dw,bi架构体系的专项建设经验;
5、对大数据体系有深入认识,熟悉kafka、hadoop、hive、hbase、spark、storm、greenplum、es、redis等大数据技术,并能设计相关数据模型;
6、很强的学习、分析和解决问题能力,可以迅速掌握业务逻辑并转化为技术方案,能独立撰写项目解决方案、项目技术文档;
7、具有较强的内外沟通能力,良好的团队意识和协作精神;
8、机器学习技术、数据挖掘、人工智能经验丰富者优先考虑;
9、 具有能源电力行业工作经验者优先。
大数据平台架构师岗位职责描述篇十三
职责
1、负责企业级大数据平台、数据云服务的设计与开发;
2、基于大数据生态圈,支持智慧交通等大数据场景应用实现;
3、负责公司大数据产品的设计、封装与落地;
4、负责学习大数据相关算法研究、实现与应用
任职要求
1、统招本科及以上学历;2年以上智慧城市建设或交通行业信息化相关工作经验,3年以上大数据架构设计、开发经验;
2、精通大数据生态圈的技术,包括但不限于mapreduce、spark、hadoop、kafka、mongodb、redis、flume、storm、hbase、hive,具备源码级问题解决和集群优化改造能力;
3、熟悉常用编程语言,包括java、python、scala等;
4、具有很强的技术研发和创新能力,能有效把握技术发展方向,有较强的执行能力、学习能力、沟通能力、适应能力,责任心强;