-
职位描述工作内容:1、负责公司级的通用数据平台,服务全公司的产品线2、负责YARN、Hive、Spark、Flink平台维护及二次开发3、负责公司自研调度系统维护以及接口开发4、负责公司大数据集群、执行引擎、平台的优化和运维工作职位要求:1、熟悉一种以上开源大数据工具框架, 包括担不限于YARN、Mapreduce、Hive、Spark、Flink、Presto等;2、强悍的编码能力,生产环境快速定位问题能力,对新技术有强烈的学习热情;3、三年以上java、大数据维护开发经验,有spark streaming,flink实时任务开发经验者优先考虑。4、做事严谨踏实,责任心强,条理清楚,善于学习总结,有良好的团队合作精神和沟通协调能力。
-
岗位职责: (1)参与兴业银行大数据平台湖仓一体、存算分离、流批一体等前沿技术的基础架构体系规划与研究,并推动落地实施; (2)负责兴业银行大数据平台运维保障,存储、计算等各类组件性能调优,以提升平台稳定性; (3)协助兴业银行大数据平台信创迁移与相关系统改造、适配等工作; (4)联系上下游业务需求方与应用开发团队,对接协调大数据平台使用、建设、推广相关工作。 岗位要求: (1)熟悉大数据生态体系中分布式存储、缓存、高并发等底层技术协议与原理; (2)具有海量数据计算组件(Hive、Spark),OLAP查询引擎(Clickhouse、Presto、Doris等)故障排查与优化经验,有源码阅读与调试经验优先; (3)熟练掌握Flink等主流大数据组件原理及应用,具有Hudi或Iceberg等流批一体相关组件应用经验; (4)熟悉Docker、K8s等容器化、大数据组件云原生相关技术。 工作地点:上海
-
岗位职责: 1.大数据基础平台、应用平台功能设计和开发。 2.负责大数据平台及组件的调研选型,部署,日常监控及问题解决。 3.参与海量数据处理方案设计,提供业务系统技术支撑。 任职标准: 1.本科以上,计算机相关专业。 2.至少精通java/scala其中一种开发语言,熟悉主流后端开发框架。 3.精通大数据平台常用框架(hadoop/hive/spark/hbase/flink/presto/clickhouse/kafka)和组件的原理及常用应用场景,至少有3年以上大型生产系统上管理经验。 4.熟悉linux系统,熟悉常用的操作系统命令和shell脚本编写。 5.责任心强,有较强的沟通能力和团队合作精神。 此岗位base南京深圳都OK~
-
岗位职责: 1. 负责大数据实时、离线、异构数据的同步和传输生态的研发,提供灵活高效的接入能力; 2. 负责大数据接入组件的性能、效率、稳定性分析与优化。 任职要求: 1. 熟悉Flume/DataX/Logkit/Kafka等大数据接入技术和相关组件,有1年以上大数据接入研发经验; 2. 具备扎实的计算机基础,熟悉分布式系统研发,有云原生技术经验优先; 3. 精通Java/Scala研发语言,具有良好的编程研发能力; 4. 能够深刻理解业务,善于利用技术实现相关业务价值;
-
职责描述: 1、负责公司大数据平台的运维保障工作,保障平台的正常运行和相应数据服务的稳定高效; 2、对接数据开发侧团队,主动优化和完善服务巡检、监控工具、脚本等,减少人工操作提高运维效率;负责数据平台的故障处置、推动性能优化。如平台产品技术问题,提交给平台产品技术组进行后台处理,并及时反馈. 3、负责数据平台二线运维支撑保障,响应运维/服务台一线请求:处置生产事件,跟踪问题处理; 4、定期组织团队人员开展大数据平台的技术知识积累和移交; 5、负责设计日常运维相关的自动化工具或系统,并完成相应需求收集和需求管理 ; 任职要求: 1. 具有1年以上金融行业数据类项目运维经验,熟悉保险业务操作与管理。具有大数据平台相关技术进行数据仓库、数据中台开发、维护、优化等项目经验的人员,或长期在类似的运维项目上承担运维工作优先; 2. 具备较强的数据开发分析能力,熟练掌握SQL等技能,熟练掌握大数据平台、UNIX、LUNIX和中间件的技能。有java或Python开发基础优先; 3. 具备较强的数据分析,问题分析,逻辑思维能力,团队协作能力,有良好的沟通能力和责任感,能够承担工作压力,独立分析和解决问题者优先; 4. 强烈的自驱力和责任感,面对复杂业务问题,可以从业务和技术多角度推进,最终达成目标。
-
工作职责: 1、根据项目需求制定测试计划,设计测试数据、测试用例、搭建测试环境; 2、根据测试流程独立完成对电力产品系统测试,对产品的软件功能、性能及其它方面的测试,输出测试报告、版本发布; 3、配合开发进行模块级、系统级测试,复现现场问题,并协助开发解决、验证问题。 任职资格: 1、具有3-5年以上年软件及后台linux测试经验,有大数据平台测试经验,具备独立测试能力; 2、熟练使用常用的测试工具,能够独立搭建软硬件测试平台,并评价产品、写出产品的测试报告; 3、熟练掌握linux常用命令、通用的测试方法、WEB前后端交互原理、常用数据库,了解git、jenkins、jira等基本使用方法; 4、了解spark、oss、hive等相关大数据技术及使用方法,有云平台测试经验优先; 5、有国网项目测试经验,了解电力相关知识优先; 6、耐心细致,具备较强的问题分析能力及学习能力,有良好的沟通能力、团队合作精神、积极的工作态度和较强的责任心。
-
岗位职责: 1. 大数据平台组件运维及优化,进行必要的二次开发; 2. 数据湖、数据仓库技术研究及落地; 3. 实时、离线数据产品设计及开发。 任职要求: 1. 本科及以上学历,计算机及相关专业; 2. 3-5年Java/Scala开发经验,熟悉多线程编程; 3. 熟悉大数据生态相关技术,有二次开发经验者优先; 4. 熟悉实时及离线数仓架构及开发流程,有Phoenix/StarRocks使用经验优先; 5. 熟悉常见设计模式,熟悉如Spring/SpringMVC/Mybatis等主流框架; 6. 有较强的学习能力与逻辑思维能力,良好的团队合作精神。
-
岗位职责: 1.负责CDH大数据平台的安装和部署; 2.负责CDH大数据平台各组件的性能优化; 3.负责CDH大数据平台各组件的运行维护和状态监控; 4.负责新技术调研,并能在团队内进行推广应用。 任职资格: 1.理解大数据计算原理,精通Hadoop/Spark体系,了解大数据平台运营基本思路; 2.熟悉HDFS、HBASE、KUDU、SPARK、HIVE等hadoop核心组件,具有两年以上hadoop/Spark技术的运维经验; 3.理解MapReduce计算框架的思想,熟悉分布式计算模型; 4.至少精通一种大数据开发语言,如JAVA、scala等; 5.至少熟练使用一种脚本语言,如Shell、Python等; 6.热爱技术,工作认真、严谨,有团队精神。
-
岗位职责: 1、负责大数据相关组件的架构规划、设计、运维、治理,保障平台服务的稳定性及可用性; 2、负责制定和完善大数据全链路风险评估、变更流程、运维规范、应急预案相关SRE体系建设; 3、深入参与大数据基础设施建设及性能优化,问题定位处理,; 4、负责大数据组件性能POC工作,协助解决组件技术问题。 岗位要求: 1、本科以上学历,计算机类、数学类、数据类相关专业,并有三年以上大数据领域工作经验; 2、熟悉java, go, python等至少一种开发语言; 3、深入理解hadoop大数据生态组件(Hadoop、Hive、Spark、Flink),从事过相关组件的架构设计、研发运维、性能调优或迁移工作; 4、有过组件二次开发经验或者AWS云数据仓库使用经验,加分项; 5、了解SRE方法和原则的实际经验,能够设计和执行故障演练和混沌工程,加分项; 6、具备系统化解决问题的能力,有良好的沟通能力,积极主动、自驱力强,有责任心,并且有一定抗压能力;
-
岗位职责: 1.负责大数据平台的设计与应用功能开发; 2.基于业务诉求,主导系统设计架构工作,负责实时计算系统的研发工作; 3.结合现状,推动业务平台技术迭代,提升系统性能; 4.思路清晰,可快速响应数据处理的需求,评估并给出合理的解决方案,并采用合理的方式处理需求; 5.积极主动,能够与团队成员进行有效沟通,并完成数据处理结果的核对与对接; 6.负责前沿或关键技术的研究,完成服务性能优化; 7.完成上级交办的工作或任务。 岗位要求: 1.****及以上,计算机软件类专业对口,本岗位1年及以上工作经验; 2.精通大数据Hadoop体系的相关技术:Spark、Hive、HВase, Spark Streaming / Flink、Redis,Kafka ; 3.熟悉 JAVA/Scala编程,具备良好的编程能力; 4.熟悉 Linux 操作系统, Shell 编程等; 5.了解数据仓库建模,熟悉etl设计开发; 6.熟悉知识图谱和向量数据库。
-
岗位职责: 1、负责公司大数据平台(采集/加工/调度等)建设,承担相关服务、平台的研发、集成和运维工作,工作中主要使用python; 2、保障应用系统稳定可靠,熟练运用合适技术对复杂场景做出合理技术设计,保障和提升数据平台相关系统的性能和稳定性; 3、工作范围涉及包括但不限于:分布式任务调度系统,数据采集系统,数据加工处理平台,数据应用服务等领域。 任职要求: 1、本科及以上学历,具有2年以上大数据平台应用系统开发及运维经验; 2、拥有扎实的计算机基础和代码能力,具备良好的编码习惯,有较强的问题处理能力; 3、熟悉常见大数据处理/分析相关的工具/框架,如Hive、Spark、Presto、Kafka、Clickhouse、Superset等; 4、具备良好的理解能力,能快速理解业务背景,具有良好的团队沟通与协作能力。
-
岗位职责 1.大数据体系建设和完善。 2.负责公司数据平台项目的运行维护。 3.协助完成公司数据中台的规划与数据湖的建设,协助完成数据治理工作。 4.解决大数据平台相关技术问题。 任职要求 1.计算机相关专业本科以上学历;3年以上大数据系统开发、设计经验。 2.掌握Java / Perl /Python 中一种或多种语言,具备实战经验。 3.掌握大数据全栈架构,精通一种或多种分布式计算、存储、调度框架或工具(Yarn/Hive/MapReduce/Spark/Flink等)。 4.熟悉并精通其中一种常用的大数据技术,包括但不限于Hadoop /HBase /Flink /Spark/Doris / Druid / ClickHouse / Kylin 等。 5.对数据库中台、数据湖、数据治理,有自己的理解能并够给出合理的规划建议。 6.具备较强的Trouble Shooting能力,能独立发现问题,定位问题,对新技术有强烈的热情,能够承受一定压力,具有良好的通过协作能力 7.有金融业、信贷领域业务经验优先。
-
岗位职责描述: 1、负责公司大数据开发产品代码实现(非实施岗位)离线,实时,函数开发,指标管理,数据血缘,数据标准,数据质量,数据资产,数据服务等组件开发。 2、编写开发文档,包括数据库设计文档,接口文档,流程设计文档; 3、参与维护,解决项目中产品使用过程中的技术问题。 岗位技能要求: 1、计算机及相关专业毕业,3年以上Java开发经验,2年以上大数据开发经验(必须); 2、精通SpringBoot、springcloud、MyBatis等主流开发框架;熟悉微服务技术架构; 3、精通常用中间件kafka、rabbitmq,了解使用场景; 4、精通中间件redis,熟悉redis分布式锁、缓存穿透等相关知识; 5、精通MySQL;熟悉Oracle、Postgresql等关系型数据库,并且能很快掌握任意一种关系数据库; 6、熟悉Linux和Docker技术;具备良好的编码规范和编程风格; 7、有离线开发,实时开发,数据转换功能组件开发经验者优先。
-
工作内容: 1、针对hive,spark进行bug修复,性能优化; 2、运营离线任务,主动发现用户离线场景下的使用不当或性能问题,对最终的用户质量和体验负责; 岗位要求: 1、**本科或以上学历,工作至少3年以上; 2、具有hive、spark的使用和优化经验,理解数据开发模式和数仓建模; 3、精通java,熟悉java在web、分布式系统中常用的开发框架,并阅读过源代码,能从源码级分析和解决问题并优化; 4、能单独设计和实现产品模块,并能对该模块的产品运营质量结果负责; 5、具有作业调度平台开发、数仓开发经验者优先; 6、喜欢沟通,主动服务用户、解决用户问题,善于换位思考。
-
福利待遇: 五险一金、免费中餐+晚餐、国家法定假日、带薪年假、节日礼品或慰问金、定期体检、生日福利等。 工作地点:深圳市福田区车公庙天经大厦AB座8楼 乘车路线:地铁1、7、11号线车公庙J1出口,步行10分钟即可,从跨越速运旁边的电梯口上来即可。 职责描述: 1、搭建大数据底层平台框架,建设数据采集系统,支持离线与实时方式采集与入仓; 2、建设数据工具平台,设计与开发数据服务平台、用户画像分析平台; 3、建设企业BI系统,提供可视化数据报表和分析的平台能力。 任职要求: 1、3年以上工作经验,本科以上学历,计算机等相关专业,有零售行业或教育行业经验优先; 2、2年及以上大数据研发、调优、运营经验,参与过数据集成、数据仓库、数据治理、数据应用等领域的研发工作,熟悉业界主要大数据开发、分析、BI报表产品,有大数据后台/中台研发相关经验者优先; 3、熟悉大数据生态架构和基本原理,有相关使用和开发经验,包括但不限于Flume、Kafka、HDFS、Hive、Spark、Presto、Flink、ClickHouse、Superset; 4、技术栈包括但不限于Java、Python; 5、有良好的逻辑分析能力,有很好的自驱力、团队沟通与协作能力,有很强的学习能力和钻研精神,热衷于新技术的探索和实践,可适应一定压力下的工作。