Hadoop开发人员职位描述模板/简介
我们正在寻找Hadoop开发人员,以帮助我们开发大规模的数据存储和处理软件和基础架构。需要了解当前技术以及使用Hadoop API创建应用程序的能力。
Hadoop开发人员工作资料
Hadoop是一个免费的开源平台,用于管理和存储群集中的大型数据应用程序。 Hadoop开发人员负责开发和编码Hadoop应用程序。本质上,Hadoop开发人员提供了处理和维护公司大量数据的程序。
汇报给
- 首席技术官
- 技术领导
- 主hadoop工程师
- 高级软件开发人员
- JavaScript开发人员
Hadoop开发人员的责任
- 负责所有Hadoop应用程序设计,开发,体系结构和文档
- 按照安装,配置和维护Hadoop的顺序
- 使用调度程序来管理Hadoop任务
- 减少Hadoop簇的代码,同时还可以协助创建新的Hadoop群集
- 将复杂的方法和功能规范转换为全面的设计
- 创建用于数据查询和快速数据跟踪的在线应用程序,所有这些都以更好的速度
- 提出组织的最佳实践和标准,然后将其转移到运营
- 测试软件原型并监督其随后转移到运营团队
- 使用猪和蜂巢进行预处理数据
- 维护企业数据安全和Hadoop集群隐私
- HBASE管理和部署
- 分析大量数据存储库并获得见解
Hadoop开发人员的要求和技能
- 计算机科学学士或硕士学位
- 对Hadoop及其生态系统的基本理解
- 能够使用Linux并执行大多数基本命令
- Hadoop核心组件的实践知识
- MapReduce,Pig,Hive和HBase是Hadoop技术的例子
- 能够处理生态系统中多线程和并发的能力
- 熟悉ETL和数据加载技术,例如Flume和Sqoop
- 能够处理后端编程
- 对SQL基本面和分布式系统的牢固理解
- 在Java,Python,JavaScript和Nodejs等语言中的广泛编程经验
- 熟悉Java