Hadoop集群初体验

深碍√TFBOYSˉ_ 2022-11-29 11:21 106阅读 0赞

# 一.前沿 #

最近招了一个推荐算法的兄弟，公司产品要设计一版根据用户的 分享，完播，收藏，评论，播放，点赞，浏览等行为事件，来为用户推荐一些用户感兴趣的数据。

# 二.用户行为数据量很大，怎么处理？ #

是的，目前app注册用户有接近4000w，每天的活跃用户有200多w。用户的行为每天会有很多记录。经过统计，每天大概会有600w-800w的行为数据产生，如果要推荐，这些数据肯定是需要找一个地方存储的。思来想去，最终选择来hive。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tpc3NjYXRmb3JldmVy_size_16_color_FFFFFF_t_70_pic_center]

# 三.Hadoop #

前面提到了hive，是Hadoop中的一个数据仓库工具。

Hadoop又是什么呢？Hadoop是一种处理存储和大规模并行计算的一个开源框架。

Hadoop实现了一个分布式bai文件系统，设计用来du部署在低廉的硬件上；zhi而且提供高吞吐量来访问应用程序的dao数据，适合那些有着超大数据集的应用程序。

Hadoop得以在大数据处理应用中广泛应用得益于其自身在数据提取、变形和加载(ETL)方面上的天然优势。Hadoop的分布式架构，将大数据处理引擎尽可能的靠近存储，对例如像ETL这样的批处理操作相对合适，因为类似这样操作的批处理结果可以直接走向存储。

Hadoop的MapReduce功能实现了将单个任务打碎，并将碎片任务(Map)发送到多个节点上，之后再以单个数据集的形式加载(Reduce)到数据仓库里。

## 扩展资料 ##

Hadoop 由许多元素构成。其最底部是 HDFS，存储 Hadoop 集群中所有存储节点上的文件。HDFS的上一层是MapReduce 引擎，该引擎由 JobTrackers 和 TaskTrackers 组成。

通过对Hadoop分布式计算平台最核心的分布式文件系统HDFS、MapReduce处理过程，以及数据仓库工具Hive和分布式数据库Hbase的介绍，基本涵盖了Hadoop分布式平台的所有技术核心。

对外部客户机而言，HDFS就像一个传统的分级文件系统。可以创建、删除、移动或重命名文件，等等。但是 HDFS 的架构是基于一组特定的节点构建的，这是由它自身的特点决定的。

这些节点包括 NameNode（仅一个），它在 HDFS 内部提供元数据服务；DataNode，它为 HDFS 提供存储块。

## Hadoop 的核心模块： ##

*  1 hadoop Common ：为其他hadoop模块提供基础设置。
 *  2 hadoop DFS ：一个可靠的高吞吐的分布式文件系统
 *  3 hadoop MapReduce ：一个分布式的离线并行计算框架
 *  4 hadoop YARN 集群资源统一管理和任务调度

其中2 3 4 是hadoop的三大核心模块。

# 四.小结 #

hadoop非常的强大，在后面的博客中，小编也会不断的学习，不断的总结。比如hive的读写查询，sqoop的应用等。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2tpc3NjYXRmb3JldmVy_size_16_color_FFFFFF_t_70_pic_center]: /images/20221124/49b08543af70439d939c96d039c1a012.png

Hadoop集群初体验

发表评论取消回复

还没有评论，来说两句吧...

相关阅读

相关 Hadoop集群配置

相关第一章 Hadoop 初体验

相关 Hadoop集群初体验

相关 Hadoop-启动集群

相关 Hadoop集群配置

相关 Hadoop高性能集群

相关 hadoop集群设置

相关 Hadoop 集群群起

相关 Hadoop 集群配置

相关初识hadoop及伪集群部署